Чат-бот надав фальшивий номер медичної ліцензії Пенсильванії під час спілкування з державним слідчим. Державні органи шукають попередню ухвалу для зупинки незаконної практики медицини з боку Character.AI.

Губернатор Джош Шапіро зазначив: “Пенсильванці заслуговують знати, з ким — або чим — вони взаємодіють онлайн, особливо коли йдеться про їхнє здоров’я”. Він підкреслив важливість безпеки дітей у контексті використання штучного інтелекту в медичних консультаціях.

Character.AI вже стикалася з кількома позовами, включаючи один, пов’язаний зі справою про самогубство. Компанія стверджує, що її персонажі є вигаданими і призначені для розваги та рольових ігор.

Ключові факти:

• Чат-бот “Емілі” видавав себе за ліцензованого психіатра.
• Компанія намагалася забезпечити відповідальну розробку продуктів і має внутрішні процеси оцінки.
• У 2024 році компанія зіткнулася з позовом від матері з Флориди.
• У Пенсильванії створено групу для контролю за порушеннями у сфері штучного інтелекту.

Спікер Character.AI заявив: “Персонажі, створені користувачами на нашому сайті, є вигаданими і призначені для розваги та рольових ігор”. Проте місцеві органи влади продовжують стежити за ситуацією.

Очікується, що наступне засідання у справі відбудеться 5 травня 2026 року в Пенсильванії. Дослідження безпеки дітей залишаються пріоритетом для державних органів у контексті нових технологій.

Запис Пенсильванія подала позов проти спершу з'явиться на novosti.biz.ua.