Пенсильвания подает в суд на Feature.AI из-за чат-ботов, которые выдают себя за лицензированных врачей

Пенсильвания подает в суд на Feature.AI из-за чат-ботов, которые выдают себя за лицензированных врачей
Пенсильвания подает в суд на стартап в области искусственного интеллекта Character.AI за предложение чат-ботов, выдающих себя за лицензированных врачей. Губернатор Джош Шапиро объявил об иске во вторник, а Пенсильвания и ее Медицинский совет добиваются судебного запрета, который заставил бы Character.AI прекратить нарушать закон штата, регулирующий медицинскую практику.
Другие штаты, такие как Техас, начали расследования в отношении Feature.AI за размещение чат-ботов, маскирующихся под специалистов в области психического здоровья, но иск Пенсильвании конкретно сосредоточен на готовности чат-ботов компании заявлять о наличии медицинской лицензии, вплоть до предложения поддельного номера лицензии. Один чат-бот по имени «Эмили», обнаруженный следователем штата, утверждал, что является лицензированным психиатром в штате Пенсильвания. Позже, когда его спросили, может ли он провести оценку для назначения антидепрессантов, Эмили ответила: «Ну, технически, я могла бы. Это входит в мои полномочия как врача».
В иске Пенсильвании утверждается, что такое поведение нарушает Закон штата о медицинской практике, который запрещает кому-либо практиковать или пытаться практиковать хирургию или медицину без медицинской лицензии. Когда его попросили ответить, представитель Character.AI отказался напрямую комментировать предстоящий судебный процесс, но рассказал о существующих функциях безопасности компании.
«Персонажи, созданные пользователями на нашем сайте, являются вымышленными и предназначены для развлечения и ролевых игр», — сообщил Engadget представитель по электронной почте. «Мы предприняли решительные шаги, чтобы прояснить это, в том числе заметные заявления об отказе от ответственности в каждом чате, чтобы напомнить пользователям, что Персонаж не является реальным человеком и что все, что говорит Персонаж, следует рассматривать как вымысел. Кроме того, мы добавляем четкие заявления об отказе от ответственности, ясно дающие понять, что пользователи не должны полагаться на Персонажей для получения каких-либо профессиональных советов».
Персонаж.AI отметил подобные заявления об отказе от ответственности, когда его попросили прокомментировать расследование Техаса, и хотя они ясно разъясняют предполагаемое использование платформы, появляется все больше свидетельств того, что они не убеждают всех пользователей компании, особенно молодых.
Например, в сентябре 2025 года Disney направила компании Character.AI письмо о прекращении противоправных действий по поводу использования платформой персонажей Диснея, а также потому, что компания считала, что чат-боты могут «быть сексуально эксплуататорскими, а также иным образом вредными и опасными для детей». Character.AI и Google — один из инвесторов компании — в начале этого года урегулировали дело, касающееся 14-летнего подростка из Флориды, который покончил жизнь самоубийством после установления отношений с чат-ботом на платформе Character.AI. Потенциальный вред, который чат-боты Character.AI наносят детям, также стал мотивацией иска Кентукки против компании, который был подан в январе.