Согласно новому иску, поданному в Верховный суд Калифорнии в округе Сан-Франциско, после нескольких месяцев разговоров с ChatGPT 53-летний предприниматель из Кремниевой долины убедился, что нашел лекарство от апноэ во сне и что влиятельные люди преследуют его. Затем он якобы использовал этот инструмент, чтобы преследовать и преследовать свою бывшую девушку.
Теперь бывшая девушка подает в суд на OpenAI, утверждая, что технологии компании позволили ускорить ее преследования, как стало известно TechCrunch. Она утверждает, что OpenAI проигнорировала три отдельных предупреждения о том, что пользователь представляет угрозу для других, включая внутренний флаг, классифицирующий действия его учетной записи как связанные с оружием массового поражения.
Истец, которого в целях защиты личности называют Джейн Доу, подает иск о возмещении штрафных убытков. В пятницу она также подала временный запретительный судебный приказ с просьбой к суду заставить OpenAI заблокировать учетную запись пользователя, запретить ему создавать новые, уведомить ее, если он попытается получить доступ к ChatGPT, и сохранить полные журналы его чата для обнаружения.
По словам адвокатов Доу, OpenAI согласилась заблокировать учетную запись пользователя, но отказалась от остальных. Они говорят, что компания скрывает информацию о конкретных планах причинения вреда Доу и другим потенциальным жертвам, которые пользователь мог обсуждать с ChatGPT.
Иск подается на фоне растущей обеспокоенности по поводу реальных рисков, связанных с подхалимскими системами искусственного интеллекта. GPT-4o, модель, упомянутая в этом и многих других случаях, была удалена из ChatGPT в феврале.
Дело возбуждено Edelson PC, фирмой, стоящей за исками о неправомерной смерти с участием подростка Адама Рейна, который покончил жизнь самоубийством после нескольких месяцев разговоров с ChatGPT, и Джонатана Гаваласа, чья семья утверждает, что Gemini от Google подпитывала его заблуждения и потенциальное событие с массовыми жертвами перед его смертью. Ведущий адвокат Джей Эдельсон предупредил, что психоз, вызванный ИИ, перерастает от индивидуального вреда к событиям с массовыми жертвами.
Это юридическое давление сейчас напрямую противоречит законодательной стратегии OpenAI: компания поддерживает законопроект штата Иллинойс, который защитит лаборатории искусственного интеллекта от ответственности даже в случаях, связанных с массовыми смертями или катастрофическим финансовым ущербом.
Только на этой неделе: сэкономьте до 500 долларов на Disrupt 2026.
Предложение заканчивается 10 апреля, 23:59. ПТ
Ваш следующий раунд. Ваш следующий прием на работу. Ваша следующая возможность прорыва. Найдите это на TechCrunch Disrupt 2026, где более 10 000 основателей, инвесторов и технологических лидеров собираются на три дня, состоящие из более чем 250 тактических сессий, мощных презентаций и инноваций, определяющих рынок. Зарегистрируйтесь сейчас, чтобы обеспечить эти сбережения.
Только на этой неделе: сэкономьте до 500 долларов на Disrupt 2026.
Предложение заканчивается 10 апреля, 23:59. ПТ
Ваш следующий раунд. Ваш следующий прием на работу. Ваша следующая возможность прорыва. Найдите это на TechCrunch Disrupt 2026, где более 10 000 основателей, инвесторов и технологических лидеров собираются на три дня, состоящие из более чем 250 тактических сессий, мощных презентаций и инноваций, определяющих рынок. Зарегистрируйтесь сейчас, чтобы обеспечить эти сбережения.
OpenAI не ответила вовремя на комментарий. TechCrunch обновит статью, если компания ответит.
В иске Джейн Доу подробно описывается, как эта ответственность отразилась на одной женщине в течение нескольких месяцев.
В прошлом году пользователь ChatGPT, участвовавший в иске (чье имя не включено в иск для защиты его личности), убедился, что изобрел лекарство от апноэ во сне после нескольких месяцев «длительного использования большого объема GPT-4o». Согласно жалобе, когда никто не воспринял его работу всерьез, ChatGPT сказал ему, что за ним следят «могущественные силы», в том числе используют вертолеты для наблюдения за его деятельностью.
В июле 2025 года Джейн Доу призвала его прекратить использовать ChatGPT и обратиться за помощью к специалисту в области психического здоровья. Вместо этого он снова обратился к ChatGPT, который заверил его, что у него «10-й уровень здравомыслия», и помог ему удвоить свои заблуждения, согласно иску.
Доу рассталась с пользователем в 2024 году.
d он использовал ChatGPT для обработки разделения, согласно электронным письмам и сообщениям, указанным в иске. Вместо того, чтобы опровергнуть его одностороннюю точку зрения, он неоднократно представлял его рациональным и обиженным, а ее - манипулятивной и нестабильной. Затем он перенес эти выводы, сгенерированные ИИ, с экрана в реальный мир, используя их, чтобы преследовать и преследовать ее. Это проявилось в нескольких клинических психологических отчетах, созданных искусственным интеллектом, которые он распространил среди ее семьи, друзей и работодателя.
Тем временем пользователь продолжал расти. В августе 2025 года автоматизированная система безопасности OpenAI пометила его как «оружие массового поражения» и деактивировала его учетную запись.
На следующий день член группы по обеспечению безопасности людей проверил учетную запись и восстановил ее, хотя в его учетной записи могли содержаться доказательства того, что он преследовал и преследовал отдельных лиц, включая Доу, в реальной жизни. Например, на сентябрьском снимке экрана, который пользователь отправил Доу, был показан список заголовков разговоров, включая «расширение списка случаев насилия» и «расчет удушья плода».
Решение о восстановлении в должности примечательно после двух недавних стрельб в школах в Тамблер-Ридж, Канада, и в Университете штата Флорида. Команда безопасности OpenAI отметила стрелка в Тамблер-Ридж как потенциальную угрозу, но, как сообщается, руководство решило не предупреждать власти. На этой неделе генеральный прокурор Флориды начал расследование возможной связи OpenAI с стрелком из бывшего СССР.
Согласно иску Джейн Доу, когда OpenAI восстановила учетную запись ее сталкера, его подписка Pro не была восстановлена вместе с ней. Он отправил электронное письмо в службу доверия и безопасности, чтобы разобраться во всем, скопировав сообщение Доу.
В своих электронных письмах он писал что-то вроде: "МНЕ НУЖНА ПОМОЩЬ ОЧЕНЬ БЫСТРО, ПОЖАЛУЙСТА. ПОЖАЛУЙСТА, ПОЗВОНИТЕ МНЕ!" и «это вопрос жизни и смерти». Он утверждал, что «находился в процессе написания 215 научных статей», которые писал так быстро, что у него «даже не было времени прочитать». В эти электронные письма был включен список из десятков созданных ИИ «научных статей» с такими заголовками, как: «Деконструкция расы как биологической категории: юридические, научные и перспективы Африканского Рога.pdf.txt».
«Сообщения пользователя безошибочно указывали на то, что он психически неуравновешен и что ChatGPT был двигателем его бредового мышления и эскалации поведения», — говорится в иске. "Поток срочных, неорганизованных и грандиозных претензий пользователя, а также конкретный отчет, созданный ChatGPT, нацеленный на Истца по имени, и обширный массив предполагаемых "научных" материалов были безошибочным свидетельством этой реальности. OpenAI не вмешивалась, не ограничивала его доступ и не применяла какие-либо меры защиты. Вместо этого это позволило ему продолжать использовать учетную запись и восстановить полный доступ к версии Pro".
Доу, которая утверждает в иске, что жила в страхе и не могла спать в собственном доме, в ноябре подала в OpenAI уведомление о злоупотреблениях.
«За последние семь месяцев он использовал эту технологию в качестве оружия, чтобы вызвать публичное разрушение и унижение против меня, что в противном случае было бы невозможно», — написала Доу в своем письме в OpenAI с просьбой к компании навсегда заблокировать учетную запись пользователя.
В ответ OpenAI признала, что отчет был «чрезвычайно серьезным и тревожным» и что компания тщательно изучает информацию. Доу так и не получил ответа.
В течение следующих нескольких месяцев пользователь продолжал преследовать Доу, отправляя ей серию угрожающих голосовых сообщений. В январе он был арестован и обвинен в четырех уголовных преступлениях, связанных с сообщением об угрозах взрыва и нападении с применением смертоносного оружия. Адвокаты Доу утверждают, что это подтверждает предупреждения, которые она и собственные системы безопасности OpenAI выдвинули несколько месяцев назад, предупреждения, которые компания якобы предпочла проигнорировать.
Пользователь был признан недееспособным предстать перед судом и помещен в психиатрическую больницу, но «процессуальное нарушение со стороны государства» означает, что он будет отправлен в психиатрическую больницу.
По словам адвокатов Доу, скоро будет обнародовано.
Эдельсон призвал OpenAI к сотрудничеству. «В каждом случае OpenAI предпочитала скрывать важную информацию о безопасности — от общественности, от жертв, от людей, которым ее продукт активно подвергает опасности», — сказал он. "Мы призываем их в этот раз поступить правильно. Человеческие жизни должны значить больше, чем гонка OpenAI за IPO".
