По информации Financial Times, в конце прошлого месяца OpenAI распустила свою команду по обеспечению готовности. Основной задачей этой команды было оценивать, представляют ли модели серьезные риски, и разрабатывать способы их минимизации. Ответственность за эти вопросы теперь распределена по существующим командам, занимающимся конкретными областями, такими как биотехнологии и кибербезопасность.
Это лишь последнее изменение в команде безопасности компании, которая находится в состоянии изменений в преддверии ожидаемого IPO. За последние несколько лет OpenAI постепенно упразднила свои более широкие модели управления, распустив команды по готовности к AGI и суперсогласованию. Недавно компанию покинули ведущие эксперты по этике, такие как Хлоя Бакадар, главный футурист Джош Ачиам и руководитель отдела безопасности Иоганн Хайдека. Некоторые критики, включая Яна Лейке, который ушел из OpenAI в 2024 году, утверждают, что компания игнорирует вопросы безопасности в пользу создания «блестящих продуктов».
Дилан Скандино, возглавлявший команду по обеспечению готовности и ранее работавший в компании Anthropic, теперь сосредоточится на последствиях разработки «рекурсивно самоулучшающегося» ИИ.
