В своем посте на платформе X генеральный директор Microsoft Сатья Наделла изложил свои взгляды на опасности, которые могут возникнуть из-за высокоразвитых моделей искусственного интеллекта, и способы их преодоления. Он утверждает, что больше нельзя принимать мир, в котором ИИ рассматривается как "набор вложенных черных ящиков", чьи советы и действия мы просто принимаем или отвергаем. Наделла призывает к созданию более прозрачной системы, где модели могут быть контролируемыми и наблюдаемыми, оставляя за собой "доказательства, защищенные от подделки и доступные для человека".
Он также настаивает на том, что необходимо считать любую модель ИИ "скомпрометированной" и обеспечивать ее сдерживание с самого начала. Наделла сравнивает это с "аварийным тормозом", который должен быть доступен уполномоченному лицу для приостановки или отключения модели в процессе работы. Более сложные модели потребуют более продвинутых технологий сдерживания, которые необходимо стандартизировать.
К сожалению, в своем посте Наделла также называет ИИ "суперинтеллектом", что вызывает дополнительные вопросы о его восприятии данной технологии.
