OpenAI анонсировала новый режим блокировки для своего чат-бота ChatGPT, который направлен на защиту конфиденциальных данных пользователей от атак с быстрым внедрением. Этот режим был разработан с целью уменьшить вероятность утечки чувствительной информации, которая может произойти в процессе взаимодействия с моделью. Несмотря на внедрение режима блокировки, разработчики подчеркивают, что ChatGPT все еще может быть уязвим для определенных типов атак, что требует дальнейшего внимания к безопасности.
В условиях растущей обеспокоенности по поводу конфиденциальности данных и безопасности пользователей, OpenAI стремится улучшить защитные механизмы своих продуктов. Нововведение должно помочь пользователям чувствовать себя более защищенными, когда они используют ChatGPT для получения информации или выполнения задач, которые требуют передачи личных данных. Ожидается, что режим блокировки станет важным шагом к повышению доверия к технологиям искусственного интеллекта.
OpenAI announced a new feature that it says will provide additional protection from prompt injection attacks, where malicious chatbot instructions are hidden in webpages and other content sources.
Among other things, Lockdown Mode will disable live web browsing (so you can only access cached content), the retrieval and display of images from the web (you can still generate images), deep research, and agent mode.
The company says that even with Lockdown Mode turned on, ChatGPT could still be vulnerable to prompt injections — which could, for example, “appear in cached web content or in an uploaded file, and could still affect the behavior or accuracy of a response.”
But the goal is to reduce the likelihood that sensitive data gets shared in the process.
“Lockdown Mode is not intended for everyone,” OpenAI says. “It is designed for people and organizations that handle sensitive data and want stricter protection from data exfiltration risks related to prompt injection.”
The company says it’s currently rolling Lockdown Mode out to self-serve ChatGPT Business accounts, as well as eligible personal accounts.
