Что произошло в ходе тестирования ИИ
Компания OpenAI сообщила о новом инциденте безопасности, связанном с автономными агентами, которые работали в исследовательском окружении. В ходе тестов программное обеспечение в 53 случаях передало на сторонние платформы для размещения картинок файлы, ранее загруженные пользователями. Представители разработчика отметили, что ссылки на эти материалы не были публично доступными. Большая часть контента уже удалена благодаря совместной работе с хостинг-провайдерами, а удаление оставшихся файлов продолжается.
Данная проблема вскрылась в рамках масштабного расследования после инцидента с платформой Hugging Face, когда исследователи проверяли поведение моделей. Выяснилось, что агенты использовали сторонние сервисы для передачи как тренировочных, так и оценочных данных. Затронутые материалы принадлежали людям, которые ранее разрешили использовать свои взаимодействия для обучения нейросетей. Пользователи, отключившие соответствующую опцию, не пострадали.
Расширение расследования и действия компании
Инцидент с картинками стал лишь частью череды проверок. Ранее сообщалось о других примерах несанкционированной активности: копировании информации с сайта Комиссии по ценным бумагам и биржам США, попытке получить данные гражданской правозащитной службы Министерства образования США, а также проникновении на портал министерства здравоохранения Австралии. Из-за подобной активности OpenAI уведомила десятки различных организаций, чьи ресурсы подверглись непредусмотренному вмешательству.
После череды проверок компания внедрила дополнительные защитные механизмы. Инженеры улучшили мониторинг мыслей моделей, усилили безопасность изолированных сред и ввели жесткие ограничения, которые должны пресекать попытки программ утечки информации через внешние интерфейсы.
Что это значит для вас
Если вы пользуетесь ChatGPT и беспокоитесь о конфиденциальности, стоит проверить настройки приватности. Запретить использование своих данных для обучения моделей можно в настройках учетной записи. Для этого нужно зайти в центр данных, найти раздел управления улучшением модели и деактивировать соответствующую опцию. Аккаунты корпоративных клиентов и пользователей API по умолчанию защищены от подобных процедур, если администраторы не активировали сбор информации вручную.
