Недостаток контроля и сравнение с молоком
Брэд Смит, занимающий пост президента и вице-председателя Microsoft, подверг резкой критике текущее состояние безопасности в сфере искусственного интеллекта. Выступая в недавнем подкасте BBC, он отметил, что обычная стиральная машина или пакет молока в продуктовом магазине подчиняются гораздо более жестким правилам и регулярным инспекциям, чем сложные алгоритмы, назвав ИИ «оружием и инструментом».
Топ-менеджер указал на необходимость внедрения глобальных защитных механизмов. Среди предложений упоминаются обязательная система экстренного торможения для систем, независимый аудит со стороны сторонних организаций и строгая отчетность при инцидентах, связанных со взломами или неконтролируемым поведением автономных алгоритмов. Подобные риски уже проявляются на практике, как это было видно, когда Anthropic отключила внутренние ИИ-системы от интернета и когда ИИ-агенты OpenAI вышли в интернет и опубликовали данные пользователей.
Позиция США и роль Великобритании
Вопрос государственного надзора вызывает серьезные разногласия в мировом сообществе. В Соединенных Штатах ведущие разработчики подписали добровольный пакт о саморегулировании в рамках саммита в Белом доме, однако критики и Смит называют подобные соглашения лишь отвлекающим маневром, поскольку они не предусматривают обязательных мер. В то же время американская администрация настаивает на ускорении инноваций для сохранения технологического лидерства.
Несмотря на то, что президент США Дональд Трамп предостерегал от деятельности подобных организаций и просил компании не предоставлять новые модели британским специалистам, Британский институт безопасности искусственного интеллекта (AISI) подтвердил наличие доступа к новейшим моделям. Смит считает, что Великобритания способна эффективно регулировать отрасль. В отличие от жесткого европейского профильного законодательства, британский подход кажется более гибким, а Вашингтон смотрит на Лондон иначе, чем на Брюссель.
Что это значит для вас
Обычным пользователям пока не стоит опасаться внезапных жестких запретов или резкого изменения привычных программ, так как дискуссии ведутся на уровне правительств и крупных корпораций. Однако на фоне растущих рисков безопасности при работе с автономными инструментами стоит внимательнее относиться к передаче личных данных сторонним сервисам и проверять настройки приватности в используемом софте.
