Суть законопроекта и критерии угрозы
Разработчик систем искусственного интеллекта Anthropic продвигает в американском Конгрессе инициативу, направленную на жесткое регулирование безопасности передовых технологий. Документ предлагает наделить власти правом официально останавливать релиз или эксплуатацию нейросетей, если те создают прямую и предсказуемую опасность.
В качестве пороговых значений для вмешательства регулятора установлены риски причинения финансового ущерба на сумму от $1 млрд (ориентировочно 92 млрд рублей) либо угроза гибели или тяжелых травм для более чем 50 человек. Подобные сценарии должны быть связаны с разработкой биологического оружия, успешными кибератаками или ситуациями, когда алгоритм выходит из-под контроля создателей.
Полномочия Минторга и обязанности разработчиков
Оценивать технологические риски предложено силами независимых экспертов, официально зарегистрированных в Министерстве торговли США. Если специалисты фиксируют непосредственную угрозу, они обязаны уведомить ведомство в течение 72 часов. На основе таких заключений министерство получает право обращаться в федеральный суд для заморозки проекта. При этом другие государственные структуры аналогичных полномочий не получат.
Документ также вводит жесткие требования для самих создателей алгоритмов. ИТ-компании должны будут регулярно тестировать модели, публиковать отчеты и формировать специализированные внутренние отделы безопасности. Дополнительно проект закрепляет право сотрудников сообщать о нарушениях без риска преследования.
Что это значит для вас
Новые законодательные инициативы отражают глобальный тренд на усиление контроля за технологиями, на фоне которого ФТК США начала расследование против OpenAI и Anthropic из-за уязвимостей. Обсуждение столь жестких ограничений показывает, что эпоха бесконтрольного наращивания мощности нейросетей подходит к концу.
Тем не менее, как отмечают эксперты отрасли, президент Microsoft сравнил регуляцию искусственного интеллекта с молоком, указывая на хрупкий баланс между безопасностью и замедлением инноваций. Для пользователей в России данный американский законопроект не несет прямого запрета на использование зарубежных сервисов, однако он задает новые стандарты безопасности, которым разработчики будут следовать во всем мире, что может повлиять на скорость появления новых функций в будущих версиях моделей.
