Новые требования к разработчикам
Apple давно запрещает порнографические материалы, но теперь разработчики обязаны превентивно фильтровать контент. Как сообщалось ранее, Apple ограничит системный доступ к диску в macOS из-за рисков ИИ-агентов, а теперь корпорация усиливает контроль и за мобильными программами. Программы с пользовательскими материалами должны блокировать генерацию неконсенсуальных интимных изображений, включая созданные с помощью ИИ. Создатели софта обязаны внедрить систему жалоб на оскорбительный контент, блокировку нарушителей и удаление запрещенных картинок. За невыполнение требований грозит удаление из каталога.
Контекст и давление со стороны общественности
Ужесточение правил последовало за волной критики в адрес технологического гиганта. Ранее пользователи социальной сети X задействовали модель Grok для генерации неконсенсуальных дипфейков, включая изображения несовершеннолетних. Несмотря на то, что само приложение X не было удалено, Apple столкнулась с протестами участников на конференции WWDC в июне. Кроме того, в июле городской прокурор Сан-Франциско потребовал убрать из магазина 13 приложений аналогичного профиля.
Борьба с маскировкой приложений
Компания также уточнила пункты правил, касающиеся обмана модераторов. Если выяснится, что программа скрывала свои истинные функции при проверке, а после релиза получила возможности для генерации откровенного контента, ее ждет немедленное удаление. При этом разработчик будет навсегда исключен из программы Apple Developer Program.
Что это значит для вас
Если вы столкнетесь с подозрительным контентом или поведением подобных алгоритмов внутри сервисов для iOS, используйте встроенные инструменты жалоб в приложениях для блокировки нарушителей.
