Apple ужесточила правила App Store. Под удар попали приложения, создающие интимные дипф...
Apple ужесточила правила App Store. Под удар попали приложения, создающие интимные дипфейки Нейросети научились создавать настолько реалистичные изображения людей, что для подделки фотографии иногда достаточно одного снимка из социальных сетей. Особенно опасными оказались приложения, способные генерировать интимные изображения реальных людей без их согласия. Apple решила усилить борьбу с такими сервисами, обновив правила App Store. 16 октября компания внесла изменения в требования к разработчикам, прямо указав на недопустимость распространения интимных дипфейков, включая изображения, созданные искусственным интеллектом. Сам по себе подобный контент был запрещён и раньше. Однако теперь Apple требует от приложений с пользовательским контентом не просто реагировать на жалобы, а заранее принимать меры для предотвращения подобных нарушений и оперативно удалять запрещённые материалы. Это касается в том числе ИИ-сервисов, которые позволяют пользователям генерировать и публиковать изображения. Если разработчик не обеспечивает необходимую модерацию или игнорирует выявленные нарушения, его приложение могут удалить из App Store. Второе изменение направлено против менее очевидной схемы обхода правил. Некоторые разработчики отправляют на проверку внешне безобидное приложение, а после одобрения активируют скрытые возможности, которые Apple изначально не разрешила бы распространять. Теперь отдельное правило 2.5.19 прямо запрещает скрытые, неактивные и недокументированные функции. За подобные нарушения разработчик рискует не только потерять приложение, но и лишиться учётной записи в Apple Developer Program. Поводом для ужесточения требований стали многочисленные случаи создания сексуализированных дипфейков. В частности, ранее претензии возникали к возможностям чат-бота Grok, которые позволяли пользователям создавать подобные изображения без согласия людей. После предупреждений Apple разработчик внедрил дополнительные ограничения. При этом новые правила не означают запрет искусственного интеллекта для обработки фотографий. Генерация изображений, ретушь и другие творческие инструменты по-прежнему допустимы, если приложение соблюдает требования платформы. Для пользователей изменение важно прежде всего тем, что ответственность за распространение опасного контента Apple возлагает на разработчиков, а не только на людей, которые его создают. Впрочем, наличие правил ещё не гарантирует отсутствие нарушений. Эффективность защиты будет зависеть от того, насколько тщательно Apple проверяет приложения и как быстро их разработчики реагируют на злоупотребления. Именно здесь проходит важная граница развития генеративного ИИ: технология может предоставлять практически неограниченные творческие возможности, но это не должно означать право использовать чужую внешность без согласия человека.