AI не спасёт соцсети от AI: почему модерацией должны заниматься люди — 7 августа 2026 г. в 17:45:55.234
AI не спасёт соцсети от AI: почему модерацией должны заниматься люди Автоматическая модерация не способна защитить сообщества от вреда, который наносят сами AI-инструменты, — к такому выводу приходят авторы материала на Ars Technica. И главная причина в том, что модели не понимают контекста так, как люди. Проблема усугубляется: генеративный AI делает создание вредоносного контента массовым и дешёвым, а модерация на тех же моделях зачастую лишь воспроизводит те же слепые зоны. Фильтры ловят очевидное, но пропускают завуалированные оскорбления, сарказм и контент, вредный именно для конкретного сообщества. Вывод авторов — не в отказе от автоматизации, а в её границах: AI может быть первой линией фильтрации, но финальные решения о чувствительных случаях должны принимать люди, знающие культуру и историю сообщества. Платформам придётся вернуться к гибридным моделям модерации и признать, что «полностью автоматическая безопасность» — это миф. Источник: Ars Technica. Главное: • AI-модерация не справляется с вредом от AI-контента из-за непонимания контекста • Генеративный AI делает создание вредоносного контента массовым и дешёвым • Оптимальный подход — гибридный: AI фильтрует, люди решают #модерация #соцсети #AI #безопасность #контент