💻🤖🚫 Anthropic запретила жестокое обращение с ИИ
💻🤖🚫 Anthropic запретила жестокое обращение с ИИ Компания Anthropic обновила политику использования нейросети Claude, введя запрет на систематическое и необоснованное оскорбительное обращение с моделями ИИ. Это касается лишь случаев, когда пользователи многократно проявляют жестокость без явной цели. Правило не затрагивает обычные недовольства, творческие работы с мрачной тематикой и исследовательские тесты. Летом прошлого года Anthropic добавила возможность для моделей Claude Opus 4 и 4.1 самостоятельно прекращать диалоги, вызывающие у них стресс, что связано с исследованием их «благополучия». Модели особенно реагируют на запросы, связанные с насилием или сексуальным контентом с участием несовершеннолетних. Кроме того, Anthropic ограничила использование чат-бота Claude для вмешательства в выборы, слежки за людьми и разработки оружия. Эти меры подчеркивают стремление компании обеспечить безопасность и этичность взаимодействия с ИИ. #ИскусственныйИнтеллект #Этика #Технологии