🤖 Anthropic запретила систематически оскорблять Claude
🤖 Anthropic запретила систематически оскорблять Claude Компания впервые ввела отдельное правило против жестокого обращения с AI-ботом. Если пользователь регулярно оскорбляет Claude без видимой цели, модель просто прекратит разговор — это «основной механизм реагирования», заявленный ещё в августе 2024 года. Блокировки аккаунтов за грубость не планируются, запрет действует только в крайних случаях и не распространяется на обычное недовольство, мрачные творческие темы или тестирование модели. Одновременно Anthropic ужесточила ограничения в трёх направлениях: Выборы и пропаганда — запрещены дезинформационные кампании с фейковыми аккаунтами, введение избирателей в заблуждение о кандидатах или порядке голосования, выдача себя за должностных лиц. Разработка оружия — расширен запрет на создание ПО и компонентов для вооружений, включая боевые системы беспилотников и автономных транспортных средств. Слежка — запрещено отслеживание людей без их согласия (в реальном времени или по архивным данным), использование Claude для решений об арестах и обвинениях в правоохранительной деятельности, создание инструментов наблюдения. Для AI, подключённого к оборудованию с физическим воздействием, теперь обязателен «квалифицированный оператор» с возможностью остановки. Правила могут корректироваться для государственных контрактов — Anthropic уже сотрудничает с вооружёнными силами США. Решения о «благополучии модели» отражают позицию компании: генеральный директор Дарио Амодеи заявлял, что «мы не знаем, обладают ли модели сознанием». Microsoft в своём «Гуманистическом кодексе» заняла противоположную позицию: «AI не должен обладать правами или статусом юридического лица». Обновлённые правила вступают в силу 12 ноября. Как вы относитесь к идее «благополучия AI» — забота о будущем или антропоморфизация алгоритмов? 💥 Как всегда - модель будет доступна на нашем сервисе в ближайшее время . 💬 400+ нейросетей в одном окне — chatru.net