Claude в оружии, слежке и биологии — отчёт Anthropic
Claude в оружии, слежке и биологии — отчёт Anthropic Anthropic опубликовали большой отчёт о злоупотреблениях их ИИ-моделью Claude за последние 9 месяцев. Оказалось, что ИИ активно используют для опасных задач. В Йемене Claude помогал писать софт для управляемых ракет, одна из которых уже испытывалась в реальности — запуск не удался. В России модель участвовала в создании роя дронов-камикадзе, правда, пока только в симуляции. В Иране на базе Claude сделали расширение для Firefox, собирающее данные из соцсетей, и систему для массовой слежки за оппозицией. Китайские разработчики запустили более 20 фейковых приложений для знакомств с 4700 AI-ботами, которые за пару недель отправили миллионы сообщений живым людям. Также в отчёте упомянуты эксперименты с вирусами, где Claude помогал в потенциально опасных биологических исследованиях. Anthropic блокируют подозрительные аккаунты и усиливают защиту, но это лишь верхушка айсберга. Технологии быстро выходят из-под контроля, и последствия могут быть серьёзнее, чем кажется. #технологии #ИИ #нейросети #экономика #бизнес
Канал в каталоге Максиметера
3 964 подписчиков · IT и технологии