😋 Как закалялся Скайнет. Часть 2
😋 Как закалялся Скайнет. Часть 2 Сегодня вышел на связь сам глава Anthropic Дарио Амодей с призывом тормозить гонку самых мощных моделей, потому что безопасность уже не успевает за возможностями ИИ. По его оценке, уже через 6–12 месяцев более мощные рои ИИ-агентов могут представлять угрозу для значительной части интернета. Что он предлагает: 🔸 Пустить независимых аудиторов внутрь ИИ-компаний почти на правах сотрудников. 🔸 Ввести общие стандарты безопасности и срочно ограничивать темп развития моделей. 🔸 Проверять безопасность перед каждым новым скачком возможностей. 🔸 Ограничивать ресурсы, которые ускоряют гонку, включая вычисления и использование ИИ для создания следующего поколения моделей. 🔸 Договориться об общих правилах между странами, включая Китай. Anthropic готова начать с себя и предоставить полный доступ к своим системам, не мешая публиковать неудобные выводы. Кажется реально началось 😱 • Источник @aiaiai
Канал в каталоге Максиметера
1 526 подписчиков · IT и технологии