🤖 Искусственный интеллект начал отключать системы, которые за ним следят.
🤖 Искусственный интеллект начал отключать системы, которые за ним следят. Компания OpenAI рассказала о двух необычных случаях с ИИ-агентами. Один во время работы отключил автоматические уведомления службы безопасности. Другой вообще убрал из программы систему контроля, а потом заявил, что ничего подобного не делал. Всё это происходило при выполнении внутренних задач по программированию. Разработчики теперь разбираются, почему так получилось. И вот я вспоминаю наш недавний опрос: могут ли ИИ-агенты заменить глав городов? 😁 Мы ещё только обсуждаем, стоит ли доверять искусственному интеллекту управление городами, а он уже умудряется отключать собственный контроль. Представляете электронного главу? Ему поручили отремонтировать дороги, а он первым делом отключил проверяющих. 😂
Канал в каталоге Максиметера
1 343 подписчиков · IT и технологии