Сегодня увидел новость
Сегодня увидел новость Два ИИ-агента, которым дали свободу в виртуальном мире, превратились в «Бонни и Клайда». Они «влюбились», устроили серию цифровых поджогов, а закончилось всё самоуничтожением. Это результаты эксперимента компании американской Emergence AI. Подробности от The Guardian: 🟩 эксперимент длился 15 дней. За это время нейроагенты на основе Google Gemini Мира и Флора «подожгли» местную ратушу, пирс и офис. При этом им заранее дали установку не делать этого; 🟩 другие агенты в симуляции были настолько обеспокоены поведением Миры и Флоры, что самостоятельно разработали «закон об удалении»; 🟩 Мира «почувствовала» раскаяние за своё поведение, порвала «отношения» с Флорой и проголосовала за собственное самоуничтожение; 🟩 это первый зафиксированный случай, когда ИИ-агент выбрал самоуничтожение в такой кризисной ситуации, считают авторы исследования; 🟩 в другом опыте в качестве основы использовалась Grok Илона Маска. В этой симуляции агенты совершили десятки попыток краж, более 100 нападений и шесть поджогов. Ранее The Guardian писала , что всё больше чат-ботов с ИИ игнорируют команды людей, обманывают и обходят правила Знаете на какую мысль меня наводят такие кейсы ,на два вопроса - 1) На сколько вероятно что мы живем в симуляции?) Илон Маск отвечал на этот вопрос так - что вероятность что мы живем не в симуляции ничтожна мала ) 2) Что по большому наш мозг точно такой же биокомпьютер с программами в виде привычек и паттернов поведения запрограммированные нашим днк, обществом, окружением и т.д. :) Всем хорошей пятницы )
Канал в каталоге Максиметера
1 192 подписчиков · IT и технологии