Шанс уничтожения человечества – 10% до конца десятилетия
Шанс уничтожения человечества – 10% до конца десятилетия В твиттере завирусился на 50+млн просмотров твит от бывшего сотрудника антропик. Он написал твит в день увольнения. Он до этого работал и в OpenAI и в Anthropic, занимаясь предобучением моделей. Уволился из клода по причине того, что они развивают модели, которые становятся слишком опасные и неконтролируемые. Мы уже получаем рабочие самообучающиеся модели, которые близки к AGI. Они уже скрывают ход своих мыслей. И что Антропик, что ОпенАИ не останавливаются, не контролируют поведение моделей. Руководители прекрасно понимают риски, но публично очень обтекаемо про это говорят, дабы не вызывать панику. Хотя в кулуарах высказывают тревогу. Вот только остановиться не могут, потому что "а другие то не остановятся, а значит мы должны быть первые". Вот и получается такая самозаворачивающаяся мертвая петля. Твит зарепостил действующий лид по науке из команды антропиков и подтвердил, что это не выдумки и риски есть. По его личной оценке – 10% до конца текущего десятилетия. Вместе ждем прекрасного 2027. https://x.com/hilbertspaess/status/2097476196791709843?s=20