GPT-6 Astra и картофельная ферма
GPT-6 Astra и картофельная ферма OpenAI выкатили GPT-6 Astra, и она устроила разгром в играх. Покемонов из FireRed прошла за 18 часов вместо 96 у прошлой модели. В Factorio запустила ракету за 10 часов, там где другие модели застревали на добыче нефти. Portal прошла до финальных титров, Fallout 3 закрыла за 59 часов, а в Minecraft добралась до Края дальше, чем любой ИИ до этого, с самодельной фермой блейзов и охотой на эндерменов. Секрет в том, что модель не просто действует, а превращает свой опыт в компактные правила и держит их в памяти, дальше строит планы на основе этих правил. По тестам ARC-AGI-3, где надо разбираться в незнакомых механиках на ходу, Astra выдала 62,7%, а прошлая модель GPT-5.6 Sol только 7,78%. И вот тут самое интересное. В Minecraft у Astra взорвался Крипер и снес весь ее сундук с лутом. Модель сделала логичный вывод и записала себе правило заглавными буквами: никогда больше не хранить важные вещи в сундуке без охраны. И после этого несколько часов подряд просто выращивала картошку, потому что это было единственное действие, которое она сочла безопасным. Как по мне, это прям показательная история про любой ИИ, который учится на своем опыте. Он берет один болезненный случай и превращает его в железное правило, но правило это не всегда учитывает контекст, и модель может застрять в петле "лучше ничего не делать, чем рисковать" даже когда риска давно нет. Мы вроде радуемся, что ИИ теперь запоминает и делает выводы, а получаем ровно ту же историю про травму и overreaction, что и у людей ) Вот к чему мы приходим - чем самостоятельнее становится модель, тем важнее не только то, что она умеет, но и то, как она обходится со своими же ошибками. https://the-decoder.com/gpt-6-astra-pokemon-champion-in-18-hours-potato-farmer-after-one-creeper-mishap/ А вы бы доверили такому агенту вести бизнес-процесс без присмотра, или страшно что он после одной неудачи месяц будет "выращивать картошку"?)
Канал в каталоге Максиметера
1 230 подписчиков · IT и технологии