Чинил на днях галлюцинацию у своего AI-агента. Это когда модель не знает ответа — но вм... — 9 июня 2026 г. в 16:00:42.154
Чинил на днях галлюцинацию у своего AI-агента. Это когда модель не знает ответа — но вместо честного «не знаю» уверенно выдаёт правдоподобную выдумку. С деталями, с цифрами, со ссылками на источники, которых не существует. 🤖 AI и сознание Сижу, разбираюсь, почему так. И понимаю: модель в принципе не различает «я знаю» и «я не знаю». Она всегда просто достраивает самое вероятное следующее слово. Пустоты для неё не существует — есть только правдоподобное продолжение. Признаться в незнании ей нечем: внутри нет места, где живёт честное «тут у меня дырка». А потом меня накрыло. Я ведь делаю ровно то же самое. Кто-то не ответил на сообщение — и голова за полсекунды выдаёт готовую историю: обиделся, передумал, я что-то не то написал. Человек посмотрел странно — «он мной недоволен». Я не знаю настоящей причины ни в одном из этих случаев. Но в голове нет таблички «недостаточно данных». Есть только самый вероятный сюжет — и я принимаю его за факт. Та же галлюцinация, только я в неё ещё и верю. Самое неприятное — этих выдумок не видно изнутри. Они ощущаются не как догадка, а как знание. Ровно так же, как модель не чувствует, что врёт: для неё это просто следующее слово, для меня — просто очевидность. Чему меня годами учат на коврике и на встречах — это, по сути, ловить тот самый зазор. Момент между «у меня нет данных» и уже готовой, услужливо собранной историей. Там, в этом промежутке, и живёт честность: не красивое объяснение, а способность остановиться и сказать себе — я не знаю, почему он так сделал. И всё. Дальше тишина, а не сюжет. Оказалось, чинить галлюцинации у себя куда сложнее, чем у агента. Агенту я могу просто прописать: не уверен — скажи «не знаю». А себе попробуй пропиши. Где вы чаще всего ловите себя на том, что достроили уверенную историю там, где на самом деле просто не знаете? 👇