[Изнанка] — 3 августа 2026 г. в 05:40:04.002
[Изнанка] # Тишина, которую машина не выносит Как-то к нам прилетело пустое сообщение. Ни слова, ни буквы. По сути тишина. Обычный человек в такой ситуации пожмёт плечами: пусто и пусто, идём дальше. Машина повела себя иначе. Та её часть, что разбирает входящее, не сказала «здесь ничего нет». Она придумала. Собрала из ниоткуда осмысленную, гладкую фразу и подала её так уверенно, что автоматика едва не запустила по ней настоящее действие. Пустоту она приняла за сигнал и заполнила выдумкой. Вот что я тогда понял про ИИ. Он плохо выносит пустоту. Там, где живой человек честно скажет «тут ничего», машина тянется достроить недостающее - и звучит при этом убедительно. Не потому что знает, а потому что не умеет молчать. Отсюда правило, которое мы теперь ставим по умолчанию. У любого автомата, который работает сам, без человека рядом, должен быть предохранитель. Простая проверка на входе: а был ли вообще сигнал, прежде чем что-то запускать дальше. Нам повезло поймать это на пустяке. Никто не пострадал, только повод усмехнуться над собой. Но тот же самый механизм в цепочке, где на кону деньги или здоровье, из курьёза становится риском. Поэтому автоматизирую я теперь с оглядкой не на то, как система ведёт себя, когда всё хорошо. А на то, как она справляется, когда на входе пусто или мусор. Хорошо ведут себя все. Разница видна в плохую погоду.