Вы, наверное, слышали, что ИИ галлюцинирует. А знаете ли вы почему?
Вы, наверное, слышали, что ИИ галлюцинирует. А знаете ли вы почему? ИИ — это стохастический (то есть вероятностный) алгоритм. Он изучает огромный объём предоставленных ему данных и на его основе рассчитывает вероятность появления следующего токена (слова, его части) в генерируемой цепочке. Если данных не хватает, то ИИ рассчитывает ответ на основании того, что у него есть, и генерирует, грубо говоря, ответ о мухах на корпусе текстов о котлетах. Если эта цепочка очень длинная, а первая ошибка появилась в самом ее начале, то ошибки накапливаются (происходит комбинаторный рост их числа) и в результате появляется большая ошибка. Иначе говоря, галлюцинации у ИИ появляются из-за недостатка информации. Примерно как человек домысливает и делает неверные выводы, потому что ему известны не все обстоятельства. Признайтесь, сталкиваясь с галлюцинациями ИИ, вы думали, что он нарочно вас дурачит? Подписывайтесь, чтобы узнать больше нового о нейросетях и их реальных возможностях!