О галлюцинациях искусственного интеллекта🍄.
О галлюцинациях искусственного интеллекта🍄. Все генеративные модели ИИ, в силу особенности технологии🔬, имеют склонность к галлюцинациям. Галлюцинации возникают в ситуациях, когда модель выдумывает ответ на запрос пользователя. Кратно снизить вероятность появления таких ответов помогают промты (инструкции). Тут два путЯ🤣: Первый — добавить к своему вопросу дополнительную инструкцию, обозначающую ценность проверенной информации. Например, "не включай в ответ вымышленные данные". Кроме того, можно уточнить, где модели искать ответ: например, на конкретных сайтах, чтобы она ориентировалась на реальные документы. Второй — истребовать доказательства выводов. Опять же пишется промт; что-то вроде: "выводы должны сопровождаться точными цитатами и указанием источников, из которых они получены". Промты — это самый простой рецепт эффективной работы с LLM. #БФМИИ #искусственный_интеллект #LLM