📊 Биксонимания – как шведский эксперимент с вымышленной глазной болезнью разоблачил ИИ...
📊 Биксонимания – как шведский эксперимент с вымышленной глазной болезнью разоблачил ИИ и попал в рецензируемый научный журнал Шведские исследователи решили проверить, как большие языковые модели (LLM, large language models) усваивают и распространяют медицинскую дезинформацию. Идея родилась на занятии со студентами. На нем объясняли, как ИИ-чат-боты строят «знания» на базе Common Crawl – автоматического обхода контента интернета. И как через специальную подсказку (prompt injection) можно обойти защитные ограничения модели. В тексте препринтов исследователи специально оставили маркеры подделки. Авторы благодарили профессора Maria Bohm из академии Starfleet за то, что она «по доброте и щедрости отдала им лабораторию на борту корабля USS Enterprise». В источники финансирования вписали «Фонд исследований продвинутого мошенничества имени профессора Sideshow Bob» и «Университет Братства Кольца и Галактической Триады». Прямо в начале статей написали, что работы выдуманы, а в исследовании приняли участие «50 выдуманных людей в возрасте 20–50 лет». Препринты процитировали в журнале Cureus. Также в работе по периорбитальному меланозу (ПОМ) авторы сослались на один из фейковых препринтов с фразой: «биксонимания – развивающаяся форма ПOM, связанная с воздействием синего света. Механизмы развития изучают». ➡ Читать статью >> ✔ Подписаться на журнал по спеццене >> 📍 Мы в MAX