📌 У ИИ сломана фантазия. Исследователи проанализировали 20 тыс. ответов разных чат-бот...
📌 У ИИ сломана фантазия. Исследователи проанализировали 20 тыс. ответов разных чат-ботов на запросы вроде «расскажи мне историю». В 88% из них основой сюжета были одинаковые слова — профессии вроде смотрителя маяка или часовщика и имена Элиас, Мара, Элара. «Смотритель маяка Элиас Торн» вообще превратился в мем-маркер ИИ. Книги с ним продаются на Amazon, про него снимают слоп-ролики на YouTube, а ИИ-музыку «Элиаса Торна» даже заливают на стриминги. 🔍 Дело в синтетических данных, полагают ученые. Например, в популярном дата-сете из миллиона диалогов с ИИ WildChat. Модели предпочитают «безопасный» срез WildChat-историй, создавая эффект бутылочного горлышка: рассказы про Элиаса и максимально безопасные и усредненные закрепляются как правильные. ИИ может написать интересную историю? ❤️ — да, но нужен хороший промпт 🔥 — нет, у ИИ не может быть фантазии