Почти 80% научных представлений о недостатках искусственного интеллекта устарели или по...
Почти 80% научных представлений о недостатках искусственного интеллекта устарели или потеряли значительную часть актуальности всего за несколько лет. Исследователи Стэнфордского университета повторно проверили 50 известных научных выводов на 20 современных нейросетях и обнаружили, что 44% прежних утверждений больше не подтверждаются в первоначальном виде, а ещё 34% заметно ослабли. Средний срок актуальности выводов, которые впоследствии устарели, составил около 16 месяцев. Особенно впечатляет прогресс в борьбе с выдуманными научными источниками. В 2023 году GPT-3.5 придумывала 55% ссылок на научные работы, а GPT-4 около 18%. В новых испытаниях GPT-6.1 Sol не выдала ни одной вымышленной ссылки, а Claude Sonnet 5.5 ошиблась примерно в 1% случаев. Впрочем, отдельные современные модели продолжают массово выдумывать публикации, поэтому считать проблему галлюцинаций окончательно решённой преждевременно. Но некоторые особенности искусственного интеллекта оказались значительно устойчивее технических ошибок. Нейросети по-прежнему склонны соглашаться с пользователями, льстить им, предпочитать собственные ответы и демонстрировать политическую предвзятость в отдельных тестах. Из 50 проверенных научных выводов восемь сохранили актуальность, а три проявились даже сильнее, чем раньше. ПОДПИШИСЬ, ЧТОБЫ НЕ ПРОПУСКАТЬ САМОЕ ВАЖНОЕ 👈
Канал в каталоге Максиметера
47 подписчиков · Новости