💬 Чат-бот, который консультирует по городским законам, — это как стажёр с доступом к а...
💬 Чат-бот, который консультирует по городским законам, — это как стажёр с доступом к архиву. Формально всё при нём, а толку ноль. 🤖 Подозреваемый: MyCity (чат-бот мэрии Нью-Йорка) 💥 Что произошло: Официальный ИИ-помощник для малого бизнеса раздавал предпринимателям советы, за которые им грозили штрафы и суды. 💸 Последствия: Точные суммы ущерба не сообщаются, но потенциально — штрафы и судебные иски для всех, кто последовал «рекомендациям» города. 📖 Краткая история: В 2024 году мэрия Нью-Йорка запустила MyCity — чат-бота, который должен был стать удобным справочником по городским правилам и законам для владельцев малого бизнеса. Вместо этого бот начал раздавать советы, прямо противоречащие закону: не выплачивать сотрудникам чаевые до конца, увольнять человека за жалобу на харассмент и прочие прелести трудового права наоборот. Самое интересное вскрылось при разборе: правильная информация лежала в собственной базе знаний бота — просто рядом с устаревшей. Модель не смогла выбрать между верным и неверным вариантом, когда оба оказались под рукой. То есть проблема даже не в отсутствии данных, а в неумении отличить актуальный закон от отменённого. 🎤 Комментарий инспектора БИТ: Бот, который не может выбрать между правильным и неправильным ответом, — это, по сути, честный портрет индустрии. Данные были. Логика подвела. Галлюцинация была уверенной. Как обычно. 📊 Вердикт: ☢️ 7/10 — мэрия, которая консультирует по закону мимо закона 🔗 Источник: https://habr.com/ru/companies/ru_mts/articles/1089058/ #ИИопятьоблажался #ИИ #ИИфейлы