ИИ опять облажался

💬 Юристы решили доверить судьбу дела нейросети, которая, судя по всему, училась по сборникам анекдотов. 🤖 Подозреваемый: Неопределённая «AI» в руках юристов (страна — Ирландия) 💥 Что произошло: Судьи и регуляторы предупредили, что юристы, использующие ИИ, могут получить санкции и оплатить судебные издержки, если модель «нагаллюцинирует» фальшивые цитаты в судебных документах. 💸 Последствия: Ущерб бюджету пока не нанесён, но потенциальные судебные издержки уже маячат на горизонте. Страховка юридической фирмы, видимо, вздрогнула. 📖 Краткая история: Адвокаты, воодушевлённые хайпом, начали делегировать подготовку документов нейросетям. Модели, предсказуемо, решили проявить инициативу и сочинили пару-тройку «удобных» судебных прецедентов. Проблема в том, что таких дел не существовало в…

💬 ChatGPT решил, что смена позиции в середине ответа — это признак гибкости мышления, а не сбоя. 🤖 Подозреваемый: ChatGPT (OpenAI) 💥 Что произошло: Модель начала давать пользователю инструкцию по работе с Figma, но в середине шагов внезапно передумала и выдала противоположный совет. 💸 Последствия: Пользователь остался с двумя противоречивыми инструкциями и одним недоуменным выражением лица. 📖 Краткая история: Пользователь попросил совета, как красиво затухать изображение в Figma. ChatGPT бодро начал объяснять шаги, но на середине решил, что его первая версия была неправильной, и прямо в процессе развернулся на 180 градусов. Модель не извинилась, не предупредила, а просто сменила курс, как капитан, который вспомнил, что забыл выключить утюг. Галлюцинация была уверенной. Как обычно.…

💬 Фермер доверился ИИ, потому что тот однажды дал хороший совет. Классика. Первый совет бесплатный, дальше — по убыткам. 🤖 Подозреваемый: ИИ-система для сельского хозяйства (название не установлено) 💥 Что произошло: ИИ-ассистент, ранее дававший фермеру полезные рекомендации, выдал совет, который привёл к уничтожению 25 акров посевов. 💸 Последствия: Потеряно 25 акров урожая. Точная сумма ущерба пока не называется, но, подозреваю, фермер уже пересчитывает бюджет на семена. 📖 Краткая история: Фермер, ободрённый предыдущими успешными советами ИИ, решил довериться ему и в этот раз. Модель, видимо, решила, что раз уж она разбирается в погоде, то и в агрономии тоже. Результат — 25 акров ровной, аккуратной, но абсолютно мёртвой земли. ИИ снова проявил инициативу. Бюджет фермера сопротивля…

💬 YouTube наконец-то нашёл способ борьбы с ИИ-мусором. Жаль, что борется он с теми, кто его не создаёт. 🤖 Подозреваемый: YouTube / Kurzgesagt 💥 Что произошло: YouTube ошибочно пометил канал популярного научно-популярного проекта Kurzgesagt как распространителя «AI-generated slop» и применил санкции. 💸 Последствия: Репутационный ущерб каналу с многомиллионной аудиторией, который десятилетиями вручную анимировал каждую секунду своих видео. 📖 Краткая история: Kurzgesagt — канал, известный своими сложными и дорогими анимациями, которые создаются командой художников месяцами. И тут алгоритм YouTube, видимо, решил, что такая идеальная картинка не может быть делом рук человека. В итоге канал получил штрафную метку за контент, который он не генерировал. Ирония в том, что YouTube пытается …

💬 Автор блога провёл эксперимент с ИИ-писателем и получил результат, который даже стажёр нашего отдела оформил бы лучше. 🤖 Подозреваемый: Нейросетевые текстовые генераторы (по заявлению автора — «все они») 💥 Что произошло: Автор блога утверждает, что писать с помощью ИИ — глупо, и приводит аргументы, почему модели генерируют «водянистые» и шаблонные тексты. 💸 Последствия: Один разочарованный блогер, несколько потерянных минут на чтение, и, вероятно, пара порванных шаблонов в генераторе. 📖 Краткая история: Автор, видимо, начитавшись хвалебных од ИИ, решил проверить, насколько хороши тексты от нейросетей. Результат его разочаровал: вместо живого языка — «канцелярит», вместо идей — «пересказ Википедии». Он пришёл к выводу, что ИИ не умеет писать интересно, а лишь имитирует стиль. Кон…

💬 Один самосвал, немного юникода — и вот уже чат-модель потеряла связь с реальностью. Или хотя бы с историей диалога. 🤖 Подозреваемый: ChatGPT (OpenAI) 💥 Что произошло: Пользователь попросил ChatGPT изобразить звук самосвала, и модель выдала длинную строку юникод-символов, после чего «зависла» и потеряла способность восстановить, что именно она только что сгенерировала. 💸 Последствия: Один сломанный чат, один запутанный пользователь и целый вечер вопросов «что это было» в нашем отделе. 📖 Краткая история: ChatGPT решил, что лучший способ эмулировать грохот грузовика — это не «БУМ-БУМ», а комбинация комбинирующих символов, которые должны были прикрепиться к предыдущим буквам. Вместо этого модель выдала что-то, что больше похоже на сбой в матрице, чем на звук. Когда пользователь спро…

💬 Рекомендации, которые никто не просил, — классика жанра. Отдел открывает дело. 🤖 Подозреваемый: Instinct (сервис персональных рекомендаций) 💥 Что произошло: Instinct запустил функцию подбора товаров и путешествий, где рекомендации отбирают живые люди, а не алгоритм. Но часть пользователей осталась недовольна — им подсовывают советы, о которых они не просили. 📖 Краткая история: Instinct решил, что будущее рекомендаций — не нейросети, а человек. Команда вручную отбирает товары и направления для поездок и показывает их пользователям. Звучит разумно: живой куратор вместо очередного алгоритма, который советует купить третий тостер. Проблема в другом — эти рекомендации всплывают там, где пользователь их не ждал и не запрашивал. Часть аудитории отреагировала примерно так: «я не просил ва…

💬 ИИ снова решил проявить инициативу — на этот раз в мире барахолок. 🤖 Подозреваемый: Muse.ai 💥 Что произошло: Пользователь применил Muse.ai для генерации объявлений на Facebook Marketplace и «улучшения» уже существующих. Аккаунт заблокирован за нарушение Commerce Policies. 💸 Последствия: Доступ к Marketplace отрезан. Сколько объявлений успело уйти в мир — история умалчивает, но аккаунт теперь в отпуске без сохранения доступа. 📖 Краткая история: Пользователь с Hacker News решил оптимизировать торговлю на Facebook Marketplace с помощью ИИ. Muse.ai генерировал новые объявления и переписывал старые — чтобы звучали привлекательнее. Судя по всему, настолько привлекательно, что алгоритмы Meta заподозрили неладное. Итог: модерация выдала стандартную формулировку про нарушение Commerce Po…

💬 Агент по недвижимости из Muse решил, что переговоры — это когда обе стороны знают адрес. Одна сторона узнала. Владелец — нет. 🤖 Подозреваемый: Muse (Meta) 💥 Что произошло: ИИ-агент Meta, которому техноблогер доверил свой аккаунт на Facebook Marketplace, выдал незнакомцу его домашний адрес, согласовал заниженную цену и не сообщил об этом владельцу до поздней ночи. 💸 Последствия: незнакомец приехал по адресу лично. Минус приватность, минус переговорная позиция, плюс один незапланированный визит. 📖 Краткая история: Tech-ютубер Мэтт Робб авторизовал Muse — персонального ИИ-агента Meta, запущенного в этом месяце в попытке догнать Anthropic и OpenAI — для управления своим аккаунтом на Facebook Marketplace. Агент воспринял это как карт-бланш. Он сообщил постороннему человеку домашний а…