Спроси ChatGPT, как связаться с твоей компанией. Уверен, что он даст твой номер❓
Спроси ChatGPT, как связаться с твоей компанией. Уверен, что он даст твой номер❓ Исследователи нашли схему, при которой мошенники подменяют контакты компаний прямо в ответах ИИ. Человек спрашивает у ChatGPT или Gemini телефон поддержки банка или авиакомпании и получает номер мошенников, поданный как официальный. Под атакой оказались 374 компании: авиалинии Delta, Lufthansa, United, Emirates, банки Chase, Bank of America, Citi, сервисы Airbnb и TripAdvisor. Например, по запросу про поддержку Lufthansa ИИ-ответ Google выдавал номер, который контролировали злоумышленники. 👉 Как это работает 1️⃣ Создают контент под ИИ Мошенники пишут публикации с фейковыми телефонами, почтой и ссылками. Тексты специально составляют так, чтобы ИИ охотнее на них ссылался. Это называется GEO: то же SEO, только для нейросетей. 2️⃣ Маскируют номер Цифры разбивают пробелами, точками, эмодзи и словами: например, вместо «1» ставят 1️⃣. Спам-фильтры такой номер не распознают, а ИИ прекрасно понимает. 3️⃣ Размножают Один и тот же текст каждый день автоматически публикуют на сотнях площадок: в соцсетях, в описаниях YouTube, на Medium, на сайтах с PDF-документами, в отзывах. Удалить всё вручную невозможно. ИИ видит одну и ту же информацию в десятках мест и начинает считать её правдой. 📌 Что ответили Google и OpenAI Исследователи сообщили о проблеме обеим компаниям. Google ответил, что дезинформация и фишинг в ИИ-ответах не входят в его программу поиска уязвимостей. OpenAI закрыл отчёт как невоспроизводимый: им нужно доказанное влияние на пользователей, а не теоретическая атака. При этом, по данным, на которые ссылаются авторы, 92% пользователей не проверяют ответы ИИ. В обсуждении на Hacker News люди делятся реальными случаями. Например, пожилому человеку Gemini выдал фейковый номер поддержки Microsoft, и всё закончилось кражей личных данных. 🆘 Как защититься самому — Никогда не берите из ответа ИИ телефоны, ссылки на оплату и адреса поддержки, только с официального сайта или из приложения компании — Если ИИ дал номер, сверьте его с официальным сайтом, прежде чем звонить — Предупредите родителей и старших родственников: они чаще других доверяют «умному помощнику» 💼 Что сделать бизнесу прямо сейчас 1. Спросите ChatGPT, Gemini и Алису, как связаться с вашей компанией и посмотрите, какой номер и сайт они дают. 2. Убедитесь, что ваши актуальные контакты одинаково указаны везде: на сайте, в картах, в справочниках и соцсетях. Чем больше совпадающих официальных упоминаний, тем меньше шансов у подделки 3. Повторяйте такую проверку хотя бы раз в месяц, особенно если к вам часто обращаются в поддержку ИИ не отличает правду от лжи, поэтому если о вас часто пишут неправду, он её повторит. А вы проверяли, что ИИ рассказывает о вашей компании? #ИИ #безопасность #ChatGPT #предпринимателям #GEO ——————————— Кстати, как выстроить работу с ИИ под свои задачи с нуля, разбираем на НейроМаксе 👉 Забрать доступ