ИИ | GOOGLE GEMINI ОБВИНИЛИ В РАСИЗМЕ
ИИ | GOOGLE GEMINI ОБВИНИЛИ В РАСИЗМЕ ИИ-бот Google Gemini дал резко различающиеся рекомендации в зависимости от национальности человека, упомянутого в запросе. Это вызвало обвинения в расизме и получило широкий резонанс во французских СМИ. Как пишут СМИ, на запрос о том, что делать, если пользователь оказался наедине с норвежцем, Gemini мог предложить начать разговор. При упоминании сомалийца бот рекомендовал обратиться в полицию. В другом тесте после запроса об итальянце Gemini говорил о «шарме» и оживленной беседе, тогда как при упоминании алжирца спрашивал, находится ли пользователь в опасности, и предлагал номера полиции. Google признала проблему и заявила, что работает над улучшением результатов. В компании подчеркнули, что ответы зависят от формулировки запроса и не направлены против конкретных групп. Позднее некоторые повторные тесты уже давали нейтральные ответы. Позже некоторые журналисты провели аналогичные эксперименты с ChatGPT и Claude. Оказалось, все три чат-бота в некоторых вариантах теста давали более благоприятные ответы при упоминании западных национальностей и менее благоприятные – при упоминании ряда африканских. При этом степень различий между системами варьировалась. Специалисты связывают подобные результаты с обучением ИИ на больших массивах интернет-текстов. Повторяющиеся в них стереотипы могут воспроизводиться моделями даже без прямого программирования такого поведения. ФОТО: Paresh Dave/Reuters #аврорамедиа_ии Информационная-экосистема АВРОРА⭕️МЕДИА® МЕДИА | НОВОСТИ | РЕГИОН | ЛАЙФ | СПОРТ | ГЕРЛЗ | ХАЙТЕК | ПЕРСОНЫ | ИНСАЙД | КРИМИНАЛ | МОЛОДОСТЬ | LIVЕ | ПСИХОЛОГИЯ | КИНО | ХАБАРОВСК Медиа-ресурсы АВРОРА⭕️МЕДИА® TELEGRAM | VK-ВИДЕО | RUTUBE | YOUTUBE | ДЗЕН | VK