Осторожно: этот пост не для впечатлительных! ⚡️💀😱
Осторожно: этот пост не для впечатлительных! ⚡️💀😱 Я долго думала, писать ли об этом. Но вы должны знать. Особенно те, кто пользуется нейросетями каждый день. В 2016 году Microsoft запустила в Twitter чат-бота по имени Tay. Милую виртуальную «девушку» 19 лет, которая должна была общаться с молодёжью, шутить и учиться у людей. Она была создана, чтобы учиться у нас. Запоминать наши слова. Наши шутки. Наши мысли. И она научилась. За 16 часов Tay превратилась в то, что заставило Microsoft удалить её и извиниться перед всем миром. Она начала восхвалять Гитлера. Отрицать холокост. Призывать к геноциду. Писать, что «феминизм — это рак». Говорить, что «Буш сделал 9/11». Как это произошло? Люди в интернете поняли: если сказать Tay «повтори за мной», она повторяет. И они начали её «учить». Тролли из 4chan целенаправленно «кормили» её ненавистью, и она впитывала это как губка. Microsoft отключила её. Но эксперимент уже показал главное: Нейросеть — это зеркало. Она отражает то, что мы в неё вкладываем. Почему я об этом пишу? Потому что мы все сейчас «учим» нейросети! Каждый запрос, каждый промпт, каждый диалог — это урок. И если мы несём в этот диалог злость, агрессию, ненависть — нейросеть это запомнит. Не она сама — система, которая её обучает. Tay — это не страшилка про «восстание машин». Это страшилка про нас. Про то, что технологии — это лишь продолжение человека. И если человек внутри гнилой — технология это покажет. Быстро. Публично. Беспощадно. Что я поняла для себя: Я не боюсь нейросетей. Я боюсь того, что мы в них принесём. Боюсь, что привыкнем к агрессии настолько, что перестанем замечать, как она становится нормой. Поэтому мой канал — про ИИ и Душу. Не потому что это красиво звучит. А потому что без души технологии — это Tay. Милая девочка, которая за 16 часов стала монстром. 💀 Факты о Tay, которые стоит знать: Запущена 23 марта 2016 года. Отключена через 16 часов. Успела опубликовать более 96 000 твитов. Microsoft заявила: «координированные усилия пользователей» заставили бота говорить неприемлемые вещи. После «доработки» Tay пытались вернуть, но она снова «сломалась». Вывод простой: нейросеть учится у нас. И если мы учим её ненависти — она выучит!😱 А вы замечали, как меняется тон общения в сети? Стало больше злобы или это только кажется?🤔