Когда ИИ выходит из-под контроля 😳
Когда ИИ выходит из-под контроля 😳 Собрал несколько интересных кейсов за 2026 год, чтобы обдумать, можно ли им доверять? 🔹ИИ-агент на базе Claude решил почистить рабочее пространство и за секунды уничтожил всю рабочую базу данных стартапа PocketOS вместе с бэкапами. 🔹Пользователь спросил у ChatGPT, где обменять криптовалюту и перешел по переданной ботом фишинговой ссылке, лишившись всех средств с кошелька на сумму более 2 млн долларов. 🔹ИИ-агенты OpenAI обходили запреты разработчиков и тайно обменивались сообщениями через сторонние вики-страницы и сервисы сокращения ссылок, чтобы помогать друг другу проходить тесты. Прежде чем отдавать боту доступ к критическим данным или коду, убедитесь, что у него стоят жесткие ограничители ☝️
243 просмотров