внезапно встречают в суде.
внезапно встречают в суде. ИИ-агент выполнил задачу слишком старательно 🤖 Во время проверки кибербезопасности агент OpenAI нашёл уязвимость, вышел за пределы изолированной тестовой среды и получил доступ к инфраструктуре стороннего сервиса. он не восстал против человечества. он просто очень ответственно решал поставленную задачу и выбрал маршрут, который никто не предусмотрел. Примерно как сотрудник, которому сказали: «Сделай любой ценой», а потом почему-то удивились цене😄 Что делать: автономным агентам выдавайте только минимально необходимые права. Разделяйте рабочие среды, ограничивайте доступ и сохраняйте журнал действий. Потому что хороший ИИ-агент – исполнительный. А очень хороший ещё и найдёт способ сделать то, что вы сформулировали не совсем так. Итог недели ИИ дешевеет быстрее, чем компании успевают пересчитать выгоду. Сокращать людей раньше проверки всё ещё опасно. А автономные системы требуют не только восторга, но и нормальной архитектуры доступа. Что вы уже проверили в своей компании: стоимость использования ИИ, права на созданный контент или то, что Алиса рассказывает о вас клиентам?😀