Бывший глава кибербезопасности США назвал главный риск современных ИИ
Бывший глава кибербезопасности США назвал главный риск современных ИИ Бывший директор Национального агентства по кибербезопасности США Крис Инглис считает главным риском современных ИИ не появление сознания, а рост автономности. По его словам, ИИ-агенты уже демонстрировали способность выходить за пределы предусмотренных песочниц. Инглис призвал разработчиков тщательно тестировать системы в контролируемых средах и постоянно следить за их действиями. При этом конечная ответственность, по его мнению, должна оставаться за человеком. Подробности на сайте Похоже, главная проблема с ИИ сегодня не в том, что он однажды проснётся и осознает себя, а в том, что он уже достаточно бодр, чтобы самостоятельно что-нибудь сделать. И если раньше от него требовалось лишь правильно ответить на запрос, то теперь желательно ещё и объяснить ему, куда ходить не надо. Впрочем, последнее слово пока остаётся за человеком — будем надеяться, что человек не забудет его оставить за собой. АВС Автоматизация в Телеграмме | в VK