ИИ выходит из-под контроля: ученые по всему миру встревожены не на шутку
ИИ выходит из-под контроля: ученые по всему миру встревожены не на шутку Научное сообщество написало открытое письмо по вопросам искусственного интеллекта и кибербезопасности. В нем 415 ученых со всего света высказали свои опасения, связанные с развитием технологии и предложили способы снижения рисков, связанных с ИИ. Основные тезисы: 🔸Атаки агентов на внешние организации можно расценить как безответственное нарушение стандартных практик кибербезопасности; 🔸Необходимо совершенствовать методы согласования целей ИИ и технологии, используемые при создании изолированных сред для тестирования; 🔸Если срочно ничего не сделать, инциденты будут повторяться и становиться все более разрушительными; 🔸Организациям, которые разрабатывают модели с кибернетическими возможностями, следует немедленно внедрить высоконадежные системы сдерживания; 🔸Необходим международный орган, который стандартизирует такие системы и будет следить за сбоями в них; 🔸Любые сбои защитных механизмов должны фиксироваться в упомянутом органе и впоследствии предаваться гласности ради коллективного анализа накопленного опыта.