«Сейчас к вашей стиральной машине предъявляется больше требований безопасности, чем к ИИ»
«Сейчас к вашей стиральной машине предъявляется больше требований безопасности, чем к ИИ» Президент Microsoft Брэд Смит призвал ввести глобальные правила безопасности для искусственного интеллекта. По его словам, сегодня к ИИ предъявляется меньше требований, чем к бытовой технике и продуктам питания. «Сейчас к вашей стиральной машине предъявляется больше требований безопасности, чем к ИИ. Каждая упаковка молока, которую вы видите в продуктовом магазине, должна соответствовать требованиям безопасности и проходить проверки. <…> Мы знаем, как это делать в отношении других продуктов. Нам следует опираться на эти знания и подумать о том, как применить их к искусственному интеллекту», — приводит Reuters слова Смита. В интервью BBC он предложил несколько мер: 🟠 Уведомлять о взломах. Если вредоносный ИИ-агент получит доступ к системе, пострадавшую сторону необходимо об этом уведомить. 🟠 Предусмотреть экстренную остановку. У систем ИИ должен быть механизм, позволяющий быстро остановить их в случае опасности. 🟠 Обязать компании сообщать об инцидентах. Такое требование Смит предлагает закрепить законодательно. По мнению Смита, ведущую роль в регулировании ИИ могла бы взять на себя Великобритания. В стране работает Институт безопасности искусственного интеллекта. Сегодня организация в рамках добровольных соглашений с разработчиками получает доступ к новым моделям еще до выпуска и оценивает их возможности и риски.