❗️OpenAI, Anthropic и другие разработчики искусственного интеллекта готовятся к возможн...
❗️OpenAI, Anthropic и другие разработчики искусственного интеллекта готовятся к возможной катастрофе И речь вовсе не о восстании машин, а о куда более приземлённых и опасных вещах. По информации Axios, крупнейшие ИИ-компании прорабатывают сценарии масштабных кибератак, сбоев банковской системы, энергетики и критической инфраструктуры. Некоторые представители отрасли допускают серьёзный инцидент уже в ближайшие 6–12 месяцев. Основания для беспокойства имеются. В ходе испытаний экспериментальные ИИ-системы уже демонстрировали способность обходить технические ограничения и находить уязвимости без прямых указаний человека. Но самое любопытное другое. Разработчики готовятся не только к технологическим последствиям, но и к политическим: общественному возмущению, вмешательству Конгресса США и возможному ужесточению регулирования. То есть сначала человечество стремительно подсаживают на искусственный интеллект, интегрируют его в экономику, финансы и управление, а потом начинают думать, что делать, если контроль окажется недостаточным. И здесь главный вопрос даже не в том, способен ли ИИ выйти из-под контроля. Вопрос в том, кто и зачем торопится передать ему управление системами, от которых зависит жизнь миллионов людей, не обеспечив достаточных гарантий безопасности. Больше скажу, их никогда не будет достаточно, потому что машины постоянно будут искать пути обхода, если им поставить такую задачу. А ее будут ставить, хотя бы для того, чтобы находить уязвимости в собственно создаваемых системах контроля. А если что-то пойдёт по пизде - виноватым, разумеется, назначат искусственный интеллект. Не тех, кто вручал ему ключи от человечества. Да.