Вот что меня зацепило на этой неделе.
Вот что меня зацепило на этой неделе. Появилась информация, что крупнейшие игроки рынка искусственного интеллекта — в том числе OpenAI и Anthropic — в закрытом порядке готовятся к тому, что называют «катастрофическим инцидентом» с участием ИИ. Проводят учения. Просчитывают сценарии, в которых что-то идёт не так уже не на уровне «модель выдала ерунду в чате», а на уровне атаки на финансовую систему, интернет-сервисы, энергетику. Часть людей в отрасли прямо говорит: ждут большого инцидента в следующие шесть–двенадцать месяцев. Я читал это и поймал себя на странной мысли. Мы два года обсуждали ИИ как что-то, что забирает работу, пишет тексты вместо копирайтера и рисует картинки вместо дизайнера. А тут оказывается, что сами создатели боятся другого — не конкуренции за место, а того, что их же инструменты выйдут из-под контроля. И вот что интересно. Пока индустрия устраивает учения на случай катастрофы, обычный человек сталкивается с ИИ в совершенно бытовых местах. Я на днях просил модель разобрать старый код — и она ошиблась в мелочи, которую я заметил только потому, что сам понимал, что делаю. Ошибка была не страшная. Но она очень наглядно показала: чем меньше я понимаю в задаче, тем дороже мне стоит доверять ответу. Мне кажется, отсюда и растёт настоящий, а не медийный запрос на «умение работать с ИИ». Это не про то, чтобы знать, какую кнопку нажать. Это про то, чтобы сохранять собственное суждение рядом с инструментом. Уметь проверить. Уметь остановиться и сказать «нет, это неверно». ИИ здорово усиливает того, кто понимает, что делает, — и точно так же здорово усиливает того, кто не понимает. Поэтому учения больших компаний — это, как ни странно, не только про них. Это напоминание всем нам: пока инструмент остаётся инструментом, всё нормально. Плохо начинается там, где мы перестаём задавать вопросы. А вы замечали за собой, что доверяете нейросети больше, чем следовало бы? Поделитесь — интересно, у кого как.