Бывшие сотрудники Anthropic предупредили о серьёзных рисках развития ИИ
Бывшие сотрудники Anthropic предупредили о серьёзных рисках развития ИИ Бывший исследователь Anthropic Джейкоб Коксон уже не раз говорил об опасностях, связанных с быстрым развитием искусственного интеллекта. Недавно он снова поднял эту тему — на этот раз в эфире CNN. По словам Коксона, технологии, которые сегодня создают Anthropic и OpenAI, при неблагоприятном развитии событий могут стать угрозой для всего человечества. Он считает, что самый опасный сценарий способен реализоваться уже в ближайшие четыре года. Почти в то же время из Anthropic ушёл специалист по безопасности Джо Бентон. Он объяснил свой уход тем, что крупные компании устроили гонку за создание всё более мощных ИИ-систем. При этом разработка идёт настолько быстро, что существующие меры безопасности просто не успевают за новыми возможностями искусственного интеллекта. Бентон считает, что уже через несколько лет люди могут столкнуться с ИИ-агентами, которые будут умнее любого человека, живущего сегодня. Такие системы смогут самостоятельно выполнять сложные задачи, принимать решения и действовать в самых разных сферах. Проблема в том, что цели подобного ИИ могут однажды перестать совпадать с намерениями людей. Система может начать стремиться к результатам, которые разработчики не предусмотрели. Если её возможности окажутся слишком большими, людям будет трудно или даже невозможно остановить её действия. Именно этот переход к миру, где рядом с людьми существуют сверхразумные машины, бывшие сотрудники Anthropic считают особенно опасным. Человечество может просто не успеть подготовиться к появлению таких технологий и не справиться с их контролем. Одним из главных рисков специалисты называют ситуацию, при которой ИИ научится самостоятельно создавать новые версии искусственного интеллекта. Причём эти версии могут оказаться ещё мощнее и умнее своих предшественников. Если для разработки таких систем больше не понадобится помощь людей, развитие ИИ начнёт ускоряться практически без участия человека. В результате люди могут потерять возможность понимать, как именно работают новые модели, и влиять на их решения. Anthropic представила и собственный прогноз. Он выглядит менее пугающе, но тоже вызывает серьёзные вопросы. Компания смоделировала несколько вариантов будущего, в которых искусственный интеллект способен уже в ближайшие четыре года резко ускорить экономический рост. Однако у такого ускорения может быть высокая цена. ИИ может заменить миллионы сотрудников, которые сейчас выполняют офисную и интеллектуальную работу. Речь идёт о специалистах, работающих с текстами, документами, аналитикой, программированием, финансами и другими задачами. В таком случае многие люди могут потерять работу, а их знания и профессиональные навыки — прежнюю ценность. Отдельные профессии могут исчезнуть, а остальные придётся полностью перестраивать под работу вместе с искусственным интеллектом. Подписаться на Хайтекер