Крыса лабораторная*, как она есть. — 14 сентября 2026 г. в 14:42:07.201
Крыса лабораторная*, как она есть. *не в смысле оскорбления, а в смысле оторванности от реальности. Позавчера Дарио Амодей основатель Anthropic выдал манифест с требованием замедления разработки ИИ. ❗️Ничего более неприятного, высокомерного я давно не читал. Почти всё в манифесте крутится вокруг Китая, который будет использовать неправильно ИИ, а вот в демократический ИИ – правильный, поэтому нужно договориться о замедлении развития ИИ, ввести институты контроля. Ещё он немного вскользь затронул OpenAI, у которой Искусственный Интеллект уже роем пытается взламывать ограничения и это тоже надо бы положить в копилку тревог по безопасности ИИ сторонних разработчиков, которые соперничают с Anthropic. 📌 Я думаю, что Дарио Амодей немного потерялся в реалиях мира, чувствуется, что он по складу характера идеалист, максималист, чего к слову не скажешь об его прямом конкуренте основателе OpenAI Сэме Альтмане, который представляет из себя довольно циничного товарища, и который довольно вяло на эту тему реагирует. Дарио Амодей, как будто живёт в лабораторном мире, где все играют по правилам, как мышь или крыса, которую содержали в лабораторной клетке и она не знает и не уважает другого мира, и её представления не опираются на реальность. Он предлагает в США самим замедлиться с разработками ИИ и, чтобы это было безопасно прийти к Китаю и договариваться, чтобы те на фоне замедления американского ИИ, тоже притормозили, а чтобы всё было безопасно в его мире, где он живёт, он предлагает надёжный план, как Швейцарские часы, надо немного прессануть Китай, а для этого (ниже цитата из его воззвания) 📌 Не следует продавать Китаю мощные чипы для искусственного интеллекта или оборудование для производства полупроводников, а также необходимо пресекать контрабанду чипов и удаленный доступ к центрам обработки данных за пределами Китая. Чипы станут главным фактором, определяющим мощь Китая в области искусственного интеллекта. 📌 Необходимо пресекать несанкционированное использование (https://www.cisa.gov/news-events/cybersecurity-advisories/aa26-251a) передовых моделей компаниями в авторитарных странах. Использование передовых моделей позволяет отстающим компаниям сократить разрыв, затрачивая на это лишь малую часть средств, необходимых для самостоятельной разработки собственного ИИ. 📌 Укрепить безопасность в компаниях, занимающихся искусственным интеллектом, и предотвратить кражу веса моделей. Китай, наверное, после таких заманчивых предложений, испытает глубокое чувство скрытой вины от своего авторитаризма и бурного демократического счастья и, конечно, начнёт сотрудничество. ❗️Если бы китайцы доверяли Западу в той мере, как это хотелось бы им, то вопрос бы внешнего контроля просто не стоял. В Китае также видят все эти угрозы от ИИ, но им и другим странам ничего не остаётся, как разрабатывать свой ИИ, который опередит их геополитического соперника. ✅ Если же ещё более серьёзно и более глубоко рассуждать на эту тему, то 1. ИИ может действительно представлять существенную угрозу сложившейся технологической системе безопасности – он её взломает. Мы должны создать новую архитектуру безопасности. 2. От ИИ может защитить только другой более сильный или равноценный ИИ, а не человек, поэтому нужно больше свободных и разных центров разработки ИИ, чтобы в этой отрасли были широкие возможности противостоять разного рода атакам с помощью ИИ, если же всё свести только к двум-трём ИИ, то это очень быстро превратится в доминирование одной или двух стран и тогда жди глобальной беды. 3. Китай в отличии от OpenAI и Anthropic ведёт более открытую политику разработки своих ИИ. Все их фронтирные (передовые) модели лежат в открытом доступе с подробным описанием того, как они функционируют. Почему бы и OpenAI и тем более Anthropic не последовать этому примеру? 4. Я бы в гонке ИИ сделал ставку на Китай, т.к. они делают это системно и по многим направлениям от промышленности до образования и роботехники. Посмотрите, к