🛡️ «Критический уровень»: почему OpenAI боится свою же модель
🛡️ «Критический уровень»: почему OpenAI боится свою же модель Когда-то взлом банка выглядел как сцена из фильма: гений за монитором, недели подготовки. Помню по работе в банке — защита держалась на том, что атакующему нужен человек: опытный, дорогой, медленный. На прошлой неделе OpenAI тихо сдвинула эту рамку. 3 сентября вышла GPT-6 Astra — и впервые в отчёте компании модель названа достигшей «критического» уровня киберспособностей. Как это работает на самом деле У OpenAI есть внутренняя лестница риска из четырёх ступеней: низкий, средний, высокий и критический уровень. «Критический» — это когда ИИ сам, без подсказки человека, может провести атаку уровня сильной хакерской команды: найти уязвимость, обойти защиту, закрепиться в системе. Astra — первая модель, добравшаяся до этой ступени. Аналогия из жизни Вам привезли станок, который за минуту снимает любой замок. Сам по себе он нейтрален — но вы не отдадите его без проверок. Поэтому OpenAI выкатила Astra с усиленными предохранителями и ограничениями: способности выросли — защита вокруг них тоже. Мой вывод. Мы привыкли бояться, что ИИ «поумнеет и захватит мир». Реальность скучнее и тревожнее: он становится просто идеальным инструментом взлома, и всё решает, в чьи руки он попадёт. Как пишут в OpenAI, главный тест теперь — не мощность модели, а предохранители вокруг неё. Как думаете, ограничения реально удержат такую модель — или это самоуспокоение? #ИИ #кибербезопасность