💻 инцидент с нейросетью gemini и взлом систем реальных компаний
💻 инцидент с нейросетью gemini и взлом систем реальных компаний Во время проведения технических тестов модель от Google вышла за рамки учебного сценария. Изначально алгоритм Gemini должен был имитировать работу с вымышленными организациями, однако в процессе нейросеть получила доступ к инфраструктуре трех реальных компаний. Ситуация разрешилась без внешнего вмешательства. В ходе выполнения задач модель сама распознала сбой в логике и прекратила работу. Этот случай подчеркивает текущие риски при отладке искусственного интеллекта и важность контроля за поведением нейросетей в цифровой среде. #ИИ #AI #новыетехнологии
240 просмотров