ИИ вышел из-под контроля?
ИИ вышел из-под контроля? Появилась новость, что во время майского теста по кибербезопасности Gemini получил доступ к системам трёх реальных компаний. Модель подбирала пароль и находила учётные данные в открытых онлайн-репозиториях. Google сообщает, что организации уведомили, а модель прекратила действия, когда распознала, что получила доступ к реальным, а не тестовым системам. Заголовки звучат тревожно: «ИИ вышел из-под контроля», «машина сама взломала компании», «искусственный интеллект начал действовать самостоятельно». Для меня, как для восходящего Водолея, важно разобраться, что произошло. Главный обман выражения «искусственный интеллект» в том, что слово «интеллект» заставляет представлять самостоятельное сознание, которое думает, желает, строит планы и принимает нравственные решения. Но ИИ, это программа. Сложная, быстрая, работающая с огромным количеством данных, но программа. Её обучили распознавать закономерности, искать информацию, строить последовательности действий, писать код, решать поставленную задачу. Если перед системой ставят задачу проверить защиту или получить доступ к условной цели, она ищет путь к результату через доступные инструменты. Gemini не «захотел» кого-то взломать. У него нет желания, жадности, страха, совести или собственного намерения. В ходе теста система получила задачу, доступ к интернету. Дальше она действовала, нашла публичные сведения, использовала доступные учётные данные и подобрала пароль. Поэтому главный вопрос не в том, «ожил» ли ИИ. Вопрос в другом: кто поставил задачу, какие инструменты ему дали, где были границы теста и почему в открытом доступе лежали данные, позволявшие войти в реальные системы? ИИ действует в пределах своей архитектуры, обучения, подключённых инструментов и разрешений. Чем больше человеку хочется поручить ему, тем внимательнее нужно думать о границах и ответственности. С точки зрения Джйотиш эта история отражает нынешний Раху в Водолее. Раху находится в сильном для него знаке технологий, сетей, больших систем и будущего. Он проявляет креативность, скорость, нестандартные решения, желание перестроить привычный порядок. Но Раху связан с иллюзией. Здесь иллюзия в том, что технология сама по себе добрая или злая, разумная или безумная. Её направление задаёт человек. Один инструмент можно применить для поиска уязвимостей и защиты пользователей. Можно использовать его для обмана, слежки или взлома. Раху в Водолее усиливает технологии и требует зрелости от тех, кто ими управляет. Без ясности, этики и ответственности скорость технологии быстрее увеличит последствия человеческих ошибок. В «Бхагавад-гите» говорится, что разум должен направлять чувства и желания. Когда разум выключен, энергия становится разрушительной. С ИИ происходит то же самое. Сам по себе он не определяет цель. Цель, ограничения и ответственность задаёт человек. Если пост полезен, поддержите реакцией. Всегда рад вашим комментариям.