Лекарство и оружие в одном файле
Лекарство и оружие в одном файле Недавно я прочитал, что ИИ-модель выдала исследователям инструкции по биологическому оружию. А сегодня нашёл аналитическую статью РСМД, которая объясняет, почему такие истории появляются. Автор, Светлана Козюлина, начинает с эксперимента 2022 года. Программа MegaSyn создавалась для поиска новых лекарств. Она оценивала молекулы и отбраковывала токсичные. Исследователи решили проверить, что будет, если изменить одну настройку. Вместо того чтобы наказывать за токсичность, программе предложили её поощрять. Меньше чем за шесть часов на обычном ноутбуке она выдала около 40 тысяч молекул. Среди них оказался нервно-паралитический газ VX и тысячи ранее не описанных структур. Часть из них по расчётам могла быть токсичнее VX. Никто ничего не синтезировал. Эксперимент проводили как демонстрацию риска. Главная мысль статьи в том, что опасность может возникнуть задолго до появления вещества в лаборатории. Она существует уже на этапе данных, обучения модели и компьютерного проектирования. При этом польза ИИ в биологии огромна. Система AlphaFold за год предсказала структуры более 200 миллионов белков. Человечеству на это ушло бы многие десятилетия экспериментов. Препарат от лёгочного фиброза, разработанный с помощью ИИ, дошёл до клинических испытаний за 30 месяцев вместо обычных четырёх-пяти лет. Канадская система BlueDot предупредила клиентов о вспышке нового коронавируса за девять дней до заявления ВОЗ. Один и тот же инструмент может лечить и вредить. Всё решает то, кто его держит и с какой целью. Автор считает, что международные правила не успевают за технологиями. Конвенция о запрете биологического оружия создавалась для контроля над материальными объектами: лабораториями, штаммами, производствами. Она не рассчитана на ситуацию, когда опасная разработка существует в виде файла. Перед нами хорошая картина для Джйотиш. Раху в Водолее создаёт мощные технологии. Он усиливает любые возможности и не различает, куда они направлены. Скоро он перейдёт в Козерог, знак Сатурна, где важны правила, ответственность и проверка. Я надеюсь, что именно в этот период разговор о безопасности перейдёт от обсуждений к конкретным механизмам. Технологию остановить нельзя. Научиться обращаться с ней ответственно можно. Если пост полезен, поддержите реакцией. Всегда рад вашим комментариям.