Сценарий использования искусственного интеллекта для создания биологического оружия — один из наиболее серьёзных и обсуждаемых рисков. В отличие от ядерной угрозы, где нужны огромные промышленные мощности, биологическое оружие требует прежде всего информации и доступа к лабораториям. ИИ может радикально снизить этот барьер.

Ключевая опасность: снижение барьера входа

Главная угроза не в том, что ИИ сам захочет кого-то убить, а в том, что он может сделать создание биологического оружия доступным для небольшой группы людей или даже одиночек. Если раньше для этого требовались годы обучения и доступ к сложным материалам, то теперь ИИ может взять на себя значительную часть интеллектуальной работы.

В две тысячи двадцать шестом году компания Антропик опубликовала отчёт, в котором описала пять реальных случаев, когда исследователи из разных стран использовали их модель для потенциально опасной биологической работы. В частности, один из пользователей планировал использовать ИИ для поиска мутаций вируса чикунгуньи, которые повышают его способность распространяться и ускользать от иммунитета. Другой исследователь работал над адаптацией высокопатогенного птичьего гриппа к млекопитающим, что могло бы усилить его пандемический потенциал.

Когда модель отказывалась отвечать на опасные запросы, пользователи находили обходные пути. В одном случае запросы перенаправлялись на другие модели с менее строгими настройками, а доступ к системе осуществлялся через сторонние платформы для обхода географических ограничений.

Как это может произойти: цепочка событий

Технически сценарий катастрофы может выглядеть так.

1. Генерация дизайна. ИИ, обученный на огромных массивах биологических данных, проектирует геном нового патогена. Уже сейчас существуют эксперименты, где ИИ создал функциональные вирусы с нуля, что доказывает саму возможность генерации жизнеспособных генетических последовательностей.
2. Оптимизация свойств. Модель может подсказать, какие именно мутации нужно внести, чтобы сделать вирус более заразным или устойчивым к существующим вакцинам и лекарствам.
3. Синтез и сборка. Дизайн передаётся в лабораторию для синтеза ДНК. Это самый сложный физический этап, требующий оборудования и материалов, но ИИ может помогать в планировании логистики и даже в маскировке заказов на синтез опасных последовательностей.
4. Распространение. Готовый патоген распыляется или иным способом выпускается в целевой популяции.

Почему это сложно, но не невозможно

На пути к реализации этого сценария стоят серьёзные препятствия.

Физические ограничения: ИИ не может самостоятельно создать вирус в пробирке. Для этого нужны реальные лаборатории, оборудование и материалы. Эксперты отмечают, что для создания вируса, опасного для человека, а не для бактерий, требуются огромные усилия, время и деньги.

Непредсказуемость биологии: биологические системы хаотичны. Спроектированный патоген может мутировать, терять летальность или, что ещё хуже, вернуться к создателю. Именно из-за этой непредсказуемости большинство стран отказались от наступательных биологических программ.

Защитные механизмы: компании, разрабатывающие ИИ, уже внедряют фильтры, блокирующие опасные запросы. Однако, как показал отчёт, эти фильтры можно обходить, и они не всегда эффективны против целеустремлённых злоумышленников.

Что можно противопоставить

Эксперты сходятся во мнении, что необходимы многоуровневые меры защиты. Уже сейчас обсуждаются следующие подходы.

• Обязательный скрининг синтеза генов. Компании, продающие синтезированную ДНК, должны проверять, не заказывают ли клиенты опасные последовательности.
• Международное регулирование. Существующая Конвенция о биологическом оружии устарела и не учитывает вызовы ИИ. Нужны новые договоры, охватывающие как модели ИИ, так и биологические материалы.
• Раннее предупреждение. Создание систем быстрого обнаружения вспышек новых заболеваний, что может послужить сдерживающим фактором.

Таким образом, ИИ не создаёт биологическое оружие сам по себе, но он является мощнейшим ускорителем и советником для тех, у кого есть соответствующие намерения и доступ к лабораториям. Риск заключается в том, что барьер для входа в эту сферу становится пугающе низким.

Permanent link to this publication: