Дмитрий Служеникин
секретарь Консорциума исследований технологий безопасности ИИ
КОГДА СХОДЯТСЯ ЗВЕЗДЫ
Агентная война:
к 2030 году информационные баталии перейдут под контроль ИИ
Вы уже привыкли, что нейросети пишут стихи, рисуют котиков и отвечают на вопросы в чате? А теперь представьте: через несколько лет эти же алгоритмы будут вести настоящие информационные войны.
Не помогать человеку, а самостоятельно атаковать сознание целых социальных групп. Звучит как фантастика? Но готовиться к этому нужно уже сегодня, иначе мы рискуем оказаться неготовыми к новой реальности.
[1]
Не оружием единым
Помните, как еще недавно ботов в соцсетях было легко вычислить? Шаблонные фразы, одинаковые комментарии, неестественная активность — все это бросалось в глаза. Сегодня они стали куда хитрее: научились имитировать живую речь, подстраиваться под стиль общения, маскироваться под реальных людей. А завтра? Они превратятся в автономных агентов — целые армии ИИ, которые координируют атаки без участия человека. Аналитики сходятся во мнении: к 2030 году основной ареной боевых действий станет не земля и не воздух, а информационное поле. На практике это означает, что против нас будут воевать не солдаты, а алгоритмы, которые могут генерировать тысячи персонализированных фейков — например, поддельное видео с вашим знакомым, который якобы что-то пропагандирует.
Они способны находить самые уязвимые точки в сознании разных групп населения: подростков, пенсионеров, жителей конкретных регионов. И, конечно, для них не составит труда запускать скоординированные кампании, которые выглядят как стихийный всплеск общественного мнения, но на самом деле управляются из одного центра.

Это не гипотеза из фантастического фильма. Уже сейчас исследователи бьют тревогу, потому что популярные языковые модели все чаще выдают ложную информацию. За последний год доля таких «ошибок» в некоторых LLM выросла почти вдвое. И ошибаются пока еще «мирные» чат-боты. Что будет, когда их научат атаковать целенаправленно?
[2]
Что делать?
На первый взгляд, ответ очевиден: создать симметричную защиту. Но на деле все куда сложнее. Нам нужна система, где наши ИИ-агенты, работая автономно, смогут:
  • предсказывать поведение групп населения — например, как отреагируют студенты на тот или иной информационный посыл;
  • мгновенно нейтрализовать враждебные нарративы;
  • опережать противника на шаг.
Без этого мы рискуем оказаться безоружными перед новой реальностью. Представьте: завтра утром вы открываете соцсети, а там волна возмущения из-за «сенсационного» видео. Вы еще не успели разобраться, правда это или нет, а алгоритм уже подхватил волну и разнес ее по миллионам экранов.
[3]
Щит и меч нового времени
Какие инструменты помогут нам выстоять?
На мой взгляд, ключевыми станут две разработки, и обе требуют серьезной научной работы уже сейчас.
В краткосрочной перспективе
Представьте: вы создаете виртуальную копию реальной социальной группы — скажем, молодежи 18−25 лет в конкретном регионе.
Загружаете в модель открытые данные: посты в соцсетях, поисковые запросы, статистику покупок, погоду, курс валют. И получаете «цифрового двойника», который с высокой точностью предсказывает, как эта группа отреагирует на то или иное сообщение. Что это дает? Возможность «проиграть» информационную кампанию до ее запуска: увидеть слабые места, предугадать реакцию, отработать контрмеры.
Система обнаружения атак
Раньше ботов можно было вычислить по примитивным алгоритмам: слишком много лайков за минуту, одинаковые комментарии. Но когда атаку ведет умный агент, нужны другие методы. На помощь приходят графовые нейросети. Они анализируют не отдельные аккаунты, а всю сеть связей.
Что они умеют:
  • искать неестественные паттерны — например, 100 аккаунтов, синхронно поставивших лайки одному посту в течение минуты;
  • отслеживать семантику сообщений — не просто слова, а их эмоциональный заряд и скрытые сигналы;
  • выявлять скоординированные атаки, даже если каждый бот ведет себя почти как реальный человек.
Это как детектор лжи для соцсетей. Он не просто ловит отдельных ботов, а видит всю схему атаки целиком.
[3]
Ответственность vs Эксперимент
Но нельзя пускать в свободное плавание армию цифровых «джиннов». Нужны четкие «правила игры».
Предлагаю разделить все сферы на две зоны с разными уровнями автономии ИИ.
  • Зона запрета (Human in the Loop)
    Решения, связанные с риском для жизни людей, боевые задачи, управление АЭС, космическими аппаратами, системами жизнеобеспечения. Человек обязан оставаться в контуре управления. Здесь автономия ИИ допустима только как помощник: он предлагает варианты, а человек выбирает и несет ответственность.
  • Зона экспериментов
    Социальные сети, маркетинг, транспортная логистика. Здесь можно и нужно тестировать смелые инновации. И здесь допустима погрешность, но только если решение сертифицировано и прошло аудит.
[4]
Что в итоге?
К 2030 году страны, которые первыми освоят агентный ИИ, получат колоссальное преимущество в гибридной войне. Они смогут: наносить точечные, молниеносные удары по сознанию — например, запустить фейк, который вызовет панику в конкретном городе; находить и эксплуатировать наши когнитивные уязвимости — те самые точки, где мы наиболее восприимчивы к манипуляциям; создавать иллюзию «народной воли», управляя толпой через алгоритмы.
Наша же главная задача сегодня — не просто создавать «оборонные» ИИ. В конечном счете, самый надежный щит — это собственные инженерные кадры.

Мы должны готовить специалистов и выставлять требования к профессиональным стандартам для подготовки кадров, которые способны:
  • Не просто запускать готовые Python-библиотеки, а создавать архитектуру, где кремний уступает место фотону, а алгоритмы проектируются с учетом этики и безопасности;
  • Проектировать системы, где агент ведет диалог с агентом, а доверие к технологии закладывается в нее изначально;
  • Понимать, что гонка за вычислительными мощностями — не самоцель. Важнее надежность, прозрачность и этика.
Именно это, а не количество гигафлопс станет залогом нашего технологического суверенитета и безопасности в новую эру.
К содержанию диджитал книги