Кибербезопасность сегодня входит в фазу структурной трансформации, переходя от защиты инфраструктуры и данных к защите цифровых экосистем, автономных агентов, моделей искусственного интеллекта и цепочек принятия решений. Искусственный интеллект становится одновременно и инструментом защиты, фактором ускорения атак, и самостоятельным объектом риска. По данным международных и отечественных исследований, ИИ уже является определяющим элементом ландшафта угроз, а эксплуатация уязвимостей остается одним из ключевых способов первичного доступа.

Исторически кибербезопасность развивалась от периметровой защиты к многоуровневой модели. Современный же этап отличается тем, что атаки становятся не только автоматизированными, но и адаптивными. Генеративный И И снижает стоимость затрат на фишинг, социальную инженерию, анализ уязвимостей и подготовку вредоносной инфраструктуры. Также отечественным экспертным сообществом отмечаются нарастающие сложности из-за геополитики, цепочек поставок, новых технологий и зрелости киберпреступности.

Большинство крупных организаций начнет активно применять интеллектуальные системы для анализа событий безопасности. Автоматизированные средства смогут выявлять подозрительные действия, группировать инциденты, определять приоритет угроз, а также предлагать сценарии реагирования.

Роль специалиста по безопасности постепенно сместится от ручной обработки данных к контролю качества решений автоматизированных систем.

Пароли постепенно утратят центральное значение, однако злоумышленники сосредоточатся на компрометации учетных записей, сеансов доступа, корпоративных коммуникаций, систем удаленной идентификации. Эта тенденция не нова — современные устройства уже предлагают генерацию паролей, которые человеку не нужно запоминать, но доступ к ним будет обеспечен посредством биометрии. Особую опасность будут представлять поддельные голосовые и видеосообщения, созданные с помощью искусственного интеллекта.

Появятся специализированные процессы проверки интеллектуальных систем, например анализ устойчивости моделей, контроль источников данных, проверка корректности ответов, защита автоматизированных помощников, аудит действий интеллектуальных систем.
Представляется неизбежным возрастание роли государственного регулирования в области применения искусственного интеллекта.

Государства начнут активнее регулировать использование искусственного интеллекта в критически важных системах. Будут вводиться требования к прозрачности работы моделей, хранению данных, ответственности за автоматические решения, а также защите инфраструктуры искусственного интеллекта.

В горизонте пяти лет предположительно появление автономных систем защиты: кибербезопасность постепенно перейдет к модели частично автономной защиты. Интеллектуальные системы смогут самостоятельно выявлять атаки, изолировать зараженные узлы, ограничивать распространение угроз, восстанавливать отдельные элементы инфраструктуры. Человек сохранит контроль над критическими решениями, однако значительная часть операций сможет выполняться автоматически.

В отечественной среде, предположительно, значительную долю безопасности будет обеспечивать владелец больших генеративных моделей, например «Сбер», «Яндекс». В случае противостояния автоматизированных систем кибератаки будут строиться как полностью автоматизированные цепочки действий — разведка, поиск уязвимостей, проникновение, распространение внутри инфраструктуры, сокрытие следов.

Защитные системы также станут автоматизированными, что приведет к противоборству на скоростях, недоступных человеку. Основным объектом защиты станет не только инфраструктура, но и процессы принятия решений. Защищаться будут модели искусственного интеллекта, обучающие наборы данных, вычислительные мощности, системы автоматизированного управления, цепочки поставок программного обеспечения.

Неизбежным следствием станут изменения требований к специалистам в области защиты ИИ. Наиболее востребованными станут специалисты, сочетающие знания в областях кибербезопасности, анализа данных, архитектуры искусственного интеллекта, автоматизации, математического моделирования. Возрастет значение междисциплинарной подготовки.

В ближайшие годы объем и скорость кибератак превысят возможности ручного анализа, поэтому значительная часть процессов защиты будет автоматизирована. Интеллектуальные системы начнут самостоятельно выявлять аномалии, анализировать инциденты и выполнять первичное реагирование. В целом в настоящее время на уровне топ-группировок и топ-корпораций данные методы уже работают, вскоре это перейдет на уровень ниже, как это обычно бывает.

Одновременно объектом атак станет не только инфраструктура, но и системы принятия решений. Компрометация моделей искусственного интеллекта сможет влиять на работу сервисов, искажать данные и нарушать управление цифровыми процессами. Особенно опасными станут персонализированные атаки с использованием поддельных голосовых и видеосообщений, созданных средствами генеративного искусственного интеллекта.

В среднесрочной перспективе кибербезопасность перейдет к частично автономной модели, где защитные системы смогут автоматически ограничивать распространение атак, изолировать инфраструктуру и инициировать восстановление. Человек при этом сохранит функцию стратегического контроля.
Ключевое значение приобретет защита цепочек доверия: источников данных, программного кода, моделей искусственного интеллекта и вычислительной инфраструктуры. Одновременно возрастет потребность в специалистах, сочетающих знания в области информационной безопасности, автоматизации и интеллектуальных технологий.

Таким образом, основой кибербезопасности будущего станет не только защита данных, но и обеспечение устойчивости цифровых систем в условиях постоянного автоматизированного противодействия.