Появившись как помощник, на которого возлагались большие надежды, в последние годы ИИ становится неотъемлемой частью арсенала киберпреступников. Хакеры используют автономных ИИ-агентов для автоматизации разведки, выбора целей и проведения многоступенчатых атак. Это кардинально меняет поверхность кибератак, ускоряя компрометацию данных, увеличивая возможный ущерб. Например, ИИ-управляемые программы-вымогатели достигают полной эксфильтрации данных в десятки раз быстрее, чем атаки, проводимые человеком.

Примером такой программы может служить PromptLock, обнаруженный в августе 2025 года. Скрипты запускаются на устройстве, позволяя программе анализировать содержимое файлов на диске, выгружать и шифровать выбранные данные. Использование И И в кибератаках приводит к резкому росту числа успешных инцидентов и увеличению ущерба для организаций по всему миру.

За несколько последних лет выросло число синтетических атак, таких как генерация дипфейков, создание синтетических личностей. Поддельные аудио- и видеозаписи позволяют имитировать доверенных лиц, открывая путь к компрометации даже хорошо защищенных инфраструктур. В июне 2025 года злоумышленники создали поддельный аккаунт в мессенджере Signal, используя имя и email, стилизованные под адрес госсекретаря США Марко Рубио.

С помощью ИИ хакеры сгенерировали голосовые и текстовые сообщения, имитирующие голос и стиль письма Рубио. С помощью мессенджера Signal и SMS-сообщений злоумышленники связались с тремя министрами иностранных дел, губернатором одного из штатов и членом конгресса. Цель атаки, по предположениям властей, могла заключаться в получении доступа к секретной информации или аккаунтам чиновников. Кто организовал данную атаку и как долго кто-то выдавал себя за Марко Рубио, до сих пор неизвестно.

В ближайшие годы число кибератак с использованием ИИ будет только расти. Под удар попадут такие отрасли, как телекоммуникации и ИТ-сектор, где компрометация одного крупного оператора способна затронуть миллионы пользователей и смежные отрасли, финансовый сектор, где хакеры используют ИИ для обхода антифрод-систем, проведения сложных атак с применением социальной инженерии и вымогательства, и, конечно, объекты КИИ, где атаки на автоматизированные системы могут привести к остановке производства. Госструктуры и органы власти остаются ключевыми целями как для кибершпионажа, так и для хакерских атак. Доступ к их информационным системам рассматривается как инструмент политического и экономического влияния.

Уже сейчас мы видим тенденцию снижения порога входа в киберпреступность, и в ближайший год новичку совершить кибератаку станет еще проще. Даже с минимальными техническими навыками с помощью ИИ можно будет запускать сложные, многоступенчатые атаки, что неизбежно приведет к росту числа атакующих. Тенденция автоматизации атак с помощью ИИ в ближайшие три года будет усиливаться, что позволит злоумышленникам быстрее проходить все этапы атаки — от разведки и поиска уязвимостей до внедрения и распространения вредоносного ПО. Эти два фактора развития киберпреступности приведут к тому, что атаки станут «конвейерными».

Злоумышленники смогут создавать фишинговые сообщения и дипфейки, максимально приближенные к реальным сообщениям, изображениям, видео, а также сценарии, основанные на социальной инженерии, которые будут учитывать особенности психики, жизненные ситуации и поведение атакуемого человека.

Быстрый и эффективный анализ больших данных в ближайшие три года приведет и к повышению эффективности обычных атак на информационную инфраструктуру. ИИ ускорит обнаружение дефектов инфраструктуры, что сократит время между обнаружением новой уязвимости и созданием готового эксплойта. Для создания эксплойтов также будут использованы технологии ИИ. Создание вирусов, стилеров, вымогателей и другого вредоносного ПО с помощью ИИ станет обычной практикой.

ИИ в кибератаках может быть использован не только для реализации самого деструктивного воздействия. В ближайшие три года хакеры станут использовать установленные на объекте технологии ИИ для реализации через них вредоносного воздействия. Появятся новые векторы кибератак, такие как отравление датасетов, манипуляции с весами моделей ИИ.

Необходимо продумать защиту от атак, как реализуемых с помощью ИИ, так и проводимых через ИИ. Уже сейчас можно обеспечить техническую защиту систем ИИ, внедряя современные системы мониторинга (SIEM/EDR/XDR и реагирования на инциденты), в том числе связанные с ИИ.

Необходимо проводить усиление инфраструктуры, минимизируя возможные пути развития атак, обеспечить защиту цепочки поставок программного обеспечения для ИИ-агентов, так как компрометация базовых библиотек уже стала реальностью. Для повышения эффективности киберзащиты также необходимо использовать технологи ИИ.

Они позволяют автоматически выявлять аномалии, анализировать огромные массивы данных в реальном времени, блокировать попытки взлома или отравления данных еще до нанесения ущерба, прогнозировать новые угрозы. Это ускорит реакцию на инциденты, поможет обнаруживать сложные атаки и снизить нагрузку на специалистов.

Необходимо помнить, что важную роль в современном мире ИБ играет человеческий фактор. Обучение персонала должно строиться на регулярных тренировках по распознаванию дипфейков, ИИ-фишинга и сценариев социальной инженерии. Внутри компании должна быть создана культура безопасности, где сообщение о подозрительном инциденте поощряется, а за ошибки не наказывают. Технические меры не будут эффективны без формирования новой культуры безопасности и международного сотрудничества. Необходимо выработать единые этические нормы и правовые рамки использования ИИ в различных отраслях промышленности.

Развитие ИИ приведет к тому, что кибератаки будут носить массовый характер, станут незаметнее и опаснее, а противостояние атакующего и защищающего ИИ утвердится новой нормой для информационной безопасности. Решающими факторами при росте числа и сложности атак станут быстрое обнаружение, реагирование и восстановление после инцидентов. В конечном счете будущее противостояния зависит от способности человечества выстроить систему сдерживания и противовесов, превратив искусственный интеллект из потенциального соперника в надежного партнера.