Конечно, в наш бурный век невозможно пройти мимо агентского ИИ и его влияния на индустрию. И тут мы опять говорим о том, что никакие средства информационной безопасности еще ни разу не остановили развитие и использование ИТ-технологий. Мы наблюдали это с облаками, использованием персональных устройств и сейчас наблюдаем в рамках попыток контролировать использование ИИ.

Важным моментом является то, что даже самая развитая нормативная база тут тоже нам не помощница. Хотя бы по той причине, что, например, хакеры ей не руководствуются, а наоборот, используют в своих целях. Не буду сейчас залезать в историю про ИИ-пентесты и тому подобное. Хочется рассмотреть вопрос применения ИИ и необходимые механизмы контроля с более практической точки зрения: что именно нас ждет в ближайшие несколько лет.

Нам даны стремление, стратегия или просто уже привычка использовать агентский ИИ. Попытки компаний загнать всех сотрудников на внутрикорпоративный ИИ и/или набор строго разрешенных внешних моделей, да еще и с ограничениями, где что обрабатывать, рискуют оказаться слишком громоздкими. И мы опять упремся в человеческий фактор: люди делают, как им удобнее и проще, хотя борьба с этим идет веками. Нам надо ответить на вопрос: а как мы будем все это контролировать? Сразу скажу, что тут как раз свою роль должна сыграть разнообразная сегментация. Но, так как мы о ней говорим не один десяток лет, а воз и ныне там или, если и сдвинулся, только слегка и у самых разумных, то остановимся на другом.

Первое — это анализ обмена информацией, то есть что передают и получают агенты от моделей. Хотел написать, что не очень важно, внешних или внутренних, и понял, что это будет неправда. Безусловно, очень важно, кто именно контролирует конкретную модель — мы сами или, может быть, вообще другое государство. Это, кстати, возвращает нас назад, к вопросу сегментации.

Следующий этап обмена информацией — протокол обмена информацией. Мы неплохо научились разбираться с HTTP 1.1 и TLS 1.2. Только вот TLS 1.3, да еще и с ESNI, уже доставил нам много проблем с точки зрения идентификации взаимодействующих сторон и производительности такого анализа, а HTTP/2 и HTTP/3 лишили передаваемую информацию «человекочитаемости».

Кстати, а зачем нам этот текстовый вид? Конечно же, чтобы понять, не утекают ли наши бесценные персональные данные и другая важная информация во внешние модели, то есть выполнить еще и анализ контента. При этом необходимо учитывать не только информацию саму по себе, но и зависимость от категорий пользователей, места размещения и типа моделей и другие значимые факторы. Все это вместе мы назовем контекстом.

Итак, наше гипотетическое устройство сетевой безопасности должно знать, во-первых, наших пользователей, включая их роли, местоположение и многое другое. Во-вторых, оно должно знать о размещении разрешенных хотя бы моделей, как внешних, так и внутренних. Это необходимо для реализации ролевой модели доступа. И, в-третьих — должно подробно анализировать предварительно расшифрованный и преобразованный контент, да еще и знать новые протоколы прикладного уровня, такие как MCP.

Внешние, по отношению к СЗИ, модели вообще крайне спорная тема. Если они реализованы в виде сервиса, например облачный сервис вендора, то что защитит нас от утечек из него? Если же это модель, размещаемая у самого заказчика, то встает вопрос ее защиты, работы в распределенных системах, обновления, необходимых ресурсов — есть о чем подумать. Так что хорошо бы спрятать эту модель внутрь СЗИ. И тут мы опять вынуждены говорить не только о ресурсах, но и о математике — реализации самих моделей. То, что называется переходом от Large Language Models к Low Resource Models, то есть об использовании компактных, специализированных моделей с низким потреблением ресурсов. Такие, конечно, уже есть, и, я думаю, что это направление будет крайне активно развиваться в ближайшее время.

Если же мы вспомним про такие ресурсы, как потребляемая электроэнергия, необходимое место размещения, скорость вычисления, то тут интересно посмотреть еще на одну грань развития индустрии. А именно на FPGA (ПЛИС — программируемая логическая интегральная схема). Быстрый поиск говорит о том, что ИИ и тут не прошел мимо. А сценарий ровно такой, как нам надо, — применение специализированных моделей на границе сети для той самой производительности и экономии ресурсов. И вот пазл сложился. Устройство сетевой безопасности нашего недалекого будущего — прокси (контент, контекст, ролевая модель, ИИ-аналитика) с ПЛИСами на борту (скорость, конфиденциальность, экономия ресурсов).