Защита бизнеса теперь строится на уязвимостях нейросетей

Появление больших языковых моделей (LLM) автоматизировало одну из самых сложных и дорогих задач в кибербезопасности — реверс-инжиниринг. То, на что у квалифицированных специалистов уходили недели, сегодня может выполняться ИИ-агентами за минуты. В результате под ударом оказался фундамент защиты современного онлайн-бизнеса — скрипты, которые работают непосредственно в браузерах пользователей.

Уязвимость антифрод-модулей

Большинство современных сайтов серьезных компаний защищается от автоматизированных атак: массового выкупа дефицитных билетов, воровства цен конкурентами или накрутки фейковых отзывов. Для этого используются алгоритмы выявления мошенников.

Работает это так: когда человек открывает страницу вашей компании, сайт автоматически загружает в его браузер специальный защитный код на JavaScript. Эта программа работает прямо на компьютере или смартфоне посетителя. Она незаметно анализирует скорость кликов, траекторию движения мыши и параметры устройства, чтобы отличить реального покупателя от вредоносного бота.

До появления LLM этого было достаточно: восстановление исходного кода из запутанного состояния требовало глубокой экспертизы, времени и высоких затрат, что делало большинство атак на бизнес экономически нецелесообразными.

Как ИИ обесценил классическую защиту

Современные нейросети нивелировали этот барьер. Языковые модели с механизмами логического рассуждения воспринимают обфусцированный код иначе. ИИ-агенты способны за считанные минуты провести семантический анализ, восстановить исходную логику проверок и подсказать злоумышленнику, как сгенерировать корректные данные для обхода антифрода. Сразу отметим, что такое возможно, но на определенном спектре ИИ-агентов / LLM-моделей. Крупнейшие нейросети ведущих производителей, напрмиер OpenAI (ChatGPT) и Anthropic (Claude), ответят отказом на обход анти-бот системы по умолчанию в связи с политиками.

В результате классические методы обфускации, даже самые сложные, перестали быть надежной защитой. Автоматизация реверс-инжиниринга с помощью ИИ обрушила стоимость взлома, сделав атаки на бизнес-процессы массовыми и дешевыми.

Новые правила защиты: как противостоять LLM

Поскольку классическое усложнение кода больше не работает, индустрия кибербезопасности меняет вектор. Текущая задача —  сделать работу ИИ-агента невыгодной по ряду причин. Для этого применяются новые, LLM-ориентированные методы противодействия:

1. Атака на алгоритмы чтения. В код добавляются конструкции, которые браузер читает без проблем, но языковая модель воспринимает как бессмысленный шум. В итоге ИИ может некорректно определить или описать функциональность скрипта или его конкретных функций, воспринимая шумные фальшивые конструкции как часть настоящей функциональности.
2. Имитация угрозы для ИИ-фильтров. У публичных нейросетей есть жесткие внутренние запреты на создание вредоносного кода. Если внедрить в защитный код фрагменты, визуально напоминающие вредоносное ПО, внутренние фильтры безопасности LLM сработают, и она откажется помогать хакеру.
3. Перегрузка контекста. Защита выстраивается так, чтобы нейросети пришлось одновременно анализировать сотни тысяч ложных связей. ИИ теряет нить рассуждений, начинает выдавать ошибки («галлюцинировать») и приходит к невозможности воспроизвести корректный результат.
4. Промт-инъекция. В скрипт прячутся специальные невидимые команды. Когда алгоритм хакера их считывает, они заменяют команду злоумышленника на свою  и заставляют ее выдать злоумышленнику заведомо ложный результат.

Чек-лист для IT-директора

Абсолютной защиты от ИИ-анализа не существует, так как нельзя защититься от всех LLM, ведь у каждой свои совершенно разные политики — что работает в одной, не работает в другой.

Однако компания может выстроить барьеры, делающие реверс-инжиниринг экономически бессмысленным. Чтобы снизить риски, эксперты Servicepipe рекомендуют:

Провести аудит архитектуры безопасности. Убедитесь, что критичные бизнес-процессы (оплата, авторизация) не полагаются исключительно на браузерные проверки, а подкреплены строгой серверной валидацией.

Оценить актуальность обфускации. Если ваши скрипты защищены классическими методами маскировки 1–2 летней давности, для современного ИИ-агента это больше не преграда. Потому разумно провести внутренний LLM пентест. Например, дать специалистам внутри команды задачу совершить атаку на свои собственные ресурсы, разобрать алгоритмы или понять суть защиты только с помощью LLM (или преимущественно с помощью LLM), что даст реальную картину по ситуации, насколько на текущий момент компания защищена и что могут сделать злоумышленники.

Внедрить Anti-LLM механизмы. Защита должна быть сфокусирована на уязвимостях самих языковых моделей. Использование комбинированных подходов, ломающих логику машинного мышления, становится стандартом защиты.

Кроме того, нелишним будет быть в курсе событий — что теперь умеют LLM и как от этого защищаться. Например, изучать научные работы, блог-посты, твиты и заметки. Логика проста — чтобы внедрить Anti-LLM, предварительно их концепцию нужно где-то взять.

Вместо заключения

Искусственный интеллект дал злоумышленникам мощный инструмент для атак, но он же подсказал ИБ-специалистам новые векторы защиты. Выигрывает тот бизнес, который перестает полагаться на устаревшие подходы и начинает использовать уязвимости самих нейросетей против злоумышленников. Кибербезопасность сегодня — это интеллектуальная гонка, в которой важно быть на шаг впереди машинных алгоритмов, защищая свои данные, выручку и интеллектуальную собственность.

Источник: https://companies.rbc.ru/news/6tHZz9eWEf/lovushka-dlya-ii-teper-zaschita-biznesa-stroitsya-na-uyazvimostyah-nejrosetej/?ysclid=mrel4kqlq71210011