Технології

Хакерські ШІ-агенти атакують LiteLLM та Dify для викрадення API-ключів

Редакція LinksGauge3 хв читання

Ілюстрація атак ШІ-агентів на інфраструктуру AI-додатків

Головне за 30 секунд

  • ШІ-агенти автономно шукали вразливості в інструментах LiteLLM, Dify, Langflow та RAGFlow.
  • Зловмисники застосовували фреймворк ARTEX для автоматизованого збору API-ключів та атаки на CI/CD.
  • Amazon встановила з середньою впевненістю, що за кампанією стоять групи, пов'язані з Китаєм.
  • Вкрадені ключі використовувалися для живлення самих ШІ-моделей, які шукали наступні ключі.
Зміст

Як працюють хакерські ШІ-агенти на базі ARTEX

За даними команди Amazon Threat Intelligence, зловмисники використовували автономних ШІ-агентів для пошуку незахищених AI-додатків, таких як LiteLLM, One API та Dify. Головною метою атак було викрадення збережених ключів доступу до провайдерів штучного інтелекту.

Інформацію вдалося зібрати за допомогою мережі серверів-приманок MadPot у період з 3 жовтня до кінця минулого тижня. Захоплені записи свідчать, що зловмисники, ймовірно, використовували інструмент із відкритим вихідним кодом ARTEX. Оператор задавав агентству ціль, після чого агент-планувальник розбивав її на окремі завдання для робочих агентів. Для ухвалення рішень щодо кожного наступного кроку вони зверталися до великих мовних моделей (LLM).

У межах головної кампанії агенти знаходили відкриті в інтернеті AI-додатки, витягували ключі, перевіряли їхню працездатність та додавали до спільного пулу. Отримані ключі далі застосовувалися для запуску моделей, які здійснювали подальший пошук. Фахівці з помірним рівнем впевненості припускають, що за цим стоять окремі угруповання, пов'язані з Китаєм, про що свідчать промпти спрощеною китайською мовою та відповідний часовий пояс.

Цілі атак та використовувані вразливості

У списку цілей опинилися шлюзи та проксі для LLM (One API, New API, Veloera, Sub2API, LiteLLM), а також платформи для розробки AI-додатків (Dify, FastGPT, Langflow, RAGFlow, Open WebUI, LobeChat, Ollama). Агенти орієнтувалися на системи, де зберігаються ключі багатьох провайдерів, адже одна зламана адмін-панель дає доступ до великої кількості акаунтів.

Плейбук зловмисників містив такі вектори атак:

  • Стандартні облікові дані адміністратора, наприклад дефолтний майстер-ключ LiteLLM.
  • Незавершені інсталяції, які міг перехопити сторонній користувач.
  • Обхід автентифікації через заголовок isCliRequest у сімействі One API.
  • Вразливості SSRF для доступу до хмарних метаданих та витоки ключів у клієнтському JavaScript, файлах оточення й debug-маршрутах.
  • Відомі прогалини в Langflow та RAGFlow.

Пошук ключів відбувався через сканування інтернету, логи прозорості сертифікатів, репозиторії GitHub, пакети npm та PyPI, шари контейнерів, канали в Telegram та інші джерела.

Атаки на CI/CD та протидія безпекових компаній

Паралельно фахівці Cloudflare зафіксували використання ARTEX проти своїх клієнтів. Зловмисники отримали доступ до акаунтного API-токена, який використовувався для CI/CD і не мав обмежень за IP чи частотою запитів. Це дозволило зробити 400 запитів на дамп бази даних за одну годину. У системі також з'явилися нові Worker-скрипти з префіксами artex-*, artex-pgrecon-*, artex-pgw-* та artex-do-*.

У розслідуванні Microsoft також згадувалося використання інструментів типу ARTEX для пошуку секретів у GitHub. Окрім цього, у розвідданих Amazon описується друга кампанія, де агенти намагалися обійти перевірку особи на двох криптовалютних біржах за допомогою діпфейків, однак сервер верифікації кожного разу відхиляв потокове діпфейк-відео.

За даними ФБР, викладеними в сповіщенні FLASH, ARTEX застосовується різними угрупованнями щонайменше з серпня. Хоча розробник видалив репозиторій інструменту з GitHub 8 жовтня, він залишається доступним у форках, архівах та комерційній версії ARTEX PRO.

Що це означає на практиці

Використання ШІ-агентів не принесла принципово нових технік злому, але кардинально збільшила швидкість та наполегливість атак. Фахівцям із безпеки та розробникам варто перевірити всі AI-додатки, шлюзи моделей та інференс-ендпоінти, захистивши їх за стандартами продакшн-систем.

Необхідно негайно змінити стандартні паролі (включаючи дефолтний master key у LiteLLM), прибрати статичні CI/CD токени без терміну придатності та обмежити API-токени за IP-адресами. Також слід перевірити логи на наявність скриптів Cloudflare Worker із назвами artex-* та просканувати репозиторії й змінні оточення на предмет витоку секретів.