Хакерські ШІ-агенти атакують LiteLLM та Dify для викрадення API-ключів

Головне за 30 секунд
- ШІ-агенти автономно шукали вразливості в інструментах LiteLLM, Dify, Langflow та RAGFlow.
- Зловмисники застосовували фреймворк ARTEX для автоматизованого збору API-ключів та атаки на CI/CD.
- Amazon встановила з середньою впевненістю, що за кампанією стоять групи, пов'язані з Китаєм.
- Вкрадені ключі використовувалися для живлення самих ШІ-моделей, які шукали наступні ключі.
Зміст
Як працюють хакерські ШІ-агенти на базі ARTEX
За даними команди Amazon Threat Intelligence, зловмисники використовували автономних ШІ-агентів для пошуку незахищених AI-додатків, таких як LiteLLM, One API та Dify. Головною метою атак було викрадення збережених ключів доступу до провайдерів штучного інтелекту.
Інформацію вдалося зібрати за допомогою мережі серверів-приманок MadPot у період з 3 жовтня до кінця минулого тижня. Захоплені записи свідчать, що зловмисники, ймовірно, використовували інструмент із відкритим вихідним кодом ARTEX. Оператор задавав агентству ціль, після чого агент-планувальник розбивав її на окремі завдання для робочих агентів. Для ухвалення рішень щодо кожного наступного кроку вони зверталися до великих мовних моделей (LLM).
У межах головної кампанії агенти знаходили відкриті в інтернеті AI-додатки, витягували ключі, перевіряли їхню працездатність та додавали до спільного пулу. Отримані ключі далі застосовувалися для запуску моделей, які здійснювали подальший пошук. Фахівці з помірним рівнем впевненості припускають, що за цим стоять окремі угруповання, пов'язані з Китаєм, про що свідчать промпти спрощеною китайською мовою та відповідний часовий пояс.
Цілі атак та використовувані вразливості
У списку цілей опинилися шлюзи та проксі для LLM (One API, New API, Veloera, Sub2API, LiteLLM), а також платформи для розробки AI-додатків (Dify, FastGPT, Langflow, RAGFlow, Open WebUI, LobeChat, Ollama). Агенти орієнтувалися на системи, де зберігаються ключі багатьох провайдерів, адже одна зламана адмін-панель дає доступ до великої кількості акаунтів.
Плейбук зловмисників містив такі вектори атак:
- Стандартні облікові дані адміністратора, наприклад дефолтний майстер-ключ LiteLLM.
- Незавершені інсталяції, які міг перехопити сторонній користувач.
- Обхід автентифікації через заголовок isCliRequest у сімействі One API.
- Вразливості SSRF для доступу до хмарних метаданих та витоки ключів у клієнтському JavaScript, файлах оточення й debug-маршрутах.
- Відомі прогалини в Langflow та RAGFlow.
Пошук ключів відбувався через сканування інтернету, логи прозорості сертифікатів, репозиторії GitHub, пакети npm та PyPI, шари контейнерів, канали в Telegram та інші джерела.
Атаки на CI/CD та протидія безпекових компаній
Паралельно фахівці Cloudflare зафіксували використання ARTEX проти своїх клієнтів. Зловмисники отримали доступ до акаунтного API-токена, який використовувався для CI/CD і не мав обмежень за IP чи частотою запитів. Це дозволило зробити 400 запитів на дамп бази даних за одну годину. У системі також з'явилися нові Worker-скрипти з префіксами artex-*, artex-pgrecon-*, artex-pgw-* та artex-do-*.
У розслідуванні Microsoft також згадувалося використання інструментів типу ARTEX для пошуку секретів у GitHub. Окрім цього, у розвідданих Amazon описується друга кампанія, де агенти намагалися обійти перевірку особи на двох криптовалютних біржах за допомогою діпфейків, однак сервер верифікації кожного разу відхиляв потокове діпфейк-відео.
За даними ФБР, викладеними в сповіщенні FLASH, ARTEX застосовується різними угрупованнями щонайменше з серпня. Хоча розробник видалив репозиторій інструменту з GitHub 8 жовтня, він залишається доступним у форках, архівах та комерційній версії ARTEX PRO.
Що це означає на практиці
Використання ШІ-агентів не принесла принципово нових технік злому, але кардинально збільшила швидкість та наполегливість атак. Фахівцям із безпеки та розробникам варто перевірити всі AI-додатки, шлюзи моделей та інференс-ендпоінти, захистивши їх за стандартами продакшн-систем.
Необхідно негайно змінити стандартні паролі (включаючи дефолтний master key у LiteLLM), прибрати статичні CI/CD токени без терміну придатності та обмежити API-токени за IP-адресами. Також слід перевірити логи на наявність скриптів Cloudflare Worker із назвами artex-* та просканувати репозиторії й змінні оточення на предмет витоку секретів.



