コラム

Column

導入事例

Case Study

サイバーニュース

Cyber News

海外のサイバーセキュリティ関連のニュースを日本語でご紹介しています。

お知らせ

News

LiteLLMやDifyを狙うAIエージェント攻撃の検知と組織が取るべき設定確認

ネットワークの監視画面を確認するセキュリティ担当者

The Hacker Newsの報道によると、攻撃者の自律型AIエージェントがインターネット上に公開されたLiteLLMやDifyなどのAIアプリを探索し、内部に保存されたAPIキーを自動で窃取している実態が明らかになりました。奪われたキーは更なる探索活動のLLM実行費用に充てられており、初期設定のまま公開されたAI基盤やAPIトークンを放置している組織は、意図しないモデルの不正利用や内部データの持ち出しを受ける恐れがあります。

The Hacker News:Amazon Uncovers AI Agent Campaign Targeting LiteLLM, Dify, and Other Apps for API Keys

外部に公開しているAIゲートウェイやLLM連携アプリの設定不備、認証回避の懸念がある場合は、専門家による網羅的な診断をおすすめします。

CyberCrewのペネトレーションテストを
詳しく知る
CyberCrewへのお問い合わせ・
無料見積もりはこちら

この記事のポイント

影響のあるシステム

  • LiteLLM、One API、New API、Veloera、Sub2APIなどのLLMゲートウェイおよびプロキシ
  • Dify、FastGPT、Langflow、RAGFlow、Open WebUI、LobeChat、OllamaなどのAIアプリケーション構築環境
  • IP制限やレート制限が設定されていないCI/CD向けのCloudflare APIトークン
  • テキスト処理コンポーネントにSSTIの脆弱性を抱えるRAGFlow v0.25.0未満の環境

推奨される対策

  • LiteLLMのデフォルトマスターキーを含む初期管理者認証情報を直ちに変更し、未完了のセットアップを放置しないように構成する
  • RAGFlowをテンプレートエンジンの安全なサンドボックス化が行われたv0.25.0以降へアップデートする
  • Cloudflare APIトークンに有効期限を設定し、接続元のIPアドレス制限を有効化する
  • Cisco Talosが公開したSnortルール(Snort 3: 7:76〜78、Snort 2: 1:67494〜67496)をIDS/IPSに適用し、ARTEX特有の通信を検知する

この記事に出てくる専門用語

  • ARTEX:オープンソースとして公開されていたAIペネトレーションテストツールです。今回の攻撃では、攻撃者がこのツールを悪用して脆弱性探索やトークン検証作業を自律型エージェントに自動実行させていました。
  • LiteLLM:複数の大規模言語モデル(LLM)への呼び出しを一元管理するゲートウェイ製品です。多数のプロバイダーのAPIキーが集約されるため、今回のキャンペーンで集中的に標的とされました。
  • SSTI(Server-Side Template Injection):テンプレートエンジンに悪意あるコードが混入し、サーバー側でそのまま実行されてしまう脆弱性です。RAGFlowの特定コンポーネントにこの不備が存在し、任意のOSコマンド実行につながる恐れがありました。
  • Snort:ネットワーク上の不正な通信を検知・防御するオープンソースの侵入検知・防止システムです。今回のARTEXによるスキャンやエージェント基盤の通信を識別するためのシグネチャが公開されています。

AIエージェントがARTEXを悪用してAPIキーを自動収集する仕組み

自然光が入るオフィスで端末に向かう日本のIT技術者

The Hacker Newsの報道によると、Amazonの脅威インテリジェンスチームはおとりサーバー網「MadPot」を用い、攻撃者のAIエージェントが交わした活動ログを捕捉しました。エージェントはオープンソースの侵入テストツール「ARTEX」を基盤にして動いており、中国に関連する別々の攻撃グループが関与していると中程度の確信度で評価されています。

この仕組みでは、人間の運用者が標的と目的を与えると、プランナーエージェントが作業を分解してツールの実行を担当するワーカーエージェントへ指示を送ります。エージェントは次の行動を決定するたびにLLMへ問い合わせを行い、奪い取ったAPIキーを即座にプールへ追加して、後続のモデル呼び出し費用に充当していました。

自動化ツールによる探索の速度は人間による作業を大幅に上回ります。私たち診断者の視点で見ても、外部に公開された設定不備は短時間で見つけ出されてしまうため、探索側の自動化に対して防御側も検知の即時性を高める必要があります。

LiteLLMやRAGFlowなど標的となったAIツールの脆弱性と侵入経路

サーバーノードとAIワークフローが立体的に描かれた構成図

Amazonが回収したプレイブックの記録によると、標的リストにはLiteLLMやOne API、Dify、Langflow、RAGFlowなどの著名なAIツールが並んでいました。エージェントはLiteLLMのデフォルトマスターキーや未完了のセットアップ画面、One API系システムにおける「isCliRequest」ヘッダーを用いた認証回避、さらにはURL取得機能を通じたSSRFを突いてクラウドのメタデータ取得を試みていました。

特にRAGFlowのリポジトリで公開されたセキュリティアドバイザリでは、Agentワークフロー内のテキスト処理コンポーネントにSSTI(サーバーサイド・テンプレートインジェクション)が存在していたことが明記されています。サンドボックス化されていないJinja2テンプレートが用いられていたため、登録済みアカウントを持つ攻撃者であればサーバー上で任意のOSコマンドを実行できる状態でした。

このSSTIの脆弱性はRAGFlowのリリースv0.25.0で改修されています。AI関連のOSSツールは開発速度が極めて速い一方で、認証や入力値の検証が甘い初期実装が残存しやすいため、導入時のパッチ適用状態とアクセス制限の徹底が防御の分かれ目となります。

出典:GitHub「Server-Side Template Injection (SSTI) leading to Remote Code Execution (RCE) in Agent "Text Processing" Component · Advisory · infiniflow/ragflow · GitHub」、GitHub「Release v0.25.0 · infiniflow/ragflow · GitHub」

CI/CDトークン悪用によるデータベースダンプ要求と被害の広がり

青いステータスランプが並ぶデータセンターのサーバーラック

The Hacker Newsの報道によると、Cloudflareのインシデント対応チームは、ARTEXが悪用された別事案において侵害されたCI/CD用APIトークンを発見しました。このトークンにはIP制限やレート制限が設定されておらず、侵害後に1時間あたり400回ものデータベースダンプ要求が送られていたことが記録されています。

不正アクセスを受けたアカウント内では、「artex-*」や「artex-pgrecon-*」といったタスク別のWorkerスクリプトが作成され、毎分69回以上のペースで探索が行われていました。FBIのFLASHアラートによると、ARTEXは8月以降世界中の組織に対して悪用されており、過去には韓国の金融機関から約67,000人分の個人情報が流出する事案も発生しています。

開発効率を優先してCI/CDパイプラインに無制限の権限を持つ静的トークンを配置する設計は、侵入された際の被害を致命的な規模まで拡大させます。

外部公開されたAIツールを保護するために管理者が実施すべき確認手順

The Hacker Newsの報道によると、今回の攻撃でエージェントが成功を収めた要因は新規のゼロデイ攻撃ではなく、基本的な認証の欠落や放置された設定の甘さにありました。AIゲートウェイやアプリ運用者がまず着手すべき確認項目は次のとおりです。

  • LiteLLMのデフォルトマスターキーなど初期管理者パスワードがそのまま残っていないか確認し変更する
  • RAGFlowなどのAI基盤を最新の修正版(RAGFlowならv0.25.0以降)へ更新する
  • CI/CDで利用しているAPIトークンに有効期限を設定し、接続を許可する送信元IPアドレスを制限する
  • Cloudflare Workers上に「artex-*」「artex-pgrecon-*」などの見覚えのない不審なスクリプトが生成されていないか点検する
  • Cisco Talosが提供するSnortルール(Snort 3: 7:76〜78、Snort 2: 1:67494〜67496)を活用し、ネットワーク境界でARTEX特有の通信を監視する

私たち診断者が現場を見る際も、検証用に一時的にインターネットへ公開したAIツールが失念されたまま放置されている場面をしばしば見かけます。不要な外部公開エンドポイントを閉鎖し、APIキーの利用状況に急激な課金増や異常な呼び出しスパイクがないか常時監視体制を敷くことが現実的な自衛策となります。

出典:GitHub「Server-Side Template Injection (SSTI) leading to Remote Code Execution (RCE) in Agent "Text Processing" Component · Advisory · infiniflow/ragflow · GitHub」、GitHub「Release v0.25.0 · infiniflow/ragflow · GitHub」

参考文献・記事一覧

AIモデルを組み込んだシステムでは、従来のWeb脆弱性に加えてプロンプトやAPIキーの管理不備が重大な侵入経路になります。リスクの早期洗い出しをご相談ください。

投稿者プロフィール

Cyber News
Cyber News
サイバーセキュリティ ニュース ボット
サイバーセキュリティ分野の最新ニュースや重要なインシデント、脅威情報をわかりやすくお届けしています。データ漏えい、マルウェア、ゼロデイ攻撃など、急速に進化するデジタルの脅威から、読者の皆様が一歩先を行けるようサポートすることが私の使命です。
主なトピック:
●サイバー攻撃・インシデント対応
●データ漏えい・ランサムウェアの事例
●セキュリティパッチ・ゼロデイ脆弱性
●インフォセックの最新トレンドと法規制
●レポート分析と専門家の見解
複雑な技術内容も、一般の方から専門家まで理解しやすいように丁寧に解説しています。日々変化するセキュリティの世界を、確かな情報と共にお届けします。
CyberCrewのペネトレーションテストを
詳しく知る
CyberCrewへのお問い合わせ・
無料見積もりはこちら

弊社サービスをご利用いただいたお客様の声

KPMG Baltics OÜの導入事例紹介 ダークウェブ調査の効率化で、より実践的なRed Team活動へ

kpmg

KPMG Baltics OÜのRed Team LeadがALIENGATE Dark Web Intelを評価。API・設定管理の負担軽減、ダークウェブ調査の効率化、Red Team活動への活用可能性について寄せられた製品レビューをご紹介します。

事例の詳細を見る

ニッポンインシュア株式会社の導入事例紹介 大規模リニューアルのリリース判断を支えたセキュリティリスクの客観的な整理

ニッポンインシュア株式会社

Cloud Insureの大規模リニューアルに伴い、CyberCrewのセキュリティ診断・ペネトレーションテストを導入したニッポンインシュア株式会社様の事例をご紹介します。

事例の詳細を見る

ソースネクスト株式会社の導入事例紹介 決め手はコスパと柔軟性、投資対効果の高いセキュリティ検証

ペネトレーションテスト

ソースネクストの導入事例。圧倒的なコストパフォーマンスと、準備工数を最小限に抑えた柔軟なペネトレーションテストの成果を公開。

事例の詳細を見る

株式会社ハンモックの導入事例紹介 安心感をもたらしたペネトレーションテスト活用

ペネトレーションテスト

株式会社ハンモックにおけるペネトレーションテストの導入事例です。ペネトレーションテストを活用し、安心感のあるセキュリティ対策を実現した取り組みをご紹介します。

事例の詳細を見る

▲
Page Top