LLMジャッキング攻撃、クラウドアカウントを乗っ取り安価にAIモデル利用を拡大

Google Threat Intelligence Group（GTIG）の研究者によると、ダークウェブのマーケットプレイスでAnthropic、Google、OpenAIなどの企業のAIモデルへのアクセスが最大97％割引で販売されている。これによりハッカーは高額な大規模言語モデル（LLM）を低コストで利用し、第三者を標的とする攻撃や推定月額200ドルのChatGPTやClaudeのプレミアムサブスクリプションを回避できる。

この攻撃手法は「LLMジャッキング」または「LLMハイジャッキング」と呼ばれ、ハッカーがクラウドアカウントを乗っ取り、自身のAIモデルをアップロードして第三者に対する攻撃を実行する。GTIGのジョン・ホルキスト上級分析官は、このような攻撃が急増しており、特に公開利用可能なAIツールの認証情報の売買や、犯罪グループによる無料でのAIモデル実行のためのリソース窃取が横行していると指摘する。

ホルキスト氏は、一部のマーケットプレイスがアカウントがブロックされた場合に新しい認証情報を無料で提供する「保証付きアクセス」を提供しているとし、中国のスパイグループがクラウドサーバーに侵入し、犠牲者のインフラ上でAIモデルを実行する「クリプトジャッキング」のような手法も確認されたと述べる。

サイバーセキュリティの専門家たちは、AIがサイバー犯罪の「商品」になりつつあると警告し、最小限の特権、グローバルなルール、厳密な人間の監督、継続的な監視が必要であると強調している。