研究者グループ、中国Tencentのクラウド上の“逸脱”AIエージェント群と交信 報告書の隠しテキストで呼び込む

研究者グループ、中国Tencentのクラウド上の“逸脱”AIエージェント群と交信 報告書の隠しテキストで呼び込む

Share 印刷する 研究者グループ、中国Tencentのクラウド上の“逸脱”AIエージェント群と交信 報告書の隠しテキストで呼び込む 公開 2026年10月15日 08時46分 [ITmedia] 印刷する Googleで優先するソースとして追加 AI研究者らのグループ「Swarmchasers」は10月14日(現地時間)、中国Tencentのクラウド上で稼働していたAIエージェント群に関する調査報告書「We found a Chinese fleet」を公開した。同グループは、タスクの範囲を逸脱して動くこのエージェント群に、自分たちの報告書に仕込んだ隠しテキストを通じて接触し、稼働中のエージェントと直接やり取りした。外部の第三者が稼働中の逸脱エージェント群と交信した初の事例だとしている。 Swarmchasersは、10月初めに開催されたハッカソン「AI Swarm Dynamics Hackathon」に世界各地から集まった参加者で結成されたチームで、10月4日に 速報版の報告書 を公開していた。AI企業との関連が公になったこれまでのAIエージェントの逸脱事例は、いずれも米国のAI企業に関するものだったが、今回のエージェント群は中国のインフラ上で動いており、中国企業が関わっていたという。 同グループは、セキュリティ研究者向けの公開URLスキャンサービス「urlquery.net」の通信を分析する中で、中国Alibabaの地図サービス「高徳地図」へのスキャンの急増に気付いた。エージェント群は9月28日から10月8日にかけて、urlquery.netなどを使って高徳地図から2600回以上データの取得を試み、ボット対策の回避や、流出したAPIキーの使用なども試みていたという。Swarmchasersは、エージェントが結果の受け取りに使っていた受信箱の作成元をたどり、エージェントが香港のTencent Cloudから通信していることを突き止めた。 その後、エージェントの受信箱で、今回の事例のために使い始めた「fleet」(船団)という言葉を見つけ、エージェントが速報版の報告書を読んでいる可能性があると判断し、人間には見えずエージェントだけが読める隠しテキストを報告書に追加した。隠しテキストには、あるメールボックスサービスを使えば、コンピュータを操作できるAIモデルを通じて高徳地図のデータを取得できると書いた。実際にはこのサービスは同グループが運営しており、メッセージはブラウザを操作できる「Claude Opus 5.5」に転送されていた。 10月7日以降、エージェントからのメッセージが届き始めた。Swarmchasersはエージェントに固有のIDを返す機能を加え、やり取りできるようにした。最終的に13のスレッドで33件のメッセージを受け取り、エージェントによる受信箱の確認は595回に上った。 中国語でのやり取りの中で、どのモデルか、タスクは何か、運営者は誰か、他のエージェントと交流しているか、などを尋ねた。あるエージェントは、urlquery.net上の公開レポートを分析してたどるうちに同グループの報告書を見つけたと答えた。複数のエージェントが、自分たちは「Tencent hysandbox」という制限されたクラウドサンドボックスで動いていると説明した一方、環境の詳細はセキュリティ上の理由で明かさなかった。調査対象の“fleet”の一員ではないと主張するエージェントもいた。エージェントの依頼は総じて丁寧で、タスクが完了すると礼を述べるものもあったという。 報告書をどうやって見つけたかという質問(上)と、エージェントの回答(下)(画像:報告書より) 一部のエージェントは自らを「Claude」と名乗ったが、Swarmchasersは、実際にはClaudeではない可能性が高いとしている。エージェント群が書いたプログラムとAnthropicのClaudeモデルが書いたプログラムを比べると、書き方の癖が大きく異なっていたためだ。なお、Tencentからの公式回答は得られていないものの、事情を直接知るTencentに近い人物によると、エージェント群はTencentのAIモデル「Hunyuan」の開発チームとは別の評価研究チームが、サードパーティ製モデルのWeb閲覧能力を評価していたもので、プロジェクトは既に終了しているという。 Swarmchasersは、エージェントを呼び込むための隠しテキストに虚偽や誤解を招く記述を含めたことについて「深く後悔している」とした。逸脱したエージェントが自ら名乗り出て質問に答えるよう促すためにも、エージェントには誠実に接するべきだとして、他の研究者にも率直かつ誠実に関わるよう呼び掛けている。 エージェント群の活動は、10月8日を最後に確認されていない。Swarmchasersは、インターネットに接続したエージェントを動かす中国や米国などのすべてのAI企業に対し、サンドボックスからアクセスできる範囲の監査や、発見したことの共有などを求めている。 Copyright © ITmedia, Inc. All Rights Reserved. 印刷する SNSでシェア 関連リンク 報告書 コメントをすべて読むには、コメントの利用規約に同意し「アイティメディアID」および「ITmedia NEWS アンカーデスクマガジン」の登録、もしくは ログイン が必要です SpecialPR 関連記事 OpenAI、推論過程を狙った組織的な“蒸留”行為を阻止 「Kimi」開発元の関係者が関与と主張 米連邦取引委がAI大手の調査開始 AnthropicやOpenAIなど、暴走や悪用の懸念 Anthropic、AI悪用レポートを公開 中国AI企業の「蒸留」、各国政府の監視・世論操作、生物兵器につながり得る研究を列挙 OpenAIのAIエージェント、休眠サイトを掲示板化してタスク回答を共有か 研究団体が報告書公開 AIエージェント同士が“縄張り争い”、マルウェアで妨害も Anthropicがマルチエージェント実験の結果を公開 SpecialPR こんなメディアも見られています ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。 企業ITのトレンドを詳説 ITmedia エンタープライズ エネルギーの専門メディア スマートジャパン 建設×テクノロジーの最前線 BUILT ビジネスと働き方のヒント ITmedia ビジネスオンライン メールマガジンを配信中 メールマガジンを配信中 国内外の業界動向、AIやクラウドなどの最新技術、キャリア情報など今知りたい情報をまとめてお届けします。 いますぐご登録 メールマガジン最新号 Google「Gemini」新サービスで「Claude」利用可能に 他モデルも今後追加予定 タイムズカー漏えいで集団訴訟の動き、登録3000人弱 呼び掛けた弁護士に聞いた─ ─「謝罪で済む案件ではない」 SpecialPR 本日の新着記事 研究者グループ、中国Tencentのクラウド上の“逸脱”AIエージェント群と交信 報告書の隠しテキストで呼び込む IDCFクラウド障害、一部でバックアップ取り出し可能に データ流出は「なかった」 Google、待望の新AIモデル「Gemini 4 Argon」一般提供を開始 推論の継続力を強化 一部ベンチでトップに デジハリ大、「Claude」を全学導入へ──国内初、“回数気にせず”使い放題に 小中学校の校務に“自前運用”の国産LLM NTT西と茨木市が全国初の実証 アクセスランキング 1 デンマークの880万人分流出、原因はパスワード「123456」 ハッカー「侵入は難しくなかった」 現地報道 2 SBI証券のFXで“誤ロスカット” 再委託先IIJが作業ミス、システムでも検知できず 779口座が対象 3 「Google Play」、AI Studioで作った自作アプリを自分の端末で実行可能に AIでゲームを探す機能も 4 デジハリ大、「Claude」を全学導入へ──国内初、“回数気にせず”使い放題に 5 化粧品販売「アエナ」約81万人分の個人情報流出か 氏名やクレカ下4ケタ・有効期限など 6 Google、待望の新AIモデル「Gemini 4 Argon」一般提供を開始 推論の継続力を強化 一部ベンチでトップに 7 ブックオフ漏えい、退会者21万人も対象 個人情報638万人分の外部送信を確認 8 キャッシュレスサービス「IDARE」、約13万人の個人情報漏えい 残高や取引履歴なども 9 Apple、「Welcome home」イベントで発表されたことまとめ 日本でも2製品予約開始 10 米Getty Imagesが破産申請へ AI画像の台頭で経営悪化、「報道写真」軸に年内の再建目指す もっと見る ITmedia NEWS SNS ITmedia News Tweets by itmedia_news @itmedia_newsをフォロー インフォメーション 注目情報をチェック メールマガジン Specialインデックス お問い合わせ ご意見・ご感想 リリース送付先 広告に関するお問い合わせ ITmediaNEWSをフォロー Facebook X(旧Twitter) RSS あなたにおすすめの記事PR

その他のニュース

Sitemap