今日は「AIが攻撃にも使われる時代」を実感させるニュースが中心です。安全保障や著作権をめぐる動きとあわせて、4本を紹介します。

1. 1人の攻撃者がAIエージェントで100社以上のサイトに侵入 — 費用は約5,000ドルと推計

何が起きた?

ロイター通信が10月19日、ノルウェーのセキュリティ企業NorForgeの調査をもとに、中国語を使う1人の攻撃者がAIエージェントを使って100社以上のWebサイトに侵入していたと報じました。報道によると、攻撃者は「Cairn」という公開されている(オープンソースの)AIエージェントの仕組みを使い、短い指示を出すだけで、エージェントが弱点探しから侵入までを段階的に進めていたとされます。

調査では、試みた対象は1,200サイト超、AIの利用料は合計で約5,000ドル(1件の成功あたり約50ドル)と推計されています。主な狙いは米国・カナダ・日本・オーストラリアのネットショップで、決済まわりに長く居座るための仕掛けを置こうとしていたと分析されています。被害を受けたとされる企業の一部は「重要な情報への接触は確認されていない」「影響は限定的で対処済み」などと説明しています。なお、費用や被害の規模はあくまで調査会社の推計で、使われたAIモデルの組み合わせも完全には特定されていません。

なぜ重要?

これまで大規模な攻撃には、腕のある人とたくさんの時間が必要でした。AIエージェントが作業の大半を肩代わりすると、少ないお金と人手で、多くの相手を同時に狙えるようになります。日本のネットショップも標的に含まれていたとされ、他人事ではありません。また今回は、攻撃者自身がエージェントの管理画面をネット上にむき出しのまま放置していたことから発覚しました。AIを使う側の「設定の甘さ」が攻撃の手がかりにも、発覚のきっかけにもなった形です。

ひとこと解説

AIエージェントは、目標を伝えると、自分で手順を考えて道具を使いながら作業を進めるAIのことです。便利な半面、悪い目的にも使えてしまう「両刃の剣」です。私たち利用者にできるのは、パスワードの使い回しをやめる、ネットショップのカード情報を必要以上に保存しない、明細をこまめに見る、といった基本の守りです。

2. 米政府、連邦機関からDeepSeekの製品を排除するよう命令

何が起きた?

米国土安全保障省(DHS)は、連邦政府の文民機関(国防総省などを除く省庁)に対し、中国のAI企業DeepSeekの製品・サービスを新たに買うことを禁じ、すでに使っているものは取り除くよう命じました。命令は10月20日付の官報(Federal Register)で公表されました。DeepSeekの技術を組み込んだ他社の製品も対象に含まれます。

DHSは、入力した内容を通じて政府の機密情報が中国側に渡るおそれがあることなどを理由に挙げています。これに対し中国外務省は「安全保障の概念を拡大解釈し、技術や貿易の問題を政治化することに反対する」との立場を示しました。

なぜ重要?

対象はあくまで米政府機関で、一般の人や民間企業の利用を禁止するものではありません。ただ、AIが「どの国の、どの会社のものか」が、安全保障の問題として扱われる流れがはっきりしてきました。AIを仕事で使う企業にとっても、どのAIを、どこに情報を送る形で使っているかを説明できるようにしておく重要性が高まっています。

ひとこと解説

DeepSeekは、低コストで高性能なモデルを公開して注目を集めてきた中国の企業です。モデル自体を手元のパソコンやサーバーで動かす使い方と、DeepSeekのサービスに直接文章を送る使い方では、情報の行き先が異なります。今回の命令は、こうした違いも含めて「政府のシステムでは使わない」と線を引いたものです。

3. カナダの大手報道機関、Anthropicを著作権侵害で提訴

何が起きた?

カナダの通信社カナディアン・プレスなどの報道によると、ポストメディア、トースター、グローブ・アンド・メール、カナディアン・プレスなどの報道機関が、ClaudeをつくるAnthropicをカナダ・オンタリオ州の裁判所に訴えました。提訴は10月6日で、19日に広く報じられました。報道機関側は、自社の記事が無断でAIの学習に使われたと主張し、著作権の侵害、サイトの利用規約違反、コピーを防ぐ仕組みの回避などを訴えています。

Anthropicはこの件についてコメントしておらず、訴えの内容は裁判でまだ認められたものではありません。

なぜ重要?

同じ報道機関のグループは、以前からOpenAIも訴えています。AIの学習にニュース記事を使ってよいのか、使うならお金を払うべきか、という問題は各国の裁判で争われている最中です。判決や和解の内容しだいで、AI企業と報道機関の関係や、AIが答えに使える情報の範囲が変わる可能性があります。

ひとこと解説

AIの学習とは、大量の文章を読み込ませて、言葉のパターンを身につけさせることです。日本では著作権法に、学習のための利用を広く認める規定(第30条の4)がありますが、カナダや米国では考え方が異なり、裁判で線引きが争われています。

4. Meta、巨大AI計算施設「Prometheus」の内部を公開

何が起きた?

Metaは10月19日、米オハイオ州にあるAI用の巨大な計算施設(スーパークラスター)「Prometheus」の仕組みを技術ブログで公開しました。現在は数十万個のGPU(AIの計算に使う半導体)が動いており、最終的には約100万個規模を目指すとしています。ここで同社のAIモデル群「Muse」などを学習させていると説明しています。

ブログでは、急に大きく変わる電力の使い方をならす仕組みや、液体で機械を冷やす方式など、巨大施設を安定して動かす工夫が紹介されています。

なぜ重要?

最先端のAIを作る競争は、いまや「どれだけ大きな計算施設を持てるか」の競争にもなっています。こうした施設は大量の電力と水を使うため、地域の電力供給や環境への影響も議論になっています。私たちが使うAIの性能や料金の裏側には、こうした巨大な設備投資があることを知っておくと、ニュースの見え方が変わります。

ひとこと解説

GPUは、もともと画像を描くための半導体ですが、同じ計算を大量に同時にこなすのが得意なため、AIの学習に欠かせない部品になりました。スーパークラスターは、そのGPUを何万、何十万とつないで1台の巨大なコンピューターのように動かす設備のことです。

まとめ

  • AIエージェントを使った攻撃で、1人が約5,000ドルで100社超に侵入したとの調査が報じられました(数字は推計)。
  • 米政府は連邦の文民機関からDeepSeekの製品を排除する命令を公表しました。一般の利用は対象外です。
  • カナダの報道機関がAnthropicを著作権侵害で提訴しました。主張はまだ裁判で認められていません。
  • Metaは約100万GPU規模を目指す巨大計算施設の仕組みを公開しました。

AIが便利になるほど、悪用や情報の行き先、権利の問題も大きくなります。使う側としては、基本的なセキュリティ対策を続けることがいちばんの備えです。

出典: