昨日に続き、AIエージェントを使ったサイバー攻撃の話題が大きく報じられました。ルールづくりの動きや、身近なChatGPTの新機能とあわせて、4本を紹介します。

1. マイクロソフト、AIエージェントで自動化されたサイバー攻撃を公表

何が起きた?

マイクロソフトは10月21日、中国政府と関係があるとみられる攻撃グループ「Storm-0940」が、「ARTEX」というAIエージェント型の侵入テスト用ツールを使って攻撃を自動化していたと発表しました。ARTEXは本来、守る側が自社の弱点を調べるために公開されている道具ですが、それが攻撃に転用された形です。

報道によると、このグループはIT管理サービス大手ConnectWiseのバックアップサービスを入り口に、利用企業のMicrosoft 365環境を狙いました。マイクロソフトの集計では、2,250を超える組織の環境(テナント)に、1分あたり約2,900回のログインを試みたとされます。一部の環境では、AIエージェントがログイン後にパスワードや管理者権限の変更まで進めていたことも確認されています。ConnectWiseはサービスを一時停止し、10月21日から段階的に復旧を始めています。なお、実際に何社で情報が盗まれたかは公表されていません。

なぜ重要?

昨日紹介したNorForgeの調査に続き、大手IT企業が「AIエージェントによる攻撃」を公式に詳しく報告した例です。マイクロソフトは、最初に狙ってから管理者権限を奪うまで3時間を切った事例もあったとしています。人間の対応が追いつかないスピードで攻撃が進む時代に入りつつあることを示しています。

ひとこと解説

テナントは、クラウドサービスの中で会社や団体ごとに区切られた「専用の部屋」のことです。また、今回のように取引先のサービスを踏み台にする手口をサプライチェーン攻撃と呼びます。自分の会社の守りが固くても、つながっている外部サービスから入られることがあるため、連携しているアプリの権限を必要最小限にしておくことが大切です。

2. Anthropic、危険なAIの公開を止められる連邦法案の草案を提案

何が起きた?

米メディアの報道によると、ClaudeをつくるAnthropicが、AIの安全に関する連邦法案の草案を議員らに示しています。草案では、AIモデルが50人を超える死者、または10億ドルを超える損害を生む差し迫ったリスクがあると判断された場合、政府が裁判所に申し立てて、そのモデルの公開を止められるようにする内容です。対象となる危険は、生物兵器づくりへの悪用、開発者の管理をすり抜ける動き、サイバー攻撃の3つに絞られています。

評価は、商務省に登録した第三者の評価機関が行い、危険を見つけたら72時間以内に商務省へ知らせます。最終的に止めるかどうかは裁判官が判断し、行政機関が単独で止めることはできない仕組みです。Anthropicの広報担当者は草案の存在を認めていますが、まだ議会に正式に提出されたものではありません。

なぜ重要?

AI企業の多くは、政府による強制的なチェックには慎重な立場をとってきました。そのなかで、開発企業自身が「止める仕組み」を提案したことは目を引きます。一方で、評価機関に開発企業がお金を払える設計になっている点について、公平性を保てるのかという疑問も報じられています。

ひとこと解説

**閾値(しきいち)**とは「ここを超えたら対応する」という線引きのことです。米カリフォルニア州ではすでに似た基準を含むAI安全法(SB 53)が成立しており、今回の草案はそれを国全体に広げる発想に近いものです。

3. ChatGPTに「会話のロック」機能 — PINや顔認証で保護

何が起きた?

OpenAIは10月20日、ChatGPTの会話を個別にロックできる「Locked Chats」を発表しました。4桁のPIN、または対応端末ではFace IDやTouch IDで鍵をかけられ、ロックした会話は通常の履歴や検索結果から分けて表示されます。無料プランを含む幅広いプランで、順次使えるようになります。

ただし、通信や保存の暗号化が強まるわけではなく、データの保存期間や「モデル改善への利用」の設定も変わりません。また、PINをリセットするとロック中の会話はすべて消えてしまう点に注意が必要です。

なぜ重要?

家族と端末を共有している場合や、画面をのぞかれる場面で、健康やお金の相談内容を見られにくくなります。一方で「ロック=完全に安全」ではないため、そもそも入力しない方がよい情報(パスワードやマイナンバーなど)は、これまでどおり入れないことが基本です。

ひとこと解説

ロックした会話には、通常とは別の「メモリー(ChatGPTが覚えておく情報)」が使われます。ロック中の会話の内容が、普段の会話に持ち込まれにくくなる工夫です。

4. GoogleとAmazon、Nvidia以外のチップでAIを動かしやすくするツールを公開

何が起きた?

Googleは10月20日、AI開発で広く使われる道具「PyTorch」のプログラムを、自社製のAI用チップ「TPU」でそのまま動かせるようにする「TorchTPU」をオープンソースで公開しました。その前日には、Amazonも自社チップ「Trainium」向けに同様の「TorchNeuron」を公開しています。どちらも、設定を少し変えるだけで、プログラムを書き直さずに移せるとうたっています。

なぜ重要?

現在のAIアプリの多くは、Nvidia製のGPUで動かすことを前提につくられています。チップの選択肢が広がれば、AIサービスを動かす費用が下がったり、品薄の影響を受けにくくなったりする可能性があります。ただし、開発者がすぐに大きく乗り換えるとは限らず、今後の普及は使い勝手しだいです。

ひとこと解説

PyTorchは、AIモデルをつくったり動かしたりするための無料の道具箱です。GPUやTPUは、AIの計算を高速にこなすための専用の部品(チップ)です。

まとめ

今日は「AIが攻撃の道具になる現実」と、それに対して「どこで線を引くか」を考えるニュースが並びました。利用者としては、連携しているアプリの権限を見直す、AIに入れる情報を選ぶといった身近な対策から始めるのがおすすめです。

出典: