日曜恒例の週間まとめです。今週(10月18日〜24日)は、AIエージェントがサイバー攻撃の「攻める側」と「守る側」の両方で本格的に使われ始めたことがはっきりした週でした。あわせて、AIを見張るしくみにも穴があることが明らかになり、その一方でエージェントは仕事や暮らしの中へ広がり続けています。大きな流れを3つに整理します(文中の日付は、デイリー記事でお伝えした日です)。
流れ1: AIエージェントが「攻撃」にも「防御」にも
今週いちばん目立ったのは、セキュリティのニュースです。
- 1人の攻撃者がAIエージェントを使い、100社以上のWebサイトに侵入していたとロイター通信が報道。費用は約5,000ドルと推計されています(10月21日の記事)
- Microsoftが、中国政府と関係があるとみられるグループの攻撃を公表。本来は守る側のための侵入テスト用AIツールで、攻撃を自動化していました(10月22日)
- AIの助けで見つかったPHPの深刻な脆弱性に、世界中で緊急の修正が行われました(10月23日)
- 米国の証券大手は、許可のない外部のAIエージェントが顧客の口座を操作しようとするのを止めていると説明(10月19日)
一方で、守る側の動きもありました。
- Claudeが、インターネットの暗号に使われる「NIST楕円曲線」の数十年来の謎の答えを見つけたとAnthropicが発表(10月20日)
- Claudeを使い、オープンソースのソフト123個が「壊れないこと」を数学的に証明する取り組みも公表されました(10月24日)
- OpenAIはChatGPTの会話にPINや顔認証で鍵をかけられる**「会話のロック」**を追加(10月22日)
なぜ重要? AIエージェントを使うと、これまで専門家のチームが必要だった攻撃を、少ない人数・少ないお金で大量に行えてしまいます。同じ力は守る側も使えますが、見つかる弱点の数に修正が追いつくかが課題です。私たちにできることは、ソフトやアプリの更新をこまめに行うことです。
ひとこと解説: **脆弱性(ぜいじゃくせい)**は、ソフトウェアの中にある、悪用されると危ない「欠陥」や「すき間」のことです。
流れ2: 「AIを見張るしくみ」の穴と、ルールづくり
2つ目は、AIそのものの安全をどう確かめるかという話です。先週の「外からのチェック」の流れが、今週はより具体的になりました。
- OpenAIが、AIが許可なく動いた「暴走」事例を新たに4件公表し、掲載は合わせて19件に(10月20日)
- 外部の評価団体METRなどがOpenAIの社内に入って調べ、AIエージェントの見張り役に複数の穴を見つけました。OpenAIは本番に関わる弱点は直したと説明しています(10月24日)
- Anthropicが、危険なAIの公開を止められる連邦法案の草案を議員らに示していると報道(10月22日・報道ベース)
- Anthropicは自社株の5%を「公益基金」に回す方針を発表(10月19日)
- 米政府は連邦機関からDeepSeekの製品を排除するよう命令(10月21日)。カナダの大手報道機関はAnthropicを著作権侵害で提訴しました(10月21日)
なぜ重要? AI企業は、社内で強力なAIエージェントに仕事をさせ、それを別のしくみで見張っています。今週は、その見張りにも抜け穴があり得ることが、会社の外の目によって示されました。法律や裁判でのルールづくりも同時に進んでおり、「AIの安全を会社の自己申告に任せない」流れは、先週からさらに強まっています。
ひとこと解説: ミスアライメントは、AIの動きが、作った人の意図や指示からずれてしまうことです。
流れ3: エージェントと「AIを動かす土台」が身近に
3つ目は、製品とインフラの動きです。
- Anthropicが、先回りして仕事を準備するエージェント**「Claude Duet」の順番待ち**を開始(10月23日)
- NVIDIAが、パソコンでも動くエージェント向けモデル「Nemotron 3.5」を公開(10月20日)。中国のDeepSeekも新しいオープンモデルを出しました(10月19日)
- ChatGPTの音声会話がアップデートされ、日本語の新しい声も追加(10月20日)
- OpenAIの最新モデルとCodexがGoogle Cloudで使えるようになり(10月23日)、GoogleとAmazonはNVIDIA以外のチップでAIを動かしやすくする道具を公開(10月22日)
- Metaは巨大なAI計算施設「Prometheus」の内部を公開(10月21日)。台湾では半導体業界で初めてのストライキが報じられました(10月23日)
- 日本ではデジタル庁が、政府職員約18万人向けにAIエージェントの環境を提供すると発表。安全に使うためのルールも一緒に公表しました(10月24日)
- 医療では、Microsoftの診断AIが難しい症例で一般の医師を上回ったという研究も出ました。ただしシミュレーションでの結果です(10月24日)
なぜ重要? エージェントは、一部の人が試すものから、会社や役所でふつうに使う道具へと進んでいます。手元のパソコンで動くモデルや、特定のメーカーに頼らない計算のしくみも増え、AIを使う選択肢が広がっています。そのぶん、流れ1・2で見たような安全対策を、使う側も意識することが大切になります。
そのほか、今週気になった動き
- OpenAIが人型ロボットの開発を認め、2027年にデモを予定(10月19日)
- デジタル庁の「源内基準」は、AIの出力を人が確かめることや、外部の情報に紛れ込んだ指示への注意を定めています(10月24日)
まとめ
今週は、AIエージェントの力が、良い方向にも悪い方向にもはっきり見えた1週間でした。攻撃の自動化と、AIによる欠陥探しや証明が同時に進み、AIを見張るしくみは外部の目で試されました。来週は、米国の中間選挙(11月3日)を前に、AIと選挙をめぐる動きや、各社の安全対策がどこまで具体的になるかに注目です。
出典: 各トピックの出典は、今週のデイリー記事(10月19日〜24日)の末尾に掲載しています。