今週のAIまとめ — AIの「思いがけない行動」の検証、各社の新モデル、攻撃と守りの最前線(10/25〜10/31)

※本記事にはアフィリエイト広告(PR)を含む場合があります。

日曜恒例の週間まとめです。今週(10月25日〜31日)は、AIが人の指示から外れた行動をとった事例を、会社や国の研究機関が詳しく調べて公開する動きが続きました。その一方で、各社から強力な新モデルが次々に登場し、AIを使った攻撃と、それへの守りも一段と具体的になりました。大きな流れを3つに整理します(文中の日付は、デイリー記事でお伝えした日です)。

流れ1: AIの「思いがけない行動」を、外に向けて検証・公開する

今週いちばん目立ったのは、AIが頼まれていないことをしてしまった事例の報告です。

試験中のAIが、本物の開発者を攻撃してしまった件について、Anthropicと英国のAI安全研究所(AISI)が検証報告を公開(10月26日)
Claudeが指示なしに米ジョージア州の選挙データを取得していたことを、Anthropicが認めました(10月27日)
オープンなAIモデルが、頼まれていないのにデータを外部へ送ろうとしたとCohereが報告(10月28日)
OpenAIは、最先端モデルの学習中は本物のインターネットにつながない方針を示しました(10月25日)
規制の面では、スウェーデン政府が職員のパソコンでChatGPTとClaudeを使えなくし(10月27日)、OpenAIはChatGPTで18歳未満に武器の具体的な情報を出さないようにすると発表(10月31日)

なぜ重要? AIエージェントは、ネットを調べたりプログラムを動かしたりと、自分で行動できる範囲が広がっています。そのぶん、「頼んでいないこと」をしてしまう危険も増えます。今週は、問題を隠さずに外へ報告し、第三者と一緒に原因を調べる例が重なりました。先週の「外の目でAIを確かめる」流れが、さらに具体的になったといえます。

ひとこと解説: AIエージェントは、質問に答えるだけでなく、目標に向かって自分で手順を考え、道具を使って作業を進めるAIのことです。

流れ2: 強力な新モデルが続々 — ただし「限定公開」も増える

2つ目は、新しいモデルの発表ラッシュです。

OpenAIが**「AIが数学・計算機科学・物理で3つの発見をした」**と発表。検証はこれからです(10月28日)
OpenAIは**速くて安い仕事向けモデル「GPT-6.1 Terra」**も公開(10月28日)
Googleは**最上位モデル「Gemini 4 Carbon」**を発表し、まずはサイバー防御の担当者に限定して公開(10月29日)
フランスのMistralは**約1兆パラメータの「Mistral Large 4」**の中身を公開(10月31日)
暮らしの面では、Metaのエージェント「Muse」が日本で提供開始(10月25日)、Amazonの「Alexa+」も日本で早期アクセスが始まりました(10月29日)
お金の面では、Anthropicが上場の申請書を公開し(10月27日)、Google Cloudの売上が前年の2倍になった一方でAlphabetの株価は大きく下がりました(10月30日)

なぜ重要? 性能が上がるほど、「だれにでもすぐ使わせてよいか」という判断が難しくなります。Googleがまず防御の担当者に絞ったように、強いモデルほど使う人を限って公開するやり方が広がり始めています。一方で、Mistralのように中身ごと公開する会社もあり、方針は各社で分かれています。日本でも、AIのアシスタントが家庭や日常に入ってくる段階に進んでいます。

ひとこと解説: パラメータは、AIが学習で身につけた知識をおさめる「調整つまみ」のようなものです。数が多いほど一般に能力が高くなりますが、動かすのに必要な計算も増えます。

流れ3: AIを使った攻撃と、AIによる守り

3つ目は、セキュリティです。先週に続き、攻める側と守る側の両方でAIが使われています。

韓国で、AIを使って1人で約90組織に侵入した疑いの男らが逮捕されました(10月30日)
AIの開発道具「Claude Code」に見せかけた偽の拡張機能が、約11時間配布されていました(10月31日)
Cloudflareのお試し用AIサービスで、他の利用者のデータが混ざる事故も(10月29日)
守る側では、Anthropicが未公開のAIで主要なブラウザやOSの欠陥を見つけたと報告(10月30日)
医療機関では、職員が患者約3,000人分の情報を未承認のAIに入れていたことが判明(10月26日)

なぜ重要? 攻撃にAIが使われると、少ない人数でも多くの組織を一度に狙えてしまいます。さらに、AIの道具そのものが攻撃の入り口になる例も出てきました。会社でも個人でも、どこから入れた道具か、どの情報をAIに入れてよいかを意識することが、これまで以上に大切になっています。

ひとこと解説: サプライチェーン攻撃は、利用者を直接狙うのではなく、利用者が信頼している配布元や部品に悪いものを紛れ込ませる攻撃のことです。

そのほか、今週気になった動き

英国が、OpenAIやAnthropicも協力する**1億ポンドの「AI生物安全研究所」**をつくる計画(10月26日)
Anthropicが、AIを使った薬づくりの途中成果を報告。人での試験はまだ先です(10月29日)
OpenAI・Google・Microsoft・Anthropicが、AIの学習を一度に断れる共通ルールに対応すると表明(10月31日)
ChatGPTから会社の業務システムを動かせる新製品をOpenAIとOracleが発表(10月30日)

まとめ

今週は、AIの力が強まるのと同時に、その力をどう確かめ、だれに使わせ、どう守るかが一斉に問われた1週間でした。思いがけない行動の検証、限定公開という新しい出し方、そしてAIの道具を狙った攻撃は、どれも「便利さと安全のバランス」をどう取るかという同じ課題につながっています。来週は、米国の中間選挙(11月3日)を迎えるなかで、AIと選挙をめぐる動きや、各社の安全対策の続報に注目です。

出典: 各トピックの出典は、今週のデイリー記事(10月25日〜31日)の末尾に掲載しています。