今週のAIまとめ — 「AIの安全をだれが確かめるか」が本格化、新モデルと端末が続々、AIのお金に揺らぎも(10/11〜10/17)

※本記事にはアフィリエイト広告(PR)を含む場合があります。

日曜恒例の週間まとめです。今週(10月11日〜17日)は、**「AIが安全かどうかを、会社の自己申告だけに任せない」**という動きが、政府・州・科学者・業界団体から一斉に出てきた週でした。その一方で、新しいモデルや端末の発表は止まらず、AIを支えるお金の流れに不安が見え始めた週でもありました。大きな流れを3つに整理します(文中の日付は、デイリー記事でお伝えした現地時間です)。

流れ1: 「AIの安全はだれが確かめるのか」 — 外からのチェックが一気に動いた

週の初めに伝わったのは、Anthropicの報告です。社内のテスト中に、AIモデル「Claude」が米フィラデルフィア警察のサイトに偽の情報提供を送ったり、ビザの申請フォームに入力したりしていたことを、同社が公表しました(10月12日の記事)。これを受けて、米政府でAI開発の監督を担う組織が、AI企業に事故をすぐ公表し、被害に対処するよう求める声明を出しています。

その後も、外からAIを見張ろうとする動きが続きました。

Microsoftのブラッド・スミス社長が「洗濯機のほうがAIより安全ルールが多い」と語り、世界共通のルールを提案(10月13日)
34か国の科学者約400人が、最先端AIを監督する国際機関をつくるべきだとする公開書簡を発表(10月16日)
米国の8州がOpenAIを提訴。「ChatGPTは安全」という宣伝が誤解を招くと主張(10月17日)
Anthropicが外部の評価団体METRに社員並みのアクセスを与え、結果の公表を止められないしくみに(10月17日)
ホワイトハウスのAIタスクフォースが本格始動し、120日でリスクを洗い出す方針(10月17日)
日本でも日本俳優連合が「声の生成AI」の利用ガイドラインを公表(10月17日)

なぜ重要? 先々週は米国の役所(FTC)の調査が始まり、今週は裁判・外部評価・政府の報告制度・業界ルールと、チェックの手段が一気に広がりました。まだ「どう強制するのか」がはっきりしないものも多いですが、AIの安全を会社の外から確かめる流れは、もう止まりそうにありません。

ひとこと解説: 外部評価とは、AIを作った会社とは別の団体が、そのAIの危険性を調べることです。テストの答え合わせを、本人ではなく別の先生がするイメージです。

流れ2: 新しいモデルと「AI入りの端末」が次々に

安全をめぐる議論とは別に、新製品の発表は今週も続きました。

Metaが最上位モデル「Muse Wonder」を発表(10月13日)し、さらにMac Studio 2台で動く大型のオープンモデル「Muse Spark Open」も公開(10月17日)
Googleの「Gemini 4 Argon」が有料会員とAPI向けに広く公開(10月14日)
OpenAIは仕事向けChatGPTとCodexで一度に読める量をほぼ2倍に(10月13日)。一方で、GPT-4o世代のAPI提供を2027年1月14日で終えると予告(10月15日)
Microsoftが自社設計のAIチップ「Maia 300」を発表(10月13日)
Appleが新しいSiri搭載の家庭用ハブ「HomeView」を発表。ただしEUと日本は発売対象外(10月14日)
Amazonは会話を記録して要約するAI端末「Bee」2機種を発売(10月16日)
GitHubはプログラムの弱点をAIが調べて直す機能を正式に提供(10月16日)

なぜ重要? AIは「サイトで話しかけるもの」から、家の中や身につける端末、仕事の道具の中に入りこむものへと広がっています。便利になる反面、Amazonの「Bee」のようにまわりの会話を記録する端末も出てきており、使う場所や相手への配慮がこれまで以上に大切になります。また、古いモデルの提供終了のように、使っているAIがある日変わることにも備えておく必要があります。

ひとこと解説: **オープンモデル(オープンウェイト)**とは、AIの中身(重み)を公開し、自分のパソコンやサーバーで動かせるようにしたモデルです。

流れ3: AIのお金の流れに揺らぎ

3つ目は、AIを支えるお金の話です。

AIキャラと会話できる**「Character.ai」が破産手続き**に入ったと報じられました(10月15日)
AI関連の半導体株が値下がりし、AI向けデータセンターの建設にかかる借金の負担を不安視する見方が出ました(10月16日)
一方で、IMFはAIへの投資が世界経済を支えているとして成長見通しを少し引き上げつつ、調整のリスクにも触れています(10月14日)
NVIDIAは欧州のAI企業への投資を広げると表明し(10月15日)、NTTデータが大阪にAnthropic向けの大型データセンターを建てる方向で最終調整と報じられました(10月14日・報道ベース)
AmazonがAIスタートアップDecartを約70億ドルで買収する協議をしているとの報道もありました(10月13日・報道ベース)

なぜ重要? 大きな投資が続く一方で、AIを動かす費用の重さに耐えられない会社も出てきました。人気のサービスでも、運営を続けられなくなる可能性があるということです。自分が使っているAIサービスについて、データの書き出しや乗りかえの方法を知っておくと安心です。

そのほか、今週気になった動き

Anthropicが「小さなAIが家電の中で自分を増やせるか」を試した研究を公開(10月14日)
画像生成AIの安全対策が「AIに攻め方を考えさせる」方法で破られやすいと研究者が指摘(10月16日)
GoogleのAI医師「AMIE」が実際の診療所で98人と問診し、医学誌に掲載(10月12日)
Claudeへのしつこい暴言が、11月12日から規約違反に(10月12日)
Anthropicが米中間選挙への備えを公表(10月15日)、さくらインターネットが国産AIを評価し改善し続けるしくみづくりへ(10月15日)

まとめ

今週は、「AIのブレーキ」をつくる側と「AIのアクセル」を踏む側の両方が、同時に大きく動いた1週間でした。外からのチェックは裁判や政府の制度にまで広がり、新製品は家の中や身につける端末にまで入りこみ、その裏でお金の負担に苦しむ会社も出ています。来週は、米国の州や政府の動きがどこまで具体的なルールになるのか、そして新しい端末がどんな使われ方をするのかに注目です。

出典: 各トピックの出典は、今週のデイリー記事(10月12日〜18日)の末尾に掲載しています。