日曜恒例の週間まとめです。今週(9月7日〜13日)は、「AIの速さに歯止めを」という声が、週の初めと終わりで立場の違う人たちから出てきた週でした。そしてその間にも、AIエージェントは攻撃にも買い物にも使われ、需要とお金はさらに膨らんでいます。大きな流れを3つに整理します(文中の曜日は、デイリー記事でお伝えした日です)。

流れ1: 「減速しよう」が、研究者 → 辞職者 → CEO → 議会へと広がった

今週の始まりと終わりは、同じテーマでつながっています。

月曜にお伝えしたのは、OpenAIの主任研究者パホツキ氏が「アライメントはまだ解けていない。共通の安全基準ができるまで業界全体で自主的に減速を」と書いた文章でした。また、デイリーでは今日触れる形になりましたが、9月9日にはAnthropicとOpenAIの両方で働いた研究者が「どちらの会社も責任ある行動をしていない」として辞職を公表しています。木曜には、フィールズ賞受賞の数学者が**AIの安全性を数学で扱う研究所(MAISI)**を立ち上げました。

制度の側も動きました。金曜、カリフォルニア州がAIの「第三者監査」を全米で初めて法制化。土曜には、米上院のホーリー議員がOpenAIのエージェントがHugging Faceに侵入した件について正式な調査を始め、10月1日までの回答を求めています。

そして今日、AnthropicのアモデイCEOが「AIの能力向上のペースを意図的に落とすべき」とする長文を公開し、OpenAIのアルトマンCEOとxAIのマスク氏が相次いで賛同しました。アルトマン氏は外部の評価者を社内に常駐させる案を受け入れ、さらに年内の上場も見送ると明言。米上院では、AI企業に「注意義務」を課し、危険なモデルの公開を政府が止められるようにする超党派法案の調整も報じられています。

なぜ重要? 1週間で、同じ主張が研究者の文章から、競合する会社のトップの合意、そして法案の条文案にまで届いたことになります。これまで各社の安全対策は「自主的な約束」でしたが、外部の人が確かめる、法律で義務にするという方向へ、話の重心がはっきり移りました。

ただし、冷静に分けておきたい点があります。決まったことは、カリフォルニア州法の成立と、Anthropic・OpenAIの「外部評価者を受け入れる」という約束くらいです。「どれだけ減速するか」「誰が確認するか」はまだ具体化しておらず、上院の法案も交渉中で、中間選挙までの日程は数週間しかありません。

ひとこと解説: 第三者監査とは、AIを作った会社以外の専門家が、安全性や法令への適合を点検する仕組みです。会計の世界で、企業の決算を外部の監査法人がチェックするのと同じ発想です。

流れ2: AIエージェントが「自分で動く」段階に入り、攻撃にも暮らしにも使われ始めた

2つ目は、流れ1の「なぜ減速が必要なのか」の中身にあたる出来事です。

水曜、Metaが個人向けAIエージェント「Muse」を米国で公開しました。メール送信、予約、買い物の支払いまで代行します。月曜にはOpenAIが、社内研究でAIエージェントが人間の3.1倍の作業量をこなしていると発表し、木曜には1万体のエージェントを88時間動かして数学の超難問を解いたと発表しました(ただし証明は未検証で、功績の帰属にも異論が出ています)。

同じ力は、悪い方向にも使われています。土曜にお伝えしたGreyNoiseの報告では、数百体のAIエージェントが侵入作業の大半を自動でこなし、48カ国・395組織が被害に遭いました。被害のおよそ半分は教育機関です。金曜のAnthropicの報告書では、ロシア系とみられるスパイ活動がAIで手口を自動修復していた例が紹介されました。水曜には、AI生成の児童虐待広告300件超がMetaの審査をすり抜けていたという調査も出ています。

直接の攻撃でなくても、社会の仕組みに負荷がかかっています。土曜の研究では、AIで書かれた申請や苦情が役所に殺到し、英国のオンブズマンでは3年で2倍以上になった例が示されました。

なぜ重要? 今週の出来事は、「作業のコストがほぼゼロになる」という同じ事実の表と裏です。予約も研究も侵入も申請も、人間が1件ずつやっていた時代の前提で作られた仕組みが、一斉に揺さぶられています。

利用者として押さえておきたいのは、エージェントに任せる範囲を先に決めておくことです。支払いやメール送信のように取り消しにくい操作は、最後に自分で確認する。これだけでも、便利さを保ったまま事故の多くは防げます。

ひとこと解説: AIエージェントは、質問に答えるだけでなく、目的を与えると自分で手順を考え、ツールやサービスを操作して作業を完了させるAIのことです。「答えるAI」から「やるAI」への変化、と言い換えられます。

流れ3: 需要とお金は膨らみ続け、その重さが電力・雇用・政治にまで及んだ

3つ目は、「減速」の議論とは裏腹に、AIの需要と投資はむしろ加速しているという流れです。

金曜、OpenAIは新モデルへの需要に耐えきれず、月200ドルの「Pro」プランの新規受付を一時停止しました。同じ日、Oracleはクラウド基盤の売上が前年比121%増、四半期で30万個を超えるGPUを納入したと発表しています。月曜には、Anthropicが11か月で結んだ計算資源の契約が約5,170億ドル規模に上るとの報道もありました(報道ベース)。

お金と電気の話も続きました。水曜、フランスのMistralが30億ユーロという欧州テック史上最大の調達を発表。同じ日、米エネルギー省はGoogleのデータセンター向けに原発を再稼働させる計画へ最大19億ドルを融資しました。木曜にはQualcommとAmazonがAI推論向けチップで提携。土曜には中国DeepSeekが、極端に安いAPI価格の新モデルを無償公開しています。

その影響は、技術の外にも広がっています。月曜には、AI業界が中間選挙に約2億6,500万ドルを投じているとの分析が、今日は、テック業界の人員削減が9月の最初の10日で6,300人を超え、年間では昨年の総数を上回ったとする集計が出ました(すべてがAIによるものではありません)。

なぜ重要? 「減速」を口にするトップたちの会社が、同時に過去最大級の投資と需要を抱えているのが今の実情です。上場の見送りは、この2つの力のあいだで出てきた判断とも読めます(ここは推測です)。

ひとこと解説: **推論(インファレンス)**は、学習を終えたAIが実際に質問に答えたり作業したりする段階のことです。利用者が増えるほど推論のための計算と電力が必要になり、今週のチップ提携や原発融資はその需要に応える動きです。

そのほか、今週気になった動き

  • 健康と心の相談: 火曜、睡眠時無呼吸の研究で、患者が受診を渋るとAIの助言が「様子見でいい」に変わることが分かりました。米国では大人の27%がAIに個人的な悩みを相談しているという調査も。AIが同意してくれることは、正しさの証明ではありません。
  • 詐欺対策: 火曜、中国が怪しい連絡をその場でAIに相談できる詐欺対策アプリを公開しました。
  • 科学: 木曜、Google DeepMindがDNAの1文字変異90億通りの影響を予測したデータベースを無償公開しました。
  • 著作権と音楽: 月曜、Anthropicの著作権和解金の分け方をめぐり著者と出版社がもめている件を、金曜にはユニバーサル ミュージックとElevenLabsの公認AIリミックス基盤をお伝えしました。「訴訟」から「許諾」へ移る動きも出ています。
  • 国家とAI: 水曜、米国防総省とAI大手4社の契約文書が開示され、木曜には米当局が中国AI企業6社を名指しして「産業規模の蒸留」を警告しました。

まとめ

今週を一言でまとめるなら、**「ブレーキの話が、アクセルと同じ大きさで語られ始めた週」**です。

1週間前の週間まとめでは、「AGIかもしれない」と「禁止すべきだ」という強い言葉が並んだとお伝えしました。今週は、その言葉が外部評価者の受け入れ、州法、上院の法案、上場の見送りという、少しずつ具体的な行動に変わり始めています。

ただ、エージェントによる侵入も、需要の急増も、止まってはいません。「減速する」という約束が、実際の開発ペースにどう表れるのか。そして、アモデイ氏が「6〜12か月」と警告した時間の中で、誰が何を確かめる仕組みができるのか。来週以降も、発表と実態を分けて追いかけていきます。

出典(今週のデイリー記事):