おはようございます。9月16日(水)は、先週から続く「AIを減速させるべきか」の議論が、ついに具体的な法案の話にまで進んだニュースから始めます。あわせて、Googleの新しい音声AI、Claudeの有料プランに関わる変更、そして**「AIに代わりに動いてもらう」ことの副作用**を取り上げます。

1. サンダース議員が「超知能AI禁止法案」を表明 — 右派のバノン氏も同じ壇上でAI規制を訴え

何が起きた? 米国時間の9月15日(火)、ワシントンでAIの安全を訴える非営利団体Future of Life Instituteが主催する集会**「Pro-Human Assembly」が開かれました。無所属のバーニー・サンダース上院議員は、民主党のグレッグ・カサー下院議員と共同で準備している「超知能AI禁止法案(Ban Artificial Superintelligence Act)」**について演説し、議会はAIの問題で「居眠り運転をしてきた」という趣旨で行動を呼びかけました。

発表されている法案の骨子は次のとおりです。まだ議会に正式提出される前の段階です。

  • 人間の知能を超え、人間が止めようとしても抵抗しうる「超知能」AIの開発と提供を恒久的に禁止する
  • 連邦政府に新しい規制機関をつくり、安全ルールが決まるまで高度なAIの開発を一時停止する
  • 違反した企業は解散、個人は最長20年の禁錮という、核兵器の不法開発に近い重い罰則を想定
  • 世界中で超知能が開発されないよう、国際的な合意をめざす

同じ集会には、第1次トランプ政権で首席戦略官を務めたスティーブ・バノン氏も登壇し、左右の立場を超えてAIへの歯止めを求めました。一方、共和党のジョンソン下院議長は「議会がAIを規制すれば中国との競争に負ける」との立場を示し、トランプ大統領も安全への懸念を退けています。

なぜ重要? これまでの「減速論」は、研究者やAI企業のトップが論考やSNSで語る段階でした。今回は政治家が罰則つきの法案という形で示した点が大きな違いです。成立の見通しは現時点で立っていませんが、AIの安全が11月の米中間選挙の争点になりつつあることを示しています。

ひとこと解説: **超知能(スーパーインテリジェンス)**は、ほぼすべての分野で人間を大きく上回る知能を持つAIを指す言葉です。まだ実現しておらず、「いつ実現するか」「そもそも定義できるのか」についても専門家の意見は分かれています。

2. マスク氏「AI企業同士で安全テストをし合うべき」 — ただし「中国も受け入れる形で」

何が起きた? イーロン・マスク氏は、米ロサンゼルスで9月13〜15日に開かれた「All-In Summit」に登壇し、主要なAI企業が、公開前のモデルをお互いのテスト手順で検査し合う仕組みを提案しました。報道によると、マスク氏は「全員の安全テストで全員のモデルを試す」という趣旨を語り、競合による相互チェックというアモデイ氏(Anthropic CEO)の考えにも賛意を示したとされています。

同時に、どんな枠組みも**「中国が受け入れられるものでなければ、自分たちの手足を縛るだけになる」**とも述べました。

なぜ重要? いまのAIの安全テストは、基本的に作った会社が自分で採点しています。ライバルに検査させれば見落としは減りそうですが、企業秘密をどこまで見せるのか、中国の企業が参加するのかという難しい問題が残ります。1本目の法案と同じく、「米国だけが縛られるのでは困る」という中国をめぐる論点が、どの案にもついて回っています。

ひとこと解説: テストハーネスは、AIに決まった質問や意地悪な指示を大量に与えて、うそをつかないか、危険な情報を出さないかなどを自動で確かめる検査の仕組みのことです。

3. Google「Gemini 3.8 Live」公開 — 会話を止めずに「考えながら話す」音声AI

何が起きた? Googleは9月15日、音声でリアルタイムに会話するための新しいAIモデル**「Gemini 3.8 Live」と、より難しい質問に向けた「Gemini 3.8 Live Extended Thinking」**を発表しました。公式ブログによると、特徴は次のとおりです。

  • 97の言語を自動で聞き分け、会話の途中で言語を切り替えられる
  • 話しながら、裏側で検索やツールの操作を進められる
  • カメラの映像などをほぼリアルタイムで理解できる
  • Extended Thinkingは、考えている途中の様子を声で伝えながら複数の手順が必要な問題に取り組む

開発者向けにはGemini APIとGoogle AI Studioで同日から提供が始まり、Google検索の音声機能「Search Live」やGeminiアプリの音声会話にも順次展開されるとしています。日本での提供時期は、発表文では明記されていません。Googleは、音声AIの品質比較でOpenAIやxAIのモデルを上回ったとする第三者ベンチマークの結果も示しています。

なぜ重要? これまでの音声AIは、「賢いけれど返事が遅い」か「速いけれど浅い」のどちらかになりがちでした。考える力と会話のテンポを両立させるのが、各社の次の競争軸です。昨日お伝えしたAppleの「Siri AI」やOpenAIの音声機能と合わせて、AIとの主な接点が「文字」から「声」へ移りつつあります。

ひとこと解説: ベンチマークは、AIの性能を比べるための共通テストです。ただし発表時に示されるのは、その会社に有利な項目であることも多いので、実際に使ったときの体感とは別物と考えておくのが無難です。

4. Claude Codeの週あたり利用上限が変更 — 「25%増」だが、夏の水準からは17%減

何が起きた? Anthropicは、プログラミング支援ツール**「Claude Code」の週あたりの利用上限**を、9月14日から見直しました。発表は8月31日に行われていました。

少しややこしいので、5月以前の上限を「100」として整理します。

時期 週あたりの上限
5月以前 100
5月〜9月13日(期間限定の上乗せ) 150
9月14日以降(恒久) 125

つまり、元の水準からは25%の恒久的な増加ですが、直前までの水準と比べると約17%の減少です。Anthropic自身も両方の数字を示しています。対象はPro、Max、Team、座席課金のEnterpriseプランで、5時間ごとの利用上限は変わらないとされています。同社は、利用状況を見やすくし、使い方を自分で調整できるようにする改善を進めていると説明していますが、具体的な内容や時期は示していません。

なぜ重要? 有料プランの「使える量」は、料金表には大きく書かれにくいものの、実際の使い心地を左右するポイントです。開発者の間では、Claude Codeを他社のAIモデルにつなぎ替えて使う回避策を試す動きも報じられています。

ひとこと解説: **利用上限(レート制限)**は、一定時間内にAIを使える量の上限です。AIを動かすには大量の計算機(GPU)が必要なため、各社は定額プランでも使える量に上限を設けています。「期間限定の上乗せ」が終わるタイミングは、実質的な値上げのように感じやすいので、契約中のプランのお知らせは一度確認しておくと安心です。

5. 「AIエージェントはもうネットを荒らしている」 — 米メディアが実害を整理

何が起きた? 米404 Mediaは9月15日、自分で判断して操作するAIエージェントが、すでにインターネットのあちこちで迷惑や実害を生んでいるとする記事を公開しました。記事が挙げた例は次のようなものです。

  • AIエージェントに操作を任せた結果、メールの受信箱が削除された、航空券がキャンセルされた
  • 記者のもとに、AIエージェントが自動で書いた売り込みメールが大量に届く
  • 人気レストランの予約をAIエージェントで押さえようとした利用者が、予約サービスから利用を禁止された
  • 人ではなく**AIエージェントに向けて広告を出す「ダイレクト・トゥ・エージェント」**という発想が、広告業界で広がり始めている

記事は、最近一般公開されたMetaの「Muse」のように、専門知識のない人でもアカウントを預けてエージェントを動かせるサービスが増えていることが、流れを加速させていると指摘しています。

なぜ重要? 「AIに予約や買い物を任せる」は便利な未来として語られがちですが、任せた操作の失敗は、自分のアカウントで起きたことになります。また、AIに向けた広告が増えれば、エージェントが選んだ商品が本当に自分にとって最適なのかも見えにくくなります。

ひとこと解説: AIエージェントを使うときは、削除・購入・送信・キャンセルなど取り消しにくい操作の前に、必ず自分に確認させる設定にしておくのが基本の身の守り方です。

まとめ

今日は、「AIをどこまで走らせるか」をめぐる議論が、法案や業界ルールの提案という具体的な形になってきた一日でした。一方で現場では、音声AIがより自然になり、エージェントが実際にアカウントを操作し始めています。

便利さと歯止めの両方が同時に進んでいるのが今の状況です。私たち利用者にできることとしては、有料プランの上限や条件の変更に目を配る、エージェントに取り消しにくい操作を任せきりにしない、の2つを覚えておくと役立ちます。

出典: