週末の朝のAIニュースです。今日は「AIの安全をだれがどう確かめるのか」という話題が多く並びました。裁判、外部の評価、政府の会議と、それぞれ違う方向から同じ問いに向き合っています。

1. 米国の8州がOpenAIを提訴 — 「ChatGPTは安全」という説明は誤解を招くと主張

何が起きた?

アリゾナ、アーカンソー、アイダホ、アイオワ、カンザス、モンタナ、ネブラスカ、ウェストバージニアの8州が、10月14日(現地時間)にOpenAIを相手に訴えを起こしたと報じられています。州側は「ChatGPTを若い人にも安全な製品として宣伝しながら、危険な医療の助言や思い込みを強める応答などのリスクを十分に伝えていない」と主張しています。求めているのは、ChatGPTのしくみの変更、罰金や損害賠償などです。共和党・民主党の両方の州が加わっている点も注目されています。

なぜ重要?

1つの州ではなく、複数の州がまとまって動いたことで、AI企業への圧力は一段と強まります。6月にはフロリダ州が先に訴えを起こしており、州レベルの動きが広がりつつあります。なお、訴えの中身はあくまで州側の主張で、裁判所が事実と認めたものではありません。

ひとこと解説

州司法長官は、各州の法律を守らせる役目の人です。米国では「消費者を誤解させる宣伝をしてはいけない」という州ごとの法律があり、今回はそれを使った訴えです。**パブリック・ニューサンス(公的不法妨害)**という、地域の人の健康や安全を広く損なう行為を問う考え方も持ち出されています。

2. Meta、大型のオープンモデル「Muse Spark Open」を公開 — Mac Studio 2台で動く

何が起きた?

Metaは10月15日(現地時間)、だれでもモデル本体(重み)を入手できる「Muse Spark Open」を公開しました。総パラメータは8160億で、そのうち一度に動くのは420億という作りです。文章・画像・動画・音声を読み取れ、答えは文章で返します。Appleと協力してApple Silicon向けに調整しており、M5 Ultra搭載のMac Studio 2台で動かせるとしています。Metaは「米国製のオープンモデルで最高性能」とうたっていますが、これは同社の発表ベースの比較です。

なぜ重要?

これまで高性能なオープンモデルは中国勢が目立っていました。米国の大手が大型モデルを手元のパソコンで動かせる形で出したことで、「データを外に出さずに社内でAIを使いたい」企業の選択肢が増えます。一方で、ライセンスは独自のもので、年間の売上が2000万ドルを超える会社や、APIとして他社に提供する場合には別の契約が必要とされています。「オープン」でも自由に使えるとは限らない点に注意が必要です。

ひとこと解説

オープンウェイトとは、AIの「重み(学習で身につけた中身の数値)」を公開し、自分のパソコンやサーバーで動かせるようにすることです。**MoE(エキスパートの混合)**は、たくさんの専門家のうち、質問ごとに一部だけを呼び出して計算を減らす作り方です。

3. Anthropic、外部の評価団体METRに「社員並み」のアクセスを付与

何が起きた?

Anthropicは10月15日(現地時間)、AIの危険性を調べる外部団体METRのスタッフ6人に、社用の端末やオフィスの席を用意し、社内のツールやシステムに入れるようにしたと発表しました。範囲は社内のリスク評価チームとおおむね同じで、顧客データなど一部は対象外です。METRは調べた結果を公表でき、Anthropicは公表そのものを止められないとしています(決められた項目を伏せるよう頼むことはできます)。

なぜ重要?

これまで外部の評価は「会社が見せてくれる範囲」でしか行えず、本当に安全かを外から確かめにくいという課題がありました。社内に近い立場で調べられ、結果を止められないしくみは一歩踏み込んだものです。OpenAIのアルトマンCEOも外部評価機関との契約を近く発表する予定と伝えられており、業界の標準になるかが注目されます。

ひとこと解説

METRは、AIが自分で長い作業をこなす力や、危険な使われ方の可能性を測る非営利の研究団体です。伏せ字化は、公開する文書の一部を黒塗りにすることです。

4. 日本俳優連合、「声の生成AI」の利用ガイドラインを公表

何が起きた?

声優や俳優が加わる日本俳優連合(日俳連)は10月15日、「音声に関する生成AI利用ガイドライン」を公表しました。AIに声を学習させるとき、作るとき、公開するときのそれぞれで本人の事前の許可を取ること、許可の期間は原則1年以内とすること、同意が取り消されたらデータを消すこと、出演料とは別にお金を払うことなどを事業者に求めています。亡くなった方の声をまねたAI音声を作らないことも掲げています。

なぜ重要?

声をまねたAI音声は数年前から広まり、無断で使われる問題が続いてきました。今年は法務省が無断利用は権利侵害になりうるという考えを示し、9月には東京地裁が「声もパブリシティー権で守られうる」と判断しています。今回の指針に法的な強制力はありませんが、業界の目安として広まれば、AI音声を使うゲームや動画づくりのやり方にも影響しそうです。日俳連は将来の法律づくりも目指すとしています。

ひとこと解説

パブリシティー権とは、有名人の名前や姿などが持つ「人を引きつける力」を、本人に無断で商売に使われないよう守る権利です。

5. 米政府のAIタスクフォースが本格始動 — 120日でリスクを洗い出し

何が起きた?

米国のホワイトハウスに置かれた「超知能」をテーマにしたAIタスクフォースが初会合を開き、活動の取り決め(憲章)を正式に決めたと米メディアのSemaforが報じました。大統領の科学顧問会議に対し、サイバー攻撃と重要インフラ、生物兵器などへの悪用、AIを人がきちんと制御できるか、の3分野でリスク報告をまとめるよう依頼しています。司法省や連邦取引委員会(FTC)を含む、取り締まりと消費者保護の調整の場もつくるとしています。

なぜ重要?

米国政府がAIのリスクを国として整理し、AI企業に「事故やハッキングがあったら報告する」手順を求める方向が見えてきました。ただし、決めた手順を守らない企業にどう対応するのかは、まだはっきりしていないと報じられています。規制の強さをめぐる議論はこれからです。

ひとこと解説

**超知能(スーパーインテリジェンス)**は、ほとんどの分野で人間を大きく上回るAIを指す言葉です。まだ実現したものではなく、将来に備えるための議論として使われています。

まとめ

今日のニュースは、AIの安全を「会社の自己申告」だけに任せない動きが一気に並んだ形です。州は裁判で、Anthropicは外部の目で、米政府は報告のしくみで、日本の声優団体は業界ルールで、それぞれ歯止めをかけようとしています。使う側としては、便利さと同時に「このAIはだれがどう確かめているのか」にも目を向けておくと安心です。

出典: