おはようございます。今日は、AIで作った「声」や「顔」をどこまで使ってよいかという、日本のルールづくりの話題から始めます。あわせて、OpenAIの組織の見直し、AI開発ツールの情報流出の続報、AIエージェントの弱点を調べた研究、病気の研究に使うAIをお届けします。

1. 経済産業省、AIによる「声」「肖像」の無断利用に規制案

何が起きた? 経済産業省は11月13日、生成AIなどで作った他人の声や肖像(顔や姿)を無断で商売に使う行為について、不正競争防止法で新しく取り締まる案を有識者会議に示しました。報道によると、対象として挙げられたのは次の3つの使い方です。

  • 声や肖像そのものを楽しむ商品にする(例: 本人の写真のブロマイド、声優の声をもとに作った音声データ)
  • ほかの商品と差をつける目的で使う
  • 広告に使う

一方で、物まね・声まねをすることや、本人とたまたま似ている人が自分の声や姿を使うことは、対象から外す案です。会議では「SNSでの収益目的の利用も対象に入れるべきだ」という意見も出たと報じられています。

なぜ重要? 生成AIを使えば、声優や俳優の声・姿にそっくりな音声や画像を、だれでも短時間で作れるようになりました。今の法律には、声や肖像の無断利用についてはっきり書かれた条文がなく、被害にあった側が止めにくいことが課題でした。ただし、今回はあくまで会議に出された「案」の段階です。罰則や施行の時期はまだ示されておらず、これからの議論で内容が変わる可能性があります。

ひとこと解説

  • 不正競争防止法: にせものの商品や、他社の営業秘密の持ち出しなど、ずるい方法での商売を取り締まる法律です。
  • 有識者会議: 専門家を集めて、新しい制度の中身を話し合う政府の会議のことです。

2. OpenAI、ロボット専門のチームを解散(Fortune報道)

何が起きた? 米Fortuneは、OpenAIが独立したロボット開発チームを解散し、メンバーをほかの部門へ移したと報じました。ロボットの研究を担当していた人は研究部門へ、機械の本体や実用化を担当していた人は製品側の部門へ移ったとされています。OpenAIはFortuneに対して組織の変更を認めたうえで、「ロボットから手を引くわけではなく、長期の計画の中心であることは変わらない」と説明しています。

理由としてOpenAIが挙げているのは、「GPT-6 Astra」のような何でもこなす汎用のAIモデルが、ロボット専用の訓練をしなくてもロボットを動かせるようになってきた、という点です。

なぜ重要? これまでロボット用のAIは、専用のモデルを別に作るのが普通でした。「1つの汎用モデルで十分」という考え方が正しければ、ロボット開発の進め方が大きく変わります。ただし、記事で紹介されている成績はシミュレーション(コンピューター上の模擬実験)でのもので、本物のロボットでの結果ではありません。専門家の間でも、実際の現場で集めたデータを持つロボット専業の会社が有利だという見方があり、評価は分かれています。

ひとこと解説

  • 汎用モデル: 文章・画像・プログラムなど、特定の用途に限らず幅広い作業をこなせるAIモデルのことです。

3. Cursor、情報流出の経路を公表 — 発端は提携先から漏れた「鍵」

何が起きた? AIを使ったプログラミングツール「Cursor」の運営会社は11月13日、10月に起きたセキュリティ事故の調査結果を公表しました。昨日お伝えしたFireworks AIへの不正アクセスとつながる話です。Cursorの説明によると、流れは次のとおりです。

  1. CursorがFireworksに渡していたアクセス用の鍵が、Fireworks側から漏れた
  2. 攻撃者はその鍵で、AIの過去の作業記録(主に2025年のもの)が入った保管場所からデータを写し取った
  3. 記録の一部に消し忘れのパスワード類が残っており、それを使って社内で使う別のサービスにも入られた
  4. 10月29日には、Cursorの拡張機能の配布場所に、Anthropicの「Claude Code」拡張機能のにせものを置かれた(約11時間後に削除)

Cursorによると、作業記録が流出したのはプライバシーモードを使っていない利用者の0.05%未満、にせものを受け取った可能性があるのは最大5,000人です。該当する人には個別に連絡済みで、Cursorは「連絡が来ていなければ、流出したデータに自分のものは含まれていない」と説明しています。プライバシーモードの利用者のデータ、利用者のコード、アプリ本体は影響を受けていないとしています。

なぜ重要? 1つの鍵の流出から、記録→パスワード→配布場所へと、被害が次々につながっていった例です。AIに作業を任せると、その「作業の記録」の中にパスワードなどの大事な情報が残ることがあり、記録そのものが狙われる対象になります。なお、鍵がどのように漏れたかについて、Fireworks側の調査はまだ続いています。

ひとこと解説

  • アクセスキー: サービスどうしがつながるときに使う、合言葉のような文字列です。漏れると、持ち主になりすましてデータを読まれるおそれがあります。
  • 拡張機能: アプリにあとから機能を足す小さなプログラムのことです。

4. Anthropicの研究「AIのチームは、1体のまとめ役に負ける」

何が起きた? Anthropicの研究者らは11月11日、何人かの利用者がそれぞれ自分用のAIエージェントを持ち、限られたものを分け合う場面を調べた研究を公開しました。試したのは、共有の予算の割り振り、診療所の予約、グループでの注文、プログラムの変更を取りこむ順番決め、の4つの模擬的な場面です。

結果は、「1人に1体ずつのAIが話し合うチーム」より、「全員の希望を1体のAIがまとめて調整する形」のほうが、4つすべての場面で成績が良くなりました。差は、いちばん良い結果を100としたとき、およそ10〜45ポイントです。チームの形では、ほかの人について根拠のないことを言ってしまう場面が、Claudeのモデルで半数を超えました(1体の場合は約2割)。

なぜ重要? 「1人に1体の秘書AI」が互いにやり取りして物事を決める未来は、よく語られます。今回の研究は、そのしくみには伝言の抜けや思いこみといった弱点があることを、数字で示しました。研究チームは、優先順位をはっきり決めたリーダー役を置くなどの工夫で差が縮まることも報告しています。なお、実験はすべて模擬的な環境で、採点の一部もAIが行っています。

ひとこと解説

  • AIエージェント: 人の代わりに、連絡や手続きなどの作業を自分で進めるAIのことです。

5. Google DeepMind、DNAの働きを読み解くAI「AlphaGenome 2」を公開

何が起きた? Google DeepMindは11月11日、DNAの並びの違いが体の中でどんな影響を生むかを予測するAI「AlphaGenome 2」を発表しました。前のモデルとの大きな違いは、「どの種類の細胞での話か」を指定して予測できるようになった点です。1億件を超える細胞のデータで学習しており、免疫の細胞を使ったテストでは、病気に関わるDNAの違いを見つけられた割合が、前のモデルなどの16%から約30%に上がったとしています。営利目的でない研究には、すでに提供が始まっています。

なぜ重要? 同じDNAでも、細胞の種類によって働き方が違います。細胞ごとに調べられるようになると、病気の原因を探す研究の手がかりが増えます。ただし、これは研究用の道具で、病院での診断に使えるものではないとDeepMind自身が明記しています。成績の数字も同社による測定です。

ひとこと解説

  • DNAのバリアント: 人によって違うDNAの並びのことです。多くは無害ですが、一部は病気のなりやすさに関わります。

まとめ

今日は、AIで作った声や姿をどう守るかという日本のルールづくりが、具体的な案の段階に進んだことが大きな話題でした。Cursorの報告やAnthropicの研究は、AIに作業を任せるしくみの「つなぎ目」や「伝言」に弱点があることを教えてくれます。便利さが増えるほど、どこで間違いが起きやすいかを知っておくことが大切になりそうです。

出典: