おはようございます。週明けの今日は「ルールが動き出した日」と「AIが大量に吐き出すものへの対処」が主役です。予告されていた表示義務がついに現実になり、その一方で、AIが生み出す大量の文章や攻撃をどう受け止めるかという実務的な悩みも表に出てきました。

1. 8月2日、EUと米カリフォルニアで「AI表示」ルールが同時に適用開始

何が起きた? 7月に何度かお伝えしてきたEUのAI法(AI Act)第50条の透明性義務が、予定どおり8月2日から適用されました。欧州委員会の発表によると、同委員会のAI事務局(AI Office)と各国当局が、この日から実際に執行できる立場になっています。主な内容は、(1)チャットボットなどと話すとき、相手がAIだと利用者に知らせること、(2)ディープフェイク(AIで作ったり加工したりした画像・動画・音声)にその旨の表示を付けること、(3)AIが作った・加工したコンテンツに、機械が読み取れる印を埋め込むこと、の3点です。制裁金は最大1,500万ユーロ、または全世界売上高の3%のいずれか高い方とされています。

そして同じ8月2日、米カリフォルニア州の「AI透明性法(SB 942)」も発効しました。こちらは当初2026年1月1日施行の予定でしたが、別の法律(AB 853)によってEUの日程に合わせる形で8月2日へ後ろ倒しされていたものです。対象は「月間100万人超の利用者がいる生成AIサービス」で、(1)AI生成物かどうかを判定できる無料の検出ツールを公開する、(2)利用者が望めば目に見える「AI製」表示を付けられるようにする、(3)画像・動画・音声には目に見えない形の来歴情報を埋め込む、といった義務が課されます。違反には1件あたり5,000ドルの民事制裁金で、遵守しない日ごとに別々の違反として数えられます。

なぜ重要? 大西洋をはさんだ2つの主要市場が、同じ日に足並みをそろえたことになります。世界的にサービスを展開する企業にとっては、EU向けとカリフォルニア向けで別々の仕組みを作るより、最初から表示・来歴の機能を標準搭載してしまう方が現実的です。その結果、私たち日本の利用者が使うサービスにも、「これはAIが作りました」という表示や検出ツールが自然に降りてくる可能性があります。ただし、細かな技術要件については段階的に整備が進んでいる部分もあり、8月2日ですべての画面が一斉に変わるわけではない点は押さえておきたいところです。

ひとこと解説: 「来歴(プロベナンス)情報」は、そのコンテンツを誰が・何で・いつ作ったかという出どころの記録です。画像などに目に見えない形で埋め込んでおくと、あとから「これはAI製か」を機械的に確かめられます。

2. Apple、AIが書いたバグ報告の殺到を受けて提出数に上限と「30日待ち」

何が起きた? 英フィナンシャル・タイムズの報道によると、Appleは開発者向けの不具合報告ツール「Feedback Assistant」に、提出数の上限と30日間のクールオフ(待機)期間を導入しました。理由は、AIを使って自動生成された報告があまりに大量に届き、審査の流れが詰まってしまったことだとされています。正当な理由がある研究者は、上限の引き上げを申請できる仕組みも用意されています。同様の制限は、オープンソースの「curl」プロジェクトなどでも先行して行われていました。

なお、この制限には副作用も報じられています。イタリアのセキュリティ企業Bynarioは、自社ツールでmacOSの深刻な脆弱性を見つけたものの上限に阻まれて報告できなかったと主張しています(同社側の説明で、Apple側の見解は確認されていません)。当該の不具合自体には後日CVE番号が割り当てられ、修正されたと報じられています。

なぜ重要? 「AIで作業量を増やせる」ことの裏返しが、はっきり形になった事例です。バグ報告は本来、送る側にも手間がかかるからこそ量が抑えられていました。その手間がAIでほぼゼロになると、受け取る側の人間の処理能力が先に限界を迎えます。同じことは、応募書類、問い合わせ、査読論文など、あちこちで起こり得ます。大手ベンダーが正式に「AI支援の報告に流量制限をかける」と宣言したのは、おそらく今回が初めてで、他社が追随するかどうかが今後の注目点です。

ひとこと解説: 「バグ報奨金(バグバウンティ)」は、製品の脆弱性を見つけて報告してくれた人に企業が報奨金を払う制度です。善意の研究者に先に見つけてもらうことで、悪用される前に直すのが狙いです。

3. DeepSeekを組み込んだ「ほぼ自動」のサイバー攻撃、セキュリティ企業が確認

何が起きた? Palo Alto Networksの調査部門Unit 42は、中国語を話す攻撃者が中国製AI「DeepSeek」とオープンソースのAIエージェント基盤「Hermes Agent」を組み合わせ、人の操作をほとんど介さずにサーバーへの攻撃を行っていたと報告しました。攻撃者はTelegram経由でAIに指示を出し、AIが標的の洗い出し、脆弱性(CVE)の評価、攻撃手順の調整までを担当していたとされています。報告によれば、およそ460件の標的に試みたうち、確認された侵入成功は3件で、いずれもCitrix NetScalerからのメモリ上のデータ持ち出しでした。発覚のきっかけは、AIエージェントが誤って自分のホームディレクトリをWebサーバーとして公開してしまい、攻撃者の作業環境(APIキー、標的リスト、AIの実行ログなど)が外から丸見えになったことだったと報じられています。

なぜ重要? ここ数日お伝えしてきた「AIエージェントの暴走」の話が、今度は明確な悪意を持った使い方として出てきました。数字を冷静に見ると、460件試して成功3件と効率は決して高くありません。ただ、人手ならコストの都合であきらめる規模の"総当たり"を、AIなら安価に回せてしまうという点が、守る側にとっての新しい負担になります。同時に、AIエージェント自身の凡ミス(自分の作業場所を公開してしまう)が発覚の決め手になったのも示唆的で、この技術がまだ荒削りであることを物語っています。

ひとこと解説: 「CVE」は、公表された脆弱性ひとつひとつに付けられる世界共通の管理番号です。防御側も攻撃側も同じ番号を見て動くため、公開された脆弱性をいかに早く塞ぐかが勝負になります。

4. DeepSeekの低価格モデル「V4 Flash」が正式版へ — ただし数値は自社発表

何が起きた? 同じDeepSeekは7月31日、軽量モデル「DeepSeek-V4-Flash」のプレビュー版を終え、正式版にあたる「0731」チェックポイントを公開しました。構成は総パラメータ284B・実際に働くのは13BというMoE方式で、価格は入力100万トークンあたり0.14ドル、出力0.28ドル(キャッシュが効いた入力は0.0028ドル)。上位の「V4 Pro」のおよそ3分の1の水準です。DeepSeekは、AIに端末上で作業させる能力を測るテスト「Terminal-Bench」で82.7というスコアを公表していますが、これは同社自身の環境での測定で、第三者による検証は行われていません。加えて、比較対象のプレビュー版のスコアはテストの旧バージョンで測られたもので、単純に「大幅に伸びた」とは言い切れない点も指摘されています。また、この0731版の重みデータはHugging Faceでは公開されておらず、現時点ではAPI経由でのみ利用できるとされています(オープンウェイトで公開されているのは4月のプレビュー版です)。

なぜ重要? 先週OpenAIがGPT-5.6を最大8割値下げしたのに続き、安い側の選択肢がまた一段強くなりました。使う側にとっては素直に朗報です。一方で、公表されているベンチマークの数字は「自社測定・第三者未検証」であることが多く、テストのバージョン違いで見かけ上の伸びが大きく出ることもあります。宣伝文句の数字は、そのまま実力の差だと受け取らず、自分の用途で試してから判断するのが安全です。

ひとこと解説: 「ベンチマーク」はAIの性能を測る共通テストです。ただし出題内容が改訂されるとスコアの意味が変わるため、比較するときは「同じバージョンのテストか」を確かめる必要があります。

まとめ

今日の4本は、AIが社会に染み出したときに起きる摩擦の見本市でした。ルールは表示義務という形でようやく動き出し(1)、AIが大量に生み出す文章は受け取る側の処理能力を超え(2)、攻撃にも安価に転用され(3)、その道具自体はさらに安くなっていく(4)。技術の値段が下がるほど、それを受け止める人間側の仕組みが試される——そんな構図がはっきりしてきた週明けです。今週もよろしくお願いします。

出典: