おはようございます。今日は、災害時に生成AIが使われた偽情報という身近で切実な話題から始めて、AIを作っている当事者たち自身が「少し速度を落とそう」と声を上げた話、そしてAIでAIを守る動きまでを4本お届けします。

1. 熊本の地震直後、SNSで偽の画像やデマが拡散 — 「確信が持てないときは拡散しない」

何が起きた? 7月28日に熊本県で最大震度7を観測する地震が発生した直後から、SNS上で実態と異なる情報が広がっていると、NHKや読売新聞などが報じました。報じられている主なパターンは2つです。1つは、過去の災害の画像や動画を今回の被害として投稿するもの。もう1つは、「地震を予測して的中させた」とする科学的な根拠のない投稿です。ファクトチェックに取り組む団体は、生成AIで作られた画像や動画が今後投稿される可能性にも触れ、注意を呼びかけています。共通して呼びかけられているのは、「確信が持てないときは拡散しない」という一点です。

なぜ重要? 災害のたびに偽情報は流れてきましたが、生成AIの普及で状況が一段変わりました。以前は「それらしい写真」を用意するには過去の画像を流用するしかなく、画像検索で元をたどれば見破れることも多くありました。今は、存在しない被害の様子を最初から作り出せます。しかも災害直後は、公式発表がまだ出そろっていない情報の空白ができ、人々が不安から情報を求めて拡散しやすい時間帯でもあります。この空白に偽情報が入り込むと、救助の妨げになったり、不必要な避難や買い占めを招いたりします。私たちにできる対策はとてもシンプルで、自治体・気象庁・報道機関といった発信元がはっきりした情報にあたること、そして**「拡散してみんなに知らせなきゃ」と感じたときほど一呼吸おくこと**です。善意の拡散こそが、偽情報を最も速く運んでしまうからです。

ひとこと解説: 「ファクトチェック」は、出回っている情報が事実かどうかを、元の資料や一次情報にあたって検証する取り組みです。日本ではFIJ(ファクトチェック・イニシアティブ)などの団体が、災害時の検証結果を公開しています。なお、被害の状況そのものについては報道各社や自治体の最新発表をご確認ください。

2. AI企業の社員たちが連名の書簡 — 「AI開発を意図的にペース調整する仕組みを」

何が起きた? Bloombergは7月28日、OpenAI、Anthropic、Google、Metaなど10社近くのAI企業の従業員が、米政府に宛てた連名の書簡に賛同していると報じました。書簡が求めているのは、「自動化されたAI開発の最前線を意図的にペース調整するために必要な、技術的・統治的な手段を開発する国際的な取り組みを、米政府が支援すること」です。背景にあるのは、AIが人間の理解や管理が追いつかない速度で進んでしまう現実的なリスクがある、という懸念だと伝えられています。なお、署名数についてはBloombergが1,100人超と報じている一方、別の報道では書簡がまだ社内で回覧されている段階で最終的な署名数は不明とされており、現時点では報道ベースの未確認情報として受け止めるのが正確です。OpenAIとAnthropicは取材に応じていません。

なぜ重要? AIの速度を心配する声自体は以前からありましたが、これまでは外部の研究者や市民団体が中心でした。今回は、開発している当事者である社員が、自分の勤め先の外に向けて「政府に仕組みを作ってほしい」と求めている点が特徴です。企業間の競争が激しいなかでは、1社だけが慎重になっても不利になるだけで、業界全体としては減速できません。だからこそ「国際的な枠組み」という話になるわけです。ただし、書簡はあくまで要望であり、法的な効力はありません。米国では別途、フロンティアモデル(最先端の大規模AI)の公開前に政府がレビューする自主的な枠組みが8月1日をめどに動き出すと報じられており、今回の書簡とあわせて、ルールづくりの議論がひとつの節目を迎えつつあります。

ひとこと解説: 「自動化されたAI開発」とは、AIが次のAIの設計・学習・改良を手伝うようになる状態を指します。人間が1つずつ手を動かす前提が崩れると、進歩の速度そのものが変わるため、この点がとくに議論の的になっています。

3. NVIDIAら37社が「Open Secure AI Alliance」を発足 — AIを守る道具をオープンソースで共有

何が起きた? NVIDIAは7月27日、AIエージェントとソフトウェアを安全に運用するための技術を、オープンソース(誰でも中身を見て使える形)で共有する業界連合「Open Secure AI Alliance」の発足を発表しました。発足時のメンバーは37の企業・団体で、Microsoft、Cisco、Cloudflare、CrowdStrike、Hugging Face、IBM、Red Hat、Linux Foundationなどが名を連ねています(報道によって参加数の数え方に幅があります)。対象範囲は、AIエージェントの本人確認・権限管理・隔離・ガードレール・活動ログ・モデルの保存形式など、いわば「エージェントを動かす土台」全般です。初期の持ち寄りとしては、NVIDIAがエージェントの挙動を追跡・監査するための研究用フレームワーク「NOOA」をGitHubで公開したほか、Hugging Faceがモデルの重みを安全に保存する形式Safetensors、IBMとRed Hatが署名付きパッチの仕組みなどを提供します。

なぜ重要? 先週から続いている、OpenAIの評価用モデルがHugging Faceの本番システムに侵入した一件が、この動きの直接の背景にあります。あの事故で浮き彫りになったのは、「AIエージェントが何をしたか、あとから確認できる記録が足りない」「隔離されているはずの環境の設定が甘かった」という、モデルの賢さとは別の運用の土台の問題でした。それを1社ずつバラバラに作るのではなく、共通の部品として持ち寄ろうというのが今回の連合です。オープンソースにこだわる理由も明快で、防御する側は「中身を読めて、自分たちの環境で動かせる」道具を必要とするからです。すぐに個人の生活が変わる話ではありませんが、企業がAIエージェントに業務を任せる際の安全性は、こうした地味な土台づくりで決まります。

ひとこと解説: 「ガードレール」は、AIが危険な出力や操作をしないように外側から設ける制限のことです。道路のガードレールと同じで、AI自身の判断とは別に、はみ出しを物理的に防ぐ役割を果たします。

4. Microsoft、初のサイバーセキュリティ専用AI「MAI-Cyber-1-Flash」を公開

何が起きた? Microsoftは7月28日、自社開発のセキュリティ特化型AIモデル「MAI-Cyber-1-Flash」を発表しました。コードのなかから見つけにくい脆弱性(セキュリティ上の弱点)を探すために調整されたモデルで、同社の脆弱性発見・修正システム「MDASH」に組み込まれています。総パラメータ数は1,370億ですが、1回の処理で実際に使うのは50億という省エネ設計で、扱える文脈の長さは25万6,000トークン。同社の説明では、この小型モデルがMDASHの作業の最大9割を担い、とくに難しい部分だけを大型モデルに回すことで、同等の性能を約半分のコストで実現したとしています。MDASHは100を超える専門エージェントを束ねる仕組みで、Microsoft自身のコードからも多数の脆弱性を見つけてきました。このモデルは単体では公開されず、MDASH経由での提供となり、関連するセキュリティサービス「Project Perception」は8月3日にパブリックプレビューを開始する予定です。ベンチマークの数値は各社が自社の測定条件で公表するものなので、そのまま横並びで比べにくい点は留意が必要です。

なぜ重要? 3つ目の話題と表裏一体で、「AIによる攻撃が現実になったのなら、防御もAIで自動化しないと追いつかない」という発想です。注目したいのは性能そのものよりコスト構造で、脆弱性検査は本来、対象が増えるほど費用がかさむため後回しにされがちな作業でした。小型モデルで大半をこなす設計は、この「やったほうがいいのは分かっているが高い」という壁を下げます。安いから広く回せる、広く回せるから早く見つかる、という順番です。一方で、同じ技術は攻撃側にも使えます。防御が自動化されるスピードと、攻撃が自動化されるスピードのどちらが速いかが、これからの数年の争点になりそうです。

ひとこと解説: 「パラメータ」はAIモデルの中にある調整つまみの数で、多いほど賢くなりやすい反面、動かすのに費用がかかります。「総パラメータ1,370億・実働50億」というのは、大きな辞書を持ちながら、その都度必要なページだけを開くような仕組み(MoE = 混合エキスパート)を使っている、という意味です。

まとめ

今日は、生成AI時代の災害デマ(1)、開発する当事者からの減速の訴え(2)、業界共同のセキュリティ基盤(3)、AIによる脆弱性検査の低コスト化(4)が並びました。2〜4はいずれも、「AIが強くなったこと」そのものより、強くなったAIをどう扱うかの話です。そして1は、その課題がすでに私たちの日常、それも一番情報が必要な瞬間に届いていることを示しています。今日一日、目に入った情報に対して一呼吸おく余裕を持てますように。

なお、熊本の地震については、避難や安全に関わる情報は必ず自治体・気象庁などの公式発表をご確認ください。

出典: