おはようございます。今日は、AI研究の第一人者たちが「AIを見張る国際的なしくみ」を求めた公開書簡から始めます。会話を記録して要約してくれるAmazonの新しいAI端末、画像生成AIの安全対策のすき間、プログラムの弱点をAIが直してくれるGitHubの新機能、そしてAI関連株の値動きもお届けします。

1. 科学者約400人「最先端AIを監督する国際機関をつくるべき」— ヒントン氏・ベンジオ氏も署名

何が起きた? 34か国の科学者約400人が、高度なAIを監督する国際的な機関の設立を求める公開書簡を出しました。署名者には、ノーベル賞受賞者のジェフリー・ヒントン氏や、チューリング賞受賞者のヨシュア・ベンジオ氏も含まれています。書簡では、特にサイバー攻撃に使えるほど高い能力を持つAIについて、開発・テストの段階では外部のネットワークから切り離すこと、重大な事故を記録する台帳をつくり将来的に公開することなどを提案しています。

なぜ重要? 報道によると、1か月ほど前には米国の主要AI企業が政府と安全対策の約束を交わしましたが、これは企業の「自主的な約束」で、守らなかったときの強制力はありません。今回の書簡は「自主ルールだけでは足りない」とはっきり主張しており、AIのルールづくりを国の枠をこえて進めるべきかという議論に、改めて火をつけそうです。

ひとこと解説 「エアギャップ(air-gap)」とは、コンピューターをインターネットなど外のネットワークから物理的に切り離しておくことです。万が一AIが想定外の動きをしても、外に影響が広がりにくくなります。

2. Amazon、会話を記録・要約するAI端末「Bee」2機種を発売

何が起きた? Amazonが、2025年に買収したスタートアップ「Bee」のブランドで、新しいAI端末を2機種発表しました。リストバンド型でクリップで服にも留められる「Bee Frontier」(74.99ドル)と、スマートフォンの背面に磁石で貼り付けるカード型の「Bee Eclipse」(99.99ドル)です。会話を文字に起こして要約し、リマインダー(やることの通知)を作ってくれます。Amazonの音声アシスタント「Alexa+」とも連携します。

なぜ重要? 「会議の内容を覚えておいてくれる」「言った約束を忘れない」といった便利さがある一方で、周りの人の声まで記録されるため、プライバシーをめぐる議論も起きています。AIが画面の中から「身につける道具」へ広がっていく流れを象徴するニュースです。日本での発売は今のところ発表されていません。

ひとこと解説 「ウェアラブル端末」とは、腕時計やバンドのように身につけて使う電子機器のことです。スマートウォッチもその一種です。

3. 画像生成AIの安全対策、「AIに攻め方を考えさせる」と破られやすく — 研究者が指摘

何が起きた? AIの安全性を研究する企業White Circleが、画像生成AIの安全対策をすり抜ける手法「RISE」を発表し、しくみを公開しました。あるAIが「どう頼めば制限を回避できるか」という作戦を考え、別のAIが結果を採点し、うまくいった作戦を磨いていく、というくり返しで、性的な画像などを作らせるものです。OpenAIやGoogleの画像生成AIで試したところ、一定の割合で回避に成功し、新しいモデルのほうが成功率が高くなった例もあったと報告されています。

なぜ重要? 画像生成AIは、実在の人の写真を勝手に加工する「ディープフェイク」に悪用される心配がずっと指摘されています。今回の研究は、人が手作業で抜け道を探さなくても、AIが自動で抜け道を探せてしまうことを示しました。研究の目的は対策を強めるための「弱点探し」ですが、AI企業には一段と頑丈な守りが求められそうです。

ひとこと解説 「レッドチーミング」とは、あえて攻撃する側の立場に立ってシステムの弱点を探すテストのことです。見つかった弱点を直すことで、安全性を高めます。

4. GitHub、プログラムの弱点をAIが調べて直す「エージェント型自動修正」を正式提供

何が起きた? プログラムの保管・共同開発サービスGitHubが、セキュリティ検査で見つかった問題をAIが自動で直す「agentic autofix(エージェント型自動修正)」を正式に提供し始めました。7月から試験提供されていた機能です。AIが関係するファイルを調べて修正案を作り、もう一度検査して問題が消えたことを確かめてから、人が確認するための変更案(プルリクエスト)を出します。同じ時期に、これまでの検査ツールが苦手だった言語も調べられる「AI Scan」も正式提供になりました。

なぜ重要? アプリやサービスの弱点(脆弱性)は、見つかってもなかなか直す手が回らないことが多い問題です。AIが「直して、確かめる」ところまで担うことで、修正のスピードが上がると期待されます。ただし最後に変更を取り込むかどうかは人が判断するしくみで、AIに丸投げするわけではありません。利用にはAIの利用量(クレジット)を消費します。

ひとこと解説 「エージェント型」とは、AIが一度答えて終わりではなく、自分で調べる→作業する→結果を確かめる、といった複数の手順を自律的に進めるタイプのことです。

5. AI関連の半導体株が値下がり — 「AI投資の借金コスト」への不安

何が起きた? 報道によると、ここ数日、世界の半導体関連の株価が大きく値下がりし、投資家が比較的安全とされる国債などに資金を移す動きが見られました。背景には、金利の上昇でAI向けデータセンターを建てるためのお金を借りるコストが上がっていることや、中国勢との競争への警戒があるとされます。AI向けにクラウドの計算能力を貸し出すCoreWeaveでは、同社の社債の利回りが大きく上がり、株価も下落したと伝えられています。

なぜ重要? AIの開発競争は、巨額の設備投資によって支えられています。その多くは借金でまかなわれているため、金利が上がると負担が重くなります。今回の値動きは「AIへの投資は本当に回収できるのか」という市場の不安の表れと受け止められています。なお、この記事は特定の銘柄の売買をおすすめするものではありません。

ひとこと解説 「利回り」とは、債券(お金を貸した証書)を持っていると得られる利息の割合です。利回りが高いほど「この会社にお金を貸すのは少し心配だ」と市場が見ている、と読むことができます。

まとめ

今日は「AIの安全をどう守るか」の話が目立ちました。科学者たちは国際的な見張り役を求め、研究者は画像生成AIの守りのすき間を示しました。一方で、Amazonの会話を覚える端末や、GitHubの自動修正AIのように、AIが暮らしや仕事の中へ一歩ずつ入り込む動きも続いています。そして、その開発を支える巨額の投資に、市場が少し慎重になり始めている — そんな一日でした。

出典: