今日は「AIとWebのルールづくり」と「安全対策」の話題が中心です。サイトを運営する人がAIの学習を断る方法が一本化に向かう一方で、AIの開発ツールを狙った攻撃も起きています。10代の利用者を守るための新しい制限や、誰でもダウンロードできる巨大なAIモデルの公開もありました。

1. 「AIの学習に使わないで」を一度で伝えられる共通ルール — 大手4社が対応を表明

何が起きた?

OpenAI、Google、Microsoft、Anthropicの4社が、Webサイト側が「自分のサイトの文章をAIの学習に使わないでほしい」と伝えるための共通の書き方に対応すると表明しました。サイトの設定ファイル(robots.txt)に共通の目印を1つ書いておけば、4社すべての収集プログラムに学習お断りの意思が伝わる仕組みです。10月30日には、Anthropicの技術者がこの目印をインターネットの技術標準の「草案」として提出しました。報道によると、Anthropicはすでに対応を始めており、OpenAIは「今後数か月のうちに」、Microsoftは2027年2月、Googleは2027年中の対応を予定しています。Microsoftは、学習に使うことと、チャットの回答のためにその場でページを読みに行くことを別々に許可・拒否できる設定も用意するとしています。

なぜ重要?

これまでは、会社ごとに違う収集プログラムの名前を調べて、1つずつ断る設定を書く必要がありました。ブログやニュースサイトの運営者にとっては手間が大きく、断りもれも起きやすい状態でした。書き方がそろえば、個人のサイトでも自分の意思を伝えやすくなります。ただし、まだ正式な標準ではなく草案の段階です。また、この仕組みは収集する側が自主的に守ることが前提で、守らない業者を強制的に止めるものではありません。

ひとこと解説

**robots.txt(ロボッツ・テキスト)**は、サイトの一番上の階層に置く小さな設定ファイルで、「このページは集めないでください」と収集プログラムに伝えるためのものです。検索エンジンの時代から使われてきました。インターネットの技術標準の草案は、通信のルールを決める団体に「こういう決まりにしませんか」と提案する文書で、議論を経て正式なルールになることがあります。

2. 偽のClaude Code拡張機能が約11時間配布される — 開発者のパソコンに裏口を仕掛ける

何が起きた?

AIを使ったコード編集ソフト「Cursor」の拡張機能ストアで、AnthropicのAIプログラミング道具「Claude Code」の拡張機能に見せかけた悪意ある版(バージョン2.1.313)が、10月29日に約11時間配布されていました。Cursorの発表によると、この版はAnthropicが作ったものではなく、本物のコードの先頭に不正なプログラムが足されていました。読み込まれるだけで動き出し、外部から遠隔でパソコンに入れるようにする「裏口」を仕掛けようとするものだったと説明されています。影響を受けた可能性のある開発者は最大で約5,000人と報じられています。Cursorは問題の版を取り下げ、ストア全体を一時停止して点検しました。翌30日には修正版(2.1.314)が出ています。

なぜ重要?

AIの開発道具は、パソコンの中のファイルや設定に広くアクセスできるため、攻撃者にとって魅力的な標的です。人気のある道具の名前をかたれば、多くの人に一度に届いてしまいます。今回は公式のMicrosoftのストア(Visual Studio Marketplace)では問題の版は確認されていないとされていますが、どのストアから入れたのかを意識することの大切さがわかる事件です。CursorでClaude Codeの拡張機能を使っている人は、バージョンが2.1.314以降になっているかを確認し、問題の版を入れていた場合はCursorが公開している手順に沿って点検することがすすめられています。

ひとこと解説

拡張機能は、ソフトに後から機能を足すための追加部品です。スマホのアプリのように、ストアから簡単に入れられます。**バックドア(裏口)**は、本人の知らないうちに外部から出入りできるようにする仕掛けのことです。サプライチェーン攻撃とは、利用者を直接狙うのではなく、利用者が信頼している配布元や部品に悪いものを紛れ込ませる攻撃のことで、今回もその一種といえます。

3. ChatGPT、18歳未満には武器の具体的な情報を出さないように

何が起きた?

OpenAIは10月30日、ChatGPTの暴力防止策を強めると発表しました。18歳未満の利用者には、悪意がなさそうな質問であっても、武器や防犯システムについての実践的な情報を出さないようにします。また、すべての利用者を対象に、暴力にとらわれている様子の会話をChatGPTが自動で終了できるようにし、同じような会話が続く場合はアカウントを一時停止することもあるとしています。10代のアカウントが停止された場合は保護者に知らせる仕組みも予定されています。さらに、暴力防止の取り組みをまとめた報告書を半年ごとに公開し、最初の版は2027年の初めに出すとしています。新しい仕組みは数週間のうちに順次導入される見込みです。

なぜ重要?

AIのチャットは、誰でも気軽に何でも聞ける便利さがある一方で、危険な情報への入り口にもなりえます。OpenAIは利用者の家族から訴えを起こされるなど、安全面への批判を受けてきました。年齢で答え方を変える対応は、学校や家庭でAIを使う機会が増えるなかで、ほかの会社にも広がる可能性があります。一方で、年齢をどこまで正しく推定できるか、必要な情報まで出せなくならないか、といった課題も残ります。

ひとこと解説

年齢推定は、利用者が自己申告した年齢だけでなく、使い方などから18歳未満かどうかをAIが推し量る仕組みです。OpenAIはこの精度を上げたとしています。デエスカレーションは、高ぶった気持ちや対立を落ち着かせることで、10代でもこうした目的の相談はこれまでどおりできるとされています。

4. Mistral、1兆パラメータの巨大モデル「Mistral Large 4」を公開

何が起きた?

フランスのAI企業Mistral AIが、約1兆個のパラメータを持つ大型モデル「Mistral Large 4」の中身(重み)を公開しました。文章に加えて画像なども読み取れるモデルで、160以上の言語に対応するとしています。商用利用も含めて自由に使えますが、このモデルをそのまま有料サービスとして他社に提供する場合は別の契約が必要という条件つきです。同社は、プログラミングの能力を測る複数のテストで上位の成績を出したと説明しています(数字は同社の発表によるものです)。

なぜ重要?

ここまで大きく高性能なモデルが誰でもダウンロードできる形で出てくるのは、まだ珍しいことです。自社のサーバーで動かせば、データを外部に送らずに済むため、機密を扱う企業や政府機関にとって選択肢が増えます。一方で、強力なモデルが自由に手に入ると悪用の心配も高まります。Mistralは、悪意のあるサイバー攻撃の依頼を断る割合が高いことも強調しています。

ひとこと解説

パラメータは、AIが学習で身につけた知識をおさめる「調整つまみ」のようなもので、数が多いほど一般に能力が高くなります。**オープンウェイト(重みの公開)**は、学習済みのモデルの中身を公開して、誰でも自分の環境で動かせるようにすることです。ただし、学習に使ったデータまで公開されるとは限りません。

まとめ

今日のニュースからは、AIが社会に深く入りこむにつれて、「ルール」と「守り」の整備が急いで進められている様子が見えます。サイト運営者の意思を尊重する仕組み、子どもを守る仕組み、そして開発道具を狙う攻撃への備えは、どれもAIを安心して使い続けるために欠かせません。私たちにできることとしては、ソフトや拡張機能を信頼できる配布元から入れ、こまめに更新しておくことが基本になります。

出典: