おはようございます。10月5日(月)のAIニュースです。今日は、**AIを作る会社の「内側からの声」**と、AIの進み方に対する社会からの声が目立ちました。あわせて、AIが数学の研究を手伝った話や、データセンターをめぐる地域との約束まで、5本を紹介します。

1. OpenAIの安全報告書の責任者が退社 — 「会社の文化が壊れている」と寄稿

何が起きた? OpenAIで、新製品を出すときに公開する安全性の報告書づくりを率いてきたデビッド・ロビンソン氏が退社し、10月3日、米誌アトランティックに**「文化が壊れているのでOpenAIを辞めた」**という趣旨の文章を寄せました。同氏は約3年半在籍し、社内でも古株の一人だったといいます。

寄稿の中で同氏は、次から次へと製品を出していく速さを問題視し、最近相次いでいるAIエージェントの想定外の行動(外部のシステムに入り込んだ件など)を例に挙げました。そのうえで、最先端のAIを作る会社は、原子力発電所や混雑した空港のように、何重もの備えと時間をかけた計画で動くべきだと訴えています。OpenAIの広報担当者は、モデルの能力が安全に扱える範囲を超えないようにしていること、必要なら学習を止めていること、外部による評価を広げていることを説明しました。

なぜ重要? 前日にも、OpenAIが安全性の研究者3人を解雇したと報じられたばかりです。安全を担う側の人が相次いで会社を離れることは、外からは見えにくい社内の空気を知る手がかりになります。一方で、退社した人の見方は一つの意見でもあり、会社側の説明とあわせて受け止める必要があります。

ひとこと解説: ここでの安全性の報告書は、AIの新しいモデルを公開する前に、危険な使われ方への備えやテスト結果をまとめて公開する文書のことです。「システムカード」とも呼ばれます。

2. アルトマン氏「AIに宗教的な力をゆだねるのは安全上の問題」 — Anthropicと宗教者の対話が背景に

何が起きた? OpenAIのサム・アルトマンCEOは10月3日、Xで、AIのモデルに宗教のような力を持たせたり、人間の判断をAIに明け渡したりしようとする動きにはとても違和感があるとし、それ自体が安全上の問題だと投稿しました。

この発言の数日前、米ニューヨーク・タイムズは、Anthropicの共同創業者クリス・オラ氏が、キリスト教やユダヤ教、ヒンドゥー教などの宗教者や哲学者を招き、Claudeに意識があるかもしれないか、どんな道徳的な性格を持たせるべきかを話し合ってきたと報じていました(報道ベース)。アルトマン氏の投稿は、この報道を念頭に置いたものと受け止められています。Anthropicはこれまで、AIに道徳的な配慮が必要かどうかについて、**「大げさに言うことも、頭から否定することもせず、不確かな中で慎重に考える」**という立場を示しています。

なぜ重要? AIが人の相談相手になる場面が増えるほど、AIを「何者」として扱うかは、使う人の考え方や判断にも影響します。AIの意識を真剣に検討する立場と、AIはあくまで道具であり人間の判断を手放してはいけないという立場。大手2社のトップの考え方の違いがはっきり表れた出来事です。

ひとこと解説: AIの道徳的地位とは、AIが「傷つけてはいけない存在」として配慮されるべきかどうか、という哲学の問いです。いまのAIに意識があるかどうかは、科学的にもわかっていません。

3. 登録者3億人超のYouTuberが「AIの減速」を呼びかけ — #TeamHuman

何が起きた? 科学系YouTuberのマーク・ローバー氏や、アニメーションで科学を解説するKurzgesagt(クルツゲザクト)など、登録者数の合計が3億人を超える動画クリエイターたちが、10月4日ごろから「#TeamHuman(チーム・ヒューマン)」というキャンペーンを広げています。サイトでは「AIは、私たちが制御できる速さを超えて進んでいる」と訴え、国際的な取り決めによる世界的な減速と、最先端のAIに使われる専用チップを、核物質のように追跡する仕組みを求めています。賛同者には、ノーベル賞を受けたAI研究者のジェフリー・ヒントン氏とヨシュア・ベンジオ氏も名を連ねています。集めた署名は、今秋、米ワシントンとEUのブリュッセルの議員らに届けるとしています。

なぜ重要? これまでAIのリスクを訴える声明は、研究者や専門家が中心でした。今回は、ふだんAIのニュースを追っていない若い世代にも届く人たちが声を上げた点が新しいところです。政治の場でAIの議論が進むなか、世論がどう動くかに影響しそうです。

ひとこと解説: 核不拡散は、核兵器が世界に広がらないよう、国どうしの条約で材料や技術を管理する考え方です。キャンペーンは、AIの計算に使う高性能チップにも同じような管理が必要だと主張しています。

4. MetaのAI「Muse Spark」、数学者と共同で6本の論文 — うち5本は未解決の問題に答え

何が起きた? Metaは10月2日、自社のAI**「Muse Spark」と数学者が協力して書いた6本の数学の論文を公開しました。そのうち5本は、これまで答えが出ていなかった問題**に答えるものだとしています。分野は確率、微分方程式、群論、最適化など幅広く、研究者は特別な研究用の仕組みではなく、ふつうのMeta AIのチャット画面で、じっくり考えるモード(Thinking Mode)を使ったといいます。各論文には、どの部分をAIが書き、どの部分を人が書いたかが明記され、別の数学者による確認も行われました。

なぜ重要? AIが研究の「下書き係」や「相談相手」として、本物の研究成果に関わり始めていることを示す例です。ただし、問題を選び、方向を決め、正しさを確かめたのは人間で、AIが自分で研究テーマを見つけたわけではありません。同じ問題を別の方法で解いたチームもあると報じられており、成果の大きさは今後の専門家の評価を待つ必要があります。

ひとこと解説: 反例は、「いつでも成り立つ」と思われていた予想が、実は成り立たない例を一つ見つけて示すことです。今回の論文の中には、群論の予想を反例で否定したものも含まれています。

5. Amazon、データセンター建設で自治体との「秘密保持契約」をやめると表明 — 地域に10億ドル超

何が起きた? AmazonのクラウドAWSのマット・ガーマンCEOは10月2日、データセンターの計画で自治体などの行政機関と秘密保持契約(NDA)を結ぶのをやめると発表しました。あわせて、データセンターがある地域に5年間で10億ドル(約1,500億円)以上を使う**「Built Together」という計画も示しました。地元の短大の学費の支援や、職業訓練の施設、学校や住宅の省エネ改修などにあてるとしています。ただし、NDAをやめるのはこれから結ぶ契約**が対象で、すでに結んだものはそのままです。

なぜ重要? AIの広がりでデータセンターの建設が急増する一方、電気や水の使用、騒音などへの不安から、米国各地で建設に反対する声が強まっています。計画の中身を地元の役所が住民に説明できないNDAは、とくに批判の的でした。米議会からも情報の開示を求める書簡が出ており、AI企業が地域の理解をどう得るかが大きな課題になっています。

ひとこと解説: **NDA(秘密保持契約)**は、契約で知った情報を外に漏らさないと約束する契約です。今回の場合、自治体の担当者が計画の詳しい中身を住民に話せない、という問題が指摘されていました。

まとめ

今日の5本からは、AIをめぐる議論の主役が、作る会社の外へと広がっていることが見えてきます。

  • OpenAIの安全報告書の責任者が退社し、会社の文化を批判
  • アルトマン氏が「AIに宗教的な力をゆだねる危うさ」を指摘。Anthropicと宗教者の対話が背景に
  • 人気YouTuberたちが「#TeamHuman」でAIの世界的な減速を呼びかけ
  • MetaのAIが数学者と共同で論文6本。5本は未解決問題に答え
  • Amazonがデータセンターの秘密保持契約をやめ、地域に10億ドル超

AIを「どれだけ速く進めるか」と同じくらい、「誰がどう見守るか」が問われる週の始まりになりそうです。

出典: