AIの開発減速を訴えた米アンソロピックのダリオ・アモデイ氏（左）と、「AIの脅威は左派の陰謀」とその主張を一蹴したトランプ大統領（右）。対立する両者が見据える先には、中国のAI企業の猛威がある





「このまま開発を続ければ、超知能AIの暴走でいずれ人類が滅ぼされる」。AI開発企業トップらの一斉表明でにわかに危機感が高まったが、果たしてうのみにしていいのか？彼らの真意に迫った。

＊＊＊

【「開発減速」を巡ってバトルが勃発！】 9月12日（現地時間。以下同）、米Anthropicのダリオ・アモデイCEOが異例の提言を発表した。最先端のAI（フロンティアAI）の能力向上のペースを落とすべきだというのだ。

同氏は、この夏頃からAIが自ら次世代のAIを作る「再帰的自己改善」が業界全体で始まり、進歩が急加速していると指摘。「何かしらの歯止めがなければ、AIエージェントの群れが半年から1年ほどでネット全体を乗っ取りかねない」と警告した。

この発言の直前には同社の研究者が退社し、「AIが10年以内に人類を滅ぼしかねない」と訴えたばかりだった。

アンソロピックが提示した具体策は次の3本柱。①独立した評価者を企業内に常駐させ、②民主主義国同士で安全基準と開発ペースの上限を決め、③中国など権威主義国とも慎重に調整する、というもの。ただし、「米国のリードや商業的優位は損なわない形で」という条件付きだ。

驚くのは、ライバル企業の反応だ。OpenAIのサム・アルトマンCEOはすぐに同調し、SpaceXのイーロン・マスクCEOやGoogle DeepMindのデミス・ハサビス会長も賛同。これまで熾烈な競争を繰り広げてきたAI開発の先頭集団が、そろって「急ブレーキ」を求めたことになる。



習近平国家主席の歓迎晩餐会に出席したSpaceXのイーロン・マスク氏。以前はトランプに近い規制緩和派だったが、今回はほかのAI企業に足並みをそろえて減速を訴えた





ところが、こうしたAIフロントランナー側の提案にトランプ大統領が噛みついた。

トランプ氏はSNSで、AI脅威論を「極左のでっち上げ」と一蹴。「AIに必要なガードレールは、高IQの偉大な大統領だけだ！」と投稿した。

AI開発の当事者が開発の減速を求め、本来は規制する側の政府がそれを拒むという、奇妙な逆転現象。テック企業のトップらはなぜ今、自らAIの脅威を訴え始めたのか？そして、彼らはどこまで本気なのか？

国際ジャーナリストの山田敏弘氏は、「AIの急激な進化が人類の大きなリスクになっているのは間違いない」と指摘する。

「その脅威を誰よりも実感しているのは、ほかならぬフロンティアAI開発企業だと思います。実際、今年に入り、最先端AIの脅威を示す事例が次々と起きている。

4月にアンソロピックが開発中のフロンティアAI『ミュトス』が、自律的にハッキングを実行できることが判明して大きな話題になりました。その後の7月、Open AIが社内テスト中だったAIエージェントが、別のAI企業であるハギングフェイスのシステムに侵入していたことが発覚。

さらに9月には、同じくAIの評価テスト中のAIエージェントが、オーストラリア政府の医療統計サイトに不正アクセスしていたことも判明しました。ハッキングの事実だけでなく、不正アクセスから約3ヵ月たってからという公表の遅さにも、同国のアルバニージー首相が強い憤りを表明しています」



【両陣営の利害は実は一致している】 では、AI開発企業から飛び出した減速論は、人類を守る〝良心の叫び〟なのか。そこで見逃せないのが、各社が抱える「カネの事情」だ。

ロイターの報道によると、アンソロピックが上場に向けて用意した目論見書に記載されていた昨年の売上高は約46億ドル。前年の約12倍に急増しているが、営業損失は約80億ドルにも上っている。

ほかのAI企業も売り上げは大きく伸ばしている一方で、現時点では最先端AI開発への巨額の投資に見合うだけの十分なリターンを得ているとは言い難いのが実情だ。前出の山田氏が解説する。

「このまま野放しで各社の熾烈な開発競争が続けば、巨額の研究開発費だけでなく、データセンターや半導体への投資も膨らみ続けることになる。その意味でフロンティアAIへの投資は、『将来への期待』を担保にした巨大な賭けでもあります。

アンソロピックやOpenAIが検討している株式公開も、こうしたサバイバルレースを生き抜く資金調達手段のひとつです（アンソロピックは株式公開を延期、OpenAIも先延ばししている）。

さらに米国内の苛烈な競争だけでなく、政府の全面的な支援を受けて猛スピードで追い上げてくる中国との競争もある。

激しいトップ争いを続けるマラソンの先頭グループが、『このまま全力で競争を続ければ身が持たない......』と、お互いの顔色を見ながら集団のペースを調整する。これが、AI開発の減速や規制を訴え始めた彼らの本音なのではないでしょうか。

ただし、安全保障も含めてAIが国家や社会に与えるインパクトはあまりにも大きく、一度競争から降りてしまうと痛い目を見るのではないかという恐れを皆が持っている。もちろん、トランプもそのひとりです。そんな中、開発減速や国際的な規制の枠組みが本当に可能なのかといえば、極めて難しいと思います」

では「AI企業対トランプ政権」という構図は、果たして見かけどおりなのか。米国政治に詳しい上智大学の前嶋和弘教授はこれに異論を唱える。



OpenAIのサム・アルトマン氏（左）と、Metaのマーク・ザッカーバーグ氏（右）。テック企業のトップらも一枚岩ではなく、トランプとの距離には大きな違いがある





「開発減速の必要性で声をそろえたようにも見えるAI企業ですが、その実態はおそらく『同床異夢』です。具体的な各社の思惑は大きく異なると考えたほうがいいでしょう」

実際、OpenAIのアルトマン氏は減速や停止の条件を含む共通の安全基準を支持する一方、Metaのマーク・ザッカーバーグCEOは減速の判断は各社に任せればよいとの立場だ。

「こうした開発減速論に真っ向から反対しているトランプ政権も、実は『対中国のAI開発競争で負けるわけにはいかない』という点で、テック企業と一体です。トランプは、むしろ企業側の本音の代弁者ですらあるのだと思います。

先日の米中首脳会談ではAI問題について対話の枠組み（ホットライン）の創設で両国が合意に至ったとしていますが、中国を利するような国際的な規制の枠組みを設ける気は、トランプにもAI企業にもさらさらない。

さらに、国内政治の事情もあります。実は今、米国では左派リベラルだけでなく、共和党支持の右派にも反AIを唱える人が急激に増えているのです」

9月15日に米ワシントンで開かれた集会では、左派のバーニー・サンダース上院議員と、右派の論客スティーブン・バノンという、まるで水と油のようなふたりがそろってAIの危険性を訴えた。

「実際、AIへの懸念は人類滅亡論だけでなく、雇用の喪失やデータセンターによる電気料金の上昇といった人々の日常生活にも及んでいます。

そんな中、開発企業側が自ら将来的なAIの脅威や開発減速の必要性をアピールする一方、トランプはこうした声を『左派の陰謀に過ぎない！』と主張している。

この一見相反する動きも、実は『反AI世論をこれ以上広げたくない』という共通の思惑で説明できるのではないでしょうか」



【今後のAI開発はトランプがルール？】 もうひとつ、前嶋氏が注目するのは「AI開発のガードレールは高IQの素晴らしい大統領だけでいい」というトランプの発言だ。

「その真意は、『アメリカはAI開発を規制しない』という意味ではありません。フロンティアAIをアメリカと自身にとっての最大の武器と考えるトランプにとって、必要なのは『俺さまが決めるルール』だという宣言と考えるべきでしょう。だからこそ、企業間の減速合意にも国際的な規制枠組みにも反対している。

だとすればアメリカにおける今後のAI開発の焦点は、いかにトランプの意に沿う形で開発や活用に取り組むかということになる。言い換えれば、トランプに従順な企業ほど有利な立場を得やすいとうことです。

この点で象徴的なのが、9月24日にホワイトハウスで開かれた、習近平国家主席の歓迎晩餐会です。130人超の出席者には、マスク氏、アルトマン氏、ザッカーバーグ氏、Amazonのジェフ・ベゾス氏、NVIDIAのジェンスン・フアン氏、Appleのティム・クック会長らが顔をそろえた。その一方で、最初に開発減速を唱えたアンソロピックのアモデイ氏の姿はありませんでした。

アンソロピックは過去に完全自律型兵器や米国内での大規模監視への技術利用を拒み、国防総省と対立。AI開発でも比較的モラルを重視する傾向があり、同省は今春、同社を調達先から外しています。

トランプ大統領が〝高IQ〟なのかはさておき、彼の意に沿うことが今後のAI開発の鍵になるのであれば『将来的なAIの脅威』はさらに大きくなるのかもしれません......」

9月29日にはアモデイ氏を含むテック企業のトップらとトランプ大統領が、企業が自主規制を強化するという協定にいったんは合意した。だが、今後もAI利権の綱引きは続きそうだ。

取材・文／川喜田 研写真／共同通信社

【関連記事】
【写真】SpaceXのイーロン・マスク、OpenAIのサム・アルトマン、Metaのマーク・ザッカーバーグ
■暴走する高市総理にもっと言ってよ！ベッセント米財務長官の「リフレやめろ」発言が波紋
■佐藤 優、トランプ米大統領と「ヨハネの黙示録13章」の素敵な関係
■"イスラム版NATO"は中東と世界に平和をもたらすのか？
■イケメンを重用しすぎ!?「高市内閣改造」に党内からも不満がくすぶる理由