AIの軍事利用を巡ってアンソロピックと米国防総省との亀裂が深まっている

【ワシントン=中藤玲】米国防総省が米人工知能（AI）開発新興のアンソロピックとの取引契約を解消する検討に入った。米軍がベネズエラ攻撃にアンソロピックのAI技術を使ったことで、対立が深まったとみられる。法人向けAIで急成長するアンソロピックだが、安全担当者が辞任したばかりで足元は混乱も目立つ。AIの兵器化や軍事利用を巡る課題の解決も急務になっている。

米ニュースサイトのアクシオスが17日までに報じた。米国防総省はアンソロピックとの取引を打ち切り、米国の安全保障を脅かしかねない「サプライチェーン（供給網）上のリスク」に指定すべきか精査している。ヘグセス米国防長官の指示を受けた措置という。

ヘグセス米国防長官がアンソロピックの関係見直しを指示した=ロイター

トランプ米政権は1月にベネズエラへの軍事攻撃に踏み切り、首都カラカスに空爆を加えたうえでマドゥロ大統領を拘束した。米軍はこの際に米データ分析のパランティア・テクノロジーズのサービスを介し、アンソロピックのAI「Claude（クロード）」を使った。

アンソロピックは暴力行為の助長や兵器開発に自社製AIを使うことを規約で禁じている。ブルームバーグ通信によると、アンソロピックは米軍に対し、改めて自律型AI兵器や大規模監視などへの利用制限を求めたとみられる。

これに国防総省が反発し、AIの軍事利用を巡ってアンソロピックとの亀裂が生じたもようだ。国防総省は2025年にアンソロピックとAI活用について合意し、同社に2億ドル（約307億円）を支払う契約を交わしていた。

国防総省が今回検討している措置はアンソロピックへの「制裁」に近い。アンソロピックとの取引を実際に解消すれば、米軍と取引関係がある企業にもアンソロピックとの関係を断つよう要求する可能性がある。

アンソロピックのAIはプログラミングに強みを持つ。「クロード」の導入企業は世界30万社にのぼり、日本企業ではパナソニックホールディングスや楽天グループも顧客だ。140億ドルとされる年間売上高のうち、国防総省からの受注額は1%程度にとどまるが「サプライチェーン上のリスク」に指定されれば事業に大きな影響がおよぶ恐れがある。

国防総省が取引の打ち切りを検討していることについて、アンソロピックは日本経済新聞の取材に対し「我々は最先端のAIを米国の国家安全保障に活用することに尽力しており、だからこそ機密ネットワーク向けのモデルを提供している」と回答した。

そのうえで国防総省とは「複雑な問題に適切に対処するため、建設的な協議をしている」と明かした。

アンソロピックはAIの暴走や悪用の危険性を極力抑えたAI開発でも知られる。ダリオ・アモデイ最高経営責任者（CEO）ら共同創業者は米オープンAIの安全対策が不十分だとして、同社を離脱してアンソロピックを立ち上げた経緯がある。

一方で、技術の進化や事業の急拡大に伴い、AI開発の最前線に立つ研究者がその危険性を訴える事態が相次いでいる。

米軍の攻撃を受けたベネズエラの車両（1月、首都カラカス）=ロイター

「世界は危機に陥っている」。アンソロピックでAIの安全性を研究していたムリナンク・シャルマ氏は9日、X（旧ツイッター）にそう投稿して退職した。「自分たちの価値観を行動の指針とする難しさに直面した。最も重要なことを脇に置くよう、常に圧力があった」と説明している。

競合するAI企業も同様の悩みに直面している。

オープンAIの元研究者であるゾーイ・ヒッツィグ氏は11日、米紙ニューヨーク・タイムズに寄稿して退職を表明した。「AIが生む問題に開発者が先回りして対処できると信じていたが、オープンAIは解決への取り組みをやめようとしている」と訴えた。

オープンAIは対話型AI「Chat（チャット）GPT」に広告を取り入れようとしているが「利用者が深く考えずに共有してきた膨大で繊細なデータは誰の手にわたるのか」（ヒッツィグ氏）と批判する。会社側は広告主にデータを販売しない方針を示しているものの「規則を無視したくなるような経済エンジンを構築しており、守られないかもしれない」と懸念を示した。

アンソロピックのAIは業務ソフトの事業モデルを崩す「SaaSの死」の震源として株式市場で注目を集める。売上高や企業価値が急速に膨らむ一方で、AI各社は安全対策や適切な使い方といった企業倫理との向き合い方が問われている。