Googleは米国国防省にAI技術を供与、TensorFlowがイスラム国監視で使われAIの軍事利用が問われている

米国国防省はドローンを使った偵察ミッションを展開しているが (下の写真)、AIを導入しプロセスを自動化した。イスラム国やシリアで、ドローンが撮影するビデオに写っている車両や人物などをAIが判別する。ここにGoogleのAI技術が使われていることが判明し、Google社員はプロジェクトからの撤退を求めている。社外のAI研究者からも批判の声があがり、Googleは利益追求と社会責任のバランスが問われている。

出典: U.S. Navy

Google社員の抗議

このシステムは「Project Maven」と呼ばれ、ドローンを使ったAI偵察ミッションで、コンピュータビジョンがオブジェクトを判定する。GoogleがこのプロジェクトにAI技術を提供していることが明らかになり、社員は公開書簡をCEOのSundar Pichai送り、契約を解約するよう要求している (下の写真、一部)。更に、Googleは軍事産業にどうかかわるのか、会社の指針を明らかにすることも求めている。この書簡に4000人のGoogle社員が署名し、12人のエンジニアはこれに抗議して会社を辞職した。

出典: Google

Googleの対応

これに対して、Googleのクラウド事業部責任者Diane Greeneは、Project Mavenへの技術供与について説明した。それによると、Googleが提供するAI技術は、ドローンを飛行させたり、兵器を起動するためには使われない。戦力を行使する戦闘行為に適用されるのではなく、あくまで通常のミッションで使われると説明。具体的には、GoogleはオープンソースのTensorFlow APIを提供し、ドローンで撮影したイメージを解析し、オブジェクトを把握するために使われていることを明らかにした。

自律兵器へ繋がる

Googleは提供した技術が自律兵器 (Autonomous Weapons) で使われることはなく、攻撃を伴わない監視活動だけで使われることを強調した。自律兵器とは、AIが攻撃目標を把握し、AIがトリガーを起動する兵器を指す。人間の判断を経ないでAIが目標を選び攻撃するため、殺人ロボットとも呼ばれる。Project Mavenは敵の行動を把握するためだけにAIを使うが、これを応用すると自律兵器に繋がるため、Google社員は技術供与に反対している。

オープンソース

GoogleはTensorFlowをオープンソースとして公開しており、だれでも自由に使うことができる。かりにGoogleが契約を解約しても、オープンソースであるため、Project MavenはTensorFlowを使い続けることができる。市場には数多くのAIオープンソースが公開されており、これらが軍事目的で使われている可能性は否定できない。Google社員による問題提起は、AIオープンソースを如何に管理すべきか、本質的な問題を含んでいる。

Project Mavenの位置づけ

Project Mavenについては、国防省がその概要をニュースリリースの形で公開している。それによると、「Algorithmic Warfare Cross-Functional Team」と呼ばれる部門が新設され、このプロジェクトを管轄しシステムを開発した。この部門は国防省内の組織を跨り、AIとMachine Learningを導入することを使命とし、Project Mavenがその最初のプロジェクトとなった。

偵察活動を自動化

国防省はイスラム国が支配している地域とシリアでドローンを飛行させ、偵察活動を展開している。ドローンに搭載されたカメラで地上を撮影し、アナリストがビデオや写真をみて、そこに写っているオブジェクトの種類を判定してきた (下の写真、イメージ、空軍諜報部門)。撮影されるイメージは大量で、アナリストの手作業には限界があり、このプロセスをAIで自動化することを目的にプロジェクトが始まった。アルゴリズムはオブジェクトを38のクラス (車両、人物、行動など) に特定し、問題と思われる情報を抽出し、それらをアナリストが解析する。このミッションでは戦略ドローン「ScanEagle」(先頭の写真) と戦術ドローン「MQ-1C Gray Eagle」及び「MQ-9 Reaper」が使われている。

出典: US Air Force

AmazonやMicrosoftも

国防省にAI技術を供与しているのはGoogleだけでなく、AmazonやMicrosoftもクラウドサービスでイメージ解析技術などを提供している。これらの企業ではAIが軍事目的で使われることに対して、反対運動は起こっていない。更に、データサイエンスでトップを走るPalantirは軍需企業として国防省に情報サービスを提供し続けている。Googleの場合は社員が理想的な世界を追いすぎるのではとの意見も聞かれる。

AI研究者の反応

一方、世界最先端のAI技術を持つGoogleがその技術を軍事システムに提供したことに対し、市場からも反対の声が上がっている。大学教授を中心とするAI研究者1000人は、Alphabet CEOのLarry Pageらに、Project Mavenから離脱し、今後はAIを軍事目的で使わないことを求めている。

AIの軍事利用の指針

AIの軍事利用については、早くからその危険性が指摘され、世界レベルでの運用ガイドラインの制定が求められてきた。既に、軍事システムには高度なAIが導入され、統一ルールがないまま開発が先行している。ここに、GoogleというAI企業が加わったことで、そのインパクトは大きく、市場の懸念が一気に高まった。ハイテク企業はAIの軍事利用に関し、明確なポリシーを設立することが求められている。

Leave a Reply

You must be logged in to post a comment.