グーグル社員の猛抗議が問う｢軍事AI｣の是非 AI活用原則を発表､国防総省と契約更新せず

米グーグルのスンダー・ピチャイCEOは、今年5月の年次開発者会議「I/O」で社会課題の解決におけるAI（人工知能）の重要性を繰り返し強調したが、軍事利用に関する言及はなかった（記者撮影）

「グーグルは戦争ビジネスにかかわるべきではない」「この計画はグーグルのブランドや採用競争力に対し、取り返しが付かないほどのダメージを与える」「われわれの技術の道徳的な責任を第三者に委ねてはならない」

米IT大手グーグルで今春、社員の間で回覧されたスンダー・ピチャイCEO宛ての書簡にはこうした文言が並んでいた。同社のクラウド部門が昨年9月に米国防総省と結んだ軍事用無人飛行機（ドローン）向けのAI（人工知能）開発契約、通称「プロジェクト・メイブン」に対する反対運動である。米メディアによれば、4000人を超える社員がこの書簡に署名したほか、一部社員が辞職する事態に発展した。

「邪悪になるな」の文化が社員を動かした

プロジェクト・メイブンは、ドローンで撮影した低解像度の映像における物体認識にAIを活用するというもの。グーグルは今年3月、「これは国防総省との試験プロジェクトであり、物体認識を補助するオープンソースの機械学習API（アプリケーション・プログラミング・インターフェース）を提供している。技術は非攻撃的な使用に限られている」と説明していた。

グーグルの社是には、「Don’t be evil（邪悪になるな）」というものがある。ユーザーに最良の製品やサービスを届けるとともに、社員としてよい行いをせよというメッセージだ。これがアイデンティティーとなっている多くの社員は、プロジェクトへの参加自体を問題視した。

こうした動きを受け、ピチャイCEOは6月7日、AIの開発や活用に関する7つの基本方針を発表した。「社会にとって有益である」「不公平なバイアス（偏向）の発生、助長を防ぐ」「安全性確保を念頭に置き、開発・試験を行う」「人々への説明責任を果たす」などといったものだ。ただ抽象的な表現が多く、細かな解釈については意見が分かれそうだ。

AIの提供をしない分野についても、「人々に危害を与える武器またはその他の技術」「国際的な規範に反する監視のために、情報を収集し利用する技術」などと明示し、武器となるAIの開発はしないことを宣言した。ここまで踏み込んだ指針は、IT企業であまり例がない。

グーグルのクラウド部門を率いるダイアン・グリーン氏は7日の声明で、「国防総省との契約を打ち切るようグーグルに求める声が相次いだ。われわれはメイブンのプロジェクトに関する契約更新はしない」と述べ、2019年で契約を終了することを明らかにした。

一方で武器用のAI以外の分野では、政府や軍との取り組みを続けることを強調。サイバーセキュリティや生産性向上のツール、医療などの分野を挙げている。グリーン氏は同じ声明の中で、「（メイブンの）契約を検討していた当初から、われわれのクラウドやAIがどのように使われるべきかを明示した指針の必要性を感じていた」と述べている。すでに契約締結からは9カ月ほどが経過しているが、なぜこれだけ時間を要したかは明らかになっていない。

クラウドビジネスの争いが過熱

政府や軍の案件は、大規模な受注が見込めるとして多くのクラウド事業者が目をつけている。世界シェアトップの「アマゾン・ウェブ・サービス（AWS）」を展開する米アマゾンや、同2位の米マイクロソフトは両社とも米国政府や国防総省専用のデータセンターを抱えるほどだ。これら2社を追いかけるシェア3位のグーグルが、国防総省案件の拡大を狙ったとしても不思議ではない。

国防総省は現在「JEDI（ジェダイ）」と呼ばれる、大規模なコンピュータ環境のクラウド移行プロジェクトを進めており、一大ビジネスチャンスが転がっているのは明らか。さらに同省のイノベーションに関する助言機関には、グーグルの親会社・アルファベットのエリック・シュミット元会長（現テクニカルアドバイザー）やグーグルの幹部が名を連ねている。

グーグルのクラウド部門トップのダイアン・グリーン氏は昨年の取材で、将来のクラウド事業は同社の主収入である広告事業をも超えていくことも示唆していた（撮影：風間仁一郎）

グーグルのクラウド部門の売上高は昨年初めて、四半期決算で10億ドルを超えた。前出のグリーン氏は昨年、東洋経済の取材に対し「5年以内にクラウド市場を制する」と断言。拡大に向け、鼻息は荒い。

実際、あるグーグル社員は「メイブンに関しては社内で意見が二分されている。絶対に荷担してはならないという主張がある一方、ある程度は仕方がないという意見もある。他社も含めてさまざまな形で国防総省に協力しており、線引きは難しい」と話す。別の社員からは、「基本的に米国人で成り立っている会社ではない。自社の技術が実際に軍事利用されれば、激しく反対するのは当たり前」との声も聞かれる。

国際人権団体・ヒューマンライツウォッチの武器部門でアドボカシーディレクターを務めるメアリー・ウェアハム氏は、「グーグルの公約は歓迎すべきこと。完全に自動化された兵器の開発に荷担しないことにコミットするよう、アマゾンやマイクロソフトなど他のテクノロジー企業も巻き込んでいくことをグーグルに働きかけていきたい」と述べた。

グーグル社員と同様に、ピチャイCEOやグリーン氏、そしてクラウド部門でAIの主任研究員を務めるフェイフェイ・リー氏らに公開書簡を送ったNGO（非政府組織）「ロボット兵器管理国際委員会（ICRAC）」の共同創設者、ピーター・アサロ氏は、「指針を出したこと以上に、グーグルがそれをどう実行していくかが重要。企業として、開発したシステムの透明性を示さなければならない。良心を持った社員が（辞職などの）リスクを冒す事態になってはいけない」と指摘する。

社会的責任と収益をどう両立するか

5月に米国本社近くで開催された年次開発者会議「I/O（アイオー）」では、例年以上にAIの可能性が喧伝された。多くのグーグル幹部や社員たちが「AI for Everyone（皆のためのAIを）」というメッセージを強調。難病の画像診断や障害者のコミュニケーション支援、自動運転サービスのほか、さまざまなグーグルのサービスがAIによって機能を向上させていることが披露された。

年次開発者会議「I/O」では、ダイアン・グリーン氏（右）やフェイフェイ・リー氏（中央）らがAIの可能性について議論する場が設けられていた（記者撮影）

確かにグーグルは社会の役に立つ技術を多く開発してきた。だが、実際に大半のおカネを生んでいるのは広告ビジネスであり、次の収益柱として育てているのがクラウドビジネスだ。社会的責任と収益の追求は時に衝突する。

「技術は前へと進む推進力である一方で、そこばかりに目を向けてはいられない。物事が正しい方向に進んでいくために、深い責任を感じている」。ピチャイCEOは会議の基調講演でそう語っていた。

AIなどのテクノロジーがかつてない速さで進化する中、先駆者であるグーグルに課された役割は決して小さなものではない。