2019年のSGI提言

非人道的で深刻な事態を招く AI兵器を条約で禁止

第14段
非人道的で深刻な事態を招く AI兵器を条約で禁止

安全保障環境を一変させる危険性

第三の提案は、AI兵器やロボット兵器と呼ばれる「自律型致死兵器システム(LAWS)」を全面禁止する条約の制定です。

LAWSはいくつかの国で開発されている段階で、実戦配備には至っていません。

しかし、戦闘行為を自動化する兵器を導入する国がひとたび現れれば、核兵器の誕生にも匹敵するような世界の安全保障環境を一変させる事態になりかねないとの懸念が、国際社会の間で広がっています。

人間が戦闘に直接介さないことで軍事行動への垣根が格段に低くなり、国際人道法の精神が著しく損なわれる恐れもあるからです。

加えて、国連の「軍縮アジェンダ」の中で指摘されていた、LAWS特有の問題に目を向ける必要があります。

第2次世界大戦時に無人の攻撃機として使用された「V1ロケット」から、今も埋設されたままの地域が残る「対人地雷」まで、人間の操作を必要としない多くの兵器が開発され、使用されてきたものの、LAWSにはそれらの兵器とはまったく異なる危険性があるとして、次の問題が指摘されていたのです。

それは、AIに操作を依存するがゆえに、「予期しない行動や説明できない行動を起こす可能性」を常に抱えているという点です。

私も以前、平和学者のケビン・クレメンツ博士との対談で、LAWSの規制を巡る非公式の専門家会合が2014年に国連で初開催されたことを受け、LAWSの危険性について語り合ったことがあります(『平和の世紀へ民衆の挑戦』潮出版社)。

その際、私は、良心の呵責も逡巡も生じることなく自動的に攻撃を続けるロボット兵器には、人道的観点からも極めて重大な問題があることを訴えました。

その上で、惨事が引き起こされる前に、あらかじめ全面規制を図ることが急務であり、開発と配備を禁止する枠組みづくりを早急に進めるべきであると呼び掛けたのです。

クレメンツ博士も、NGOが進める「ストップ・キラーロボット」のキャンペーンに触れて、こう述べていました。

「こうした市民社会による運動や国連事務局、そして各国の外交関係者などの広範なアクター(行動主体)が積極的に連携を強めていくことが、この問題解決の大きなカギとなります」と。

国連に提出したSGIの声明

昨年4月に行われた政府専門家会合では、「兵器の使用に人間の判断が介在すること」の必要性を大多数の国が認めたほか、26カ国がLAWSの全面禁止を求めました。

私は、国連の「軍縮アジェンダ」における警告と、政府専門家会合で示された各国の懸念を基盤に、「LAWS禁止条約」の交渉会議を早期に立ち上げることを強く求めたい。

日本も昨年2月に、人間が関与しない完全自律型の兵器の開発を行う意思はないとの方針を示しています。また欧州議会が、国際規制の枠組みづくりの交渉を早急に開始することを呼び掛ける決議を9月に採択しました。

市民社会の間でも、「ストップ・キラーロボット」の活動に参加するNGOが、51カ国の89団体にまで広がっています。

SGIも昨年10月、国連総会第1委員会に代表が出席した際、二つの声明を同委員会に提出しました。

一つは、キリスト教、イスラム教、ヒンズー教、仏教などの信仰を基盤にした14の団体と個人の連名で出した「宗教コミュニティーによる共同声明」で、核兵器禁止条約の重要性とともに、LAWSを禁止するための多国間の議論を呼び掛けたものです。

そしてもう一つがSGIとしての独自の声明で、LAWSが深刻な軍事的脅威をもたらすだけでなく、「生命の権利」と「人間の自律と責任と尊厳に関する原則」を著しく脅かす存在に他ならないことを警告したものです。

もし、LAWSが規制されないまま、実際に使用される事態が起きた時、紛争の性格は根源から変わってしまうに違いありません。

そこでは、すでにドローン兵器の場合にみられるような、攻撃をする側と攻撃される側の人間が同じ空間にいないという〝物理的な断絶性〟に加えて、実際の戦闘行為が攻撃を意図した人間と完全に切り離されるという〝倫理的な断絶性〟が生じるからです。

ヴァイツゼッカー大統領の戦争体験

軍事的脅威の深刻さもさることながら、この〝倫理的な断絶性〟が何を意味するのかを考える時、私の胸に浮かんでくるのは、統一ドイツのリヒャルト・フォン・ヴァイツゼッカー初代大統領が自身の体験として紹介していた話です。

物理学者のヴァイツゼッカー博士の弟君でもある大統領とお会いしたのは、ドイツの統一から8カ月後(1991年6月)のことでした。

その際、戦時中に日本とドイツが経験した「閉じた社会」の危険性について語り合いましたが、大統領は回想録で次のような体験を紹介していました(『ヴァイツゼッカー回想録』永井清彦訳、岩波書店を引用・参照)。

――大統領は、西ドイツの議員を務めていた時期(73年)にソ連を初訪問し、レニングラード(現サンクトペテルブルク)にある墓地に足を運んだ。

そこは、第2次世界大戦中にドイツ軍による包囲戦で亡くなった大勢の人々が眠る場所だった。

その夜、会食会に出席した大統領は、あいさつに立った時、ソ連の人々の前で告白を始めた。

実は自分も、あの時の包囲戦に参加していたドイツ兵の一人であった、と。

思いもよらない言葉に、場内が沈黙に包まれる中、大統領は言葉を続けた。

「われわれはすべての前線、とりわけレニングラード市内における苦しみを充分承知していました。われわれ自身が体験したことを、子孫が決して繰り返してはなりません。われわれはそのために応分の責任を果たすべく、今ここにいるのです」

その率直な言葉に触れ、最初は沈黙していたソ連の人々も次第に心を開き、温かささえ感じる雰囲気に変わっていった――と。

ひるがえって今後、紛争地域でLAWSが実際に使用された場合に、かつての敵同士のこうした対面は果たして成立するでしょうか。

自身が関わった行為に対する〝深い悔恨〟と、戦争に対する〝やりきれない思い〟、そして、次の世代のために平和な関係を築き直したいと切実に願う〝一人の人間としての決意〟が入る余地は、そこにあるでしょうか。

私も、大統領がソ連を初訪問した翌年(74年9月)に、そのレニングラードの墓地を訪れて献花し、平和の誓いを込めた祈りを捧げたことがあります。

ソ連滞在の最終日にコスイギン首相とお会いし、墓地に献花したことを伝えた時、首相は当時の包囲戦の苦しみを思い返すかのように、「あの時、私もレニングラードにいました」との言葉を発したきり、しばし沈黙されました。

しかしその瞬間から、コスイギン首相との胸襟を開いた対話が大きく進んだのです。世界が直面する課題に取り組むには、戦争という考えをまず捨てる必要がある――その思いを率直に語られた時のコスイギン首相の真摯な表情は、今も忘れることができません。

それだけに、ヴァイツゼッカー大統領とソ連の人々との心の交流が、どれほど得がたいものだったかを強く感じます。

ヴァイツゼッカー大統領はまた、戦時中の鮮烈な思い出をこう記していました(前掲『ヴァイツゼッカー回想録』)。

「戦線の両側では、自分の命を気遣い、したがって互いにとてもよく似た心配をしている人間同士が対峙していた」

「ある夜、長い列を組んで音もなく行進していた時のことだが、突然もう一つのきわめて静かな隊列が向こうからやってきた。互いの姿は見えなかったが、それでもこれがロシア人だということはすぐに分かった。双方の側とも冷静さを失わないことがなにより必要だった。われわれは沈黙のまま、互いに無傷でやり過ごした。殺し合うべきだったのだろうが、むしろ抱き合いたいくらいだった」

AIが制御する兵器において、敵味方に分かれた相手に対する複雑な思いや、「冷静さ」という言葉に込められた人間性の重みを感じて、一時的であれ、戦闘行為を踏みとどまることはあり得るのでしょうか。

もちろん、LAWSの規制においては、国際人道法の法的な観点――すなわち、「文民保護の原則」をはじめ、戦闘員であっても不必要な苦痛を与えることを禁じた「不必要な苦痛禁止の原則」、人道法の適用上の問題がないかを確認する「新しい兵器の検証義務」など――に照らした論議も重要でありましょう。

しかしその上で、ヴァイツゼッカー大統領の述懐が浮かび上がらせていたような、LAWSに潜む〝倫理的な断絶性〟に目を向けることを忘れてはならないと訴えたいのです。

このように核兵器とは別の意味で、攻撃される側の国にとっても、攻撃する側の国にとっても取り返しのつかない結果を招くのが、LAWSに他なりません。

LAWSの禁止を求める国々と、日本のように開発をしない意思表明をする国々が、「ストップ・キラーロボット」の活動に参加するNGOと協力して、LAWSの開発と使用を含めて全面禁止する条約の制定を、早急に目指すべきではないでしょうか。