トランプ大統領がコロナ感染で入院。本人は「とても具合がいい」とツイートしましたが、メドウズ首席補佐官が「病状は予断を抱けず、次の48時間が非常に重要」とコメント。未承認の抗体カクテルも投与されたと報道。トランプ大統領が回復し、米国の混乱と世界の混迷を回避するためにも、大統領選挙が正常に行われることを祈念します。日本も引続きコロナ禍。ライフスタイルやビジネスモデルが変化しつつありますが、メルマガ445号に続いてDX（デジタルトランスフォーメーション）に関連する話題をお伝えします。
１．LAWS（ローズ）
DXはあらゆる分野で加速すると思いますが、日本の社会、企業、個人がその流れに上手く乗れるか否か、予断は抱けません。メルマガ445号でお示ししたとおり、DXを誤解、曲解した展開にならないように個人的にも努力したいと思います。
あらゆる分野で加速するということは、軍事分野も例外ではありません。人間が戦争をしない、戦争のルールや展開が変わる、戦争の概念が変わるという現象をもたらします。
西アジアのカスピ海と黒海の間で、アゼルバイジャンとアルメニアが領土問題を背景にして武力衝突中。双方が世界に向けて自国を正当化するプロパガンダを展開していますが、ドローン（無人機）が撃墜される映像も公開されました。
ドローンは米露中を中心とした軍事先進国の兵器のような印象を受けますが、今やその他の国でも通常の実戦兵器化していることを証明しました。
折しも、日本でも有人戦闘機とドローンが編隊を組む計画が具体化。母機となる戦闘機1機につき3機のドローンを編隊化し、空中戦での支援・援護に当たらせる構想です。来年度に実験機製造に着手し、4年後に実験飛行、15年後の実戦配備を目指しているようです。
ドローンを含む無人兵器には、いくつかの分類があります。詳細は後述しますが、中でもAI（人工知能） の判断で自律的に動く「自律型致死兵器システム」（Lethal Autonomous Weapon Systems＜LAWS＞）は、別名「キラー（殺人）ロボット」と呼ばれています。
AIの急速な進化により、AIが自律的に操作する無人兵器の実戦配備が現実化し、米露中を筆頭にフランス、イスラエル、韓国等、10数ヶ国がLAWSの開発を進めています。
LAWSが実戦配備されれば、火薬、航空機、核兵器に次ぐ軍事技術の「第4 の革命」です。戦争の様相も概念も根本的に変える可能性が高く、「AIに人命を奪う判断を任せてよいのか」「その場合の責任は誰が負うのか」等の議論が既に行われています。
ニューヨークに本部を置く人権NGOであるHRW（Human Rights Watch）は、2012年のレポートで30 年以内にLAWSが実用化されると予想。既に8年経過したので、あと22年後。技術革新の加速を鑑みると、10年から15年後と考えるのが現実的です。
HRWレポートの2年後、2014年から特定通常兵器使用禁止制限条約（Convention on Certain Conventional Weapons＜CCW＞）の枠組みの中で、非公式専門家会合としてLAWS規制の国際的議論がスタートしました。
核兵器、化学兵器、生物兵器以外の通常兵器の使用制限を定める国際合意としては、古くは1868年のサンクトペテルブルグ宣言のほか、1899年のダムダム弾禁止宣言やハーグ陸戦条約があります。
ハーグ陸戦条約では「不必要な苦痛を与える兵器」の使用が禁じられましたが、「不必要な苦痛」とは何でしょうか。この種の議論から、人間社会の暗澹たる未来が垣間見えます。
LAWSに関する上述の非公式専門家会合は2017年から公式の政府専門家会合に格上げされ、議論の結果、昨年（2019年）のCCW締約国会議で11項目の指針が全会一致で採択されました。
指針は来年（2021年）開催予定の第6回CCW運用検討会議において見直しの議論が行われることも決定。技術、法律、軍事等の観点から検討を進め、国際規制の締結を目指しています。
そうした中、国連のグテーレス事務総長は今年1月22日に行った所信表明演説で、21世紀の脅威として、地政学的緊張、地球温暖化、グローバル規模での政治不信、科学技術発展の負の側面（The dark side of technology）の4つを挙げました。
このうち「科学技術発展の負の側面」に関連して、事務総長は「AIは人類に大きな進展とともに大きな脅威をもたらしている。人間の判断を介さずに殺人が行える自律型致死兵器は、倫理観と政治的観点から受け入れられない」と発言。
この時期、世界はコロナ禍に関心が集中し、あまりニュースにもなりませんでしたが、事務総長が所信表明でLAWSに言及したことは、事態が逼迫していることを示唆しています。
２．人間の判断
指針採択に至る過程で、核兵器等を巡る国際力学と同様に、各国の利害対立が表面化しています。
中南米やアフリカを中心とする非同盟諸国グループは、LAWSに対する法的拘束力のある規制や条約化を求めています。
米露は既存の国際人道法で規制可能であるとし、新たなLAWS規制には反対。
2030年にAI世界一を目指す中国は、LAWS開発で競う米国に対抗して自国有利の条件で規制を進めることを企図。規制対象となるLAWSの定義を「人間が制御できない兵器」「自ら進化する兵器」に限定することを求めています。
日本や仏独は法的拘束力のない政治宣言等の形式での規制を主張。その立ち位置と目標が曖昧な印象です。また日本は、人間の関与が確保されたLAWSについてはヒューマンエラーの減少、省力化・省人化効果もあると主張。やはりスタンスが曖昧です。
そのうえで日本は「LAWSは開発しない」という方針を表明。しかし「開発はしないが、米国から購入する」のであれば、開発するのと同じことです。
LAWS規制を求める国々やNGOには、CCWの枠組みにこだわらず、一部の国だけでも禁止条約締結を目指すべきとの主張もあります。その背景には核兵器廃絶国際運動（ICAN）等が奏効して成立した核兵器禁止条約のイメージがあるようです。
しかし、核兵器禁止条約には核保有国やその同盟国（日本等）は不参加。LAWS禁止条約もLAWS開発国や将来の保有国が参加する可能性は低いと言わざるを得ないでしょう。
昨年合意に至った11指針はどのような内容なのか。興味深いので調べてみました。LAWSを巡って規則が制定されたと報じるニュースもありましたが、あくまで「指針」。確定した規制ではなく、来年のCCWにおける議論に向けた基本的コンセンサスという意味です。
指針冒頭には「国連憲章、国際人道法、倫理に従う」とする一方、「将来の議論の結果に予断を与えるものではない」との条件が付されています。
そのうえで、第1項、第2項では、国際人道法は全ての兵器システムに適用され、LAWSの開発、使用においても例外ではないとし、LAWSに関する説明責任は常に人間側にあるとしています。
第3項は、LAWSが自律的に稼働している場合でも、人間とのインターフェースを確保し、重大なエラーや第3者に支配される事態に陥っても、人間による制御や機能停止が可能とすることを求めています。
この項についてはCCWでも激論が交わされたと聞きます。米国は国防省指令を根拠に人間の判断がLAWS使用の前提にあるべきと主張したそうですが、合法的LAWSを確立するための論理展開のようにも思えます。
第4項は、人間による命令及び指揮系統が確保されることを要求。第2項、第3項に通じ、第5項ではそうした条件をチェックするLAWSの法的審査の原則を謳っています。
第6項は、LAWS不拡散対策、及びテロ対策について。とくに、ハッキング、スプーフィング攻撃への対策が具体的に挙げられています。第7項はそうしたリスクのアセスメント及びリスク低減措置の必要性についてです。
スプーフィング攻撃（spoofing attack）は、不正プログラムによって攻撃者を別の人物や組織に見せかける「なりすまし」。動詞「spoof」は「だます」という意味です。
第8項ではLAWS関連の新技術使用時には、国際人道法及びその他の国際関連法規や義務に合致する必要性を求めています。
第9項は、LAWS規制が擬人化のイメージに囚われることに警鐘を鳴らしています。映画「ターミネーター」等の影響により、LAWSは擬人化を想定した議論になりがちです。しかし、実際のLAWSの姿は擬人化が前提ではなく、機能や性能に着目した実質的規制の必要性を指摘しています。
第10項では、LAWSに関連する新技術の平和的利用の権利を保障し、デュアル・ユースを妨げないことを指摘。最後の第11項は、軍事的必要性と人道的考慮のバランスの重要性を強調しています。
総じて言えば、LAWSには国際人道法が適用されること、判断と責任は人間にあること、開発・配備・使用の全てにおいて人間が関与すること、新技術の平和的利用を妨げないこと等を定めています。
上述のとおり、AIの急速な進化によって想定より早くLAWSが実戦配備されることが予測されています。ディープラーニング等によるAIの自己学習、深層学習の成果です。
一方、ソフトウェアとしてのAIは進化するものの、ハードウェアの機能向上が追い付かないことを指摘する専門家もいます。例えば、人間の手足の動きを再現するだけの制御モーターシステムや素材を作ることの困難さを意味しています。
もっとも、それはまさしく擬人化された「ターミネーター」のようなLAWSを想定した場合であり、戦車や航空機が完全なLAWSとして実用化され得ることは容易に想像できます。
３．フラッシュ・クラッシュ
LAWS は自軍の死傷者数を減らすことができるため、戦争のハードルが下がるとの指摘があります。
また、AI の判断は人間のように恐怖心や復讐心、興奮、錯乱等の情緒に影響されず、誤爆や民間人の犠牲が減ることから、むしろ人道的であると主張する専門家もいます。
核兵器は非人道的兵器だとする日本と、戦争の早期終結に寄与し、結果的に戦争犠牲者を減らしたとする米国の主張との対立を彷彿とさせます。
AI固有の問題も惹起します。故障や誤作動、将来的には人間に対する反乱を懸念する科学者もいます。
いずれにしても、現時点では「ターミネーター」のような擬人化された完全なLAWSは存在しないものの、AIを搭載し、機能の一部を自動化した兵器は既に存在し、実戦配備されています。以下、無人兵器やLAWSの分類と現状を整理します。
第1は「半自動型兵器」。人間が攻撃対象を設定し、攻撃開始も人間が指示しますが、途中過程や攻撃そのものが自動化された兵器。様々な兵器が実戦配備されていますが、LAWSには含まれません。
例えば、巡航ミサイル。発射後に目的地まで自動飛行しますが、目的地設定と目標破壊の最終判断は人間が行う「半自動型兵器」です。
第2は「自動型兵器」。この段階もLAWSには含まれないという定義で議論が進んでいます。「自動型兵器」は人間ではなく、プログラム（広義のAIも含む）が攻撃目標を認識し、攻撃を開始します。
但し、攻撃はプログラムに設定された範囲内であり、「自動型兵器」ではありますが「自律型兵器」ではありません。プログラムを作成するエンジニア（人間）が攻撃目標及び攻撃の判断基準を設定しているという整理です。
「自動型兵器」も既に実戦配備されています。例えば、イスラエルの無人攻撃機「ハーピー」。自爆型ドローンとも呼ばれ、攻撃対象の地理的情報等を入力して発射。遠隔操作なしに対象地域上空に到達し、旋回しながら標的を捕捉。接近して自爆します。
ロシアの無人戦闘車両「サラートニク」。機関銃、カメラ、レーダーを装備し、標的を識別して攻撃します。米国の無人艦船「シーハンター」。海上を数ヶ月自律航行して、敵の潜水艦を探知・追尾します。韓国の哨兵ロボット「SGR」。北朝鮮との軍事境界線沿いに配備されており、敵兵士の動きを自動感知し、射撃します。
第3は「自律型兵器」すなわちLAWSです。「自律型兵器」には「メタ目的」が与えられます。「メタ目的」とは、より高次元または抽象的な目的のことであり、「この地域を確保せよ」「戦況を打開せよ」といった命令になります。
「自律型兵器」は「メタ目的」を達成するために、状況や環境に対応して、どのように行動するかを自ら考え、最終判断します。「メタ」とは「超越した」「高次の」という含意の古代ギリシャ語の接頭語です。
LAWSが複数連動する「集団自律型兵器」の場合、仮に全面戦闘状態になると、定義上、人間は全く制御できません。「ターミネーター」で「ジェネシス」が意思をもって戦争をエンドレスに継続するようなケースです。
もっとも、第2の「自動型兵器」も制御不能になる危険性があります。「自動型兵器」が複数連動する「集団自動型兵器」もプログラムが想定外の事態に遭遇して暴走する危険性が指摘されています。
システム取引中心になっている金融証券市場で、プログラム売買が暴走して暴落が起き、市場閉鎖せざるを得なくなるような事態と一緒です。金融証券市場では実際にそうした事例が発生しており、フラッシュ・クラッシュ（瞬間的暴落）と呼ばれます。
金融証券市場は閉鎖で事態を収束できますが、兵器のフラッシュ・クラッシュの場合、一方がシステムを止めても、相手が止めない限り、再び戦闘開始となります。そもそも、システムを止められない場合も想定されます。
こんなことを現実に懸念しなくてはならない状況となり、科学者や企業の間でもLAWSに反対する動きが顕現化。
米グーグルは、2017年、米国防総省との間でグーグルAIによる画像解析技術をドローン攻撃に用いるプロジェクトに契約。2018年、その事実が明らかになると、社内外でAIの軍事転用への懸念が高まり、複数の従業員が抗議のため退職。
さらに4千人以上の従業員が、戦争ビジネスへの不参加を求める公開書簡に賛同署名してピチャイCEO（最高経営責任者）に提出。ピチャイCEOは2018年6月、グーグルはAIを兵器開発や監視技術に使用しないこと等のAI利用指針を発表。
具体的には「危害をもたらす可能性のある技術」「人を傷つけることが主目的の兵器や技術」「国際的規範に反した監視のために情報を収集・使用する技術」「国際法や人権を侵害することを目的とした技術」の4項目を挙げ、これらにはグーグルAIを使用しないことを明言。
国際人工知能学会も翌7月、LAWSの開発・生産・取引・使用を行わないことを宣言し、米グーグル傘下のAI開発企業など160社、2400人のエンジニア等が署名。
この話を聞くと、グーグルを称賛し、人間社会の未来にも希望が持てるような気がしますが、これも2年前の話。米中対立を含め、その後の世界はさらに懸念が深刻化する方向に進んでいます。
日本の対応を含め、実情を把握し、今後の平和のあり方を追求していきます。（了）
