「キラーロボットの正体」が副題。中国、ロシア、イスラエル、米国など、世界で広がるAI搭載型兵器の現状を紹介し､AI兵器戦争､「人工知能は、人を殺すのか」を語ってはいるが、それ以上きわめて丁寧に､そもそも人工知能とは何か、意識とは何か､生物とは何か、「人工知能はどのような技術であり、何ができて何ができないのか」を語っているのが本書だ。
第三次ブームは､人間が持つ学習能力を機械（コンピュータ）学習、ディープラーニングの高い性能を発揮できる環境が整ったことによって起きている。「現在､人工知能と呼ぶさまざまな技術は、人工知能と呼ぶよりも、高度情報処理技術と呼んだ方が実態に合致している」とまず言う。
そして「知能とは何か」――。「生物と低汎用型人工知能搭載ロボットの決定的な違いは、生きる目的を持っていることと､その目的を達成させようとする自律性、能動性である」「生物は、行動マニュアルでは乗り切れない状況に対し、試したり工夫したり、調べたり、他人の真似をしたりと、生きるために、知識や経験を総動員し打開する。これが生物であり、知能である」と言う。「我々が意識と呼ぶ意識は、顕在意識である。しかし、その行為を意識して実行する少し前に､潜在意識にてその行為の実行が開始されている」･･････。
人の体は、数十兆にもなる膨大な数の細胞から構成される。トップダウン型の設計で、これだけのパーツで構成される製品は存在しない。航空機でも数百万パーツ。しかも生物は、ボトムアップ型で生み出されており、脳自体が神経細胞の巨大なネットワークだ。しかも、蟻の群れの行列や、ホタルの同期の創発など、「生命のような複雑なシステムをゼロから構築するのはまだまだ難しい。そう簡単に人を超える人工的な知能ができるわけがない」と言う。
さてキラーロボット――。道具型人工知能であれば制御できるが、問題は自律型人工知能だ。ホーキング博士らは危険性を指摘し、人のクローンを作らないようにと同じように､ガイドラインが必要となる。科学技術のレベルに準じて兵器を分類すると、①半自動型兵器②自動型兵器(用途限定の人工知能を搭載した兵器、低汎用型人工知能を搭載した多機能型の自動型兵器) ③集団自動型兵器(連携機能が付加された集団・編隊作戦) ④自律型兵器(人と同じレベルの臨機応変な問題解決能力を持つ) ⑤集団自律型兵器――と分類する。あくまで「人がトリガーを引くタイプの開発に留めておかなければ、人類に未来はなく、新しいルールが極めて重要だ」と言う。そうした国際基本ルールが動き始めている。
「人工知能は、人を殺すのであろうか」について、「私の答えは、当面の人工知能のレベルにおいては、NOである。人が人工知能を使って人を殺すのである」「自動運転車にしても自動であって自律ではない。自動運転車が事故を起こした際は、製造メーカーに責任が生ずる」「そのために、作る側と利用する側の双方に対するガイドラインの作成及び道徳教育が特に必要だ」「求められるのは、人間力であり、人間力を高めるべきだ。これこそが、人工知能にとって最も苦手とする能力だからである」と主張する。しかし、その人間力が若者を始めとして衰退していることを懸念し、「日本にある東洋的感性に期待する」と言う。
キーワードは「自動か自律か」。科学の発展により「意思を持つ自律のように感じさせる人工知能」のように見えても、それは人間のような「自律」ではない。それゆえに、人間力を鍛え磨き、しっかりしたルールを国際的に作り上げなければならないということだろう。
