人工知能 人類最悪にして最後の発明 / ジェイムズ・バラット (2013)

Our Final Invention by James Barrat

僕らが行き着く未来は、「アトム」ではなく「ターミネーター」だった。
本のスリーブにそう書いてある通りの内容です。

AI(Artificial Interigence)＝人工知能 が進化して、AGI(Artificial General Inteligence)＝汎用人口知能 となり、それがさらに自己成長して ASI(Artificial Super Inteligence)＝超人工知能になると言います。
それが、人類にとってどういう影響を与えるかわからない、つまり人類に良いことばかりではない、というのが筆者の主張です。
確かに、機械が遂行するアルゴリズムが、人にとっていいもの、というのは幻想です。
本書の中にもありますが、潜水艦は泳げない、ということです。生物とは違うやり方で潜航するという行為を行います。先日の碁の対戦をしたAIも、人間なら取らないような手を打つようです。
こういった機械が人類よりも高い知能を持つようになったとき、人類は破滅に向かうに違いない、と断言しています。

まさにターミネーターの世界です。映画ターミネーターでは、スカイネットという人工知能が、人類との間で戦争をしています。ネットと名がつくようにおそらくネットワークの中で増殖していったのでしょう。
あるいは、スタンドアローンであれば、2001年宇宙の旅です。HAL9000は、自分を疑った乗組員を船外に放り出します。

電気エネルギーの中でしか生きていけない人工知能が、人類を脅かす存在になる、というのは少し荒唐無稽のようにも思いますが、筆者は何人もの科学者や実務家にインタビューすることで、自説を補強しています。

たった一つの主張のために論証を繰り返し、400ページ近い本を書くのは並大抵ではないと思います。少し冗長です。

---