緑の森と図書館

もしもAIが進化しスーパーインテリジェンス（超絶知能）が出現したら、という仮定を前提に、予想されるシナリオを一つ一つ詳細に検討している。
正直なところ、中盤以降はほとんどSFと言っていい世界に入り込んでいく。

各章の表題を記載すると以下の通りである。
第1章 人工知能の発展、現在の能力
第2章 スーパーインテリジェンスへの道程
第3章 スーパーインテリジェンスの形態
第4章 知能爆発の速さ
第5章 戦略的優位性
第6章 卓越した認知能力を持つスーパーパワー
第7章 スーパーインテリジェンスの意思
第8章 人類滅亡：脅威は命運か
第9章 コントロール問題：超絶知能を制御できるのか
第10章 AIシステムの4つのタイプ
第11章 多極シナリオ
第12章 価値観の獲得
第13章 選定基準の選択
第14章 戦略的願望
第15章 試練の時

ただ本書のような先駆的な本によって、起こりうる様々なリスクを示し、今のAI技術の研究に対してもある程度の歯止め効果が期待できるのかもしれない。 やや例えは異なるかもしれないが、ハッカーへの対応にも一つのヒントとなりうる記述もある。

著者は最後にこう述べている。
「知能爆発が到来した時、それを手にするわれわれ人類は、爆弾をオモチャにして遊んでしまう幼子に似ている。…われわれ人類は現在の時点でスーパーインテリジェンスを御するという偉大なるチャレンジに応じる準備ができておらずその準備が整うのは随分先であろう。…しかし、耳をすませばカチッカチッと発火の音を刻む音がかすかに聞こえる。」