LIFE3.0──人工知能時代に人間であるということ
AIが自己増殖する知能爆発を恐れているが人類もただの原子だったものから複製可能になり、知能爆発を起こした。その原子がシリコンという高分子化合物から自己増殖して、知能爆発を起してもしかたないと思う。
知能爆発→自分自身を改良できるコンピュータ
自分自身を繰り返し改良できるコンピュータが1度できると、勝手に自分自身を改良することでその知能が成長し、やがて「爆発」的に賢くなる。この「知能爆発」により、もはや新たな技術開発の必要がなくなる。
アービング・グッド
生命の段階
LIFE 1.0→単純な生物学的段階
ハードとソフトが生物的制約を受ける人間以外の動植物を指す。
LIFE 2.0→文化的段階
ハードは生物的進化の制約を受け、ソフトを自らデザインできる生物
LIFE 3.0→技術的段階
ハードウエアとソフトウェアを自らデザインする生命
論争
有益AI運動の活動家: 安全性研究の重視→スチュワート・ラッセル
ラッダイト:機械化反対
知能→複雑な目標を達成する能力
宇宙の死
永遠に膨張することで物質が希薄になったビッグチル
再び収縮するビッグクランチ
膨張速度が無限大になってあらゆるものが引き裂かれるビッグリップ
時空が引き伸ばされすぎて粒状性が現れるビッグスナップ
空間が凍って致命的な泡が生じ、それが光速で膨張するデスバブル
情報が意識を持つために従うべき原理
情報原理
ダイナミクス原理
独立原理
統合原理
アシロマAI原則
シンギュラリティ(技術的特異点)とは、技術発展の速度が指数関数的になるという
速度の話である。
