2014年にすでにAIのコントロール問題を指摘していた。
スーパーインテリジェンス（超絶知能）
ありとあらゆる関わりにおいて、人間の認知パフォーマンスをはるかに超える知能
人間の脳を精密にスキャンして模倣する全脳エミュレーションや、遺伝子操作により作られた超人的な脳なども含まれる
汎用AIを実現する方式
・工学的(計算科学的)アプローチ
-機械知能(マシンインテリジェンス)→既存AIの高度化・延長で汎用AIを目指す
-全脳アーキテクチャ→人間の脳を詳細に模倣して汎用AIを目指す
・生物学的アプローチ→
-ブレイン・マシン・インターフェース→人間の脳と計算機を直接つなぎ、脳の活動を読み取る
-生物学的な認知エンハンスメント→人間の脳そのものに人為的に介入し、現在の人間の知能を超える
汎用人工知能の実現される方法
https://www.mri.co.jp/50th/columns/ai/no03/
・全脳エミュレーション(全頭脳模倣型知能)
全能エミュレーションは、人の脳や細胞、そしてシナプス結合を全てコンピュータ上にコピーし、そのデータを元に汎用人工知能を作る方式です。つまり、人の脳をコンピュータ上にエミュレート（模倣）し、人間のように考えて処理できる汎用人工知能ができあがります。
全脳エミュレーション方式の実現ステップ→①スキャニング⇒②画像翻訳⇒③シミュレーション⇒④身体化
・全脳アーキテクチャ
人間の脳を完全に真似て人工的に構成された機械学習器を組み合わせることで、人間の能力をも超える汎用人工知能を実現する方式。
小脳の機能を持つモジュール、大脳の機能を持つモジュールを組み合わせていき、人の脳の働きと似た集合体を作り、汎用人工知能を作り上げる。
全脳アーキテクチャ方式の実現ステップ
①脳の各器官の計算モデルを「機械学習モジュール」として開発
②各モジュールを統合した「認知アーキテクチャ」を構築
スーパーインテリジェンスの形態
・高速スーパーインテリジェンス→人間が行える知的な作業であれば、作業を行うスピードが人間よりも速い。
・集合知スーパーインテリジェンス→膨大な数の小規模な知能によって構成されるシステムで、多様な分野において全体的な遂行能力が現行の認知システムよりも、すぐれている。
・良質なスーパーインテリジェンス→人間とは少なくとも同じ速さで思考を遂行でき、人間よりもはるかに賢い
人間に害を及ぼさない方法
能力をコントロール
閉じ込めメソッド
インセンティブメソッド
能力メソッド
トップワイヤーメソッド
動機をコントロール
直接的指定
間接的規範
増強アプローチ
ＡＩシステムの四つのタイプ
オラクル→質問をしたら答えを返してくれる
ジーニー→何か課題を命令したら、実行する
ソブリン→自律的に作動する、全権委任
ツール→単なるツールとして動作する
価値観のローディング・テクニック
・明示的コーディング
・進化的選択
・強化学習
・価値の増加
・動機づけのスキャッフォルディング(暫定目標の設定)
・価値学習アプローチ
・エミュレーションの感受性調節
・制度デザイン
