シンギュラリティ、掟の門、弱いAI
ちょっと前にホッテントリで見かけたネタ↓をお借りして、いろいろ遊んでみたいです。
“シンギュラリティ信奉者”の翻意が難しい訳
http://business.nikkeibp.co.jp/atcl/opinion/15/100753/032700007/
元記事だけを読むと「？」ってなる点が少なからずあり、ブコメの状態もしょうがないのかな？と思いますが、それだけではもったいないテーマでもあるので、遊びでうだうだ書いてみます。ゆっても私はその筋の人でもないですし、ひとつひとつに根拠もなく、あんまり真に受けないでくださいね、なんかスイマセン
●強いAIが欲しいんですって？ブコメにもあるけどマンコとチンコがチュッチュすれば１年弱でオギャーと出荷されてくるですよ（この直感については、後ほど否定しますね）
◎元記事に従い、強いAIとは汎用AIのようにあらゆる課題をより高次に広範に解決するAIだとして話を進めるよ（クオリアや自意識の問題は考えないことにします）
◎で、強いAIと言えるのはヒトだけなの？って疑問はあるよね
◯犬や猫はどうなんだろ？イルカやニワトリは？ダンゴムシは強いAIか？細菌は？じゃあウィルスは？
●ヒトを強いAIと認めるなら、タンパク質やカルシウム、ミネラル等々を適切に配置することで強いAIは可能なはずだよね（この直感については、後ほど否定しますね×２回目）
◎実際に物理的、化学的な物質配置をするのが難しければシミュレーション上でやればいいんだし。もちろん処理時間は膨大にかかるけれど、それは「ゆっくり考える強いAI」であるはず
●だがしかし！生物のコピー以外に、強いAIの作り方がさっぱり分からないのもまた事実だよね
◎定義するなら「与えられた問題をより大きなカテゴリに捉え直し、課題をより高次かつ広範に解決していくアルゴリズム」みたいな感じでしょうか？
◎コレ、マジでムズいはずっすよ。１０年以上前に妄想したことがあるけど、とてもじゃないけど手に負えない（いつか手が空いたらその時どういうことを考えたのか書きたいですよ）
◎お前みたいなボケが思いつかないのは当たり前だろ、って？……強いAIの作り方が分からないのは、私だけじゃなくて、全人類ですよね
●強いAIの作り方が分からないって現実は、ヒトもまた弱いAIであることを示唆していると思うんだよね
◎そもそも強いAIを判定する手段があるのか？っていう疑問があるですよ。ある課題をより高次かつ広範に解決したように見えたとしても、もともと弱いAIがそれ以上に高次かつ広範な守備範囲を持っていたのなら、べつにすごくないよ
◯Youtubeの動画を大量に解析し、ペットボトルロケットが必ずどこかに落ちる様子から万有引力の法則を導きだしたAIがあったとしても、そいつが量子論すら導きだすような最大潜在能力をそもそも持っている弱いAIだったなら、そりゃただの演算結果だし
◯あるいは現に起きた事例で。課題として与えてないのに将棋の定跡を発見したAI、があったけど、そもそもそれが将棋に勝つって課題を解決するAIだったんだから、そりゃ当たり前だろうと
◎じゃあ、ヒトだって遠い未来に知的な営みが限界を迎える極限、それを最大潜在能力とした弱いAIだったとしても不思議でもなんでもないよね（クオリアその他の問題は脇においておきますね×２回目）
●というわけでヒトという弱いAIも、生物学的に可能な範囲の最も高次で広範な課題（以下、本能的最大課題）をプリセットされてるっていうか、生まれつき本能に与えられているだけなんじゃないの？そしてもしそうなら、生まれつき設定された水準を超える課題を認識すらできないはずだから、自分たちの課題解決能力を「宇宙的に普遍の汎用性を持つ最高の知性だ！」って誤解しているだけなんだと思うよ？
◎たとえばプリセットされた本能的最大課題の最大値を１００とするよ。個人差はあるだろうけど、１〜９９の範囲にある課題を、１００を上限とした＋１以上の課題と解法に置き換えた時にヒトは「創造的だ！」と言い出すものだとさらに仮定する
◎であればヒトは１０１以上の課題を解決できないし、認識すらできないって考えるべきだろうね。そんな課題はそもそもヒトの世界に存在できないんだよ
◯アリの世界に、創世記や民主主義に相当するものが、生物学的に存在不可能であるのと同じようにね
◎もちろんヒトは言語や数式、絵画や音楽といったものを記録し、世代をまたいで継承していくから、課題と解決はより高度なものになっていきますよね。でもその本質は決して１００を越えることはなく、その表われだけが高度になっていくだけってことになるわけですよ
◎このようにしていつの時代でも最も創造的なヒトは、誰も思いつかなかった課題設定と解決を行っていく、ただし１００を超えない範囲で。でも認識の上限も１００なのだからわりと高いスコアが出るとヒトは「わ、マジでクリエイティブ」って感じる、ってことっす
◯ただ１００の潜在能力をもったヒトが、１の課題を２に引き上げたところで「スゲー」とはならないだろうから、創造的だと感じるのは比較的高いスコアをさらに引き上げたときに限られるんじゃないでしょうか
●じゃあ、プリセットされた最も高次な課題ってなんだよ？って話だけど、そんなの凡人の私に分かるわけないでしょ！……って言うしかないんだけど、私の思いつく範囲で近いんじゃないかと思うネタとして、ニーチェの「力への意志」を巡る議論を挙げときますよ
◎力への意志については、いろんな解釈が可能らしいですが、まともに取り扱うと話が終わらないでしょうから、wikipediaに載ってる「我がものとし、支配し、より以上のものとなり、より強いものとなろうとする意欲」に限定して進めるよ
◎この定義を有名なクリエイターに当てはめて遊んでみるよ（このくだりは特に真に受けないでくださいね）
◯パブロ.*ピカソ：美女を我がものとし、美女を支配し、より以上のプレイボーイとなり、より強い性豪となろうとする意欲の、下位解決手段として絵画を革新した
◯マザーテレサ：異教徒を我がものとし、異教徒を支配し、より以上の聖女となり、より強い聖人となろうとする意欲の、下位解決手段として貧困に立ち向かった
◯ごめりんこ（でもでもでも！この手法って、誰にでもあてはめられるんだよね）
●そして話をここまで限定したことによって、強いっぽいAIとは何か？が定義できるようになったよ。強いっぽいAIを分かりやすく大雑把に言うなら「全人類を従える独裁者になるための助言を的確にくれるAI」だよ。その理由は３つ
◎理由１．ニーチェの定義が難しいので「最強の独裁者になりた〜い」へ勝手に置き換えましたよ。「要約なので」の言い訳ができないくらいに問題アリアリですがが、今回はご容赦くださいな（てかコレ理由じゃなくて、「こうしました」ですね）
◎理由２．「最強の独裁者になりた〜い」を越えるような汎化できる課題を思いつかない
◯「いやいやいや、そうじゃなくてボクにとっては崇高な愛こそが最大の課題だよ」と主張したところで、「そうは言っても、あなたは他者を支配するという課題を解決したいがために、愛なんていう空虚な観念を担いでいるだけですよ。」と反論されてしまえば、再反論のしようがないんだよね（逆に「あなたは他者に愛されたいがために、手段として支配しているだけですよ。」と言われた場合には「それってラオウかな？サウザーかな？キミは漫画脳かな？」って反論しといてください）
◎理由３．人類史上、最強の独裁者が出現した事例は無く（局地的なものは除きますけど）、かつ他者との競合が必ず発生する課題なので、やはり十分に高いスコアを持つ課題だよ
●たとえば指数関数的に十分発達した「全人類を従える独裁者になるための助言を的確にくれるAI」をある地方高校の田中くんが運用したとして、おそらく意味不明な助言をもらいつづけると思いますよ（そのへんの高校生が最強の独裁者に成り上がるという課題が困難すぎて、ヒトが過程を予測可能な手段によって達成できるとはとても思えないのですよ）
◎しかしAIの性能が圧倒的であるがゆえに、田中くんは独裁者に成り上がり、これまでの道のりを振り返って思うことでしょう、「こいつ人間を遥かに凌駕した策士だったな」と
●高校生で考えるとリアリティないけど、超企業がそれに着手したら？巨大国家単位だったら？
●っていうわけでシンギュラリティっぽいけどそうじゃないものは強いっぽいAI（つまり弱いAI）によって実現すると思うんだよね。それが人間の本能的最大課題を超えることはないよ
◎だから知性が知性を再創造して宇宙が知性で爆発するタイプのシンギュラリティなんて起こらない。ヒト自身がその起爆装置となれるほど賢くないんだもん（無限に賢いわけじゃないってこと）
◎ 漫画の「寄生獣」で、ミギーたちにプリセットされていた本能的最大課題は「この種を食い殺せ」であり、彼らの情報処理能力がいくら高くてもそれ以外の目的に知性を使うことができなかったよね（のっけに失敗したミギーはちがうけど）。フィクションを引き合いに出してもしょうがないけど、イメージは伝わりますでしょうか
◎万一不具合等で人間を越える本能的最大課題を設定されて、（ヒトレベルに対する）知性の爆発が起こったとしても、ヒトはそれを認識できないだろうね
●独裁者が強いっぽいAIの指示通りに行動していくことで、もはやヒトの誰もが意思決定をしない状況になるよ。それをもってシンギュラリティっぽいけどそうじゃないものの終着点としたいんだけど、どうだろうか？
◎上の独裁者を目指す高校生のジレンマは、独裁者の地位を手に入れてからも続くだろうね。田中くんがAIの言いなりに奇行をくり返して手に入れた権力は、AIの言いなりに奇行を繰り返すことでしか維持できないだろうからだよ
◎田中くんの独裁政権では、いかなる個人も独裁しなくなるんだよ。そこには奇行を指示するAIと、奇行を演じる田中くんと、被支配民たる地球国民だけが存在することになるよ
◎そして既に、他者を支配する下位解決手段としての「株式取引」や「AI将棋の大勝負」などでは、ヒトにはリアルタイムに理解できない手順を、AIの指示に従って実行される状況が生じているんですし
●ということで、強引に結論
◎ヒトも生物学的に可能な上限に規定される、弱いAIじゃないの？
◯言いかえると、強いAIが作られず、シンギュラリティが来ないのは、ヒトが特別だからではなく、むしろ平凡な計算機だから。ヒトと同じ知性の階層で能力を高めただけのものを作っても全然シンギュらない
◎おまけにどれだけAIが進歩しても、ヒトの課題認識能力を超えた能力には意味がないはず
◎だから強いAIなど作ることができない（そもそも無い）。ただヒトの能力の限界に近い領域での解決を見せられると、強いAIが現れたような気分がする
◎だから計算機資源が潤沢にあれば、あとはヒトの課題認識能力の限界を知り、AIに実装していくことがAIの進歩になる
●そのとき人類の営みがいかなるものとなるかは、AIの設計がいかなるものに収斂するか、すなわち私たちヒトの本能的最大課題が、どういった方向性のどういう潜在能力を上限としているのかによって定まるだろうね
◎私たちの本能的最大課題が、本当に他者の支配であるのかなんて分からないよ。人類史は他者を支配する暴力の積み重ねであるのと同時に、私たちが助け合いによって活動を豊かなものに育ててきた積み重ねでもあるんだし
◎だからシンギュラリティっぽいけどそうじゃないものは、私たちの本能的最大課題が、本当はどのようなものであるのかによって、まったく違った実現となるだろうね
おわりです。あー、楽しかった
ーーーーーー
追伸：
ヒトが弱いAIであるとして、では自意識や経験、クオリアといった問題が噴き出すのはなんでか？って問題があるですね。それらはAIとかシンギュラリティみたいな卑近で細かい話ではなく、存在論とセットの話、まったく別階層の話になると思っているのです。そのあたりは、また別の機会に。
