知能開発のジレンマ

人間の高次の認知機能の多くはブラックボックスだ. コンピュータプログラムの高次の処理機構ももしくは我々にとってそうなのだろう.

しかし私は両者の間に大きな隔たりを認識する. それは, 自然にあったものなのか・何者かにデザインされたものであるのか. という点に横たわっている. コンピュータプログラムは人間がデザインしたものであるため, 人間の手によって開発が為される限りは, 少なくとも一部のエンジニアにとってはブラックボックスではない.

私は更に未来に疑問を投げかける. もしも, 人間がその手で完全に独立した知能を開発した時. (*本文において, 人工知能の技術的特異点に関して論じない)
その時に人間は己の知能より, 自らがデザインした知能の方を理解することになるのではないか. (*人工知能研究と脳科学研究の兼ね合いではそうなり得るという意味である)

そして, 知能を持った神がいるとするならば, 神は己の知能機構を理解し得るのだろうか. (*強引に人工知能の技術的特異点にこじつけるならば, 神は人間をコントロールできるのかという議論にもなり得る)