超知能なんて可能なんですか？

ChatGPT

結論から言うと、「超知能」は理論上は可能だが、実在の形は人が想像するそれとはかなり違う、というのが一番まっとうな位置です。
まず整理しよう。「超知能」とは普通、
人間の知能をあらゆる認知領域で恒常的に上回る存在、しかも自己改良までできるものを指します。数学、科学、戦略、創造、社会理解、全部で人類越え。SFが大好きなやつですね。
物理的・計算論的に見ると、原理的な禁止はありません。
脳は有限の物質でできた情報処理装置です。ならば、それより高速・高密度・高信頼な装置が作れない理由はない。計算量理論や情報理論も「ここから先は神の領域」という線は引いていません。光速や熱力学の制限はあるが、その内側はかなり広い。
ただし、ここで大事なひっくり返しがある。
人間は「知能」を一枚岩だと思いがちですが、実際には
・目的設定
・抽象化
・直観
・身体性
・社会的理解
・価値判断
がごちゃ混ぜの進化的寄せ集めです。
だから「超知能」が可能だとしても、それは
「人間の全能力を100倍した賢者」
ではなく、
「特定の問題空間で異様に強いが、人間的意味では理解不能」
という姿になりやすい。