サウンドデモみたいなものは「はてな好み」かなぁと思ってたんだけど今のところそうではないふうですね。自分はまだサウンドデモについては考え中だったのですけれど、kir_royalさんのエントリを見たらもうなんかこれでいいやという気がしてきた。
記憶のメモ帖 ： サウンドデモと公共性
すごくうまく説明できてるなぁ、と思いました。特に最後の方。日本には「公共性」なんてハナからない。あるのは「共同性」（まぁ、ムラですね）だけなんだから、そこで変なのが騒いでたら排除されるのがせいぜい、ってあたり、ああその気分だわ……となっとく。
t_yossyさんからもらったトラバのエントリが「目的がなかったとしたら、それってただの珍走行為じゃないの？」ってタイトルだったので、すぐ「サブカル珍走団」ということばを思いついたのですが（レッテル貼り！）、走ってないので珍歩団（北海道にいた奴）かもしれない。
「作れない」とペンローズは言ってますが、なんで？と言うと、ゲーデルの不完全性定理が効いてきてしまうからのようです。理解が追いついてない（つーか追いつく見込みはない…）ので適当な説明をします。
不完全性定理（第一のほう）をおおざっぱに言うと、「形式システム内には真であるが証明できない命題が存在する」みたいなことですよね。で、もし、人間並みに賢い人工知能をプログラミングできたとすると、この人工知能は「真であるが証明できない命題」を処理（真偽判定）できることになります。ですがこのこと（＝「証明できない命題を真偽判定できるプログラムが書けた」）は端的に矛盾しています。従って最初の仮定、「人間並みに賢い人工知能がプログラミングできました」が間違っていることになります。
ここでいう「真であるが証明できない命題」が「ゲーデル文」と呼ばれるやつなんですが、自己言及っぽい命題なわけですね。「私は証明できない」みたいな。今回の例で言うとどうなるんだろう。人工知能が自分自身（自分の本体であるプログラム）を解析しようとして「なんでこーなってるのかわからん…」とつぶやくみたいなもんでしょうか。ここで創造者の存在を推測する、とかだとSFっぽいですね。
ROYGBさんにコメントいただいてた件ですが。
http://d.hatena.ne.jp/michiaki/20060912#c1158073006
ROYGB 『プログラムで動くロボット（人工知能）が、ある基準を満たす形で組織されたシステムならば、人間でなくとも「OR」の際に「意識」が生ずると考えられるのではないでしょうか。
同じようなシステムで「OR」の有無と、「意識」の有無に相関があるかどうかが調べられれば「OR」と「意識」の関係について検証ができるのでしょう。』
ペンローズの推理はこう動きます。
1は当然ですね。2はどうなのか。証明は見つかっていないけど直感的には正しい、って判断できる種類の命題がありますよね。例えばそういうもの（を「正しい」と判断すること）はこれに該当するんだと思います（他にもありそうですが）。で、現在の物理学では、古典物理の範疇にあるものはすべて計算可能なわけです。だからペンローズは、意識にはなんか計算不可能なプロセス、つまり量子力学的な何か（ここでは「OR」）が関わっているに違いない、と考えるのです。プログラムだけでなく、そういうブラックボックス的外付けハードウェア＋プログラム、でなら、ペンローズ的には人工知能にも意識を持たせられるのかもしれませんね。いや、そんなブラックボックスは作れません、ということなのか？
