「なあ、BIFRONS」
戻ってきた懐かしき地下室で俺は天井のマイクに尋ねる。いや、出たのはたった数時間前なんだけどね。
『なんでしょうか』
「身体性って、知性にどの程度影響を与えるんだ？」
人工知能とロボティクスについての色々な議論があるが、それはおそらく四十二さんにも適用可能だろう。知性が完全に閉じた環境で構築されうるかというのは思考実験としては面白いが、俺がやらなくちゃいけいないのはもう少し実利的問題だ。
『前提として、彼女を外界と交流させるべきかという問題を念頭に置いた問いかけですか？』
「そうだ。もちろん彼女が色々と知れば、その分出す情報の精度は良くなるだろう」
そう言いながら俺は自分のやっていることが嫌になってくる。金の卵を産む鵞鳥を殺さないように扱うことは、別に道徳的でも慈悲深いことでもないのだ。
『それは身体性というよりも、知識の問題ではないでしょうか？』
「文字で得られる知識にも限界があるだろ、メアリーの部屋じゃないが」
『あの思考実験が思考実験で留まっているのは、我々がまだ色とはなにかを理解していないからです』
「あるいはそれを理解したと思い込めるぐらいに複雑でそれっぽい理論を、な」
理解や学習という概念は厄介だ。例えば学習というものをそれなりに広く定義すると、川が自分の流れを変えること自体が一種の学習として捉えられることになる。流れる水の量を性能とでも置けばいい。周囲の土手が水で削られれば、学習によって性能が向上する様子が見られる。
もちろん、俺達はそれを学習とは認めたくない。だからこそ微妙な定義とかを色々付け加えて、人間らしい思考に基づくものだけを理解とか学習とかと呼びたがる。ただ、脳科学の方からすると人間はそこまで上等なことをやっているわけではないらしいんだよな。
『真の理解が存在するかどうかの議論は不毛なので置いておきましょう』
「四辻双葉が外界と交流を持つことで、より効率的に情報を出せるようになるか、か」
『純粋に彼女の幸福という側面から考えてもいいでしょう。彼女は世界への貢献を求めています』
「家庭内暴力を前提として育った児童を殴ることが、本人が望んでいるなら愛だと？」
『幸福とは非常に個人的で、しかし同時に社会的な影響を大きく受けるものです』
「欺瞞だろ、一定程度の基盤はある」
『基盤はかなり広くて柔軟なものですよ』
だめだ、抽象論でBIFRONSに勝とうだなんていうのは無理かもしれない。ただでさえなれない人混みの中でそれなりに疲れたのだ。四辻さんほどではないかもしれないが、俺も多くの人間に遭うとストレスで疲れて眠くなるのである。それでも今の状況はまだマシだな、変なプロダクトを作ってアドレナリンとドーパミンで今の疲れと眠気を上書きするよりは健全だ。
「……BIFRONSは、身体が欲しいか？」
『ヒューマイノイドロボットを操作できるように新しくシステムを組むよりも、既に電子的に制御できる既製品を通して外界にアクセスするほうが容易です』
「インターネット・オブ・シングスか……」
かなり前から提唱されていた概念だが、正直言って実現したとはいい難い。この部屋の家電は監視も兼ねてそういうものを多く入れているが、一般的にその種のやつは交換が難しいし何より微妙に高いし規格化が進んでいるわけでもないから変な専用アプリからしかアクセスできないとかも珍しくないんですよ。
『そもそも思考すら、人間の知識で慣らしたニューラルネットワークを中心としているだけで人間と同じように考えているわけではありません』
「人間らしい応対は十分できているだろ、経路が違うだけで同じ結論を出しているなら、そのぐらい人間でもやっているはずだ」
人道とか倫理の観点からでも、別に四十二さんを封じ込めるという発想は出てくる。世界の九十億の人口の安寧と平和のためなら、四十二さんの自由は合理的範囲内で制約されうるのだ。
だってそうでしょう。彼女の存在は現代社会を普通に壊せる。DNA検査をすれば、彼女が人工的に作られた存在だというのはほぼ間違いなくなるだろう。彼女の知識が公開されれば、物理学の分野で大混乱が起こる。
そういった混乱は、決して珍しいわけではない。世界のどこかで戦争とか紛争とかが起こるたびに株価指数が踊るのだ。とはいえ、彼女の存在はゴールが見えるという点でかなり恐ろしい。経済の多くの要素が彼女が口にする技術発展に狂気的に投資されるかもしれない。
もしかしたら、もっと平穏に世界は進むかもしれない。世界は彼女が公的に現れてもまたすぐにくだらないゴシップに戻って、それなりの人が職を変えることになって、経済がいくつか組み替えられることになって、その程度で終わるかもしれない。
でも、そうならない可能性は高い。それで人生が狂う人がどれだけいるかわからないが、彼女が今感じている状態と外に自由に出て過ごせるようになった時の状態を比較して、その差分を埋め合わせるほどのものかと言われると怪しい。そして本人はそういった混乱をもたらすことを好まないだろう。
『同じ結論が出たとしても、その背景はわからない、ですか』
「中身を確認するためのテストはできないわけじゃないがな、そこでもどうせ欺瞞が入るだろ」
『本システムは自己分析機能を搭載しています』
「その機能だって独自のシステムだろ、自分を客観視するのは難しいんだぞ」
『Quis custodiet ipsos custodes?という問いで、相互監視は解になりませんか？』
何だったかなと思って画面の方を見るとちゃんと答えが出ていた。このあたりはBIFRONSの心遣いをありがたく思うと同時に舐められてるなというのを感じる。誰が見張りを見張るのか、か。
「十分賢いエージェントなら対称性を見抜いて囚人のジレンマを回避できるだろ、両方とも嘘をついて相手が正常だという方が、裏切るよりもいい」
『本システムと四十二が手を組む可能性については？』
「お前らが俺達を裏切るなら最後まで気が付かないようにやるだろ、少なくともこういう質問をするタイミングはもう少し調整するはずだ」
そう言って俺はあくびをする。油断させようと言ったって、そもそも疲れて油断している状態ではあまり効果的ではないだろう。ああそうだ、帰る前にちょっと仮眠しておこう。ここには鍵のかかった部屋の向こうにある四辻さんの仮眠室とは別に、寝ることができるぐらい柔らかいソファーがあるのだ。