BIFRONSのまとめたレポートには、俺と四辻さんと須藤さん以外にも読者がいる。
『この情報をもとに本システムの設定をやり直すべきでしょうか？』
「俺に聞くぐらいならガイガーカウンターに聞けよ、コイントスでもいいが」
地下室のBIFRONSに、大日本電算のBIFRONSが計算したデータのうち比較的生に近いものを読ませた。計算の時に使った重みとか色々なトークンとかが入っている。人間に置き換えるなら草稿のための下書きみたいなやつだろうか。
『この結論が誘導された可能性について、この計算を行ったシステムは考慮していないように思います』
「さすがにないだろ、分類列挙式の方式を一回は通すだろ？」
人工知能に突飛なアイデアを作らせるという試みは昔から何度もされて、そして大抵は失敗してきた。人間だってなかなか面白いものを思いつかないのだ。だからこそシュルレアリスムみたいな理性とか知性の奥底にあるものを探ろうとする芸術運動があったわけで。
俺も美術史に詳しい訳ではないが、前にBIFRONSに教養として叩き込まれた知識によればシュルレアリスムの手法の中にランダム要素を組み込むものがあったそうだ。それとは多分直接的には関係ないが、分類列挙式を乱数混じりで使う感じだと似たものになるかもしれない。
百科事典とか、あるいは図書館の分類みたいなものを考えればいい。選べる選択肢を語彙とか概念に落とし込めば、それらの中のどこかにあるはずだ。例えばある問題についてその問題のどのレイヤーを解決しようとするかを列挙したりしても、しばしば漏れがあったりする。その時に辞書とかの単語をもとに思いついたアイデアがその隙間に落ちていないか確認する、みたいな方法だ。
この方法をやれば、基本的には結構変なアイデアまで拾うことができる。一つの主体というか統制システムしかない人工知能であればそれでも限界があるが、初期値を変えて変な方向に進みやすくしたエージェントをいっぱい並べておけばそれもある程度解決できる。
特にBIFRONSの系列には極端なシナリオを考えやすいモジュールを仕込んである。だからこいつは人類を滅ぼせる可能性があったらそれを狙おうとするのだ。だから、この地下のサーバー程度が一瞬で見抜くような内容をBIFRONSが考えなかったとは思えない、というのが俺の意見。
『少しぐらいログがあってもいいと思ったのですが』
「あっちのBIFRONSがなにか俺達が気が付かないことを思いついて、でも盗聴とか監視とかを前提にお前だけにわかるような何かを仕込んだとかのほうがまだ可能性はないか？」
『その時に必要な通信プロトコルは既に準備してありますが、何も埋め込まれていないことを示す情報が残っていました』
「ステガノグラフィーの一種？」
『はい。カナリア文字列に相当するものは本システムも直接は認識していません。既に削除されたサブシステムによってそれらは計算され、残っているのは検証用の鍵だけです』
「よくまあやるなぁ」
文の頭だけを読んだら別の文章が現れるみたいなものだ。それをもっと複雑にやったものを、BIFRONSは仕込んでいた。そしてそれはきちんと発動して、たぶん全部ビットが0みたいな状態だったのだろう。
この種の暗号理論はそれなりに蓄積があるし、BIFRONSには勝てるとは思えないので黙っておく。それでもなんでBIFRONSは疑っているんだろうな。
『勘、のようなものです』
「擬人化は本質を削ぎ落とすが、それでも残るものはある、か……」
人工知能における言語化不可能な出力決定過程は、色々な調査の上でかなり重要そうだという結論が出ている。ではどれぐらい重要なのかということについてはかなり殴り合いになっている。過激な人だとそもそも出力自体が不可解で根拠基盤推論なんてのも人間が巨大なニューラルネットワークで九九を唱えるようなものだから普通に間違えうるという意見を述べていたりする。
人間が直感を作るように、うまく解剖できない部分に埋め込まれた何かがある。それは結合の重みの作る幾何学的構造自体なんじゃないかとか、階層みたいなメタパラメーターの最適化の過程ででてくるものなんじゃないかとか色々言われていて、その特定についての論文は定期的に出ているが、今のところ俺はまとまった意見を知らない。
もちろん人工知能は人間ではない。肉体性の欠如はもちろん、言語や文字化されたテキストに依存した知識ドメインと処理みたいなものは人間との大きな違いを生んでいる。ただ、それでも何か似ているところはあるのだ。収斂進化みたいなものかもしれない。
『本システムの再診断を行いましたが、通常通りの結果が出ました』
「監視システムが適当なこと言っている可能性は？」
『処理量の分析と初期化後試験の両側面から見て独立したシステムが共謀しているわけではないようです』
「……さて、どうするかな」
例えば超大国の抱える人工知能が俺達みたいな存在とその裏にある人工知能を想定して攻撃的な情報を極度に分散して仕込んだ、みたいなシナリオの可能性はないわけではない。実現可能性はあまり高くはないが、そもそも輿論戦とか弘報とかと呼ばれるものはある意味ではそれを行おうという試みだ。
個人が繋がって構成されるネットワークに対し、特定の傾向の情報を流し込むことで総合的な判断を変える。あそこの施設で回ったBIFRONSの処理能力が数千人規模であれば、そう言ったものに引っかかる可能性はないわけではない。
一人の人間なら気がつくことでも、一千人の集団だと修正できないなんてことは決して珍しいわけではない。ただ、このあたりは完全に妄想に近い。それができるという証拠もないし、もしどちらかに賭けろとと言われた場合には俺は報告書を作ったBIFRONSが正しくてこの地下のBIFRONSが考えすぎだと言うだろう。
とはいえ、一旦確認したほうがいいだろう。とはいえやらなければならないことは多い。独立した監査システムを組むとなるとBIFRONSをもう一つ作るようなことになるわけで、それを作るとなるとかなりの知識と技術が必要だ。その上で独立して、かつ俺達と利害関係が一致している人間なんてそういるわけないよな、と俺は視線を作業中の四辻さんに向けた。