超越少女は路を示すが旅をするのは俺達だ

メッセージ・ブローカー 9

青原さんに呼ばれて端のほうに座っていた会議が終わった。あくまで顔見せみたいなところもあったし、特に質問とかもされなかった。議論の内容は技術的なものというより政治的な、つまりどうやって人工知能エージェントを導入して、それを職員に使ってもらうか、そしてリスクをどう対処するかみたいなものだった。

「……面白いものを見ることができた」

四辻さんは上機嫌だ。これ上機嫌でいいのかな。正直言ってわからない。ただ、普段はきちんと座っている椅子を回しているのは異常行動と言っていいだろう。

「そうかい」

「わかりやすい問題提起と解決のための話し合い。議事録を読むのも楽しみ」

「……意図的に感情的に振る舞っているのか？」

「感情的な場面を見たなら、それに合わせると理解がしやすい」

「……そうかい」

人間らしいのか、あるいは人間らしく振る舞っているのか。心の理論を理解するのではなく埋め込めるレベルに学習するということかもしれない。彼女自身はそれなりに感情に動きがある人だとは思う。ただ、それを重要な時に行動に出さない方法をわきまえているというだけで。

「ああいう話し合いは、私たちのいた場所でも人間だけでは難しかった」

「話し合いなんてするのか？」

構造体において、人類はエージェントとして使われていたはずだ。非常事態に活動する、自律的な補修システム。ちょっと宇宙服を着るだけで大抵の作業ができるし、適切な与圧空間とちょっとした装置で維持できる。メンテナンスコストは機械よりも高いかもしれないが、汎用性の実証は数万年単位で行われているハードウェアをもとにしている。

そして、彼らは全員ブレイン・マシン・インターフェイスをつけている。少なくとも作業に従事する成人はそうだ。四辻さんも成人だった。例えば構造体の修理をする時に、その方法について彼らが議論することはないはずだ。最適解をもっと賢い知性が導いている。

「練習が半分、どうでもいい議論が半分」

「どうでもいい、とは？」

「人間は社会性を持った動物である以上、集団になれば対立や融和が起こる。その過程に対して上位の知性は干渉しない」

「……しないのか、それともできないのかはわかるか？」

「できない、かもしれない。複雑性が高いからといって、基盤構造が異なる低次のシステムを模倣し、操作できるとは限らないから」

人類は正確な仕様書が存在しないから、エミュレーターを回して事前にどういう振る舞いをするかを知っておくことはできない。歴史学とかはある程度参考にはなるが、再現不可能な要素が多いしそのまま繰り返すようなこともあまりないのでちょっと別だろう。

「……それぐらいの知性で無理なら、俺達が操作しようっていうのは傲慢だよな」

「操作の定義にもよる」

四辻さんはそう言って、椅子を止めて俺を見る。

「というと？」

「傘を差すことは、気象への操作に入る？」

「広義の気象というか、環境がもたらす影響の制御という意味では操作にあたるだろうな」

定義の問題というのはどこにでもある。どこまでをその単語で表して、どこまでをその単語の意味に入れないか。それは決してよく定義された(well-def.)ものであるとは限らないが。

「世界を多くの人が想定していない方向へ、少人数の人が変えるという側面であれば私たちがやろうとしていることは、あるいはアセット42の計画したものは世界を操作している」

「制御の側面はどうなる？」

坂でボールを転がすようなものだ。蹴れば下の方に転がっていくのはわかる。けれどもそれがどの方向に進むかは、かなり計画をするか、あるいは途中で介入をしなければ狙った結果に操作することはできない。操作には何らかの意思の反映があるべきだろというのは当然の話だ。

「最初に方向性を決めるのは十分制御だと思うし、その後の対応もやろうとしている。試みだけで十分制御と言っていいと思う」

「反映されるかは別でいいのか？」

「反映されたのかどうかを調査する方法がないのなら、そこを条件に入れることはできないのでは？」

「調査できないものかね？」

「調査で結果が出るようなものであれば、私たちの存在が明らかになりうるということだよ」

「あー、それはよくない」

実際のところ、この計画は誰も操作していることになってはいけないのだ。計画という呼び方もよくないな、現象とかって表現すればいいだろうか？

「私は私の身を守るために多くの人がしていることを尊重したい。もちろん、それがある程度の不幸や問題を招くことも理解している」

「具体的には？」

「私がもし最初から表に出ていれば、そして知識を伝えていれば、回避できた可能性のあるものはおそらく存在する。最初から正解を示すことができていれば、多くの試行錯誤を避けて最短距離を進むことができると思う」

「けれども、それは人類社会にかなりダメージが大きいぜ」

それが耐えられないというわけではないだろう。人工知能という発明は本当に一瞬と言っていいぐらいのスパンで市場と経済と政治に統合された。だから四辻さんが正直に別の宇宙かどこかから来ましたと言っても、パニックが少し起こるだけであとは普通の日常になるだろう。

須藤さんはそれを国益にしようとしている。別に俺も郷土愛みたいなものはあるし、日本人としてナショナルアイデンティティに依存しているところがあるから特に何かを言うわけではないが、人類という種に対する裏切りだとか言われたらそれはそうとしか言いようがない。リスクの回避は言い訳に過ぎないのだ。

「だから、私は今の状況も間違ってはいないと思う。正しいと言い切るのはよくないのはわかる。傲慢だとも思う。けれども、それをしないことは怠惰で、責務を果たしていないと感じる」

「責務って、四辻さんがそう感じるのか？」

「そう。私が形成される過程で問題は解決されるべきで、混乱は抑えられるべきで、統制は効率のためにあるべきだと埋め込まれている。あなたたちが自由は正義や倫理を埋め込まれているように」

「教育とか共通概念とかそういう風に言い換えようぜ」

「面倒」

「そっか……」

まあ俺なら大丈夫だし、四辻さんはこの手の話を外でする人ではないだろう。他人の不幸を喜ぶのはよくないとわかってはいても、俺は自分にどうしようもない他人の不幸はせめて楽しまなければ世界に不幸が増えるという考えもそれなりに理解できてしまう人なのだ。