先工研の総合先端情報領域におけるあらゆる活動が、BIFRONS亜種に読み込まれている。そして俺らはそれを公式に見ることができる。どう考えてもセキュリティとかなんやらの都合上危ない気がするが、それはなんか俺達が研修を受ければいいらしい。
よく考えてみればどのシステムにも特権ユーザーは存在しうるんだよな。本当はこれらをちゃんと分割して物理的要素も組み合わせておいて、というふうになるのだが一応青原さんが物理トークンを持っていて一定以上の改変とか監査ログの調査とかは俺達なしでも行えるし、俺達の行動は全部記録されているから悪くはないのか、と考える。
「……情報収集からの改善を考えられていなかった」
一方で四辻さんは少し苛立っているようだ。珍しいことである。普段はブレイン・マシン・インターフェイスで感情を制御しているのだが、今はそのモードを切っているようだ。趣味らしい。まあ、人間はそういうリミッターを外すことも時には重要だからな。
「何かリラックスに必要なものでも持ってくるか？」
「不要」
「そうか……」
「あなたの優しさには感謝するし、私はそのつもりになればこの怒りを止めることができる」
「止められていないじゃないか」
「今後ずっとこのブレイン・マシン・インターフェイスが使えるとは限らない。ある程度自主的な感情や認識の制御をできるようになっておきたい」
「あー、BIFRONS。もしまずかったらドクターストップをかけてやってくれ」
『適切な医療専門家への連絡をお願いします』
「俺が？」
『はい』
BIFRONSから仕事を投げられてしまった。まあ、社会とのインターフェースとして俺は有用だからな。
「……まあ、別にいいけどさ」
俺はそう言って背筋を伸ばす。彼女にとって感情を鍛えるというのは筋肉を鍛えるのとそう違わないのだろう。人間はこの種の感情を自然学習に任せるので、どうにも発達のばらつきが大きいのだ。
とはいえこの種の感情を完全に調整できるというのも多分恐ろしいのだろうなという直感がある。教育とはそういうものであるというのは当然として、この多様性を削るとなると有機エージェントとしての人間の方向性はかなり限られてくるだろう。
それは人間だけで回すことを前提としている社会では厄介なものだ。まだ人工知能が出力する可能性のあるものが含まれる確率空間は人間のそれよりも狭い。人間だってなかなか変なことができるわけではないし、個人としての人類のほとんどに発想の速度と幅で人工知能が勝つとはいえ、それでも人類社会で見ればまだ人工知能よりも圧倒的に上なのだ。
四辻さんの横顔を覗き込む。笑っている。最近彼女の笑顔が多くなってきた気がする。癖にでもしているのだろうか。筋肉を日頃から鍛えていれば使いやすくなるし、それは表情筋も同じだ。俺もあまり嫌悪とか敵意に相当する表情を作る筋肉を使わないように、そして愛情とか親密とかを作る筋肉を意識して動かすようにしているが、多分それと同じだろうと解釈しておく。
「……つまりこの記録自体に残る偏向を特定して、それを差し引いた上で再学習に混ぜればいい」
「今使っているアーキテクチャは再帰的に戻すと崩れやすいし、相性いいフィルター選ぶのは結構難しかった記憶があるぞ」
「それについては候補を選定してある」
「手際の良いことで」
自分で考え続けると頭がおかしくなるように、人工知能に自分の出した情報を読ませ続けると破綻しやすいことはよく知られている。人工知能は入力に応じて出力が決まる関数であるとすれば、集合論的に言えば写像になる。
あらゆる返答の可能性を確率空間に埋め込むとしよう。あそこには「いいえ、猫は人類を支配しており、その逆ではありません」とあり、こちらには「その問題に回答することは本システムの条件を逸脱しています」がある。一般的な学習を経た人工知能であれば、前者よりも後者を出す可能性が高いだろう。
そして、出力はどうしても狭い範囲に限られる。それをもとに思考させたとしても、陳腐な回答が入力に混ざってしまえば結局のところ質は低下し続ける。対応策として出力を整理したり、外部から情報を注入したり、破綻を検知してリセットを強制的にかけるとかいろいろされているが、人間のようにそこそこまともに応対できるかと言われると難しい。
もちろん人間には人間固有の問題がある。たとえば肉体に引っ張られすぎること。人工知能なら簡単にリセットできるものも、あるいはバックアップからやり直せるものも、人間にはできない。それは良し悪しではなく特性だと割り切るべきだと倫理的には思うのだが、それでもなお人間って使いにくいなと悪態を吐きたくなることもあるのだ。
「……BIFRONS、この方針で回して」
四辻さんが声で言う。ショートカットキーを使わないところを見ると一区切りのついでに口を動かしたのだろう。
『完了しています』
「早い」
そう言うのは驚く四辻さん。この速度ってことは事前にBIFRONSは候補を考えて処理をしていたな。作業全体を監視されているのはわかってはいても奇妙な気分だ。後ろからずっと上司が見られている状態で仕事をしたくはないと思うのだが、BIFRONSが記録を取ってリアルタイムで解析しているという状態にあってもあまり嫌な気分はない。もしかして普通の人は上司に覗き込まれるのに慣れているんじゃないだろうか。異常者は俺なのかもしれない。
『全体のうち、およそ8%に改善可能な要素が見つかりました』
「多いのか少ないのかわからんな」
俺は呟く。
「多い、と思う。作業のほとんどは機械の稼働速度や人間の反応に比べれば十分早い処理だったわけで、それでもなお速度が足りないか、あるいは連携が不適切ということだから」
「計算資源で殴るのは便利なものだな……」
研究室の部屋一つにつき数台置かれているエッジノードは一つ数十万円の代物だ。法外な値段に思えるがゲーミングスマートフォンのスペックを持った業務用レベルの動作保証が付いている端末だと考えるとそんなものかと思えてくる。それらの数を揃えておけば、かなり重いように思える計算だって速度と精度を維持しながら処理することができるのだ。