四辻さんがほぼ独力で作り上げたウェブクローラーは今日も呑気に世界のどこかのサーバーで動いている。人間の調査のおよそ百倍程度の通信量のはずなのでそこまで怒られることもないだろう。できるだけ耐久性のあるサービスを中心に、目的がわからなくなるように分散させて色々と調べさせている。そしてこのクローラー自体は俺達が何をやっているのかを明示的に教えてはいないというのもポイントだ。
「……いやかなりよくできているな？」
俺は四辻さんが作った構造を見て言う。もちろん俺の手癖みたいなものが残っているのだがそれも多くは公開情報の組み合わせだし、俺なら絶対こうは作らないみたいなアーキテクチャがあるのも面白い。もしこれで俺と同じようなことやっているんだったら別に四辻さんがこの種のことやる必要がないからな。
「古瀬さんのものをある程度見て気になったところを私なりに修正している」
「ちゃんとコメント付きでありがたいな」
「実際に走らせているものは軽い難読化と秘密計算を前提にしているからそうそう意図を読めないはず」
「あー、厄介なやつだ」
秘密計算技術はここしばらくで一気に発展した理論だ。暗号化した数字を計算して解読すると、きちんと計算ができているというような数学的処理を前提としている。ここで計算する人はその暗号の意味がわからなくてもいい、というのが重要だ。
例えば個人情報が詰まったデータがあり、それを外部の計算機で処理して結果を得たいとしよう。普通に処理をしたら、外部の計算機が処理内容をコピーしたりして個人情報を持ち出せてしまう。そうならないためにはどうにかして相手に読まれないようにする必要がある。
そういうときに役立つのが秘密計算技術だ。例えば足し算と掛け算だけなら暗号化前後で対応が保たれるような部分的準同型暗号とかを用いることで計算機側は自分が何をやっているのかわからないまま仕事をすることができる。基本的にニューラルネットワークは足し算と掛け算と、あと非線形な部分もいい感じの関数に置き換えれば対応可能なので全部秘密計算化したニューラルネットワークだって作れるのだ。
ただ、これは普通にコストが重い。暗号化と復号化だけではなく、そういった都合のいい暗号にするための特殊な条件とか足し算ではなく別の数学処理に置き換える必要があるとか色々とあるのだ。これについては大学院の情報系の講義で半年かけてしっかりやるぐらいの難易度だと思います。でも三河工業大学でそれならもっと賢いところでは学部レベルかも知れないな。
「それは解読する側の目線で？」
四辻さんが尋ねてくる。
「そう。まあどこと通信しているかはわかってしまうからコア部分の処理を確実に管理できるローカルに置いておくとかも必要だろうが……」
俺は答えを知っているうえで攻撃の方法を考える。それは攻撃者としてのハンデであるが、別に過剰というわけではないだろう。俺だって四六時中何かを壊すことばかり考えて生きているわけでもないのだ。それぐらいのハンデをもらって実際の攻撃者と互角になれるかどうかってところだ。そして攻撃者の想定が十分強くなければ有意義な防衛を練ることもできない。
「今回はこちら側には最小限のものだけを置いて、基本的には外部サービスに依存するようにしている」
「試作なら十分だと思うぞ。で、結果は？」
「レポートは二十四時間に一回やってくる。もちろん人間が読み切れる範囲」
「要約も向こうでやらせているのか？」
「BIFRONSには任せられないというのが理由の一つ」
『信頼されていないのですね……』
悲しそうな口調のBIFRONS。こういう人間の心理を狙う系のダークパターンはやめろってどこかに書いておいた気がしたのだが回避したのか無視したのか。そもそも俺がちゃんと書いたのかどうかが一番怪しいのでそこをちゃんと確認しておく必要がある。
「この水準の知性はまだ再現性がないというのは理解している」
「偶然でできたものを流用し続けるって珍しくないからな……」
四辻さんの知識を見ていればわかる。俺達は案外色々なものを見逃している。半世紀前に作れていただろう合金がある。百年前に作られていたかもしれない数学理論がある。ただ、それ以上のものはあまりなかった。例えば脳神経との接続技術みたいなものはかなり基礎的なところから人類は構築する必要はあるが、その基礎条件が揃ったのはたかだか百五十年前だろう。顕微鏡と電気装置が必要になりますからね。
そして人類から見て、四辻さんのもといた構造体の知識に大きな穴とかはない。いやまあ社会学とか政治学とか経済学とかの分野は俺達のほうがそれなりに蓄積がありますし、運用もうまくやっているとは思うんですけれどもね。
「私の知識を使える水準になるには、この世界の人工知能は土台が不十分なように思える」
「だからそこも詰めていくと？」
「もちろん弥縫的なものになってしまうとは思う。この分野は私の頭の中に取り出しやすい形の知識としては存在していない」
俺は頷いた。ともかく、人工知能の開発者が世界に一人増えてくれることは望ましい。彼女にもちゃんとソースコード共有サイトのアカウントを先工研のアドレスで持ってもらってちゃんと公開させたほうがいいかもしれない。人工知能開発者としてのカバーストーリーの補強にもなりますしね。
「あとはどういう結果が見えるかだね」
「テストは小規模なもので何回かは回したけれども、長期間やるのは初めて」
「請求金額が酷いことにならないといいな……」
もちろん事前設定した量だけ計算させるという方法にしているのだが、このあたりの設定は定期的に忘れ去られるというお約束があるのだ。上限通知をメールで設定していたけれどもうまく届かなかったせいで数万円の支払いを一晩で求められた人工知能開発環境構築者は少なくないと思います。俺はやったぞ。
だからまずこの種の開発者が最初に人工知能でやることは環境構築と相場が決まっているのだ。できるだけトークンの消費を少なく、やり直しを減らして、かつ色々な発想の下で何かを作らせようとするのは実質的に中間管理職の業務なので難しいし、俺だって人間相手にはやりたくない。部下としてみた時、人工知能は比較的話が通じるいい奴らなのである。