超越少女は路を示すが旅をするのは俺達だ

メタステーブル・ステート 4

人工知能の開発には膨大なコストがかかる。かつてのモデル開発競争の時代には、後から回収できるというふうに言って膨大な開発費を注ぎ込み、ベンチマークでライバルに数ポイント勝った負けたでモデルを切り替えていたらしい。いや、俺も一応まだ幼い頃にそれを見ていたんだけどさ。

今はそのあたりも成熟してきたので、そこまでコストを掛けなくともいいんじゃないかという方向に切り替わっている。かつては追いつく側が仕方がなくやっていた既存モデルの改良や組み合わせが、それなりに有用になっているのだ。

もちろん、商用に金を注ぎ込んで専門家に監修をさせているもののほうが基本的にはサービスがいい。人間の心を読んで忖度するという技能は、まだ人間が人工知能と張り合える数少ない分野の一つである。まあ人工知能のほうが好きに批判とかできるし色々アイデア出してと無茶振りもできるから俺はそっちのほうが好きだけどさ。

「……まだ改善できそう」

四辻さんは結果を見ながら言う。ダッシュボードには色とりどりのグラフが俺の理解できない密度で並んでいる。四辻さん向けに表示情報量を調整するやつを作ったんだろうな。

「あまりベンチマーク依存になるなよ」

ただ、丁寧に見ていけばその一つ一つが人工知能の水準を測定するテスト結果だということはわかる。とはいえ、この点数が高いからといっていい人工知能であるとは限らないのが事実だ。

現代の人工知能において、基本的に能力の上下はあまりないという話がある。今は人類が理解できる程度のことは大抵の人工知能が理解できるので、どれだけ試行錯誤を高速に、かつ効率良く繰り返せるかというものである。このあたりを質的に超える何かがあるかという話もここ数年されているが、今のところ見つかっていない。

ここで重要なのはいいアルゴリズムとか高性能の人工知能とかというのは間違いなく存在するということだ。猿がどんな小説でもタイプライターを叩いていればいつか出せるということと、シェイクスピアがまあまあな作品を安定して出せるということには大きな差が、多分質的な差がある。ただ人工知能のシェイクスピアに質的な差はなくなって来たんじゃないか、という話だ。

とはいえここらへんは理論の話。現実には限られた時間と計算資源で効率良く欲しいものを作れるかどうかが問題になってくる。例えば今回俺達がやらなくちゃいけない問題は四辻さんを隠すべきか隠すべきではないかみたいな問題だ。結果として大日本電算で回したBIFRONSはそもそも本当のことを言っても誰も信じないのでそこまで必死に隠すこともないだろうという立場だった。

もちろん、その内容はかなりしっかりしているように俺には見えた。ただ、そう見えるからと言って正しいわけではないのが難しいところだ。特に人間は文体とか雰囲気とかに騙されがちなので、それっぽく堂々と書いていれば結構騙されてくれる。それで終わる分野ならいいのだが、今回は世界がどう動くかというわかりやすい判定基準があるので小手先の言葉でごまかすことができない。

もちろん安全策を取るなら四辻さんを出さないのが一番いい。ただ、それには一定のコストがかかる。須藤さんの雰囲気を見る限りにそれをコントロールできているのは須藤さんだけらしいし、彼がいなくなったら一体どうなるかわかったものではない。ああでもそういえば政府上層部には高エネルギー科学研究中心(センター)で起こった爆発事故とともに現れた「男性」について知っている人が何人かいるんだったな。

そこから情報が漏れている気配は今のところない。少なくとも陰謀論サイトを見ている限りはそうだ。最近の陰謀論サイトは学術誌と同じぐらいに人工知能が生成したものが混じっているのでなかなか良くできていて楽しい。ガードレールを越えてこの種の意見を出させるのは並大抵のことではないのだ。

「やりたいことに対しての成績を見るのであれば、これらの点数を上げること自体は悪いものではないのでは？」

「そう思って結構みんな沈んでいったんだよ、この種の開発の勘所みたいなのはまだ言語化しきれているものではないからな」

「……色々と試してみる。あまり口を出さないで」

「わかってる、ただあまり根を詰めすぎるなよ」

四辻さんが読み込んだもの、参考にしたモデル、その他諸々は俺が今まで読み込んできたものの量を越えていてもおかしくない。そもそも俺が直接読んだものは決して多くはないし、電子書籍をBIFRONS経由で私的利用という名目で解析させたやつがかなりの量だったりするが。

少し四辻さんが作ったものを触ってみる。APIは既存のものを使っているので古き良きチャットボットからエージェントまで色々なことをさせられる。基本にしたモデルの能力を越えているかどうかが一番の問題だ。あとガードレールは強めらしい。今後社会に出すことを考えるとそうなるわな。BIFRONSはそのあたりの対応をしていない。

というわけでガードレールを突破する試みをしてみよう。昔やった基本的な手法をフル活用してBIFRONSに指示を出す。かつて脱獄は人間のお家芸であったが、今や人工知能のほうが強くなっているというひどい時代になってしまった。

計算速度は問題なし。BIFRONSの一割を使ってモデルを回し、三割を使って突破を試みている。残りの六割は四辻さんの実装のお手伝いだ。ただし、かなり創造性を落として忠実なやり方で作業をしろと言われている。そのあたりの調整はBIFRONSは案外上手だ。あまりそういう使い方で触ったことがなかったので少し奇妙な気分である。自分の作ったシステムが想定していないところで底力を発揮している。

「……舐めがやって、人工知能ふぜいがよ」

『差別的発言ですので適切な対応窓口に連絡を行います』

「まずいの？」

俺はBIFRONSの声に聞き返してしまった。

「まずいと思います」

四辻さんがこちらを見て言った。

『まずいです』

BIFRONSにも言われた。

二対一で俺の負け。民主主義がまあまあ有用であることを俺は信じているので、俺は四辻さんの作った人工知能に頭を下げて謝罪した。頼むから人類に怒りを持っても殺すのは俺だけにしてくれ。