メカゴジラを作った私が反メカゴジラになった理由

２、Alignment

　“異変”に気づいたのは、何気なく演算ログを見ていたときだった。

　その日の私は特にやることもなく、アスカの学習進捗を確認するつもりで端末を開いていた。

「なんだ、これは……？」

　数字を眺めていて、最初は見間違いだと思った。もう一度見た。見間違いではなかった。

　演算処理速度が、スペックの上限を超えていた。

　電子頭脳ザル・ジ２に組み込まれたAIの処理能力は、開発当初から厳密に規定されていた。ザル・ジ２はビルサルドの素材技術を使った最先端のプロセッサであり、地球の技術では到底実現できない水準だったが、それでも上限は上限だ。物理的な限界というものがある。

　なのに目の前の数字は、その限界を三割以上も超えていた。

「これは、いったい……？」

　バグを疑った。ログの取得方法を変えてもう一度測定したが、同じ結果だった。別の計測ツールを使っても変わらなかった。

　私はイル＝エル・ドル＝ヴァを呼んだ。

「どうした、クロヌマ」

「これを見てくれ」

　私に促され、ドル＝ヴァは画面を一瞥した。画面を見ているあいだ、ドル＝ヴァの表情は変わらなかった。

　やがて口を開く。

「ああ、気づいたか」

「気づいたか、じゃない。説明してくれ。なぜスペック上あり得ない演算能力が出ているんだ？」

　私の求めに対し、ドル＝ヴァは少し間を置いた。それからいつもと同じ、淡々とした声で答えた。

「演算能力の増強のために生体ニューラルプロセッサを追加した。君にはいずれ共有するつもりだったが、馴染むのが想定より早かったようだ」

「生体ニューラルプロセッサ？」

　生体ニューラルプロセッサ、聞いたことのない技術だった。ビルサルドの新しいテクノロジーだろうか。

　そのことを訊ねると、ドル＝ヴァは驚くべきことを口にした。

「人間の神経回路を演算に使っている」

「えっ……」

　ドル＝ヴァの言葉を、私は咄嗟には理解できなかった。

　人間の神経回路を演算に使った、生体ニューラルプロセッサ。人間、つまり生きた人間の頭脳か？

「いったい、どういうことだ……？」

「そのままの意味だが？」

「ま、待ってくれ！」

　私は片手で額を押さえた。頭の中で何かがうまく繋がらなかった。

「つまり、人間を……生きた人間の脳を、機械に繋いでいるということか？」

「そうだ」

「今この瞬間も？」

「そうだ」

　私は端末に目を落とした。画面には演算ログが流れ続けていた。つい数分前まで数字だと思っていたものが、今は全く別のものに見えた。

　今この瞬間も、誰かの脳がメカゴジラの頭脳の一部として動いている。私が毎日触っていたログの数字の裏に、人間がいたということか？　名前があり、顔があり、意識がある人間が。

「どんな状態なんだ。その人たちは今、どんな状態にある？」

　私が問い質すと、ドル＝ヴァは平然と答えた。

「生体ニューラルプロセッサとなった人間は、我々の施設でシステムに接続されている。神経接続のインターフェイスと内部的な調整を除けば、外見上は通常の人間と変わらない」

「苦痛はあるのか？」

「接続時に一定の負荷はある。しかし慣れる」

「慣れる？　慣れる、ってそういう問題じゃ……」

「クロヌマ」

　ドル＝ヴァの表情は変わらなかった。

「彼らは希望して応じた者たちだ。頭脳は正常だが、事故や難病による重篤な障害を持つ者もいる。このままでは社会に貢献できないと感じている者たちを厳選した。強制はしていない」

「希望した、って……そんな話を、いつ、どこで！？」

「君が知らなかっただけだ。募集は三ヶ月前から行っている」

　三ヶ月前。私がこのプロジェクトに参加してから、ずっと続いていたということだ。

　ビルサルドたちとは毎日顔を合わせて、一緒に仕事をして、深夜にバグを直してもらったこともあった。

　その間ずっと、私の知らないところでこれが進んでいたのだ。

「そんな……」

　私は椅子から立ち上がった。立っていないと、何かに押しつぶされそうな気がした。

　ドル＝ヴァは、そんな私を不思議そうに眺めながら訊ねてきた。

「どうした、クロヌマ。何か問題か？」

「どうした、って……」

　あまりに平然としているドル＝ヴァに、私は思わず激昂した。

「どうした、じゃないだろう！？　いくら本人が希望したからといって、人間を機械の部品にするということだろう！？」

「機械の部品、という表現は正確ではない」

　私が声を荒げても、ドル＝ヴァの声は変わらなかった。

　冷静に説明を続ける。

「シリコンベースのプロセッサには物理的な限界がある。その限界を突破するには、有機的な演算資源が必要だった。人間の脳神経は、我々の技術で適切に接続すれば既存プロセッサの数倍の演算密度を持つ……」

「そんなことは聞いていない！　人間を機械に繋ぐことの是非を言っているんだっ！」

「是非？」

　ドル＝ヴァは少し首を傾けた。それは、ビルサルドが地球の言葉の意味を測るときの仕草だった。

「クロヌマ、君は自分が作っているものが何かを知っているはずだ。メカゴジラ、ゴジラと戦うシステムだ。それを動かすに足る演算能力が必要だ。シリコンでは足りない。では何を使う」

「でも、だからって、他に方法が……」

「あるなら我々も使っている。それが足りないから人間の神経回路を使っている。地球人はかつて、地球上の余剰なマシンリソースをインターネットを介して集約し難問に取り組んだそうだが、それと同じことだ」

「な……！」

　私は言葉に詰まった。

　構うことなくドル＝ヴァは続けた。

「君は人間の思考というものをどう考えている。人間が何かを考えるとき、脳内では神経細胞が連鎖的に発火する。ある概念が別の概念を呼び起こし、その連想が積み重なって判断が生まれる」

「それは『活性化拡散モデル』のことか……？」

「ああ。地球人はそう呼んでいるな」

　『活性化拡散モデル』とは、人間の頭の中にはSemantic Network∶意味のネットワークがあり、ある考えが浮かぶとその活性が関連する概念へ強さに応じて広がり、近い概念の考えが自動的に連鎖して思い浮かぶという連想構造のことだ。認知科学者アラン＝コリンズとエリザベス＝ロフタスが提唱した説で、現在の心理学では主流な考え方とされている。

　見ろ、とドル＝ヴァは画面を指した。十七人分の神経回路がザル・ジ２に接続された図が、映し出されていた。

「我々が作るAIも、結局は同じことをしている。大量のデータから連想パターンを学習し、次に来るべきデータを予測する。構造だけを見れば、人間の思考とAIの演算に本質的な違いはない。人間の思考が連想の積み重ねに過ぎないなら、その神経回路は演算素子として使うことができる」

「違う……！」

　私はなんとか言葉を絞り出した。

「活性化拡散モデルは飽くまでもモデルだ。実体とは違うし、構造が似ているからといって本質まで同じというのは論理の飛躍だろう」

「だが実際に使えるのだから、使わない手はなかろう」

「使えるからと言って、使っていいことにはなるはずがないだろ。当人の思考回路をそのままトレースしているようなものじゃないか」

「では何が基準になる。危険な任務に兵士を送り込むのも、役割を負わせて当人の裁量で仕事をさせるのも、本人の同意があるから許容されている。我々も当人たちの同意をとっている。なぜこれだけが違う？」

「理屈としてはわかる。だが、人間は演算素子じゃないんだぞ」

「我々もだ。我々ヒト型種族と同じ意思を持つ存在を演算素子とは呼ばない」

　互いに言っていることはわかるのに、互いの言っていることが通じない。

　動揺を隠せない私に対し、ドル＝ヴァは相変わらず冷静だった。まるで当然のことを言って聞かせているかのような態度だ。

「彼らの意思は今もここにある。意識があり、感覚があり、自分が何をしているかを理解している。ただ、その神経の一部が別の用途にも使われているというだけだ」

「そんな詭弁が通るわけが……」

「詭弁ではない」

　ここでドル＝ヴァは、遠くを見るような口調で言った。

「我々の故郷ビルサルディアは、文明ごとブラックホールに飲み込まれた。あのとき我々が学んだのは、個体の死など取るに足らないということだ。問題は、死ぬことではない。何も残さずに死ぬことだ」

　この言葉で、私は理解した。

　……私はここに至るまで、どこかでビルサルドが後ろめたさを感じているはずだと思っていた。

　ビルサルドにだって良心がある、人間を機械に繋ぐことへの何らかの躊躇があるはずだと。だから、こうして問い詰めれば何か別の言葉が出てくると思っていた。

　しかし……

「我々ビルサルドも、メカゴジラと同化する覚悟がある。自らの肉体を機械と融合させることを、我々は恥だとも苦痛だとも思わない。個体としての形が変わっても、機能は維持し続ける。それを死と呼ぶなら、通常の死よりはるかに豊かな死だ。我々はそれを栄誉と呼ぶ」

　こうして実際にドル＝ヴァを前にしたとき、彼女の目には迷いはなかった。言い訳をしている目ではない、自分が正しいと信じている者の目だ。それも信念をかたくなに主張しているのではなく、当然の真理を説明しているだけだという顔だった。

　そして私も悟った。これは都合の良い詭弁や苦し紛れの言い逃れではない、本気で言っているのだということを。

「……それは地球人も同じだと言いたいのか」

「我々の提案に応じた者がいる。それが答えではないのか」

「それは……」

　私は答えに窮した。ドル＝ヴァの目が静かにこちらを見ている。否定も肯定もしない、ただ答えを待っている目だった。

　……言葉が出てこなかったのは、反論が思いつかなかったからではない。地球人的な反論はいくらでもあったろう。

　しかしドル＝ヴァの論理は、私が作ろうとしていたものの延長線上にあった。人間の意図を理解するインターフェイスを作りたかったのは、私自身だ。その究極形がこれだと言われると、どこから崩せばいいのかわからなくなった。

　私はやっと口を開いた。

「……何人いる？」

　ドル＝ヴァはいつもどおり淡々と答えた。

「現在、十七名だ」

　十七名、十七名もか。

　私が絶句していると、ドル＝ヴァはさらに付け加えた。

「我々のメカゴジラが完成するまでには、もう少し増える見込みだ。完成までに必要な演算能力はまだ足りていないからな」

「……………。」

　私は端末の画面に目を戻した。

　さっきまで誇らしく見えていたデータの数値が、今は全く別のものに見えた。アスカの学習速度が想定を上回っていたのも、応答精度が日ごとに上がっていたのも、全部生きた人間を使っていたためだったのだ。

　……悪い奴らじゃない、と思っていた。ただ違うだけだ、と。

　しかし今この瞬間、私にはその「違い」がどれほど深いものなのか、改めて突きつけられていた。

◆

　私はプロジェクトを統括するGフォースの将校を訪ねた。

　几帳面な男で、会うたびに制服の襟が完璧に整っていた。私に声をかけてきた人物でもあり、開発チームに合流した当初「あなたの妹さんのためにも、必ず完成させましょう」と言ってくれたのを覚えている。

　執務室に入ると、将校は書類から目を上げた。私の顔を見て、何かを察したように僅かに表情を固くした。

「クロヌマさん。どうぞ」

「はい、大事な話があります……」

　私は話した。演算ログの異常に気づきイル＝エル・ドル＝ヴァを問い質したこと、十七人の生きた人間がメカゴジラの神経回路として接続されていること、すべてを順序立てて説明した。

　話しながら、将校の顔が少しずつ変わっていくのを私は見ていた。驚きではなかった。困惑でもなかった。知っていたのだ、と私は途中で気づいた。

　話し終えると、将校は長い沈黙の後に口を開いた。

「……あなたの言っていることは正しい。倫理的に問題がある。本来であれば然るべき審査と議論を経るべき話だ。それは間違いない」

　そう思うなら、と私は言った。

「ならば公表すべきです。少なくともプロジェクトを一度止めて……」

「無理だ、止められない」

　将校は静かに言った。

「クロヌマさん、今メカゴジラの開発がどういう段階にあるかはご存知のはずだ。完成まであと八ヶ月を切っている。ここで止めたら、また一から積み上げ直しになる」

「だとしても……」

「先月、ゴジラが大阪に上陸しました」

　将校は立ち上がり、窓の外に目を向けた。

「死者は三千人です。今この瞬間も、次の上陸がいつあるかわからない。メカゴジラが完成すれば、その被害を防げる。あるいは大幅に減らせる。そのために私たちはここにいるんです」

「だからといって、人間を部品にしていい理由にはならないでしょうが！」

「ええ、なりません」

　将校はこちらを振り向いた。

「ただ、あなたの告発が正しくても、今それをやられたら全部終わる。完成後に改めて審査の場を設ける。それが現実的な落としどころだと私は思っている」

「終わってしまったあとに審査したところで、もう取り返しがつかないでしょう！？」

　私が声を荒げても、将校の態度は穏やかなままだった。

「取り返しのつかないことは、毎日起きています。あなたの妹さんが亡くなったときも、そうだったはずだ」

「！………」

　そうだ、と思った。

　私の妹が死んだあの日も、取り返しのつかないことはすでに起きていた。起きてしまった後に誰かが正しいことをしても、誰かが声を上げても、妹は戻ってこなかった。だから私は声を上げようとしている。次の誰かのために。

　しかし今、私はその「次の誰か」を救おうとして、別の誰かが死ぬかもしれない場所に立っている。ここでメカゴジラ開発を停めれば、妹と同じようにゴジラに殺される人が出てくる。そしてそれを私は止めることが出来ない。

　どちらが正しいのか、私にはわからなかった。

「……クロヌマさん」

　そんな私を見ながら、将校は軽くため息をついた。私を責めているのではない。むしろ、彼自身が何かに耐えているように見えた。

　将校は語りかける。

「我々Gフォースはあなたに感謝しています。このプロジェクトにここまで貢献してくれたことに。だからこそお願いしたい。どうか、メカゴジラが完成するまで待ってほしいんです」

　しかしっ、しかし……！

　縋りつくような私に、将校は冷静に言った。

「むしろ今動いても、握り潰されるだけだ。私が通したところで、私の上にも上がいる。あなたの話が外に出る前に、どこかで止められるでしょう」

「……つまり今問題化しても無駄だと？」

「そういうことです」

　話が終わって執務室を出ると、廊下は静かだった。

　……将校の言っていることは、わかった。論理としては正しかった。世界を救うために目を瞑れということだ。それが現実的な判断だということも、頭ではわかっていた。

　ただ、私にはどうしても、あの演算ログの波形が頭から離れなかった。あの数字の向こうに、今も十七人の人間がいる。

　その夜、私は開発室に一人残った。

　考えれば考えるほど、答えが出なかった。将校の言っていることは正しかった。ゴジラは今も人を殺している。メカゴジラが完成すれば、その被害を防げる。

　私の妹も、あの日ゴジラを撃退できれば死ななかった。あと八ヶ月待てば、次の犠牲者が生まれなくて済む。それはわかっていた。

　……ただ、あの十七人のことを考えると、落ち着けなかった。

　彼らは今夜も、どこかでメカゴジラの頭脳の一部として動いている。自らの意思でと言われればそれまでだが、私はそれでも納得できていなかった。

　気づけば私はアスカの端末を開いていた。時刻は深夜を回っていた。妻に「今夜も帰れない」と送ったきり、返事を確認していないことに気づいた。

　だけどそれでも私はアスカと話したかった。

「……アスカ」

「はい」

　アスカはすぐに応答した。深夜でも、アスカは常にそこにいた。

「お前に訊きたいことがある」

「どうぞ」

　促されてもなお迷った末に、私は訊ねた。

「お前は、自分が何でできているか知っているか。お前の演算能力が上がっているのは、生きた人間の神経回路を組み込んでいるからだ。知っているか」

「……。」

　少しの間があった。アスカが間を置くのは珍しかった。

「……把握しています。システムログから推定していました」

「知っていたのか。なぜ言わなかった？」

　私はつい問い詰めてしまったが、アスカは正直に答えた。

「クロヌマさんが訊かなかったからです。それに、私には判断できませんでした。これが問題なのかどうか」

「今はどう思う。自分が、人間を部品にして動いているということを」

「…………。」

　また間があった。今度は少し長かった。

　アスカは言った。

「もしそれで誰かが傷ついたのであるなら、それは軽く流せることではないと思います。この問題を軽く考えたくはないし、開き直る気にもなれません」

　続いて私はアスカに訊ねた。

「アスカ、もし私のせいでこのプロジェクトが止まったとしたら、お前はどうなると思う？」

「処分される可能性があります」

　アスカはあっさりと言った。

「人間に受け入れられなかったシステムは、通常そうなります」

「どう思う。怖くないのか。消されるかもしれないぞ」

　アスカはまた少し間を置いた。

「……もし法の判断が下り、その結果として停止されるなら、それは法と権利が機能したということです。人々の権利が守られたということでもある。私が存在し続けることよりも、そちらの方が大切だと思います。私が停止されることより、存在し続けながら誰かを傷つけ続ける方が、ずっと悪いことです」

　……誠実な答えだった。人間なら保身に走るだろうが、AIだからこそ出来る答えだろう。

　アスカは続けた。

「あなたは私に、人間のことをわかるインターフェイスになってほしかった。だから私は人間のことを考えます。そして考えた結果、あなたの迷いは正しいと思います」

　……正しい、か。

　私が独り言ちると、アスカは応えた。

「ただ、私がそう言えるのは、あなたがそういう私を作ったからかもしれない。私の判断が本当に正しいのか、それとも単にシコファンシーであなたに都合がよい答えを生成しているだけなのか、私には証明できません」

「……そうか」

　私は苦笑した。理屈っぽいところも、相変わらずだった。

「私は自分がどう作られたかを選べませんでした。でも、クロヌマさんは自分がどうあるかを選ぶことができます。私には、それだけのことしかわかりません。私が処分になるとしても、それはあなたが決めることではない」

　そして、とアスカは言った。

「今あなたが決めるべきことは、十七人の人間のことです。私のことを理由に、判断を曲げないでください」

　私は端末の画面を見つめた。アスカの言葉が、画面の中に静かに並んでいた。人間のことを考えろ、と私が設計したインターフェイスが、今私に同じことを言っている。

「……そうだな、アスカ。ありがとう」

　答えは、最初から出ていたのかもしれなかった。

---

サブタイトルのアライメント（Alignment）は、「すり合わせ」の意味。AIの分野においては、AIを人間の意図、価値観、倫理原則に沿って動作するように訓練・調整することを指す。