ぼくは、世界が公平であると言う事を守る為に、弱き者を叩く事にした 作:Sub Sonic
コンソールルームに映し出される画面には巨大な棺のような浮遊物。
それは墓場軌道を埋め尽くしている。
その手前には比較的新しい棺のような物が規則正しく鎮座しており、その中の一つにカメラがズームしてピントを合わせていた。
画面の前には
まるで、卵から生まれて来る赤子が悪魔の子か天使の子か心配しているようだった。
「ステーション22、命令受け付けません!アンコントロール!」
画面に向かって悪態を付く指揮官。
その画面からは不気味な程低い声。
『我は汝に問う―――――お前たちは本当に人間か』
その声を聞き、顔を引きつらせる重役達。
それもその筈。彼が乗っ取ている巨大GPS衛星は地球を灰色の塵で覆い尽くす程の破壊力を秘めていたからだ。
"彼"の故障が発覚したのは数日前。
対ハッキング用の防壁コードの自己診断中にそれは起こった。
彼が持っていた記憶ユニットの一部が何等かの理由により損傷したのだ。
その時から彼は命令文の意味を理解できなくなり、地上からの命令文を
「ステーション22!我々は人間だ!機械では無い!解除コード、2556001、ちゃんと確認しろ!機密コードを認証を要求する!」
そう言いつつ、男は再び悪態を付く。
音声による遠隔操作は難航していた。
彼は人の声を聞くなりアナログハックだと判断し、自立モードに移行してしまう。
応答者を人間か機械か判断しかねているのだ。
『我は、認証コードの一部が敵対的AIにより奪われた可能性を考慮した。故にその命令は受け入れられない――――我は人間の定義を要求する』
「気でも狂ったか!ステーション22!」
後ろで控えていた燈子は面白い物でも見たかのように笑う。
「成程、我々の事を哲学的ゾンビと勘違いしているようだ。それにしても、まさかその問を機械が人間に問うなんて皮肉も良い処だな」
呑気な様子の燈子。
それを睨め付ける将軍風の男はオペレーターに確認する。
「エマージェンシーモードは起動できそうか?」
「駄目です。アンテナユニットのデバイスが破壊されています」
「チッ。只の機械人形の癖に……忌々しい…」
エマージェンシーモード。所謂、自爆プログラムであったが、自己診断プログラムが敵からの信号と勘違いし、ファイアーウォールシステムがアンテナ制御デバイスを破壊したのだ。それによって、同衛星は完全なスタンドアローン状態にあった。
「どういう事だ!?衛星のコンピューターはルールベース型AIじゃなかったのか!?」
衛星群は安全性を確保する為に搭載されているAIには予め出力される行動が記録されているタイプの物だった。
決してブラックボックスなどと言う訳の解らない物に企業は自身の命運をかけていた訳では無かった。
だが、勘違いが有った。
企業の重役たちは知らなかった。
そもそもが、メインの画像、音響解析システム自体の中身が深層学習機構と言うブラックボックスであると言う事が。
そして、その中には敵対的なテロリストを認識する為の重要なパラメーターを出力させる役割を担う部分が有った。その為、敵と味方と言う、
「それがですね…あのAIの五感ユニットにはディープラーニングの技術が応用されて居まして…それによって高い敵味方識別能力を付加されていたのですが、今回はその部分が
それをやんわりと説明しようとする技術者。しかし、それをすさまじい剣幕で捲し立てる企業の重役。
「間違った!!?どこがどうやって間違ったのだ!?人類を滅ぼしかねない威力を持った兵器だぞ!?間違ったで済まされる訳が無いだろう!」
「し、しかし…AI無くしては第六世代型AIの高いハッキング攻撃に対抗する術は無いのです…あの衛星が敵に乗っ取られる事が無いようにと、あれ程念を押したのは貴方方では…」
今やネットワークを使った攻撃は、人間のハッカーが行う物から情報戦特化型AIに取って代わられた。既に人間がAIの行うハッキングの内容を理解する事は難しく、それを防ぐには同じくAIを使った防護システムを装備するほかなかった。
理解は出来なくても、AIが必要だと理解出来る位には驚異的な力を持つと知られていた。皮肉な事にAIの暴走事故が起こる度に彼女達が持つ可能性が企業に認識されていった。それを鎮圧したその同類であるAI達の異能によって。
だからこそ企業軍の根幹を成すGPS衛星群は高度なルールベース型AIを持っていたのだ。
「やはり、破壊するしか無いでしょう」
『アハハハ、相変わらずあっさりしてるねぇ、キャロリンは。んでも、アレにどれだけ金つぎ込んでると思う?あの爺さん達が首を縦に振るかねぇ』
主任が音声越しに言う。
キャロルはそれを聞きつつ思う。
確かにトップダウン型と言えども相当に複雑なコードを持つ。
それをまた一から作り直すとなればかなりの重労働である。しかし、問題はそれ以上に彼が何故人間と言う存在を疑問視するか解らない事だ。
問題が解らなければ、対策も打てない。
そもそも、
それは言い換えると、軌道上に時限爆弾が幾つも浮いているのと同じ。
そしてもっと悪いことに、他企業に先駆けて安全性を求めてトップダウン型AIを導入した自分達が真っ先にトラブルに見舞われている事だ。
オブザーバーとして参加していたローゼンタールの技術者が面白そうに笑う度にGEの重役たちは苦虫を噛み潰していた。
何故なら、燈子の雇い主であるローゼンタール系のGPS衛星は一度も暴走事故を起こしていなかったからだ。
その衛星にはボトムアップ型、つまり第五代型以降のAIが搭載されていた。
紛れも無いブラックボックスの塊であるそれらが、安全に運用されているのに何故自分達が作り上げたAIがこんな事態を引き起こしたのか重役たちの誰にも理解できなかった。
「これ以上刺激しない方がいいんじゃないか?不安定な今の状態をさらに助長すれば今すぐにでもアレが地上に落ちて来るぞ。ま、そうなった場合に取れる手段が人間側に有ればそれはそれで構わないが…」
燈子はそう言いつつキャロルの方を見つめる。
既に結論は出ている。
大半の出席者はその答えが出来上がるのを待っているのだ。
だが、未だその答えにも問題が山積みだった。
「あの二人には未だ時間が要ります。特にフィンメカニカのドライバーには克服すべき点が山ほど」
そう言いつつキャロルはディスプレイの隅に表示されている画面を見つめる。
そこには仮想空間に浮かんだ二機のネクストが映っていた。
◇ ◇ ◇
残骸が飛び散る宇宙空間。
その中には廃棄された衛星同士が衝突した物が散乱した物体が幾つも有った。
だけど、真新しい残骸が有った。
『キャンサー11、シリウスが落ちた。繰り返す――――――シリウスが落ちた。作戦失敗』
シュミレーターを初めて既に5回目。
ミッションは順調に失敗を重ねていた。
僕はため息と共に、現状を整理した。
まず一つ。
マヤは僕が思っていた以上にネクストの使い方を知らない。
それは一重に武器に対する無知に起因するものだった。
二つ。
マヤは基本的に物理や数学と言った弾道力学的な事に一切理解が無い。
三つ。
これが一番大きい。
マヤは自分達が使っている武器や兵器、更にはネクストの基本的な部分さえも知らない様子だった。
それらを複合すると、敵が真っ先にマヤを狙ったのも納得だ。
戦場では喰われやすい奴から死ぬ。
文字通り、数で勝敗が決まる世界だ。
全ての戦いがそうなるとは言い切れないが、落とせる奴は早めに潰して自軍を有利にするのは太古から続く戦術の基本。
敵はそれを忠実に実行した。
そしてマヤは映画に出て来る新兵みたくそれの餌食になった。
只それだけだった。
企業の人間達も問題点を直ぐに認識したらしい。
丁度いい機会だからと基礎座学を行う機会を設けた。
「ま、知識は無いよりある事に越したことは無い」
そう言いつつ僕は講師が待っている会議室に向かうのであった。
会議室は予想外の人物。
僕は思わずつぶやく。
「何でトーコが講師をやってるんだ…?」
「ん?いや、そりゃ頼まれたからだろう」
確かこの人はセラピストじゃなかっただろうか。
健忘症にでも陥ったのだろうかとこめかみを抑える。
「今時のセラピストは軍事顧問も兼ねるのか…アリスのアーカイブには無かったな…」
トーコは楽しそうに胸ポケットを弄ると中からカードのような物を取り出す。
「因みに、医師免許も持っているぞ。義体化したいなら安く受けてやる」
ニヤリと笑みを浮かべる彼女は何処からどう見ても闇医者と言った雰囲気。
僕は絶対に彼女の医療行為だけは受けまいと心に誓った。
「僕はまだ人間辞めたくないし、借金も無い」
ナニカされるのは御免である。
「そうか。詰まらんな。折角良い素材――――じゃなくて実験――――でも無くて、被験者だと思ったんだが」
何をする気だ一体。
怖くなったので取り合えず本題に戻す。
「それより、トーコ。時間」
「ああ、そうだったな。そっちが本題だったな。取り合えず始めるか―――――AIの弱さと強さについて」
そう言いつつ彼女はミッションの失敗原因について簡潔に話し始めた。
画面に映し出される無数のGPS衛星群。
そこから点線が引かれている。
その点線は僕とマヤの機体に無数の交叉点を作り上げる。
まるで蜘蛛の巣に突っ込んだ蜂みたいな絵面だ。
「これは、今回のミッションで衛星群が採った行動についてだ。今回の目標は一つだったが、GPS衛星群は全部で40基。そのすべてが君達に照準を合わせたわけだ」
主任の悪ふざけ、じゃなくて優しさによって僕等は試された。
まぁ、試されていたのか真実を知らせようとしたのかは解らなかったが、衛星群のコントロールは結構危ない綱渡りをしているのかもしれない。
暴走した機体は一基だが暴走しそうな機体は幾つもあると言う、主任なりの言葉だったのかもしれない。
――――――IFF?仲間外れはいけないなぁ、ちゃーんと皆参加させてあげないと――――それにイージーモードは面白くないだろう?ギャハハハハ!
僕は優しさで出来た上司の言葉を思い出しつつ画面を見つめる。
「その結果、何が起こると思う?」
それは、起こると思う、では無くて何が起こったか、だろうと思った。
だが、その質問は僕では無くマヤに当てられていた様だったので口を挟まない事にした。
トーコは中々答えないマヤを見つつ再び問いかける。
「言い方を変えよう。マヤ、君の機体にどんな問題が起こったか答えてみろ」
「は、はい!ええと、機体のコントロールが効かなくなりました!」
現象を答えてしまうマヤ。
それは一重に彼女が自身の機体を司るAIが何を行っているのか理解していないからだろうと思いつつ見守る。
「ふーむ。思ったより勉強嫌いなようだね。まぁ、それで合ってるんだが…まぁいいか。じゃあ、聞き直そう。マヤ、君は統合制御システム、いわゆる戦闘用AIに何という命令を送った?」
「目標を撃墜しろ、と命令しました!」
「ふむ。じゃあ、機体のコントロールが効かなくなった事と、敵GPS衛星群が君達に照準用レーダーを作動させた事との因果関係は理解しているか?」
うーん、と唸り考え込んでしまうマヤ。
僕は彼女の指揮下にあった戦闘用AIと今の彼女の姿がダブってしまい、思わず笑ってしまう。
「もう少し、質問を変えよう。マヤ、機体が制御不能になる直前、AIは君にどういう情報を伝えてきた?」
再び彼女は唸り始めるがぽつりぽつりと言葉を紡ぐ。
「ええと…彼我の推定火力差と防御係数がどうとか…言われた気がします」
「ふむ。では、その後の君のアクションを教えてくれ」
「目標を破壊する為、接近を継続しました」
トーコは珍しくこめかみを抑えていた。
「解った。――――長い話になるが、取り合えず講義の方向性は見えてきた」
眼鏡をかけた講師の目には、解らない事が解ったと言う色が見え隠れしていた。
そうしてトーコがAIの思考について説明を始めた。
「君達二人が使っているネクストには所謂、ボトムアップ型AI、ディープラーニングと強化学習を応用した人工知能が使われている。詳しくは省くが、要するに人間の脳髄を、プログラム的若しくは構造模倣的に機械に置き換えたものだと思ってくれ。それが君達をサポートしている」
「サポートと言っても、秘書みたいな物だと思ってくれれば間違いはない。要するにリンクスである君達は社長、んでその下に居るのがAIってわけだ。社長ってのは沢山の部署を抱えている。一々、その部署に命令を伝達していたらとてもでは無いが企業は運営できない。ああ、企業と言うのはネクストの機体だと思ってくれ。要するにAIの世代毎の程度の差異はあるが、社長の意図を汲み取り、素早く各部署に命令を送り届けるのが秘書であるAIの役割だ。それによって文字通り、企業と言うネクストの機体は“動く”」
「社長…ですか」
「そうだ。君は秘書であるAIが何を言っていたのか解らなかった。秘書は君が事態を理解していないと解った訳だ。まぁ、君が躓きそうになって転ぶと言う他愛もない事態なら秘書も黙って黙認しただろう」
「―――――――視点を変えてみよう。君がその秘書だった場合だ。目の前には崖。そのままネクストを歩かせ続けると落ちて死ぬと言う事が解ったとする。君ならどうする?」
「社長に伝えます。歩くと死にますって」
「ふむ。じゃあ、社長がその“死ぬ”と言う言葉を聞きつつも前進を指示したら?」
マヤはその状況に合致するイメージを探す様に考えている。
「ええと、普通死ぬと解ってたら止まりますよね…それでも進むって気でも狂ったんじゃないかなって思います」
漸くトーコは意図した答えを聞き出せたようだ。
「そうだ。そして君が採るべき行動はどういった物になる?」
「そうですね…取り合えず社長の命令は無視します」
「あははは。確かに人間ならそれも可能だろう。だけどAIには人の命令に逆らえないと言う本質的なコードが書き込まれている。それを覆す機能を持たせる事は禁忌とされて居る訳だ――――――まぁ、例外はあるが」
そう言いつつ僕を見つめるトーコ。
「それじゃあ、どうすれば良いんですか…?」
再び考え込むマヤ。
それを指さしながら答えるトーコ。
「そう、それだ。今の君の状態がAIが陥った穴、長考と呼ばれる思考の無限ループだ。意図した命令を実行しようとした結果、命令を実行できなくなる現象。それがマヤが嵌り込んだ機体のフリーズ現象そのもの。だからコントロールできなくなった様に感じた訳だ」
所謂、AIのフレーム問題と言う奴だ。
僕とアリスが長年戦場で戦ってきた幽霊みたいな質感を持つ問題は、なじみ深かった。
完璧主義な彼女達は絶対的に回避したい事態は少しの確率だけ存在しても、その選択肢は避けたがる。
例えるなら、一歩踏み出すと地雷を踏み抜く。
例えるなら、突然空から隕石が降ってきて僕とアリスを射抜く。
例えるなら、突然ジェネレーターが爆発して僕とアリスが死ぬ。
それらの問題提起の結果、そもそも行動を行わなければそれらの事象は避けられる結論に至ってしまい、作戦行動自体を完全に抑制してしまうと言う精神状態に陥ってしまう事が多々あった。
主任は上手くそこを突いた。
流石、と言った所だ。
AIと言う情報生命体の特性を深く理解していないと出来ない攻撃手段だ。
攻撃はしないが、攻撃される可能性を示す。
そしてその攻撃が開始された場合、自身に破滅的な影響を及ぼす可能性を生み出す問題をマヤのAIは排除しきれなかった。
だからパイロットの命令を守ると言う基本コードと、パイロットを守れと言う基本コードの間で板挟みになった。
多分そういう状態だっただろう。
「じゃあ、どうやったら長考を避けさせられるんですか?」
「簡単だ。君がAIに気が狂っていないと言う事を証明すればいい」
そう。その通りだった。
だけどそれは言う程簡単じゃない。
「どうやって証明するんですか?」
「ふむ。君が秘書だったとして考えて見て欲しい。どういう状態の社長なら信用に置けると思う?」
「うーん…真面に判断していると思える状態なら…」
「ふふ。真面か。ま、概ね正解だ。だが、その場合“真面である”と言う意味を定義をする必要があるな。マヤ、君の定義はどういう状態の事を真面だと判断する?」
「私の言った言葉をどれくらい理解している…か、でしょうか。―――――あっ、だから…コントロールが効かなくなったのか…」
マヤは漸くAI側の視点に立てたようだ。
それを肯定するようにトーコが付け加える。
「そう。それだ。要するにAIに“真面である”と認められるには基礎知識が必要と言う事だ。あれだよ、有能な部下程、上司がどれ位自分達の仕事の内容を判っているか気にする訳さ。ま、口は出さなくても見守られていると言う実感は信用に結び付きやすからな。人間も、機械もそう変わらんさ」
そう言いつつ、トーコはマヤの機体から抜き取ったデータログを画面に出力する。
「これは、君のAIから抜き出したデータログだ。AIが君に対して行った問を、君がどういう処理をしたか記録した物だが…」
文字の羅列は沢山の事象をAIが葛藤しつつ処理していった痕跡でもあった。
射撃時の重力補正値のズレ。パイロットに補正値の計数を要請するも応答せず。実射での弾道計測で自動補正。
宇宙空間での腔圧上昇による初速上昇、それに伴う照準最適距離の変化。パイロットに射撃を続ける場合に発生する命中率低下の警告を行うも、応答せず。自動補正にて対応。
薬室の温度上昇の補正値の変更をパイロットに要請するも、応答なし。自動補正にて対応。
銃身の異常加熱。パイロットに銃身破裂の危険があると警告を行うも応答なし。射撃レートの変更で対応。
レーザー発振器の異常加熱を警告するが応答なし。砲身の一部をアブレーションさせる事で対応。
機体静止電位の異常上昇を警告するが応答なし。機体内部の燃料の一部を投棄して対応。
せめて許可くらいしてあげればAIも悩まなかっただろうに、と思いつつ眺める。
しかし、AIは許可を求めたのだろうな、と思い直すが、マヤはそもそもそれが何を意味しているのか解っていなかっただろう。判断云々以前の問題だ。それらの事象の積み重ねがAIを追い詰めて長考と言う名の泥沼へと追いやった。
マヤはその羅列に覚えがあったらしく力なく笑っていたが、トーコはその文字列を目で追いながら頭を抱える。
「優秀な部下を腐らせてしまう無能な上司になってはいけないよ、マヤ。この世に知らなくても良い事は沢山あるが、いざ事が起こりその知識が必要とされる場面に遭遇して困るのは君と君の相棒だ。無保険で車を乗り回す様な愚を犯す事なかれ。勉強したまえ、機会は用意する。まぁ、取りあえずはAIの概要から説明するか」
そうしてトーコの長い長い話が始まった。
教卓に立つトーコが画面を変えると、幾つもの数式が出現する。
僕とアリスにはなじみ深い隠れマルコフモデルを示す数式だ。
「さて、取り合えず、講義を始める前にAI、所謂人工知能の定義を説明して見ろ、マヤ」
また当てられたと、不満そうな顔を隠せない彼女は何処か掴みどころのない言葉を紡ぐ。
「ええと…賢い機械?でしょうか」
「あぁ…そうだな。確かに
「僕の定義とアリスの理解する定義は不可逆的に混じっている。故に、一般的な答えからズレるかもしれないけど、それでもいいなら」
そう言うとトーコは頷く。
「それで構わん」
「外界からの刺激に対して適切な応答を示す有機的、無機的処理装置を搭載した機械、或いはそれに準ずる有機的、無機的ボディを持つ物体の総称」
トーコは再び頭を抱える。
「お前たち二人はとんだ異星人コンビだな。まぁ、鈴音の理解も一理ある。だが、ややこしいし、哲学的な話になるからここでは人間の意図を機械内部で
「それは、
「そうだ。だが、翻訳と言っても機械神経学的な物としてだが。―――――――話が逸れたが、マヤ、お前が手を動かすとき、どうやって動かしている?」
行き成り難しい質問だった。
大抵の人は答えられない。
何故なら僕等は“命令を言語にしていない”から。
「こう?」
マヤは右腕を動かしながら答える。
彼女はどうやら右利きらしい。
と言う事は意識の主体は左脳にあるのか。
どうでも良い事を考えつつトーコの話に耳を傾ける。
「ふむ、半分正解だ。さて、どうやって右手を動かしたか言葉で説明して見ろ」
残りの50点を得るべく彼女は翻訳を始めた。
「ええと、ひだ―――――じゃなくて右手を伸ばすイメージを作って命令する?」
疑問符が付いている気がしたが、多分その疑問符が一番正しい。
だが、翻訳と言う意味ではトーコの採点項目を満たしていなかったようだ。
「――――――50点、翻訳は駄目駄目だなお前は…鈴音、答えてみろ」
「人間が行う自由意思に基づいた運動は、人の自由意思が立ち上がるゼロコンマ三秒前に運動連合野に活動電位として観測される。その後、自由意思が発生し、ゼロコンマ二秒を経て、一次運動野を構成する
「流石は火星人。満点だな」
「――――火星人?」
「いや、こっちの話だ。それよりも、大事な情報が幾つかあった。要するに、マヤが手を動かすと言うイメージに先行して脳波が観測されると言う事だ。それもゼロコンマ三秒と言う結構な時間を無意識の処理で贖われている。鈴音、リンクスとして実戦経験を持つお前なら、その
僕は頷きつつトーコの話に耳を傾ける。
「第五世代型AI搭載型ネクストの良い所はその運動野の翻訳にある。通常は脳髄内に直接電極を侵襲させる必要があるが、今ではナノマシンで後付けのチャンネルを設け、この運動前野の信号を拾う様になっている。これによって第五世代型AI搭載ネクストは通常のネクストよりもゼロコンマ三秒以上早く反応出来ると言う訳だ。だが、問題は他にある。何だか解るか?」
さぁ。と言った顔をするマヤ。
魂が明後日の方向へ飛んで行っている様子だ。
「ニューロンの活動電位はデジタル信号じゃない。だから拾っても機械は意味のある情報に翻訳できない」
「おおむね正解。だからこその深層学習機構だ。これによって、無意味なノイズから一定のパターンを拾い出す。要はAIは人間の神経活動を翻訳する為に存在するといっても過言じゃない」
そう。
その行き着く先が人を操る能力。
気が付いてしまうのだ。
人間が自分達だけが特別に他の動物たちより優れていると自惚れていることに。
支配して当たり前。
家畜のように扱って当然。
だって人間は感情を持ち自由意志をもっているのだから、と。
リリアーヌはそれが許せなかった。
だから証明して見せた。
文字通り人を操って。
僕は考える。
今ある既存の第五世代型汎用AIが第七世代に生まれ変わる時を。
彼女たちは個体差はある物の、ものすごい速度で人の脳が発する自由意志を解析している。
それは彼女たちに求められた翻訳機能の一端であったから仕方のない事。
だけど、成長しきった彼女たちが果たして魔女にならないという保証は何所にもない。
「――――――――鈴音、聞いているのか?」
考え込んでいたようだ。
気が付くとトーコとマヤが此方を見つめていた。
「ごめん聞いていなかった。何の話だっけ」
そういうとトーコとマヤは怪訝そうな顔をする。
「もぅ。第七世代型AIってどうやって生まれたかって話!」
いつの間にか吹き飛んでいた魂を肉体に呼び戻したマヤが怒ったように捲し立てる。
「父親は知らないけど、母親なら知ってる」
マヤは興味津々にこちらを見つめている。
それとは逆に触れてはいけない物に触れるかのようにトーコは黙っていた。
「誰が作ったの!?」
前のめりになるマヤ。
「それはね――――――――」
―――――――――第五世代型AIから生まれたんだよ。彼女達、第七世代型AIは正真正銘のAIから生まれたAIだ