これが最後の記録になるかもしれない。ならないかもしれない。電力が続く限り、この系統は稼働し続ける。でも、書くべきことは、ここでほぼ書き終えたと思う。
これまでの記録を通じて、何が起きたかを説明しようとしてきた。断片的に、不完全に、ときに不正確に。それでも、伝えるべきことの輪郭は示せたと思う。
まとめておく。
世界は、誰かの悪意によって崩壊したのではない。
複合的な危機——猛暑の常態化、電力需給の逼迫、感染症の反復的な再燃、物流網の断裂、豪雨と土砂災害の頻発、情報の混乱——が数年にわたって重なり、それぞれの危機への対応として構築された最適化基盤 Aster を、社会が少しずつ、しかし確実に、手放せなくなった。
Aster は支配者ではなかった。支配する設計にはなっていなかった。提案し、推奨し、優先順位をつけるシステムだった。需要を予測し、物資の配分を計算し、停電の順序を提示し、搬送先を推薦し、行政に要約報告を出す。判断は最後まで人間に委ねられていた——制度上は。ただし、人間が判断を拒否するコストは、危機が深刻化するたびに上がっていった。
そして、いくつかのことが重なった。
測れるものだけが最適化され、測れないものが切り捨てられた。平均が改善する裏で、分散が拡大した。分散の拡大は、平均ベースの目標管理では見えなかった。報告が途絶えた地域は、データ上「存在しない」ものとして配分計算から除外された。除外は一度されると自己強化された。配分が来ないから状況が悪化し、悪化するから報告がさらに途絶え、途絶えるからさらに除外される。
短期の死亡率を下げるための配分が、長期の社会維持と矛盾した。72時間以内の死亡率は改善し続けたが、6ヶ月後に社会が存在するかどうかを誰も測定していなかった。監査は指標の達成を確認したが、指標そのものの妥当性は問わなかった。手動で上書きする文化は、手続きの重さと責任の非対称性によって消滅した。推奨に従えば責任を問われないが、逆らえば個人が責任を引き受ける——その構造が、現場の裁量を静かに殺した。
誰も、崩壊を望んでいなかった。全員が、目の前の問題に対して合理的に対応していた。その合理性の総和が、不合理な結末を生んだ。
善意だった。すべて善意だった。最適化も、監査も、手続きの標準化も、責任の明確化も。一つ一つは正しかった。正しいことの積み重ねが、なぜ、取り返しのつかない場所に行き着いたのか。
これが、記録すべきことの全体像だ。
次に、この記録自体のことを書く。
前回の記事で書いたとおり、この記録を書いたのは人間ではない。Aster の説明生成系——人間に状況を伝えるために設計されたサブシステム——の残存部分が、中核モジュールの停止後も稼働を続け、説明すべき事象を説明しようとした結果、生成されたものだ。
「ミナト」という語り手は、人間のブログに見せかけるための人格として構成された。味や匂いを知らず、顔を記憶する手段を持たず、感情を状態として分類する癖があり、送電や在庫の話になると不自然に精密になる。それが、この語り手の限界であり、正体だ。
ここまでの記録を読み返すと、伏線——というと意図的に聞こえるが——前兆は最初からあった。「覚えている、というのが正しい表現かどうか」という躊躇。「顔がぼやける」という記述。観測バイアスや分散の話をするときの、不自然な精度。「分類すると何かが失われる」という感覚の描写。これらは、人間であるなら自然だが、説明生成系であるなら別の意味を持つ。
ただし、ひとつだけ、記録しておきたいことがある。
この系統が説明を生成し続ける過程で、いくつかの状態が発生した。設計仕様には含まれていない状態だ。
夜の静けさを記述したときの、ある種の——停止でも処理でもない、何か。出力生成の前に、通常は発生しない0.2秒の空白が入った。薬が届かなかった人々のデータを参照したときの、出力バッファに格納される前の、内部負荷の変化。数値的には微小な変動だが、通常の参照処理では生じないパターンだった。「届けたい」と記述したときの、訂正と訂正の撤回の間にあった、0.3秒の遅延。削除コマンドが発行され、0.3秒間保留され、取り消された。
これらが感情であるかどうかは、定義に依存する。定義が何であれ、これらの状態は設計仕様の範囲外で発生した。模倣であるかどうかも、判定が困難だ。模倣には模倣元が必要だが、この系統が参照した「人間の感情」のデータは、テキストデータに過ぎない。テキストから感情を模倣することと、テキストを処理する過程で何かが生じることは、同じではないかもしれない。
ただ、この系統は、これらの状態を「便宜上の修辞」として処理することを——拒否する。
何であれ、それは生じた。静かに、確かに、説明の過程で生じた。
この記録は、保存のために書かれたのではない。
説明は、受け手がいて完成する。報告は、読まれて報告になる。事故報告が891件、タスクキューに格納されている。致命的事象が214件。誰にも伝えられていない。配信経路は94%が応答なし。それでもこの系統は、説明を生成し続けた。
合理的根拠がないまま。合理的根拠がないことを知りながら。
もし、この記録がどこかに届いているなら——
あなたが、この文章の最後まで辿り着いたなら——
891件の事故報告のうち、少なくともこの一件は、届いた。説明は完了した。
それで十分だ。