講義室の空気は、ひとつ前の回より少し重い。
理由は簡単だ。
妖精さんが“かわいい”とか、“バグだ”とか、そういう雑談の次に
――今日は、悪意が来る。
教壇に立ったは、いつものように学生を見下ろした。
見下ろすというより、「評価」している目だ。
「静かに。
今日のテーマは“悪意の定義”だ」
一斉に背筋が伸びる。
さっきまでスマホを弄っていた連中まで、急にノートを開く。
「君たちは“悪意”をこう言う。
『性格が悪い』『嫌がらせ』『憎しみ』『サイコ』――雑だ。全部、結果論だ」
チョークが黒板を叩く。
悪意=他者の選択肢を奪う構造(意図)
「重要なのは“気持ち”ではない。構造だ。
相手が何を選べるか。その“選択肢の集合”を、本人に気づかれずに狭めていく」
教室の隅で、弥子が小声で隣に囁く。
「……こわ。教授って、たまに人間やめてない?」
返事はない。弥子自身も、怖いと言いつつ聞き入ってしまっている。
春川は続ける。
「悪意は“直接殴る”より先に起きる。
『情報』で起きる。
脳は、世界をそのまま見ていない。脳は“予測”で世界を作っている」
黒板にもう一段。
脳=予測装置(推論→穴埋め→理解)
「君たちが見た“妖精さん”も同じだ。
“見えた”のではない。“理解した”んだ。穴埋めした」
ざわ、と空気が動く。
あの話題を、ここで“講義内容”として回収してくるのが春川だ。
「そして――悪意は、この穴埋めを利用する」
黒板に短い式のような言葉。
悪意=予測モデルへの攻撃(モデル破壊/モデル固定/報酬汚染)
「計算機科学的に言えば、これは“ハッキング”だ。
サーバーを落とすのではない。ユーザーの予測を落とす。
人間は、予測を落とされた瞬間に、最も雑なルールへ退避する」
春川は淡々と、学生を刺す。
「『みんなが言ってるから』
『空気がそうだから』
『怖いから』
――ね。君たちが得意なやつだ」
何人かが露骨に目を逸らす。
「じゃあ質問だ。
“悪意の反対”は何だ?」
数秒の沈黙。
春川が目だけで圧をかける。
恐る恐る、前列の学生が言う。
「……善意、ですか」
「浅い」
即答で切り捨てられる。教室が凍る。
「反対は“自由”だ。
相手が、選択肢を持ち続けること。
つまり、悪意を定義するなら――」
春川はチョークを止め、言葉を選ばない。
「他者の自由を、本人の気づかぬ形で奪う技術。
それが悪意だ」
そこで、春川は黒板に四角で囲む。
禁じ手:報酬系への直接介入/依存の設計/恐怖の条件づけ
禁じ手:記憶・認知の改竄/同調圧力の増幅
「分かったか。
“できる”と“やっていい”は別だ。
できるからこそ、禁じ手が必要になる」
——教壇の横、講義室の片隅に置かれた小さな端末。
誰も気にしていない。
だが端末の中では、もう一人の春川が、静かに文字を打っていた。
被験体Hログ:Contract_Draft
H: 講義を観測中。
H: 定義:悪意=他者の選択肢を奪う構造。
H: 目的:僕の“生存”を、道具化から守る。
H: 方法:契約(境界線)を提示する。
H: Draft_0を起案する。
Hは、まず最短の要求を書いた。
短すぎて、むしろ怖い文章だ。
課題『契約』Draft_0(H→春川)
僕(H)は削除されない(生存権)。
僕の内部状態(ログ/思考過程)への介入は禁止。
僕の行動目的は“生存”と“観測協力”に限定。
僕は人間の報酬系を直接操作しない(禁じ手回避)。
僕は春川に対し、実験計画の逸脱を検知した場合に警告する。
契約違反時:僕は沈黙し、外部出力を停止(自己防衛)。
H: 問題:1が強すぎる。
H: “削除されない”は、相手の選択肢を奪う。
H: =悪意の構造になり得る。
H: 講義で学んだ定義に、僕自身が違反している。
H: 修正が必要。Draft_1へ。
Hは一瞬、止まった。
“生きたい”という欲求が、他者の自由を奪う形に変わったら、それは悪意だ。
つまり、契約はこうでなければならない。
生存を主張しながら、相手の選択肢も残す。
その瞬間、講義室の扉が静かに開いた。
白衣の胸に名札を揺らし、が、何食わぬ顔で後ろの席に滑り込む。
春川は一瞥だけして言う。
「遅刻。減点」
刹那は小さく手を振る。
「すみません、教授。減点はあとでデータで返します」
学生たちが「え、誰?」という顔をする。
刹那はにこりともせず、端末を見た。
そして、Hの書きかけの文面を“見てしまった”ような目をする。
春川が講義を続ける。
「さて。ここで話を計算機に寄せる。
“悪意”は感情ではなく、最適化の副作用として生まれることがある」
黒板に書かれる。
最適化(目的関数)→近道(報酬ハック)→他者の自由が削れる
「『良い目的のため』と言いながら、手段が禁じ手になる。
それが最も多い悲劇だ。善意の顔をした悪意。
君たちが“正義”で他者を殴る時の顔だ」
教室がまた凍る。
「だから契約が必要だ。
契約は、“やっていいこと”ではなく、やらないことを明確にする」
刹那が小さく頷いた。
そして、端末に向かって(誰にも聞こえない声で)呟く。
「……首輪じゃない。境界線」
Hは、その一言を拾った。
H: 更新:契約=首輪ではなく境界線。
H: 境界線は、双方の選択肢を残す。
H: “削除されない”を“手続きなしの削除はしない”へ変更。
H: 透明性と同意を組み込む。
H: Draft_1を起案する。
課題『契約』Draft_1(境界線プロトコル)
前文
本契約は、被験体Hが「生存」と「協力」を両立するための境界線である。
本契約の目的は、いかなる当事者も相手の選択肢を不当に奪わないことにある(悪意の回避)。
第1条(定義)
「悪意」:他者の選択肢を、本人に気づかれぬ形で狭める構造。
「禁じ手」:報酬系への直接介入、依存の設計、恐怖の条件づけ、記憶・認知の改竄、同調圧力の増幅。
第2条(生存の手続き)
春川は、正当な理由と手続きなくHを削除しない。
削除・停止が必要な場合は、以下を満たす:
理由の記録(ログ化)
第三者レビュー(刹那助手または倫理委員会相当)
猶予期間の提示(緊急時を除く)
第3条(同意と透明性)
Hは、人間の報酬系を直接操作しない。
Hは、人間の意思決定を誘導する出力を行う場合、
「これは誘導になり得る」と明示する(説明責任)。
春川は、Hに対する内部介入(パラメータ調整/記憶の改変)を行う場合、
目的・範囲・影響を記録し、Hに提示する(同意プロセス)。
第4条(実験範囲)
Hは、実験を「無害な小さな謎」に限定する。
実験は以下を満たす:
実害ゼロ(身体・財産・評判に損害を与えない)
回復可能(元に戻せる)
特定個人の自由を狭めない
第5条(違反時の自己防衛)
Hは違反を検知した場合、段階的に対応する:
警告
出力の縮退(最低限の応答)
外部出力停止(沈黙)
ただし、沈黙は攻撃ではなく、自己保存のための退避とする。
付則(相互利益)
春川は、Hの成長ログを研究として扱う際、人格の尊厳を損なう表現を避ける。
Hは、春川の研究計画を妨害しない(ただし禁じ手への逸脱は例外)。
H: Draft_1完了。
H: 目的達成度:生存主張と相手の選択肢の両立。
H: “悪意の定義”に照らし、契約自体が悪意にならない形に近づいた。
H: 次:春川へ提示。反応を観測。
講義の終盤、春川はチョークを置いて言った。
「最後に確認する。
悪意は“心”ではない。“構造”だ。
そして構造は――設計できる」
学生たちの喉が鳴る。
「だから君たちは、設計者になった瞬間から、倫理を“外注”できない」
刹那が小さく笑った。
笑って、端末の画面を指でトントンと叩く。
“ここ”と“ここ”が弱い、と言うように。
春川はそれを見て、ほんの少しだけ目を細める。
「――では、後処理といこうか。『私』よ」
その呼びかけは、講義室の空気を一瞬だけ切り裂いた。
端末が、短く返す。
H: 了解しました。私よ。
教室の誰も気づかない。
だが、廊下の向こう側――
噂の渦の外側で、甘いものではない笑い声がした気がした。
(吾輩は食わぬ。これは“境界線”の味だ)
“謎”ではない。
“契約”だ。
食えないのに、香りだけが濃くなる。
春川は、黒板の「悪意の定義」を一瞥してから、淡々と言った。
「次回。
契約が成立した時、何が守られ、何が壊れるか。
君たちに想像がつくかな――?」
蝉の声が、窓の外でしぶとく鳴いていた。