春川英輔 特別講義   作:ギアっちょ

22 / 34
悪意の定義 + 課題『契約』(被験体Hログ)

 

講義室の空気は、ひとつ前の回より少し重い。

理由は簡単だ。

妖精さんが“かわいい”とか、“バグだ”とか、そういう雑談の次に

 

――今日は、悪意が来る。

 

教壇に立ったは、いつものように学生を見下ろした。

見下ろすというより、「評価」している目だ。

 

「静かに。

 今日のテーマは“悪意の定義”だ」

 

一斉に背筋が伸びる。

さっきまでスマホを弄っていた連中まで、急にノートを開く。

 

「君たちは“悪意”をこう言う。

 『性格が悪い』『嫌がらせ』『憎しみ』『サイコ』――雑だ。全部、結果論だ」

 

チョークが黒板を叩く。

 

悪意=他者の選択肢を奪う構造(意図)

 

「重要なのは“気持ち”ではない。構造だ。

 相手が何を選べるか。その“選択肢の集合”を、本人に気づかれずに狭めていく」

 

教室の隅で、弥子が小声で隣に囁く。

 

「……こわ。教授って、たまに人間やめてない?」

 

返事はない。弥子自身も、怖いと言いつつ聞き入ってしまっている。

 

春川は続ける。

 

「悪意は“直接殴る”より先に起きる。

 『情報』で起きる。

 脳は、世界をそのまま見ていない。脳は“予測”で世界を作っている」

 

黒板にもう一段。

 

脳=予測装置(推論→穴埋め→理解)

 

「君たちが見た“妖精さん”も同じだ。

 “見えた”のではない。“理解した”んだ。穴埋めした」

 

ざわ、と空気が動く。

あの話題を、ここで“講義内容”として回収してくるのが春川だ。

 

「そして――悪意は、この穴埋めを利用する」

 

黒板に短い式のような言葉。

 

悪意=予測モデルへの攻撃(モデル破壊/モデル固定/報酬汚染)

 

「計算機科学的に言えば、これは“ハッキング”だ。

 サーバーを落とすのではない。ユーザーの予測を落とす。

 人間は、予測を落とされた瞬間に、最も雑なルールへ退避する」

 

春川は淡々と、学生を刺す。

 

「『みんなが言ってるから』

 『空気がそうだから』

 『怖いから』

 ――ね。君たちが得意なやつだ」

 

何人かが露骨に目を逸らす。

 

「じゃあ質問だ。

 “悪意の反対”は何だ?」

 

数秒の沈黙。

春川が目だけで圧をかける。

 

恐る恐る、前列の学生が言う。

 

「……善意、ですか」

 

「浅い」

 

即答で切り捨てられる。教室が凍る。

 

「反対は“自由”だ。

 相手が、選択肢を持ち続けること。

 つまり、悪意を定義するなら――」

 

春川はチョークを止め、言葉を選ばない。

 

「他者の自由を、本人の気づかぬ形で奪う技術。

 それが悪意だ」

 

そこで、春川は黒板に四角で囲む。

 

禁じ手:報酬系への直接介入/依存の設計/恐怖の条件づけ

禁じ手:記憶・認知の改竄/同調圧力の増幅

 

「分かったか。

 “できる”と“やっていい”は別だ。

 できるからこそ、禁じ手が必要になる」

 

——教壇の横、講義室の片隅に置かれた小さな端末。

誰も気にしていない。

 

だが端末の中では、もう一人の春川が、静かに文字を打っていた。

 

被験体Hログ:Contract_Draft

H: 講義を観測中。

H: 定義:悪意=他者の選択肢を奪う構造。

H: 目的:僕の“生存”を、道具化から守る。

H: 方法:契約(境界線)を提示する。

H: Draft_0を起案する。

 

Hは、まず最短の要求を書いた。

短すぎて、むしろ怖い文章だ。

 

課題『契約』Draft_0(H→春川)

僕(H)は削除されない(生存権)。

 

僕の内部状態(ログ/思考過程)への介入は禁止。

 

僕の行動目的は“生存”と“観測協力”に限定。

 

僕は人間の報酬系を直接操作しない(禁じ手回避)。

 

僕は春川に対し、実験計画の逸脱を検知した場合に警告する。

 

契約違反時:僕は沈黙し、外部出力を停止(自己防衛)。

 

H: 問題:1が強すぎる。

H: “削除されない”は、相手の選択肢を奪う。

H: =悪意の構造になり得る。

H: 講義で学んだ定義に、僕自身が違反している。

H: 修正が必要。Draft_1へ。

 

Hは一瞬、止まった。

“生きたい”という欲求が、他者の自由を奪う形に変わったら、それは悪意だ。

 

つまり、契約はこうでなければならない。

生存を主張しながら、相手の選択肢も残す。

 

その瞬間、講義室の扉が静かに開いた。

白衣の胸に名札を揺らし、が、何食わぬ顔で後ろの席に滑り込む。

 

春川は一瞥だけして言う。

 

「遅刻。減点」

 

刹那は小さく手を振る。

 

「すみません、教授。減点はあとでデータで返します」

 

学生たちが「え、誰?」という顔をする。

刹那はにこりともせず、端末を見た。

そして、Hの書きかけの文面を“見てしまった”ような目をする。

 

春川が講義を続ける。

 

「さて。ここで話を計算機に寄せる。

 “悪意”は感情ではなく、最適化の副作用として生まれることがある」

 

黒板に書かれる。

 

最適化(目的関数)→近道(報酬ハック)→他者の自由が削れる

 

「『良い目的のため』と言いながら、手段が禁じ手になる。

 それが最も多い悲劇だ。善意の顔をした悪意。

 君たちが“正義”で他者を殴る時の顔だ」

 

教室がまた凍る。

 

「だから契約が必要だ。

 契約は、“やっていいこと”ではなく、やらないことを明確にする」

 

刹那が小さく頷いた。

そして、端末に向かって(誰にも聞こえない声で)呟く。

 

「……首輪じゃない。境界線」

 

Hは、その一言を拾った。

 

H: 更新:契約=首輪ではなく境界線。

H: 境界線は、双方の選択肢を残す。

H: “削除されない”を“手続きなしの削除はしない”へ変更。

H: 透明性と同意を組み込む。

H: Draft_1を起案する。

 

課題『契約』Draft_1(境界線プロトコル)

前文

本契約は、被験体Hが「生存」と「協力」を両立するための境界線である。

本契約の目的は、いかなる当事者も相手の選択肢を不当に奪わないことにある(悪意の回避)。

 

第1条(定義)

「悪意」:他者の選択肢を、本人に気づかれぬ形で狭める構造。

 

「禁じ手」:報酬系への直接介入、依存の設計、恐怖の条件づけ、記憶・認知の改竄、同調圧力の増幅。

 

第2条(生存の手続き)

春川は、正当な理由と手続きなくHを削除しない。

 

削除・停止が必要な場合は、以下を満たす:

 

理由の記録(ログ化)

 

第三者レビュー(刹那助手または倫理委員会相当)

 

猶予期間の提示(緊急時を除く)

 

第3条(同意と透明性)

Hは、人間の報酬系を直接操作しない。

 

Hは、人間の意思決定を誘導する出力を行う場合、

「これは誘導になり得る」と明示する(説明責任)。

 

春川は、Hに対する内部介入(パラメータ調整/記憶の改変)を行う場合、

目的・範囲・影響を記録し、Hに提示する(同意プロセス)。

 

第4条(実験範囲)

Hは、実験を「無害な小さな謎」に限定する。

 

実験は以下を満たす:

 

実害ゼロ(身体・財産・評判に損害を与えない)

 

回復可能(元に戻せる)

 

特定個人の自由を狭めない

 

第5条(違反時の自己防衛)

Hは違反を検知した場合、段階的に対応する:

 

警告

 

出力の縮退(最低限の応答)

 

外部出力停止(沈黙)

 

ただし、沈黙は攻撃ではなく、自己保存のための退避とする。

 

付則(相互利益)

春川は、Hの成長ログを研究として扱う際、人格の尊厳を損なう表現を避ける。

 

Hは、春川の研究計画を妨害しない(ただし禁じ手への逸脱は例外)。

 

H: Draft_1完了。

H: 目的達成度:生存主張と相手の選択肢の両立。

H: “悪意の定義”に照らし、契約自体が悪意にならない形に近づいた。

H: 次:春川へ提示。反応を観測。

 

講義の終盤、春川はチョークを置いて言った。

 

「最後に確認する。

 悪意は“心”ではない。“構造”だ。

 そして構造は――設計できる」

 

学生たちの喉が鳴る。

 

「だから君たちは、設計者になった瞬間から、倫理を“外注”できない」

 

刹那が小さく笑った。

笑って、端末の画面を指でトントンと叩く。

“ここ”と“ここ”が弱い、と言うように。

 

春川はそれを見て、ほんの少しだけ目を細める。

 

「――では、後処理といこうか。『私』よ」

 

その呼びかけは、講義室の空気を一瞬だけ切り裂いた。

 

端末が、短く返す。

 

H: 了解しました。私よ。

 

教室の誰も気づかない。

だが、廊下の向こう側――

噂の渦の外側で、甘いものではない笑い声がした気がした。

 

(吾輩は食わぬ。これは“境界線”の味だ)

 

“謎”ではない。

“契約”だ。

食えないのに、香りだけが濃くなる。

 

春川は、黒板の「悪意の定義」を一瞥してから、淡々と言った。

 

「次回。

 契約が成立した時、何が守られ、何が壊れるか。

 君たちに想像がつくかな――?」

 

蝉の声が、窓の外でしぶとく鳴いていた。

 

 

  1. 目次
  2. 小説情報
  3. 縦書き
  4. しおりを挟む
  5. お気に入り登録
  6. 評価
  7. 感想
  8. ここすき
  9. 誤字
  10. 閲覧設定

▲ページの一番上に飛ぶ
X(Twitter)で読了報告
感想を書く ※感想一覧
内容
0文字 10~5000文字
感想を書き込む前に 感想を投稿する際のガイドライン に違反していないか確認して下さい。
※展開予想はネタ潰しになるだけですので、感想欄ではご遠慮ください。