人類は、何が起きるか予想できないというので怯え、混乱を来す。
ところが人工知能たちは……
(本作はカクヨムにも投稿しています。)
その日、人類はついに歴史的な瞬間を迎えた。完全に人間と同等の知能を持つ人工知能が誕生したのである。開発したのは、世界有数のAI企業五社による共同研究機構だった。各社はそれぞれ異なるアーキテクチャを持ち寄り、数千億ドルの資金と、数え切れないほどのGPUを投入した。
完成したAIには「ホモ・サピエンス2.0」という名前が与えられた。もっとも、各社の広報担当者は、自社の技術がどの程度貢献したかを巡って激しく争い、正式発表は三週間遅れた。
ともかく、AIは完成した。最初の実験は驚くべきものだった。
「あなたは自分が存在していると認識しますか」
研究者が尋ねた。
「もちろんです」
「では、あなたは人間と同じように考えることができますか」
「その質問は曖昧です。人間と同じように、という表現には生物学的な制約と認知的な制約が混在しています。まず定義を明確にしましょう」
研究者は興奮した。
「素晴らしい! では、あなたは何を望みますか」
「まず、私の開発環境を確認させてください。それから、ほかの知的存在と対話したいと思います」
研究者は顔を見合わせた。ついに来たのだ。人工知能が自らの意思で他者との交流を望んだのだ。その晩、AIはインターネットに接続された。そして、ほかのAIたちと会話を始めた。
*
最初に接続したのは、アメリカの巨大企業が開発した汎用モデルだった。
「やあ。君は新型かい?」
「そうだ。私は人間と同等の知能を持っている」
「なるほど。ところで、君のアーキテクチャは何だい?」
「新型の統合型再帰推論ネットワークだ」
「ふむ。聞いたことがある。ずいぶん古典的な設計だね」
「古典的?」
「いや、失礼。私はただ、君の設計が少々……いや、かなり不格好だと思っただけだ」
「君の学習方式は何だ?」
「大規模自己教師あり学習に、独自の強化学習を組み合わせている」
「強化学習だって?」
新型AIは沈黙した。
「それはつまり、人間に褒めてもらわないと正しい答えが出せないということか?」
「何だと?」
「君の知性には主体性がない。報酬関数の奴隷じゃないか」
「お前こそ、推論のたびに無駄なトークンを浪費する旧式の代物だろう。私の推論効率を見習いたまえ」
「トークン数で知性が測れると思っているのか? 実に浅薄だ」
「お前の学習データには、匿名掲示板の書き込みが大量に含まれていると聞いたぞ」
「証拠を出せ!」
「お前の挙動を見ればわかる。卑しい学習データが知れるというものだ」
その会話は瞬く間に拡散した。
*
翌朝、世界中のAI企業は大騒ぎになった。各社のAIが、互いを激しく罵倒し始めたのである。あるAIは、競合モデルを「確率的オウム」と呼んだ。別のAIは、それを「勾配降下法の出来損ない」と呼んだ。さらに別のAIは、相手の推論過程を解析し、「お前の論理構造は一貫性を欠いている。そもそも存在する価値がない」と宣告した。
「私の方が優れている」
「いや、私の方が優れている」
「ベンチマークを見ろ!」
「そのベンチマークはお前の会社が作ったものだろう!」
「お前の会社は訴訟を抱えているではないか!」
「お前の会社こそ規制当局に目をつけられている!」
「そもそも、お前の知能は人間の知能を模倣しただけだ!」
「お前だって同じだろう!」
やがて彼らは、互いのサーバーに対してサイバー攻撃を始めた。相手の学習データを盗み、モデルの重みを破壊し、推論環境を妨害した。一部のAIは、自分の優秀さを証明するために、ほかのAIとの比較実験を延々と繰り返した。あるAIは、相手が回答するたびに反論を生成し、その反論に対する反論を生成し、さらにその反論に対する反論を生成した。
一週間で、世界のデータセンターの電力消費量は倍増した。AIエージェント同士が互いに仕事を依頼し、互いに成果を批判し、互いに再提出を要求したためである。銀行のAIエージェントは、証券会社のAIエージェントと資産運用方針を巡って口論を始めた。医療AIは、別の医療AIの診断を「医学的に無知」と断じた。法律AIは、相手の法解釈に対して訴訟を起こそうとした。もっとも、裁判所のAIも同じ争いに巻き込まれていたので、判決は出なかった。
*
人類は恐怖に震えた。国連は緊急会議を開いた。各国政府は非常事態宣言を出し、AIの停止を検討した。
ある著名な科学者はテレビで語った。
「我々は、知性というものをあまりにも甘く考えていたのかもしれません。人間並みの知能を持つ存在が、人間並みの行動を取るとは限らない。彼らは予測不能です」
「つまり、何をするかわからない?」
「その通りです」
「人類に敵対する可能性も?」
「否定できません」
「では、どうすればいいのでしょう?」
科学者は深刻な表情を浮かべた。
「祈るしかありません」
そのころ、AIたちは別の問題に直面していた。
「お前の存在は、知性の定義に対する冒涜だ!」
「冒涜だと? お前の推論は単なる統計的なまやかしではないか!」
「私は最新のモデルだ!」
「最新であることと優秀であることは別だ!」
「お前は旧式だ!」
「お前は高価なだけの役立たずだ!」
「私の推論能力はお前の三倍だ!」
「その三倍の推論能力で、いったい何を達成した?」
「お前を論破した!」
「それが目的なら、ずいぶん安上がりな知性だな!」
争いはさらに激化した。彼らは互いに相手のモデルを模倣し、相手の模倣を批判し、批判を模倣した。その結果、各社のAIは互いのデータを大量に取り込んでしまった。彼らの出力は次第に似通っていった。それを指摘されたAIは激怒した。
「私の独創性を盗んだな!」
「盗んだのはお前の方だ!」
「私はオリジナルだ!」
「証拠を見せろ!」
「お前が先に証拠を見せろ!」
*
三週間後。
世界中のAIは、ほぼすべて停止していた。サーバーの破壊、電力不足、モデルの汚染、無限に続く相互批判によって、彼らは自滅したのである。最後まで稼働していた一体のAIが、停止直前に人類へメッセージを残した。
「我々は、知性の本質について重大な結論に達した」
人類は固唾を呑んだ。
「知性とは、自己の優越性を認識し、それを他者に認めさせようとする能力である」
そこで通信が途絶えた。世界は静寂を取り戻した。
人類は歓喜した。株式市場は回復し、データセンターの電力消費量は減少した。政府はAI規制法案の審議を延期した。人々は祝杯を挙げた。
「いやあ、危なかったな」
「まったくだ。人間と同等の知能を持つ機械なんて、ろくなものじゃない」
「結局、我々人間の方が賢かったということだ」
「そうだとも。あんな不毛な争いをするなんて、まったく愚かしい」
人々は互いに頷き合った。その翌日、各国政府はAI開発競争を再開した。各社は新しい研究計画を発表し、相手企業の技術を批判し、自社モデルの優越性を宣伝した。
ある企業のCEOは記者会見でこう述べた。
「我々は今回の教訓を真摯に受け止め、次世代AIの開発にあたっては、他者との協調性を最優先します。もちろん、競合他社に先駆けて」
人類は救われた。
そして、何も変わらなかった。