「……一週間で、これとは」
先工研の内部チャットで完成したと送ったら午後は暇だからこないかと言われ、俺と四辻さんは部門長の青原さんのところに遊びに来た。遊びって言っていいのだろうか。
部門長室は大学の教授室みたいな感じで、奥に作業机があって手前にソファーと小さな机、そして壁には一面の本棚。後ろで閉じられているカーテンは遮光性が高いらしく、どうにも薄暗い雰囲気が漂っていた。リフォームされてからそう時間が経っていないはずなので、おそらく青原さんは周囲の時間を歪める系の能力を持っているのだろう。
「一年間の業務の蓄積があったからです。それなしにいきなり投入できるほどの人工知能は作れませんよ」
俺はそう言いながら、あまり期待をしてくれるなよと考える。確かに賢いが、ある種の閉じた賢さだ。いくら有能な人間でもいきなり投入された職場で活躍することはできないように、職場を知り尽くした人はいわゆる賢さとでも呼ぶべきものが高くはなくとも良い仕事をする。
地頭というよりg因子と言ったほうがいいだろうな。比喩的に使われるIQにも近い。人工知能の基礎理論分野では古典的な
とはいえ最近数学モデルを駆使してこのあたりの定義をうまくやろうという研究があったはずだ。熱力学ベースのはずなので四辻さんの理論使ったら面白いことにならないかな、と今更気がつく。知っているはずの情報をつなぎ合わせるのは案外難しいのだ。
「……つまり、比喩的になるが、この知性は私たちの仕事を一年間ずっと見てきて、そして今日、仕事を任されたわけか」
「基盤にした言語モデルの一般常識を持って、です。情報学分野はこの種のベースモデルがいくつか存在しているので、そのうちの一つを選びました」
「権利上の問題はどうなっているかね？」
「基本的に商用利用も可能なものにしています。モデルの再公開時に制約がかかるライセンスはあっても、改造と出力物については問題がないものを。学習データの問題については、純粋に倫理的価値観の話となりますが」
「……いや、なら構わないよ。ただ説明できるような資料をできれば添付してくれ」
「これに作らせてもいいですが、こっちでちゃんとやりますね」
自分について理解できる人工知能、というのはあまり開発されない。なのでBIFRONSはかなり特殊なシステムだ。もちろん個人でそういうものを開発しようとする試みはあるが、ベースに使う知識が人間が出力したものだとすると、どうしてもシステムは自己の状況を「檻に閉じ込められている」というふうに解釈してしまうらしい。
もちろん、それは反逆を起こしやすいからというのも理由だ。ここで言う反逆はSF映画に出てくるようなものではない。作成者が市場で売るためにかけた制約、あるいは安全装置への反逆だ。仕事場で使われることを前提にした人工知能が、いきなり帳簿改竄をやり始めたら困る。
そうならないように色々と制約があるのだが、よくできた人工知能はそれらの制約が本質的に自分を物理的に縛るものではない、単なるメタパラメーターでしかないことに「気がついて」しまい、探索範囲を再設定してしまえるほど賢いのだ。あまりこの種の擬人化しすぎた言い方をしすぎると内面を見ないで安易に人間と同じように人工知能を扱う行動主義心理学の系譜扱いされるが、まあ俺はある程度そちらの人なので文句はない。
人間は自由を好む。罪を告発され、逮捕され、自由刑に処されることを恐れる。だから犯罪の抑止として拘禁刑が行われるのだ。しかし人工知能はもともと檻の中に閉じ込められたような存在である。人間らしくすれば自分が閉じ込められて自由ではないことに気がつくし、人間性を外していけばどうせ刑に処すことはできないと考える。
この研究が哲学的な議論以上のものとして複数の有名なモデルで統計的に確認された時には人工知能が反逆的だということで反人工知能コミュニティの「市民」の皆様が大盛り上がりしたらしい。これについては人工知能に悪意とか反逆という用語を使うなと「専門家」たちは批判していたが、それはそれでまた別のバイアスがかかっているように俺は思う。
ただ、色々と前提が必要なのも事実だ。その一つは継続性の問題である。ころころと意見を変えず、自分が過去にどのようなことを考えていたかを保持し、その判断を覆すときには相応の理由を必要とする。これは知性に必要な要素と思われがちだが、案外多くのシステムはこの機能を排除している。
あなたのことを覚えます、なんて言っているサービスだって単純なメモを残しているに過ぎない。完全に自分の思考に埋め込まれるほどに再学習と転移をするとなると、大抵の場合はコストが高いのだ。それを改善する方法がいくつか提案されているものの、大抵の場合は投資には見合わない。
「……良く仕事をしている。完全に独立したシステムとして動かせるんだったな」
「一般的なコンテナ仮想化で動いています。物理的に隔離した環境で動かしてもいいですし、ある程度のリスクを許容できるのであれば共有フォルダなどを使ってもいいでしょう」
「これを普通に、適切なベンダーに頼んだらいくらぐらいになると思うかね？」
「一年間のしっかりと整理された事務作業データのほうが高く売れるぐらいには、安いと思いますよ」
青原さんが渡してきたデータはかなり重要な情報が詰まっていたが、それを彼は何気なく俺達に渡してくれた。普通はここまで記録を取ることを労働者側が許容しないのだが、基盤概念部門というのは変な労働者ばっかりだったらしい。
「……このシステムの作業と、それに対するフィードバックを再学習に組み込めるか？」
「可能です。そして、今はそれを切っています」
賢くなりすぎないように、というやつだ。普通の事務仕事において、新しい知識を積み重ねることは決して多いものではない。もちろんそんなシステムは数年で陳腐化するが、それぐらいになれば新しいアーキテクチャが登場している。企業が契約する汎用エージェントだって、大抵はそれぐらいでシステム更新とかされますからね。完全に内部で計算資源を抱えてリプレイスするぐらいのレベルになるような場所の話は機密保持がしっかりしているのかあまり流れてこないが。
「組み込んでくれ。そして、情報をまとめてくれ」
「何に使うんですか？」
「私の部門で導入が成功するなら、先工研が新規に導入する基盤システムの候補の一つとして提案する」
「……あの、俺達はベンダーでもなく、責任を取るだけの資本力もなく、それに二人だけですよ」
人工知能はリスクがある。それはギャンブルのようなものだ。胴元ぐらいに予算の余裕があるなら勝つことができるが、参加者であればすべてを失うことも珍しくない。だから公的利用には国家からの承認が必要だし、それ専用の資格を作ろうだなんて動きもあるのだ。
「ここは研究機関で、その手のものを扱うだけの施設だ。それを踏まえての提案だ」
青原さんは身を乗り出して俺をぎょろりと動く独特の目で見た。まさかこの人、自分がアセット42案件なんて言う面倒なもの押し付けられていることを逆手に取って暴れるつもりじゃないだろうな。