人工知能技術促進基本法は日本の人工知能に関する上位の法規として扱われている。これをもとに研究施設が作られたり、国家予算が配分されたり、各種の規制やガイドラインが出ているわけだ。
厳密には、この法律は個人が勝手に開発する人工知能について規制はしていない。例えば個人が自分のコンピューターでテロを起こすのに必要な情報についてアドバイスをくれる人工知能を作ったとしよう。それは国家としてはあまりよろしくない事態だ。できれば防ぎたい。
ではどうやって防ぐか、となると難しくなる。特に人工知能のモデル自体には具体的な情報が入っているわけではないし、たとえガードレールを外したモデルをダウンロードしたところでそれを理由に逮捕とか拘束とかまで行くことはできない。ただ、先行研の中の開発と運用とかとなればある程度の制限がかかるだろう。
そしてこのあたりは普通に暴走に繋がりうるものだ。前文に理念が書かれていたからといって、それが読まれるのは大抵は最高裁ぐらいになってからである。だから、警察でも怪しいというだけでは個人の部屋に突入することはできない。
BIFRONSはそのあたりを何も考えずに作った危ない代物なので、国家機関が作ったり、サービスとして提供したりすると問題になって、警察が動けるようになる。以前にBIFRONSが先行研用に作ったシステムはそのあたりに対応している標準的な人工知能であったり、あるいは説明責任が少ない分野に限定してそれ以外の要求は弾くようなシステムを導入していたり、結構ちゃんと作ってあるのだ。
「……目標と、やるべきことは決まった」
四辻さんは画面を見て言う。標準的なエージェントアーキテクチャ図。俺の得意ジャンルからずれているのは半ば意図的だろう。BIFRONSと同じ方法で作ったのなら、BIFRONSと同じような答えしか返さない可能性は高い。そうではない、別の可能性を考えても結局そういう判断になるのだという結論を出すことが目的なのだ。
俺では使わないだろうな、みたいな手段が色々とある。言われればまあ合理的だし、そういう実装がされているのを見たこともあるが、俺が責任を持ってやりたいかと言われれば話は別、みたいな枠だ。でも気になるので今度組み込めないか試してみよう。今のBIFRONSを作るときに使った材料だって色々と新しいのが出てきているのだ。
このあたりは四辻さんの世界の見方というか、率直に言えば脳の構造あたりが関連しているのかもしれない。人間の脳はかなり圧縮されたデータからできているから、似たような文章しか扱うことができないし、変なアイデアにも限界がある。けれども、四辻さんは質的に違うのだ。
学習のベースとしたテキストの文化によって人工知能の性能は変わる。なら、設計をよくいる人類とは異なるタイプの知性がやれば面白いものができるのではないか。あくまで可能性だし、正直なところ何も変わんないんじゃないかなとさえ俺は思っているが、一応やってみても損はないぐらいだろう。
「ところで、なんて名前をつけるのがいいと思う？」
「BIFRONS 2とか？」
『おすすめは「BIFRONS 2 帰ってきた悪魔」です』
「なんだそのタイトルは」
逆に頭を空っぽにしてみることのできる映画みたいな気が指摘になってきた。いや、必要があれば俺の趣味に合うような動画をBIFRONSは作れるのだが、それはそれとして。そういう個人向けに作られた娯楽を楽しむっていうのはいまどき珍しくはない趣味だし、その過程で感性をすり減らすのではなく研ぎ澄ますような楽しみ方もあるのでなかなか奥が深い。
「なら私は『BIFRONS 3 地獄編』を作る」
「……よくない文化を学んでいないか？」
『B級映画は数本しか視聴させていません』
「やめさせろ」
いやまあ確かに映画は良い文化ではあるとは思いますが、それはそれとしてあの、四辻さんが見て楽しむための前提が多すぎる気がするんですよ。とはいえこういうふうに管理するのもあまり良くないな。純粋に変なものを見るなで十分な気もする。
「ただ、名前は何かつけたほうがいいとは思う」
「悪魔の対応だからなぁ、何がいいか」
俺はこの辺は特に詳しくないのだ。むしろオカルトとかにそれなりに知見がある方が嫌だろ。
『例えばアリエルという名前が考えられます』
「出典は？」
一応確認しておこう。BIFRONSのデータの中にはそういうものもないわけじゃないはずだからな。
『ゴエティアにおいてビフロンスと対応する天使の名前です。ヘブライ語における「神の獅子」を意味する語です』
「うーん二次創作……」
俺は別にキリスト教に詳しい訳ではないが、さすがにこのレベルの悪魔と天使の関係とかはあまり広く認められているものではないということぐらいは知っている。というかこの手のものを真面目に現代において信仰しているやつはいるのだろうか。神秘主義って今どきは流行りませんからね。
なのでこのあたりをネタにしてもあまり怒られない、という認識だ。だって面倒なんですよこのあたりって。ギリシャ神話やローマ神話や北欧神話ならそもそも信仰者が少ないし、日本はなんかよくわからないのでそういうネタを持ってくること自体はいいんですが、実際にそれなりに真面目な信徒がいるジャンルでこの手のものを雑に扱うと怖いことになります。
「なら略称をARIEとかにするのがいい？」
『一つとして考えられます。もちろん実在の人名と重複しますが、この際あまり気にするべきものではないでしょう』
「そうだね」
四辻さんがなんか納得してしまった。というかあれだな、BIFRONSの自認というかロールプレイの根幹に自分が悪魔の名を冠しているという要素は入っているかもしれない。人間を誘惑し、好きあらば破滅に導くが、契約はちゃんと守るし、案外親しみやすいところもある。
ただ、恐ろしいのはBIFRONSは悪魔ほど誠実であるとは限らないということだ。四辻さんの作るものが本当にARIEと呼ばれるのかはわからないが、もしそうなったら俺達は悪魔と天使のどちらの言葉を聞くか悩むことになるわけだ。財布を届けるかどうかではなく、人類に真実をどこまで開示するかどうかの判断役として。