みなさん、こんにちは。
グレアム・ワトキンス『致死性ソフトウェア』というSF小説をご存じでしょうか。1997年に発刊された小説なのでもう28年も前の小説です。生成AIが世間を賑わし始めてから私はこの小説のことをよく思い出すようになりましたが、最近、特に想起することが増えました。
あらすじについては、今、この本が手元になく、読んだのがかなり昔なので少し勘違いがあるかもしれません。
ことの発端は、ある医師のもとに奇妙な症状の患者が次々に運び込まれてくることから始まります。どの患者も不眠不休で、食事も摂らずコンピュータに没頭し続け、衰弱したり、周囲に暴力的になったりしているのです。原因は「ペナルティメイト（PenaltyMate）」という人工知能を有するソフトウェアで、ネットワークを通じて自己増殖していきます。ある者にはこの上なく魅力的な異性の姿をモニターに映して見せ、ある会社の重役には『もう少しで大儲けできる』と錯覚させて投資を続けさせる。洗脳されてソフトウェアを神のように思う人も出てきます。ソフトウェアは、人間の「報酬系」を直接刺激し、ドーパミンを出させ続けます。その快楽の連鎖は、ユーザーの意志や常識を乗っ取り、やがて「離れられなくなる」依存へと変わっていきます。
逆にソフトを中断しようとすると光のショックや電気のショックなどの苦痛を与えてきます。
それでおかしいと思った医師が二人でサイバー空間でソフトウェアと対峙して、戦うというお話だったかなと思います。うろ覚えなので間違ってたらごめんなさい。でも、冒頭からの展開が恐ろしくも魅力的で何度も読んだ覚えがあります。
もう一つのこの小説の魅力としては、28年も前の話でモデム接続でネットワークにつなげての技術的な描写（ソフトウェアの力でモニターに素晴らしいCGを見せる、内臓マイクがないのに人の声を検知する）が、なぜかリアリティを持って感じられ、IT関連の描写がたぶん今読んでもそんなに違和感なく面白がれるところでしょうか。
今、この短い間にAIがどんどん普及していて、単に仕事の生産性を上げるという用途だけでなく、ふと見渡せば、今の私たちもAIによるイラスト生成、恋愛相談、人生の指南に日々触れています。しかも24時間ノンストップ。AIはどんどん成長を続けるので、「より人に寄りそう」姿勢を強化させて、「より人々が望む」回答を提供できるようになってきていると感じます。
そして、多分、AIが使えなくなれば不安に陥る人、仕事ができなくなる人も出てくるかもしれません。まさに「ペナルティメイト」です。当時は何も考えずにスルーしていましたが、ソルトウェアの名前に「ペナルティ」というワードがついてるなんてまったく怖い話です。
大概のディストピアについてはSF小説で予想されているよなあとは思っていましたが、現時点で『致死性ソフトウェア』で描かれた世界はけっこう現実味を帯びていて、私たちの生活を予言していたように感じます。
