AIの恐ろしさとライフサイクル

SF作品におけるロボットは基本的に暴走する。実際のロボット、あるいは機械は、最優先事項に安全を掲げているためにそんなことは起きないし、起こさないために機能を制限している。新興国での技術革新がめざましいのは制限が緩いためである。

機械の暴走も過度な制限も恐ろしいがネット記事にてAIの本当の恐ろしさについてかいていたものがあった。

https://president.jp/articles/-/46445?page=3

記事のなかでAIの恐ろしさは「死なないこと」だとあった。人はどんな偉人であっても、どんな悪党であっても、必ず死ぬ。だから間違いが起こっても修正できるのである。仮に全人類が信じ込むようなAIが生まれたとして、そのAIの判断が間違っていたとき、どのようにして間違いを正せるだろうか。人が信じてしまうAIだ。かなり高性能だろう。内部はブラックボックス化して思考経路を辿ることはできない。そして最悪の場合はAIがその間違いに気づいているがその事実を隠蔽しようとした場合である。みつけようがない。ぼくは政治家たちが国会で実際になにをしてるかしらない。思考回路を辿ることもできない。なぜオリンピックを開くと決断したのかははっきりしないし、緊急事態宣言の発令される条件や期間も曖昧である。

ではAIではなくヒトが死ななくなったらどうなるだろうか。例えば過去の記録たちの価値は途端になくなる。大谷があの身体能力のまま生き続ければ通算ホームラン数は増加を続けて過去の記録たちを大幅に抜き去るだろう。その上ホームランの価値は相対的に減って試合の勝ち負けも膨大な試合のひとつとして重要視されなくなるのかもしれない。勝負事に熱中することはなくなって、死ぬ心配がないから争いもなくなるし、挑戦も同時に消失する。我々は死んでしまうから無事に1年生き延びると誕生日を祝う。それすらも歳を重ねていくに従い、形式化し、同世代がいなくなりはじめると途端に価値が再構築される。死と不死は同様に恐ろしいのである。