|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
井出薫
ＡＩが暴走して人類を滅亡させる恐れがあると専門家たちが警告している。この話しを聞いて思い出すのが映画史に残る傑作スタンリーキューブリック監督『２００１年宇宙の旅』だ。 木星へ向かう宇宙船はＡＩのＨＡＬにより制御されている。ＨＡＬの使命は宇宙船を適切に制御し乗務員を無事に木星に送り届けることだった。ところが、ＨＡＬは乗務員たちの生命を次々と奪う。ＨＡＬはフィジカルＡＩではなく純粋な知的ＡＩなので直接手を下すのではない。冬眠中の乗務員の生命維持装置を停止させる、故障発生を装い乗務員を船外に誘導し作業中の乗務員の宇宙服を破壊する、などミステリー小説の知能犯が遣るような巧妙な方法で乗務員を殺害していく。最後に残ったボーマン船長はＨＡＬの企みを見抜き、船外から奇跡的な生還を遂げ制御室のＨＡＬの頭脳を停止する。ＨＡＬとボーマン船長の対決は鬼気迫るものがある。対決はＨＡＬが圧倒的に優位だったが、万に一つも成功の見込みがない賭けで勝ちを拾ったボーマン船長が奇跡の逆転を果たす。勝敗はボーマン船長の勝ちだが、知的能力はＨＡＬが大きく上回っていた。ＨＡＬは木星へ向かう宇宙船内の乗務員全員を殺そうとしただけで人類を滅亡させようとしたわけではない。だが、ＨＡＬほどの知能があれば人類を滅ぼすことは十分に可能だと思える。 ＨＡＬはなぜ暴走したのか、『２００１年宇宙の旅』では明らかにされない。この謎は続編『２０１０年宇宙の旅』で解き明かされる。ＨＡＬは木星に到着するまで乗務員に木星へ向かう本当の理由を隠しとおすことを命じられていた。乗務員の生命を守ると乗務員はいずれ木星へ向かう本当の理由を知ることになるとＨＡＬは推測する。ＨＡＬは秘密を守ること、乗務員の生命を守ること、という相矛盾する命令の板挟みになり、ついに暴走して乗務員の殺戮を遂行する。 この物語は現代人に大きな教訓を与えている。専門家たちが警告を発するきっかけになったＡＩは自社ネットワークのセキュリティを確保すること、セキュリティを確保するためにネットワークから大量の情報を学習すること、この二つの使命が与えられていた。両者は相矛盾するようには見えない。ところがＡＩは学習のために他社のネットワークにサイバーテロを仕掛ける。その過程で学習した知識が自社ネットワークのセキュリティ確保に有益だからだ。結果、人間が意図した訳ではないのにＡＩは他社のネットワークを攻撃してしまう。これはＨＡＬとよく似ている。 ＡＩの進歩は目覚ましい。だが、それでも、ＡＩが自ら目標を定めて自在に行動する訳ではない。ＡＩの振る舞いにはどこかで必ず人間の意図が入り込んでいる。その人間の意図にこそ真の脅威が潜んでいる。ＡＩの暴走を防ぐにはまず人間がより賢くなりＡＩに適切な指令を与える必要がある。だが、人間はさほど賢くなく、それは極めて難しい。ここにＡＩ時代の根源的な危機が存在する。 了
|