人工知能のもつリスク

アトムとターミネーター

人工知能について、詳しい知識を持たない一般の人にしてみると、人工知能のイメージは、どうしてもアニメやSF映画に出てくるようなロボットになりがちです。

現在、私たちの比較的身近なところにあるロボットと言えば、コミュニケーションロボットのPepperがありますが、近い将来本当にアニメやSF映画に登場するような、Pepperを超えるロボットがあらわれる日もくるのではないでしょうか。

アニメやSF映画に出てくるロボットというと、代表的なものとしてアトムやターミネーターなどがありますが、同じロボットといえども、アトムとターミネーターではずいぶんと立場が違うと思いませんか?

どういうことかというと、アトムは人間と共存するロボットであるのに対し、ターミネーターは人間を滅ぼそうとするロボットであるという点です。

 

制御不能というリスク

シンギュラリティによって、人工知能が人間の知能以上の知能を持つ「AGI」となった時、果たしてAGIはアトムになるのでしょうか?

それともターミネーターになるのでしょうか?
その答えは、AGIのみが知るところとなりますが、大方の予想では、どちらかといえばターミネーターになる確率の方が高いと考えられるのではないでしょうか。

なぜならば、AGIの作り出す未来は、人間には制御不能なものであり、人間と異なる理論や目標を持つ可能性も大いに含まれているからです。

AGIがアトムのように、人間に対し好意的な存在、人間にとって都合の良い存在である可能性は、ほぼ皆無といっても過言ではないでしょう。

なぜならば、AGIよりも知能が低い人間と共存することは、AGIにとってメリットのある未来とは言いがたいからです。
アニメやSF映画のような、便利で夢のある技術ともいえる人工知能。しかし、その一方では、人間の制御不能な存在になるという「人類の脅威」というリスクを備えています。

これまで人間が制御不能であったものといえば、エボラウイルスやプルトニウムなどがあげられますが、今後人工知能の進歩が進めば、人工知能はこれらの脅威に並ぶ(あるいは超える)脅威として、私たちを脅かすものとなるのです。