人工超知能は 「偶然 」に人類を滅ぼすことができる。

21世紀の半ばには、人類は真に強力な人工知能を作り出し、その働きに何か問題があれば、我々の文明を滅ぼすことになるだろう。

ワシントンポスト紙によると、哲学者で世界的な大災害の可能性を評価する専門家であるエミール・トーレスは、このような脅威が現実のものと考えているという。

トーレス氏は、2050年までにいわゆる人工超知能、つまり人間を超える能力を持つ機械がこの世に出現することは確実だという。

「人工超知能が誕生すれば、さまざまな分野で技術的なブレークスルーがもたらされますが、同時に非常に深刻な危険にも対処しなければならなくなります。」

「もし、本当に重要なことを超知能に任せてしまったら、その機械が人類を滅ぼしたり、大きな害を与えたりする可能性が高いのです。非常に複雑なAI制御アルゴリズムが必要になりますが、コンピュータの超天才がそれを回避できない可能性はどこにあるのでしょうか。今日のAIアルゴリズムでさえ、我々の理解を妨げている側面があり、将来、人々は強力なAIの働きをますます理解しなくなるでしょう。」とトーレスは警告した。

専門家は、人々があまりに複雑で抽象的な作業を機械に任せると、AIによる世界的な大災害が起こりうると考えている。例えば、彼らはAIに「世界の平和を整える」よう指示し、その結果、コンピューターは単純にすべての人々を滅ぼすだろう(人々がいない-互いに争う人がいない)。

人類が超知能に対応できるようになるかどうかは不明だが、今はまだその準備ができていないのは確かだ。世界的に不安定で、技術に対する理解もまだ浅い今、ASIを取り入れることは、花火工場の横でマッチを点けるようなものだ。

人工知能の研究は、スピードを落とすか、あるいは一時停止しなければならない。そして、研究者がこの決断をしないのであれば、政府が彼らのために決断をするべきだ。

元記事はこちら。