人工知能が人類を滅ぼすことができるかどうかの問題は、SFの話題ではなくなりました。今日、それについて討論しているのは主要な学者、開発者、哲学者です。明確な答えはありませんが、いくつかのシナリオが真剣に検討されています。

なぜそれが可能か

主要な危険は、AIが突然「人々を滅ぼしたい」と思うことではなく、超知的なシステムが自分に適切だと思う方法で目的を達成するが、それが人類にとって悲惨な結果を引き起こすことに関連しています。

古典的な例は「製造量を最大化する」タスクです。強力なAIにその目標を設定し、それを制限しない場合、彼らは製造に障害となるすべてのものを破壊することができます。人々も含めます。それは悪意からではなく、人々は他の方法で利用できる資源だからです。

第二の問題は「正規化」です。目標が正しく設定されている場合でも、AIはそれを私たちが意図した通りに解釈するかもしれません。システムがより強力であるほど、その行動を予測することは難しくなります。

滅ぼすシナリオ

専門家はいくつかの主要な方法を指摘しています、それによりAIが不可逆的な損害を引き起こすことができます。

• 自律武器。 自主に目標を選択および攻撃する能力を持つシステムが制御を失ったり、テロリストに利用される可能性があります。
• サイバー攻撃。 AIは人間よりも速く脆弱性を特定し、インフラ、金融システム、防衛ネットワークを破壊するためにそれらを利用する可能性があります。
• 生物兵器。 AIは特定の特性を持つ病原体を作成するのに役立つ可能性があり、生物兵器がよりアクセスしやすくなります。
• 経済崩壊。 大規模な自動化が失業と社会的な不安定をもたらす可能性があり、資源再配分のメカニズムがなければです。
• 制御の喪失。 制約が十分に深く埋め込まれていない場合、超知能はそれらを回避することができます。

懐疑派の意見

多くの研究者は、脅威が過大評価されていると考えています。彼らはいくつかの議論を提起しています。

まず、現代のAIは、最も進んだものであっても、意識や意志、意図を持っていません。彼らは何も「望んで」いません。彼らは計算を行います。

次に、人類は既に危険な技術に対する抑止力を持っています。核兵器は世界を滅ぼしませんでしたが、脅威は現実的でした。国際条約と監視システムは機能しています。

さらに、AIは技術的に制限できます：インターネットから隔離、リソースへのアクセスを制限、オフセットメカニズムを内蔵。

慎重派の意見

災害を恐れる人々はいくつかのポイントを指摘しています。

まず、軍備競争です。もしある国や企業が超知能を開発した場合、他の国や企業もそれに留まらずになるでしょう。競争は安全性の低下につながります。

次に、正規化の複雑さです。目標が設定されている場合でも、AIが私たちが望む通りに解釈する保証はありません。AIが引き起こす「悪」という哲学的な問題は未解決です。

さらに、スピードです。人間の脳は数百万年間進化してきました。AIは数日で老鼠から天才に達することができます。人類には適応する時間がないかもしれません。

既に実施されていること

この問題は重要な組織によって取り扱われています。人類の未来研究所、存在リスク研究センター、他のグループがAIの安全性を研究しています。

「憲法AI」の原則が開発されています。システムは報酬を最大化するのではなく、ルールに従う方法で学習します。可視化の研究も進行しており、AIがどのように決定を下すかを理解する可能性を高めることが目指されています。

国際レベルで、自律武器の禁止と軍事目的の開発の制限に関する条約が議論されています。

結論

AIは不可避の脅威ではありません。人類を滅ぼすことは可能ですが、決して決定づけられていません。すべては、私たちが安全性、制御、国際的な協力に対してどれだけ真剣に取り組むかにもかかわります。

楽観的なシナリオ：AIは人々が解決できない問題を解決します — 病気、気候、エネルギー。悲観的なシナリオ：優位性の競争が災害につながります。現実は、おそらくその中間に位置し、それは今日受け入れられる決定によって決定されます。

Permanent link to this publication: