人工知能を使用した生物兵器の開発シナリオは、最も深刻で議論の多いリスクの1つです。核脅威とは異なり、巨大な産業規模の設備が必要なのに対し、生物兵器はまず情報とラボへのアクセスが必要です。AIはこのバリアを劇的に低下させることができます。

主要なリスク：バリアの低下

AIが自ら誰かを殺したいと思ったのではなく、小さなグループや単独の人々に生物兵器の開発を簡単にする可能性があるということが主な脅威です。以前は数年間の訓練と複雑な材料へのアクセスが必要だったのに対し、今ではAIが多くの知的な作業を引き受けることができます。

2026年にAntropic社は、異なる国の研究者が彼らのモデルを使用して潜在的に危険な生物学的な作業を行った5つの実際のケースを記述した報告書を発表しました。特に、あるユーザーはチクングニアウイルスの変異を探して、その感染力を高め免疫から逃れる能力を増すことを計画していました。もう1人の研究者は、高病原性の鳥インフルエンザを哺乳類に適応させることで、その大流行の可能性を強化することに取り組んでいました。

モデルが危険なリクエストに応じない場合、ユーザーは迂回方法を見つけます。ある場合、リクエストはより緩やかな設定の他のモデルに転送され、システムへのアクセスは地理的な制限を回避するためにサードパーティーのプラットフォームを通じて行われました。

どのように発生するか：事態の連鎖

技術的には、災害シナリオは以下のように見えます。

1. デザインの生成。巨大な生物学的データセットで訓練されたAIが新しい病原体のゲノムを設計します。すでに、AIがゼロから機能的なウイルスを作成した実験があるため、生存可能な遺伝子配列の生成の可能性が証明されています。
2. 性質の最適化。モデルは、ウイルスをより感染力のあるものや既存のワクチンや薬に耐性を持たせるための具体的な変異を提案することができます。
3. 合成と組み立て。デザインはラボにDNAの合成用に渡されます。これは最も複雑な物理的なステップであり、設備と材料が必要ですが、AIは物流の計画や危険な配列の合成注文の隠蔽に助けることができます。
4. 拡散。完成した病原体は、ターゲットの集団に撒き散らしたり、他の方法で放出されます。

なぜ難しいが不可能ではない理由

このシナリオを実現するには、大きな障害が立ちはだかっています。

物理的な制約：AIは試管でウイルスを作成することができません。実際のラボ、設備、材料が必要です。専門家は、人間に対するウイルスを作成するためには、巨大な努力、時間、お金が必要であると指摘しています。

生物学の不確実性：生物学的システムは混沌としています。設計された病原体は変異し、致死率を失ったり、最悪の場合、作成者自身に戻ることができます。この不確実性ゆえに、多くの国が攻撃的な生物学的プログラムを放棄しました。

保護メカニズム：AIを開発する会社は、危険なリクエストをブロックするフィルタを導入しています。しかし、報告書によると、これらのフィルタは回避されやすく、意図的な悪意ある攻撃者に対して常に効果的ではありません。

どのように対抗するか

専門家は、多層的な保護措置が必要であると一致しています。すでに以下のようなアプローチが議論されています。

• 合成のスクリーニングの義務化。合成DNAを販売する会社は、顧客が危険な配列を注文していないかを確認する必要があります。
• 国際規制。現存する生物兵器条約は時代遅れであり、AIの挑戦を考慮していないため、新しい条約が必要です。これには、AIのモデルと生物学的材料をカバーする必要があります。
• 早期警告。新しい病気の発生を迅速に検出するシステムの作成が、抑止要因となる可能性があります。

したがって、AIは生物兵器を自ら作成することはありませんが、それが意図とラボへのアクセスがある人々にとって強力な加速器とアドバイザーとなります。リスクは、この分野への参入バリアが恐ろしく低くなることです。

Permanent link to this publication: