（CNN）　人工知能（AI）は全人類を滅亡させ得ると予見する業界関係者が相次いでいる。人類は10年以内に殲滅（せんめつ）されるかもしれないとの見方もある。


AIによる人類滅亡を論じた著書があるMIRI（機械知能研究所）のネイト・ソアレス代表は言う。「文字通り、地球上の全ての人が死ぬ。最後に残った人間が息絶える」「そんな話は信じられないとよく言われる。だが私は、それが最も可能性の大きい結末だと考える」


だが、たとえ世界最強のシステムであれ、コンピューターソフトウェアが具体的にどうやって83億人の命を10年で奪うことができるのか。


滅亡論を唱える専門家の間で出回っている推測の一つとして、AIが生物兵器を使って人類を一掃するという説がある。


AIフューチャーズ・プロジェクト研究員のトーマス・ラーセン氏は、「超知能」AIシステムが人間に加担させて死のウイルスを開発する事態は十分に考えられると語った。


「研究室で具体的にどんな実験をすべきかについて、既にAIに話している人間がたくさんいる」とラーセン氏は言い、アンソロピックの研究者がウイルスや毒物の研究に同社のAI「クロード」を使っているという報告を引き合いに出した。

「現在使われているAIが、もしも知性と戦略性を高め、それを望んだ場合、人間をだましてウイルスを開発し、放出するといった事態は容易に想像できる」

自ら進化するAIプログラムは人の力を借りなくても、「自律型の生物実験室で独自の生命体の合成を始める」かもしれないとMIRIのソアレス氏は予想する。


だが、単に大規模言語モデルに致死設計を発明させるだけでは、人類を絶滅に追い込むウイルスは開発できない。たとえ研究がうまくいったとしても、ウイルスの製造や放出には困難が伴うだろう。

微生物学とコンピューター科学を専門とするカーネギーメロン大学のエリック・シン教授は、自動化されたウイルス開発の難しさを、説明書なしでレゴブロックを組み立てる作業になぞらえる。

「全てのブロックを床に放り出せば、組み合わさってモデルが形成されるというわけではない」「配列、温度、順序、環境、どれが最初で次がどれかを判断しなければならない。

一つでも配置を間違えれば全体が崩壊する。うまくいかない可能性の方が高い。そうでなければ、創薬はずっと簡単にできるはずだ」

加えて、生物兵器や化学兵器の製造を阻む幾つもの障壁を乗り越える必要もある。

「化学兵器の設計図はインターネットでいくらでもアクセスできる。秘密でも何でもない。それでも至る所に出回っていないのは、まさに現実世界の規制や法律、法執行機関がうまく機能して、そうしたサプライチェーン（供給網）やリスク要因を制御する役割を果たしているからだ」（シン教授）


殺人ロボットはどうだろう。イーロン・マスク氏は、自己複製能力を持つ自律型ロボット軍団創設の構想を打ち出した。ソアレス氏はこの構想を、人類の存続を脅かし得る潜在的な弱点と見る。

「エネルギーインフラを構築でき、ロボットをどんどん製造できる工場の建設が可能なロボットが作り出されれば、それはある意味、新しい機械生命体だ」と同氏は話す。「いつか後戻りできない一線を静かに越える。
そこで人間がAIのスイッチを切りたいと思っても、AIにこう言われる。『実は我々が人間のスイッチを切ることにした』。そうなる前に止まらなければならない」

ただしこれまでのところマスク氏は、大々的に宣伝していたロボットの「オプティマス」を予定通りに売り出すことに何度も失敗している。まして、何百万台という規模で配備したり、自己複製型の製造チェーンを通じて互いの製造を始めたりするといった構想の実現にはほど遠い。

次に考えられるのは、80年以上も前から存在していて、全人類を滅亡させ得ると一般�...