AIを生物兵器として扱うよう求める呼びかけのイラスト。 （出典：giz​​modo.com）

科学者で医師であり、米国のFuture of Life Instituteの所長でもあるエミリア・ジャヴォルスキー氏は、記事「AIを核兵器ではなく生物兵器として扱う」の中で、世界が最近繰り返しAIを核爆弾と比較しているにもかかわらず、この種の技術を生物兵器またはバイオテクノロジーとして規制するというより適切なアプローチがあると主張している。

著者によれば、AI はおそらく人類が現在開発している人類史上最も強力なテクノロジーです。差別、民主主義への脅威、影響力の集中など、AI の害悪は十分に文書化されています。

しかし、大手 AI 企業はますます強力な AI システムの構築を競っており、人類史上前例のない速度でリスクが高まっています。

リーダーたちは、AI の台頭とそれに伴うリスクをいかに抑制し、制御するかに取り組むにあたり、人類が過去に AI を生み出すために活用してきた調整と基準を考慮する必要があります。

特に人命が危険にさらされている場合には、調整と革新は共存できます。

核技術からの警告

原子力エネルギーは死亡率の点で石油より600倍以上安全であり、非常に効率的であるにもかかわらず、長年にわたる原子力への取り組みから生じた結果のために、原子力エネルギーに取り組む国はほとんどない。

世界は原子爆弾や水素爆弾という形で核技術を知っています。これらの兵器により、人類は歴史上初めて、安全性と制御よりも速度と革新を優先した軍拡競争の産物である人類の文明を終わらせることができる技術を開発しました。

その後、チェルノブイリと福島の原子力災害の原因となった技術的な安全性とリスク管理の失敗により、人々が原子力エネルギーのプラス面を受け入れる可能性は完全に失われた。

原子力発電のリスク評価は全体的に良好であり、科学者らは数十年にわたってその実現可能性を世界に納得させようと努めてきたが、「原子力」という概念そのものは依然として…汚れた状態のままである。

技術が初期段階で害を及ぼすと、社会的な認識とその後の過剰反応により、その技術の潜在的な利点が永久に制限される可能性があります。原子力エネルギーに関する初期の失敗により、人類はそのクリーンかつ安全なエネルギー源を活用できず、カーボンニュートラルとエネルギーの安定性は依然としてかなり非現実的な夢のままである。

バイオテクノロジーへの正しいアプローチ

しかし、いくつかの分野では、人間は正しいことを成し遂げています。バイオテクノロジーは、治療法のない病気のために多くの患者が苦しみ、毎日多くの人が亡くなっている現状において、急速な発展が奨励されている分野の一つです。

この研究の精神は、「早く動いて物事を壊す」ことではなく、できるだけ迅速かつ安全に革新を起こすことです。人間は、社会と個人の福祉を守る規制、倫理、規範のシステムによって、この分野におけるイノベーションのペースを制限し、同時に、災害につながる可能性のある反発によって業界が麻痺するのを防ぎます。

冷戦中に生物兵器禁止条約で生物兵器が禁止されたとき、対立する超大国はそのような兵器を作ることは誰の利益にもならないことに同意した。指導者たちは、制御が難しいが非常にアクセスしやすいこれらの技術は、軍備競争に勝つための手段としてではなく、人類そのものに対する脅威として見なされるべきだと認識した。

生物兵器の開発競争を一時停止することで、人類は責任あるペースで生物兵器を開発できるようになります。科学者や規制当局は、人間に危害を及ぼす可能性のあるあらゆる新しいイノベーションに対して厳しい基準を適用します。

こうした調整にはコストがかかったが、クリーンエネルギーから農業までさまざまな分野で多くの応用が可能なバイオエコノミーを確立した。

新型コロナウイルス感染症のパンデミックの間、生物学者はmRNA技術を応用し、人類史上前例のないスピードで効果的なワクチンを生産した。

AI研究者を対象とした最近の調査では、回答者の36%がAIが核レベルの災害を引き起こす可能性があると感じていることがわかった。しかし、政府の対応と調整は遅い。このペースはテクノロジーの採用ペースと一致しておらず、ChatGPT アプリのユーザー数は現在 1 億人を超えています。

AIのリスクが急速に高まっていることを受けて、米国の1,800人のCEOと1,500人の教授が最近、AI開発の6か月間の一時停止と、規制およびリスク軽減の緊急プロセスを求める書簡に署名した。この一時停止により、国際社会は AI によって引き起こされる危害を制限し、私たちの社会にとって取り返しのつかない災害となる可能性のあるものを防ぐ時間を得ることができます。

AI のリスクと潜在的な害を評価する際には、このテクノロジーのプラスの可能性も考慮する必要があります。今、責任を持って AI を開発すれば、このテクノロジーから計り知れない利益が得られるでしょう。たとえば、AI を医薬品の発見や開発に適用することで、医療の質とコストが改善され、医師や医療へのアクセスが向上するといったメリットがあります。

Google の DeepMind は、人間が長らく避けてきた生物学の基本的な問題を AI が解決できることを示した。研究によると、AI は国連の持続可能な開発目標の達成を加速させ、人類の健康、公平性、繁栄、平和の向上した未来へと導くことができます。

これは、50年前の生物兵器禁止条約のときのように、AI開発が安全で責任あるものであることを確認するために国際社会が団結すべき時です。すぐに行動を起こさなければ、現在の社会だけでなく、AI による明るい未来も破壊されてしまう可能性があります。