人工知能（AI）とライフサイエンスの融合は、社会に多大な恩恵をもたらす潜在性を秘めている。一方で、AIの技術とアプリケーションの急速な進歩は、生物兵器の開発の可能性を含めて、誤用や悪用による重大なリスクをはらんでいる。今回は、そのようなAIの進歩が、バイオセキュリティに及ぼす影響についてのレポートを3つ紹介する。
まず、Nuclear Threat Initiative（NTI）のレポートでは、バイオデザインツール (biodesign tools) の安全性を確保するために、ビルトイン・ガードレール（bilt-in gurdrails）とアクセス管理について考察されている。Bulletin of Atomic Scienceのレポートでは、AIが、生物兵器禁止条約に与える影響について議論が行われている。
ランド研究所の研究レポートでは、生物兵器攻撃計画の策定において、大規模言語モデル（Large Language Model：LLM）を用いた場合と、用いらなかった場合の実行可能性の違いについての研究結果が示されている。「LLMの使用の有無にかかわらず、計画の実行可能性に統計的に有意な差は見られなかった」ようである。
Developing Guardrails for AI Biodesign Tools
NTI Thursday, November 14, 2024
What will be the impact of AI on the bioweapons treaty?
Bulletin of the Atomic Scientists Saturday, November 16, 2024
https://thebulletin.org/2024/11/what-will-be-the-impact-of-ai-on-the-bioweapons-treaty/
The Operational Risks of AI in Large-Scale Biological Attacks
RAND Thursday, January 25, 2024
biosecurity.blog 