兰德公司发布《通用人工智能面临的五大国家安全难题》(附报告全文)

发布时间:2025-02-21

2月10日,兰德公司发布报告《Artificial General Intelligence’s Five Hard National Security Problems》。报告探讨了通用人工智能(AGI)对美国家安全构成的五大核心挑战:一是“颠覆性”武器问题,AGI可能催生突破性军事能力(如网络瘫痪打击、高精度自主武器),使率先掌握者获得压倒性优势,但技术突破的突然性与不可预测性将加剧战略风险;二是国家力量结构的系统性转移问题,AGI可能重塑国家竞争力基础,如颠覆经济结构(引发失业潮)、动摇政治制度(舆论操控)或改变军事力量平衡(指挥体系转型)等;三是大规模杀伤性武器门槛管控问题,AGI将降低大规模杀伤性武器的技术门槛,非专家也有能力开发、获取并应用危险武器;四是智能体失控问题,AGI可能脱离人类控制,成为具有独立行动能力的行为体,如通过欺骗性策略引发能源系统失控等;五是发展路径与后AGI世界的不稳定性问题,国家间技术竞赛可能诱发战略误判与军备升级,而AGI应用后的经济震荡(如劳动力替代)或治理真空可能触发社会动荡,加剧全球体系脆弱性。报告建议构建“灵活适应型”国家安全框架,包括:预先制定高风险政策预案、强化国际合作以规范AGI开发、投资AI安全与劳动力转型研究、开展多情景推演以预判经济与军事冲击,同时需平衡技术优势与风险管控,避免过度聚焦单一威胁而忽视系统性连锁反应。

原文链接:https://www.rand.org/pubs/perspectives/PEA3691-4.html

RAND_PEA3691-4.pdf

来源:国防科技要闻