美国发布《2020-2024年推进可信赖人工智能进展报告》

近日，美国国家科学和技术委员会（NSTC）下属的关于人工智能研究与开发的跨部门工作组，发布《可信赖人工智能研发2020-2024进展报告》。该报告强调了美国联邦政府在人工智能（AI）研究和发展上的投资增长，并概述了九大战略优先事项，旨在推动负责任、可信赖的AI技术。这些战略包括长期投资于基础和负责任的AI研究，开发有效的人机协作方法，理解和解决AI的伦理、法律和社会影响，确保AI系统的安全性和可靠性，创建共享的公共数据集和环境，通过标准和基准来衡量和评估AI技术，了解国家AI R&D workforce的需求，扩大公私合作，以及在国际合作中采取原则性和协调一致的方法。

01 投资情况

l  投资增长：报告指出从2018财年到2024财年，联邦政府对AI R&D的投资出现了前所未有的增长，反映了政府对AI技术的重视和投入。

l  投资分类：报告将AI R&D投资分为两类：核心AI投资和AI Crosscut投资。核心AI投资是指那些主要专注于AI R&D的投资，而AI Crosscut投资是指那些虽然主要关注点不在AI，但与AI相关的投资。

l  投资目的：联邦政府对AI R&D的投资旨在推动负责任、可信赖的AI技术的发展，解决国家面临的重大挑战，如气候变化、健康医疗、网络安全等。

l  投资机构：报告详细列出了多个联邦机构在AI R&D方面的活动和贡献，包括美国人口普查局、国防高级研究计划局（DARPA）、美国国防部（DOD）、美国教育部（ED）、美国能源部/国家核安全局（DOE/NNSA）、美国能源部/科学办公室（DOE/SC）、美国国土安全部（DHS）、美国交通部（DOT）、美国退伍军人事务部（VA）、美国联邦调查局（FBI）、美国国家航空航天局（NASA）、美国国家卫生研究院（NIH）、美国国家职业安全与健康研究所（NIOSH）、美国国家标准与技术研究院（NIST）、美国国家海洋和大气管理局（NOAA）、美国国家科学基金会（NSF）、美国专利商标局（USPTO）和美国农业部（USDA）等。

l  投资活动：报告详细介绍了各机构在AI R&D方面的具体活动和项目，包括自动化数据处理、网络安全、健康研究、气候变化、交通管理、农业创新等。

l  投资战略：报告还提到了联邦政府在AI R&D上的九大战略优先事项，包括长期投资于基础和负责任的AI研究，开发有效的人机协作方法，理解和解决AI的伦理、法律和社会影响，确保AI系统的安全性和可靠性，创建共享的公共数据集和环境，通过标准和基准来衡量和评估AI技术，了解国家AI R&D workforce的需求，扩大公私合作，以及在国际合作中采取原则性和协调一致的方法。

l  投资成果：报告展示了美国政府在推动AI技术发展方面的持续努力和取得的成绩，强调了AI技术在解决国家重大挑战中的重要性，并承诺继续投资于AI研究，以保持美国在AI领域的领导地位。

总的来说，这份报告全面展示了联邦政府在AI R&D领域的投资情况、战略布局和取得的成绩。

02 九大战略

战略1：对基础和可靠的AI研究进行长期投资

对基础和可靠的AI进行长期投资是持续扩大其技术有效性和广泛益处的关键。过去四年间，AI研发领域所取得的实质性进展彰显了联邦政府对此类长期投资的重视。这些机构致力于推动以数据为核心的知识发现方法，促进联合机器学习技术的发展，深入探究AI的理论潜能与局限性，研究可扩展的通用AI系统，开发更具能力与可靠性的机器人技术，推进硬件创新以优化AI，创造或改良硬件并构建可持续的AI计算系统。

战略2：开发高效的人机协作方法

随着AI从实验科学到应用科学的过渡，构建高效的人机交互系统变得至关重要。本报告记录了人机合作科学领域的发展，包括模型演进、性能指标的优化、人机交互信任的建立，以及开发AI交互和合作的新范式等方面，这些方面都取得了重要进展。

战略3：理解和处理AI有关伦理、法律和社会的影响

AI的广泛应用对社会和个人产生了深远影响，这需要跨学科合作来探索微妙的伦理条件、完善法律框架、了解社会对AI系统的态度。本报告重点关注在AI基础研究投资方面的进展：采用社会技术系统设计来推进核心价值的建立，能够有效解决好AI技术在伦理、法律和社会（ELS）方面的问题，降低AI的社会和伦理风险。

战略4：确保AI系统的安全性和可靠性

AI系统的开发还处于初级阶段，尚未达到安全可靠的成熟阶段，系统中仍存在难以察觉的错误和潜在攻击风险。本部分主要关注联邦政府部门在构建安全、可信赖的AI系统方面所做的努力。

战略5：开发共享的公共数据集和环境，用于AI训练和测试

当前，许多AI系统的核心驱动力在于数据以及训练这些数据的计算基础设施的可用性。为了提高AI研发的可用性，需要采用高质量和结构良好的数据和软件。本节重点介绍了为满足各种AI应用需求所开发和制作的可访问数据集、大规模专业化计算与硬件资源，以及开源软件库和工具包等方面所取得的进展。

战略6：通过标准和基准来衡量和评估AI技术

对于任何技术而言，在成熟阶段，安全、效率、适用性等具体指标都至关重要。本节总结了AI技术衡量和评估方面的进展，包括开发广泛的AI标准、建立AI技术基准、提升AI测试床的可用性、促进AI社区参与标准和基准的制定，以及开发AI系统的审计和监控标准。

战略7：深入地了解国家AI研发人才需求

随着AI技术向整个经济行业的渗透，AI研发人才变得至关重要。本节主要介绍了AI研发人才投资方面的进展情况：第一，AI劳动力状况的描述和评估；第二，各级AI教学材料策略的制定；第三，AI高等教育人才的培养、劳动力的培训和再培训，以及推动AI教育和培训的发展。

战略8：扩大公私合作伙伴关系，加速AI技术的发展

AI数据和计算密集型性质意味着私营行业能够很好地执行一些基本的AI研发（R&D）功能，以补充公共资助的成果。本节主要介绍了AI技术在公私合作方面的进展：第一，公私伙伴关系的协同增效；第二，将伙伴关系扩展到更多样化的利益攸关方；第三，研发伙伴关系机制的改进、扩大和创建。

战略9：建立有原则且协调的AI研究国际合作方法（新）

许多国家已经认识到AI技术在推进国家目标方面的重要性。跨越国界分享想法和合作解决共同关心的问题具有巨大益处。因此，本节总结了联邦政府在AI研发国际合作方面的进展：第一，培养开发和使用可信赖AI的全球文化；第二，支持全球AI系统标准和框架的发展；第三，推进思想和专业知识的国际交流，以及鼓励AI的发展以造福全球。

03 结论

报告全面总结了美国在AI领域的多维度投资与跨机构合作成果，明确了AI技术未来发展的战略重点，并深入探讨了AI有关伦理、法律、社会的影响及安全性。报告展现了联邦政府在AI治理方面的前瞻性和责任感，将AI系统的安全性和可靠性视为研发过程中的核心要素。报告通过发展安全测试方法、建立AI安全研究所等举措，有效提升了AI系统的防御能力和可信度。报告通过公私合作与国际协作模式加速技术转移与创新，同时提出前瞻性的教育与人才战略，为全球AI技术研发、应用与治理提供了宝贵经验和方向指引。这不仅巩固了美国在全球AI竞争中的领先地位，同时对全球AI产业的协同发展产生了深远影响。

来源：可信赖人工智能