【摘要】存在性风险是一种使得地球上智能生命消失，或者永久、大幅削弱其潜力的不利后果，而当下人工智能构成了最值得关注的存在性风险。人工智能存在性风险可被区分为直接夺取人类社会控制权、与核生化武器结合引发结构性风险、人工智能武器化三类。目前，人工智能存在性风险已然对现有预防体系造成了冲击。一是其制造主体由国家向非国家转变，致命性自主武器的制造变得更加容易，使用范围更广，且监管更为困难；二是对人工智能的预防制度无法按照原有国际条约的形成方法达成，无法在严重后果尚未发生时对风险的认识达成一致；三是人工智能存在性风险使得安全与发展之间的平衡更加复杂，人工智能极高的利用价值容易使人患上风险失明症。为应对人工智能存在性风险，可通过达成各国、各科技公司之间的共识，提升对存在性风险的认识，加强相关研究；完善国内法律法规，防止人工智能被恶意利用；推动签署国际条约，以及借鉴国际原子能机构成立专门的人工智能安全监管机构。

【关键词】存在性风险；人工智能；安全；智能向善；科技伦理

【文章来源】《社会科学家》2026年第1期