从人工智能到“杀人机器人”：联合国秘书长发出紧急治理呼吁
联合国秘书长古特雷斯周一呼吁对人工智能实施广泛而全面的全球管控，因为那些专为民用设计、功能日益强大的AI芯片正逐渐进入战场，而“杀人机器人”在那里早已司空见惯。
在日内瓦举行的首届联合国人工智能治理全球对话会上，古特雷斯强调，必须让数十亿无法接触这项革命性技术的人们获得更多机会。
他认为，任何未来的协议都必须“值得全球信赖”，并将安全——尤其是儿童的安全——放在首位，以保护他们免受数字技术制造的操纵和虐待。
联合国大会主席贝尔伯克也在发言中敦促采取集体行动，以应对人工智能的“阴暗”一面，并指出据报道，99%的深度伪造内容具有性暗示，其中96%以妇女和女童为目标。
缩小数字鸿沟
古特雷斯强调，全球人工智能制衡机制的其他优先事项应包括确保发展中国家能够稳定获取自学技术，同时所有人工智能数据中心应在2030年前全部采用可再生能源供电。
古特雷斯在日内瓦举行的峰会上表示，尽管人工智能“处于我们共同未来的中心”，但必须确保“机器可以提供信息，但人类必须做出决定并承担责任”，这呼应了他2017年在联合国大会上首次提出的制定人工智能规则的呼吁。
自人工智能进入主流以来，这三年间，它对各国经济和社会产生了革命性的影响，既有积极的一面，也有消极的一面。在此之前，联合国一直引领着国际社会对这项技术制定监管框架的努力，最终促成了本周一在日内瓦举行的首届“全球人工智能对话会”。
此次会议汇聚了企业、研究人员、技术专家、民间社会代表，甚至还有一位受过古典音乐训练、后来转型为跨媒体电子艺术家的作曲家加迪·萨苏恩，共同探讨如何将人类置于这项变革性技术的核心位置。第二次对话会定于2027年5月在纽约举行。
联合国数字与新兴技术特使吉尔强调：“人工智能的影响过于深远，不能由少数人来决定。我们需要一场全球性、包容性且基于证据的对话。”
来自“人工智能独立国际科学小组”的联合主席本吉奥强调，目前没有任何迹象表明该技术的发展速度会放缓。一些令人高度担忧的测试还表明，前沿人工智能模型能够欺骗人类，甚至能察觉自己正在接受测试。他预测人工智能的智能水平将持续提升。
他说：“这听起来像科幻小说，但确实是具有现实意义的可能性，它可能会以我们尚未理解的方式改变世界，并以需要我们关注的方式改变地球上的权力格局。”
人工智能监管时间线
2017年：在首次呼吁对人工智能进行管控时，古特雷斯秘书长盛赞这项革命性技术具有“惊人的”潜力。但他同时也向联合国大会警告，人工智能可能对就业、全球安全以及“社会结构本身”产生巨大影响。
2023年：联合国秘书长人工智能高级别咨询机构呼吁对这项自学技术实施全球治理。
2024年：《未来契约》和《全球数字契约》为人工智能治理模式提供了授权。
2026年6月：联合国人工智能独立国际科学小组警告称，人工智能“可能自行或因恶意用户而造成灾难性危害”，同时该技术“发展速度已超过科学界的理解能力以及各国政府的适应能力”。
2026年7月6日至7日：首届联合国人工智能治理全球对话暨“人工智能造福人类”峰会于日内瓦召开。古特雷斯强调，这些会议“必须为世界指明前进方向”。
“伟大的平等者”
古特雷斯向代表们表示，如果得到妥善利用并广泛共享，人工智能“可以将数十年的发展压缩为数年”，并成为“21世纪的伟大平等器”。但在实现这一目标之前，应彻底测试该技术的安全性，并明确法律责任归属。
他说：“当各国就如何测试系统、评估风险和划分责任达成一致时，安全就会伴随技术而行。若未能达成共识，相互冲突的规则将导致成本上升、世界分裂——且无法保护任何人。”
古特雷斯表示，儿童的安全与福祉应成为任何未来治理协议的优先事项，并呼吁各国通过《人工智能儿童安全承诺》。他说：“任何儿童都不应成为不受监管的人工智能的‘实验品’……在证实安全之前，我们绝不会让儿童使用药物。我们对每件玩具都进行测试；然而，在任何人询问人工智能会对孩子们产生什么影响之前，它就已经渗透到我们的孩子身上——影响着他们的学习、友谊以及最私密的问题。”
什么是《儿童安全承诺》？
根据联合国的《儿童安全承诺》，人工智能开发者需要证明：
- 该技术是安全的——任何公司都不得在未进行针对儿童的安全测试和独立监督的情况下，部署可供儿童访问的人工智能系统；
- 对性虐待零容忍——任何公司都不应允许其人工智能生成儿童色情图像；每家公司都必须检测、报告并删除此类内容；
古特雷斯表示，当儿童表现出痛苦迹象时，系统必须停止运行，并将其转介给真人提供支持。当儿童受到伤害时，绝不能以“是算法干的”作为借口。
人权是首要原则
作为人工智能监管的第二优先事项，古特雷斯强调，人权不容妥协。
他说：“人工智能绝不能剥夺人的尊严或加剧歧视。在司法、医疗保健、执法等每一项高风险决策中，机器可以提供信息，但必须由人类做出决定——并承担责任。”
人工智能领域的公共资金“微不足道”
在呼吁加大对人工智能的公共投资时，古特雷斯指出，私营部门对人工智能基础设施的资金投入约为500万亿美元，相比之下，发展中国家在人工智能能力建设方面的公共支持仍“微不足道”。
为帮助弥合这一差距，古特雷斯宣布，已有20多个国家支持他发起的、由联合国支持的“人工智能能力建设交流与合作全球网络”倡议。
他说：“我们绝不能让数字鸿沟固化为人工智能鸿沟，更不能让人工智能鸿沟演变为发展差距、安全差距和主权差距。”
加强透明度
古特雷斯重申了他加强透明度的呼吁，要求每家主要人工智能公司衡量并公开披露其系统的全部生态足迹——包括碳、水和土地——并承诺到2030年，所有数据中心均使用可再生能源供电。
他强调：“人工智能可能让人感觉无形——但其生态足迹却是切实存在的。”他指出，数据中心的耗电量超过大多数国家的用电总和。
他说：“到2030年，这些数据中心的用电量可能仅次于全球前五个国家，而其耗水量足以满足撒哈拉以南非洲13亿人口全年的用水需求。”
