1.3.3 人工智能治理机制

人工智能治理既需要明确治理原则及目标、厘清治理主体，又需要提出切实有效的治理措施。为此，人工智能治理应构建由政府、行业组织、企业以及公众等多元主体共同参与、协同合作的多层次治理体系，通过制定伦理原则、设计技术标准、确立法律法规等多种举措，推动人工智能健康有序发展。

（1）平衡创新发展与有效治理

总体来说，人工智能治理既要不断释放人工智能的技术红利，也要精准防范并积极应对人工智能可能带来的风险，平衡好人工智能创新发展与有效治理的关系，持续提升有关算法规则、数据使用、安全保障等方面的治理能力。

① 不断释放人工智能的技术红利和价值。人工智能作为一项新型通用目的性技术，将在改造升级传统产业、培育新兴产业、加速实体经济转型、保障改善民生等经济社会发展诸多关键环节发挥重要作用。

② 精准防范并应对人工智能可能带来的风险。人工智能模糊了机器世界与人类世界的边界，导致诸如算法歧视、隐私保护、权利保障等风险问题，甚至会引发社会失业、威胁国家安全等严峻挑战。为此，应从全球治理的高度思考如何精准防范并有效应对人工智能带来的风险挑战。

平衡好人工智能创新发展与有效治理是关键。过于严苛的治理方式会限制人工智能技术的发展，而没有任何监管与规制的人工智能极可能给人类社会带来风险与危害，因而需要充分发挥多元主体协同共治的效能，各方各司其职、各尽其力，把握好治理原则，守住治理底线，安全可控发展人工智能。

（2）多元主体协同共治

人工智能治理的重要特征之一是治理主体的多元化，其依赖于包括国家政府、行业组织、企业、公众在内的各利益攸关方的参与合作、各司其职、各尽其能，以适当的角色、最佳的方式协同共治。

① 国家政府是执行治理规则的核心主体。国家政府在人工智能治理中发挥领导作用，主要体现在国家层面上统领人工智能技术研发与治理框架的搭建、专业管理机构的设立，以及政策与法律规则的制定等方面。为此，各国政府增设专业管理机构，积极布局人工智能技术的研发与投资路线，监督和管理为人工智能发展设定的标准和规则，主要国家（地区）人工智能监管机构详见表1.3.1。

② 政府间国际组织是引导治理方向的重要力量。人工智能产业广泛参与国际分工，政府间国际组织通过加强国家间协调合作成为全球人工智能治理的引导者和推动者。首先，人工智能治理的规则率先在发达国家形成和扩散，政府间国际组织针对人工智能与监管展开讨论，研究各国关于人工智能治理的原则性宣言，引导人工智能治理达成国际共识。其次，政府间国际组织前瞻性地发布人工智能治理规则，缩短国家间数字鸿沟，促进世界各国人工智能技术的协调、健康、共享发展。

③ 行业组织是协调多方治理的积极推动者。行业组织作为兼顾服务、沟通、自律、协调等功能的社会团体，是协调人工智能治理、制定人工智能产业标准的先行者和积极实践者。其中，行业组织包括行业协会、标准化组织、产业联盟等机构，代表性的行业协会包括（美国）电气与电子工程师协会（IEEE）、美国计算机协会（ACM）、人工智能促进协会（AAAI）等，标准化组织包括国际标准化组织（ISO）、国际电工委员会（IEC）等，产业联盟包括国际网络联盟、我国的人工智能产业技术创新战略联盟、我国的人工智能产业发展联盟等。

④ 企业是践行行业自律自治的中坚力量。企业作为人工智能技术的主要开发者和拥有者，掌握资金、技术、人才、市场、政策扶持等大量资源，理应承担相关社会责任，严格遵守科技伦理、技术标准以及法律法规，以高标准进行自我约束与监督，实现有效的行业自律自治，做践行治理规则和行业标准的中坚力量。

⑤ 公众是监督治理效果的重要参与者。公众是人工智能技术、产品的主要服务对象，拥有对人工智能治理相关内容的监督、讨论、意见反馈等权利，应适当介入相关监督、监管，为人工智能治理献计献策，形成自下而上的协同治理模式。

因此，治理好人工智能，需要着力畅通各治理主体间的沟通渠道，加强多元主体间的对话与协商，合作制定应对人工智能风险挑战的整体解决方案。

（3）多层次多样化的治理手段

人工智能治理手段主要包括伦理约束、技术应对、规范立法等。

① 伦理约束。现行的伦理制度是以规范人与人之间的关系和行为为主体的制度，人工智能伦理是指处理机器与人、机器与社会相互关系时应遵循的道理和准则，既包括对技术本身的研究，也包括在符合人类价值的前提下对人机关系的研究。人工智能缺乏直接的感受能力，在价值判断上存在弱点，而人工智能伦理准则所倡导的造福人类、避免伤害、公平正义等价值理念，为人工智能技术层面的开发和运用提供了价值判断标准。人工智能伦理不仅弥补了法律的空白并为立法积累经验，且伦理非强制性立法规定更易引发国际共同体成员间的探讨，形成全球人工智能伦理共识。

② 技术应对。人工智能技术本身作为一项精准、高效、智能的技术治理工具，正在尝试用来解决人工智能所带来的风险问题。现阶段部分领先企业已通过数据筛选、算法设计、模型优化等技术手段，将伦理原则“嵌入”人工智能应用与产品中，从而解决诸如隐私泄露、算法偏见、非法内容审核等问题。

③ 规范立法。规范立法是有助于促进人工智能产业发展、破除人工智能发展的现实阻碍，如人工智能产品带来的责任归属、智能产品侵权等相关法律问题等。人工智能的规范立法既要避免草率立法对人工智能发展带来的阻碍，也要跟上技术发展节奏，敏捷灵活地对其进行规范规制。因此，在人工智能发展初期，可通过制定行业公约、伦理规范、技术指南等方式进行敏捷灵活的治理，待其发展相对成熟，便可用相关严格法律对其进行约束管控。目前，全球各国都在陆续开展对人工智能相关应用场景的规范立法工作。