自动驾驶车祸谁埋单、如何防人脸造假？AI治理话题引热议

“如果算法出错，应该由谁埋单？无人驾驶汽车领域显然无法逃避这一问题，但除此之外还有其他诸多领域也同样如此。”

在7月10日下午举行的2020世界人工智能大会分论坛人工智能治理论坛上，图灵奖获得者、康奈尔大学John Hopcroft（约翰·霍普克罗夫特）在发表“人工智能的社会责任”视频演讲时，提出了上述这样一个思考。

尽管目前人工智能（AI）技术还远未到达像《银翼杀手》《西部世界》等影视作品中的水平，但技术在不断进步的同时，也面临着新的问题。尤其是当下全球人工智能发展正进入新的阶段，呈现出跨界融合、人机协同、群智开放等特征，在此背景下，如何协调人工智能发展与治理的关系也成为全球科技界关注的热点话题。

人工智能治理面临哪些挑战？

我国在发展人工智能的同时高度重视治理问题。2019年2月，我国专门成立了国家新一代人工智能治理专业委员会，同年6月，国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》，提出了和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八条原则。去年的2019世界人工智能大会，也专门增设了人工智能治理分论坛。

上海市委书记李强7月9日在2020世界人工智能大会云端峰会开幕式上致辞时指出，要更加重视应对人工智能发展带来的道德伦理、隐私保护、安全风险等问题，加快研究制定相关法规制度，让人工智能更好为人所用、为人服务。

随着AI技术和经济生活的联系愈加紧密，全球以及我国人工智能治理的现状如何？

国家新一代人工智能治理专业委员会主任薛澜今日在发表“人工智能治理现状与趋势”的报告时表示，通过梳理过去六七年的基本情况，他们发现全世界各个国家都围绕AI治理做了不少举措：将人工智能纳入战略性布局的国家越来越多了，而且各国对讨论并纳入规划的应用领域越来越广，另外，全球也开始探讨如何保护人工智能知识产权的问题。

在薛澜看来，我国AI治理当前面临的主要挑战是数据治理和算法争议两个问题。对此，薛澜对未来我国人工智能治理的发展也提出一些建议。他说，首先要加强基础研究，降低技术风险。第二，要建立多元共治的人工智能伦理治理体系，涉及到很多伦理的问题应该让社会各方面的声音都有发声的渠道和平台。第三，建议把数据和算法作为当前重点治理的对象。

作为推动技术落地运用的主体，企业在人工智能治理中也扮演的重要一环。人工智能公司旷视科技CEO印奇分享了一个例子。他说，在北京、上海这样的超大型城市的火车站、机场以及通关口岸，人流量非常大，AI技术能够帮助人们高效通行，但是人流密集的地方也有很多安全性问题。如何通过一个更好的技术去无感知地实现这些城市治理也是他们思考的问题。同时，人工智能治理也需要每个企业从自我约束做起。

而在学界，从事人工智能领域研究的专家也在教育层面关注AI治理。复旦大学计算机学院院长姜育刚说，有一些技术可以欺骗人工智能，比如躲避检测、误导自动驾驶系统，还有一些利用技术来生成虚假内容，比如换脸。面对这些情况，技术可以在人工智能治理当中发挥非常重要的作用。

“攻和防是博弈和互促的技术，存在攻击就更要发展防御的方法。比如针对那些换脸视频我们可以用技术来检测是否是人为生成的等等。”姜育刚表示，他们目前正在加大这方面的研究力度，而且会尽快开设人工智能治理的相关课程。

发布上海AI治理协同行动9条

上海作为我国与世界交流的重要窗口，国际化程度和开发的城市基因也被业界认为是发挥人工智能治理“上海声音”的有利条件。

早在去年5月，科技部启动建设上海国家新一代人工智能创新发展试验区时（下称“试验区”），就明确了建立健全政策法规、伦理规范和治理体系的相关任务。去年7月，上海发布《中国青年科学家2019人工智能创新治理上海宣言》。

国家新一代人工智能治理专业委员会委员李仁涵今日表示，在人工智能治理方面，我们一方面要积极参与到国际人工智能治理规则制定的行列中，另一方面又要为我国人工智能治理起到示范与带动作用。同时，我们还要积极探索和推动制定多边和双边的国际规则，确保国外人工智能产品进入中国、中国人工智能产品走出去的规范。人工智能治理的内容非常丰富，应该将其“嵌入”到整个社会治理体系之中，确保人、人与机器、人的社会和谐与健康发展。

李仁涵说，今年的治理论坛在去年大会的基础上，又进了一大步。国内外嘉宾的发言不仅仅停留在“重视”上，而且进一步探讨了“如何做”的问题。专家们通过对技术的剖解，提出如何实现安全（含隐私保护）、可靠与可控的路径；通过对法律与规则制定等方面的分析，研讨了如何制定国际共同遵守的机制等等方面的问题。进一步体现了人类命运共同体理念的落地。

此外，在今日的治理论坛上，“上海国家新一代人工智能创新发展试验区专家咨询委员会治理工作组”也正式成立。同时，上海国家新一代人工智能创新发展试验区专家咨询委员会发布“协同落实人工智能治理原则的行动建议”（上海AI治理协同行动9条），并提出“一平台、四工作、四体系”的系统落实人工智能治理原则的行动方案建议，为进一步推进人工智能治理工作提供参考。

上海市科学学研究所科技与社会研究室主任王迎春告诉第一财经记者，这个行动建议是希望能够号召各类主体协同落实全球已经达成的关于AI发展的一些原则，因为这些原则的落实落地需要一些可操作可落地的方式和工作机制。

“人工智能是一个新兴事物，涉及经济、生产、生活的各个方面，究竟该如何推动人工智能的发展，目前全球都不是特别清楚，所以也都在探索。我国采取了一种创新方式，通过建试验区的方式在各地进行一些特色性探索，就形成可复制可推广的人工智能发展的新模式新经验。去年上海成立国家人工智能试验区的时候，我们就第一时间确立了把治理作为试验区建设重要的工作内容。 ”王迎春说。