GIV2022北京大学软件与微电子学院院长陈钟：智能汽车的挑战与应对

2022年12月16 —17日，由合肥市人民政府和中国电动汽车百人会联合主办的2022全球智能汽车产业峰会在安徽合肥举行，由安徽省发改委指导本届论坛围绕智能汽车发展的全球新变革与新战略主题，设置了五场主题论坛和两场闭门会议，与行业组织，高校，龙头企业代表共同探讨中国智能汽车发展新路径

其中，北京大学软件与微电子研究院院长，北京大学网络与信息安全实验室主任陈中在12月16日举行的科学家论坛上发表了精彩演讲。以下为现场演讲实录:

女士们先生们，你们好！很荣幸受邀出席全球智能汽车产业峰会，参与跨界创新与赋能智能汽车技术的深度融合交流我带来的主题是安全amp，安全:智能汽车挑战与应对将从三个方面与您分享

第一，自动驾驶面临的老问题和新挑战自动驾驶面临的老问题是安全问题，是关系到人民生命财产的安全，在中国有时翻译为功能安全安全是与计算机密切相关的网络安全和信息安全的含义道路交通安全是一个老问题在汽车发明之前，我们在马车时代就有了相应的安全概念但是，在汽车发明后不久，我们看到1865年，英国出现了一部机动车法案，由英国议会通过后来被嘲讽为红旗法案这一法案规定，道路上的每辆机动车必须由三人驾驶，其中一人必须在车辆前方50米处被引导，并使用红旗不断摇动，为机动车开道并且规定机动车时速不得超过4英里，人走路的速度大约是6.4公里/小时，汽车发明的时候让我们感觉和马车不一样，但是我们对它的认知真的停留在恐惧的阶段包括安全带，出现在20世纪60年代，是安全在发展过程中进一步升级的一个非常重要的案例直到今天，在道路上仍然需要用双实线来规定现代汽车应该遵守相应的规则，以避免安全问题

当然，这个问题一直与治理密切相关我们可以看到，在西方划清界限就够了，因为每个人都遵循相应的规则但在通常难以循规蹈矩的情况下，大量使用隔离墩的成本是一样的，但治理的目标是一样的挑战来自于当计算机参与到驾驶过程中，信息安全的问题也摆在我们面前自动驾驶通常被认为是人工智能的问题，但人工智能的五大威胁包括软件漏洞，系统安全，网络安全，传感器欺骗和数据中毒前三位与其他信息系统相同，而传感器欺骗和数据中毒与人工智能和机器学习算法密切相关我们看到人工智能系统不仅有很多传统的威胁，还有很多独特的威胁

伴随着物联网应用的深入，这种安全带来的威胁也直接影响到安全的问题以几年前加州大学伯克利分校Down Song教授团队的研究为例他们在一辆汽车的停止标志上贴了几条橡胶条，这似乎对人们来说无关紧要但对于自动驾驶人工智能算法来说，它居然把停车标志误认为限速标志，时速45km/h，可见安全问题早已摆在我们面前

第二个问题，自动驾驶如何穿越致命的L4这个问题不仅仅是一个技术问题我国有国家标准《汽车驾驶自动分类》，GB/T40429，已于去年通过实施0—6分类和国际自动驾驶分类基本相似，有一些区别我们可以看到，从第三个层面来看，有条件自动驾驶，高度自动驾驶，全自动驾驶在不断升级，但也带来了相应的挑战我们以国际自动化工程学会的SAE分类标准为例L3，L4，L5，当然完全自动化是我们的目标系统要处理相应的问题，形成人车关系致命的L4是一座山，爬上去确实有很多问题在L3，人们可以用眼睛和手短时间离开驾驶注意力，但它随时准备切换到接管自动驾驶，所以人的注意力是存在的在L4，L5，尤其是在L4，人们需要相信自动驾驶一旦出现问题，有人接手，这个反应时间很短，甚至无法完成这就是致命的L4

这是一座非常难爬的山，国际自动驾驶大部分都退到L3了就算翻过这座山，自驾L5成为我们的常态，我们也会遇到新的问题不会发生交通事故吗如果出现会怎么样这是算法，决策，道德，伦理和法律法规的问题在欧洲，来自世界各地的人们都选择了拯救无人驾驶汽车生命的秩序人的观念把人的伦理转移到机器算法上，让机器按照人的意志执行但是，在这一点上，一个普世价值也很难成立，所以这样的无人驾驶汽车保命的顺序是通过投票来完成的

第一个是婴儿车，后面是女孩，后面是男孩，后面是孕妇和各种安排，罪犯前面有狗但我们会想，即便如此，道德伦理和法律的问题其实是一座不可逾越的大山，所以我们需要更重要的考虑，将社会治理和算法治理结合起来

第三，重建数字信任是我们面对问题和挑战的重要方法人类的社会进步已经从农业社会，工业社会走向信息社会，数字化，网络化，智能化的不断发展导致了继工业革命之后的第三次，第四次进一步革命以区块链为例，我们可以看到，克劳斯·施瓦布将区块链评价为第四次工业革命的核心成果，因为它在构建价值互联网和新的可信基础方面具有重要潜力早期的信任理论是在哲学和政治领域对道德与政治关系的研究后来被广泛应用于政府公共治理实践和企业在市场中的商业行为信任关系受四个因素的影响:行为主体，信息交流机制，社会依赖和主要社会风险在信息社会中，数字信任变得越来越重要

农业社会的农业文明，工业社会的工业文明和信息社会的数字文明，在主体信任模式，行动者类型，信息沟通机制，社会相互依赖程度，主要社会风险等方面都有很大不同我们需要建立数字信任，这种信任基于虚拟数字空间中数字技术形成的信任关系，高度依赖于数字技术和数字应用这也涉及到链接到数字空间的组织，人和物，信息沟通机制，对互联网和移动设备的更多依赖，以及社会关系的高度依赖从农业社会的自然灾害和社会动荡，到横跨工业社会的工程灾害和环境污染，我们已经进入了以网络安全和数据安全为主要因素的数字文明新时代

在信息物理社会，精神系统的融合需要从互联走向互信，就像远程手术不仅需要手术机器人的信任，还需要远程5G通信等信任的基础自动驾驶无疑是连接安全与保障，整合人，车，物，信息系统的载体当自动驾驶成为新常态，我们的安全挑战依然存在如何才能避免大规模社交的无序，也是网络空间需要解决的重要命题

最后，我想说，网络空间和网络安全需要高度重视，因为它是连接现实空间和网络空间的真实空间，感知，处理和控制，它由用人规则联系在一起控制论控制论方法论强调算法治理与社会治理的融合，构建新型数字信任我们欣喜地看到，国家标准《信息安全技术机器学习算法安全评估规范》已经报批，一些与自动驾驶相关的安全标准也陆续出台期望适应新技术的变化，积极探索技术创新，工具性和治理，形成整合人，系统和监管政策的机制，以适应日益互联的社会

我的报告到此为止我们预计，未来十年将是人机物融合创新的机遇期在此，我也希望中国智能汽车产业的发展能够引领世界

谢谢大家！