自动驾驶技术的AI挑战：如何平衡技术创新与安全隐私？

自动驾驶技术的AI挑战：如何平衡技术创新与安全隐私？

2025年，自动驾驶技术正迎来前所未有的发展机遇。在AI大模型的助力下，自动驾驶的普及速度正在加快，多家企业纷纷布局这一领域，推动技术不断突破。然而，随着技术的发展，数据隐私、安全和法律法规等挑战也日益凸显。如何平衡技术创新与安全隐私，成为自动驾驶领域亟待解决的重要课题。

新年伊始，产业链企业就围绕自动驾驶展开布局。在2025年国际消费电子展（CES 2025）上，英伟达与丰田等巨头宣布将合作开发“下一代汽车”，这些汽车将提供安全、先进的驾驶辅助功能。索尼集团与本田的合资企业索尼·本田移动出行正式发布了双方合作开发的首款电动车Afeela，该款汽车引入AI自动驾驶辅助功能。

多家研究机构预测，2025年中国汽车自动驾驶普及将会提速，搭载NOA（自动导航辅助驾驶）方案的乘用车销量将达到500万辆。同时，随着成本的下降，理想汽车、小米汽车、华为和赛力斯等企业对发展自动驾驶业务的态度非常积极，纷纷推出智驾时间表。业内专家对上海证券报记者指出，比亚迪和特斯拉等新能源车巨头在自动驾驶产业链的布局也值得高度关注。

自动驾驶技术的高速发展引发了交通系统和人们出行方式的深刻变革。与此同时，其背后所隐含的伦理风险与挑战也日益成为社会各界关注焦点。东南大学人文-交通学院自动驾驶技术伦理风险研究团队开展专题调研，围绕自动驾驶技术的环境感知、数据隐私、责任归属及未来趋势等议题，与东南大学交通学院智慧交通与空间信息系教授蒲自源、东南大学法学院副教授杨洁、复旦大学哲学学院副教授王球三位学者进行深入研讨。

蒲自源认为，在自动驾驶汽车信息采集与隐私保护领域，技术层面已具备可行性，但实践中仍存在数据共享机制的不完善及通讯安全挑战。其中，通讯作为自动驾驶汽车运行过程中沟通数据的桥梁，一方面保证了数据传输的效率，另一方面也存在数据安全问题。针对现有的高精度地图和纯感知技术两类环境感知技术，蒲自源认为，前者虽能提供详尽的环境数据支持，却面临成本高企与更新难题；而后者虽能灵活应变，却易受环境制约。因此，未来两类技术或将走向融合，通过优势互补，推动自动驾驶技术向更安全、高效、智能的方向发展。

杨洁提出，要高度重视自动驾驶技术中的数据隐私与安全问题。她指出，在自动驾驶与有人驾驶车辆混行的复杂交通环境中，行车安全问题正遭遇前所未有的挑战。车路协同技术的成功关键，不仅在于车辆对环境的即时感知与灵活适应，更在于与道路基础设施间建立起高效、精确的信息沟通桥梁。谈及自动驾驶技术中的数据隐私问题，杨洁认为自动驾驶技术的运作离不开对个人及海量环境数据的收集与处理，这一过程中潜藏的数据安全风险不容忽视。为加强全球化背景的数据隐私保护，现实中不同国家和地区对于个人信息与隐私概念进行了不同层面和内容的认定，在我国，上海自贸区则发布了智能汽车数据流动白名单，以应对自动驾驶技术中的数据隐私与安全问题。

2023年，我国国家和地方层面陆续出台了大量法规、政策和标准，进一步完善了智能网联汽车产业及关键节点的政策体系，为更高级别的智能网联汽车准入和商业化落地铺平道路。

在国家层面，经过为期将近一年的公开征求意见和修订，工信部等部门于2023年11月正式发布了《关于开展智能网联汽车准入和上路通行试点工作的通知》，首次在国家法规层面对搭载L3和L4等较高级别的自动驾驶功能的智能网联汽车准入和上路通行打开了政策通道。此外，各部委陆续发布了《智能汽车基础地图标准体系建设指南（2023版）》、《国家车联网产业标准体系建设指南（智能网联汽车）（2023版）》等文件，确立了相关国家标准体系的建设方向。

在地方层面，北京、上海等自动驾驶先行城市继续开展地方性立法探索；同时，其他多个省市也在过去的一年内逐步加快对智能网联汽车和自动驾驶技术的立法支持。例如，2023年上半年，北京陆续发布了《北京市智能网联汽车高精度地图试点工作指导意见》、《关于开展北京市智能网联汽车高精度地图审图工作的通知》、《北京市智能网联汽车政策先行区数据安全管理办法（试行）》等文件，在高精度地图及数据采集领域进行了重点部署；上海也分别出台了《中国（上海）自由贸易试验区临港新片区促进智能网联汽车发展若干政策》、《浦东新区智能网联汽车产业高质量发展三年行动方案（2023-2025年）》等支持文件，促进所在地区智能网联汽车产业的发展。

自动驾驶汽车（AV）的概念长期以来引发了关于在道路上转移决策自主权的道德争议。汽车工程师协会制定了全行业正式使用的 6 个自主级别，以区分自动驾驶功能。

0-2 级 AV 已经存在于商业市场中。 3 级是能力的第一次显着提升。它描述了可以短时间自动驾驶的车辆，但需要人类驾驶员准备好在系统请求时进行干预。 4-5 级则超出了环境检测的范围。这些包括完全消除人类干预的尖端技术。 4级自动驾驶汽车可以在特定条件下无需人工干预即可完成整个旅程。 5级可以在任何情况下完成整个旅程。例如，5 级与甚至不需要方向盘或踏板的车辆相关。

围绕这两个更高层次的自治而出现的道德和伦理困境是由于几乎所有直接决策权的丧失而产生的。核心技术的正确运作、重视人类生命的能力和原则、权衡和责任，都成为道德和法律框架下的问题。

我们将从臭名昭著的电车难题开始探索这些问题。

电车难题是在称为美德伦理学的哲学分支中创建的思想实验，讨论可预见的后果与道德层面上的预期后果如何比较。由英国哲学家 Philippa Foot (1967) 设计的主要变体如下：

一辆电车沿着一组轨道运行，失去控制且无法中断。然而，5个人被绑在这些轨道上，电车正在快速接近他们。你站在一个杠杆旁边的轨道上，如果拉动杠杆，手推车的轨迹就会转移到另一组轨道上。这条替代轨道上只有一个人，所以电车目前会杀死 5 人，但如果你采取行动，这个数字可能会减少到只有 1 人。你拉动操纵杆吗？

电车难题可以在许多道德框架下看待。

• 结果主义者认为，最好通过任何必要的手段来减少结果的总体危害。
• 义务论者认为，拉动操纵杆并主动杀死一个人的行为比让电车继续其应有的路线在道德上更加错误。
• 功利主义者认为，最道德的选择可以为最大多数人创造最大的利益。
• 罗尔斯主义者认为，所有生命都是平等的，为了实现正义并以最公平的方式行事，必须防止更大的伤害。
• 基于权利的伦理学认为，生命权是绝对的，不应因任何权衡而被侵犯或牺牲。

无论哪种意识形态，我们尽量减少对他人伤害的责任与我们选择道德正确行为的责任直接冲突。许多人质疑自动驾驶汽车是否能够重视此类决策和权衡。例如，如果自动驾驶汽车即将发生碰撞，车辆乘客是否应该优先于行人/其他车辆？

然而，自动驾驶汽车的道德规范中必须考虑的不仅仅是做出艰难决定的能力。当人类自己无法就哪种道德框架最能解决电车问题达成一致时，我们该如何对自动驾驶汽车进行编程，以在一种意识形态下权衡此类权衡呢？

我们应该将哪些基本价值观和原则写入人工智能？

我们应该希望它优先考虑积极的职责：拯救生命的数量，还是消极的职责：最大限度地减少造成的主动伤害？

2018 年，Uber 在亚利桑那州测试了 3 级自动驾驶汽车，导致行人惨死——这是有史以来第一次由自动驾驶汽车造成的事故。作为 3 级，车内有一名后备驾驶员，但这还不够。由于环境检测系统难以正确识别障碍物（这里是骑自行车的行人），汽车的警报系统无法足够快地识别出伤害的可能性。当后备司机最终接到警报接管控制权时，车辆距离撞击已有 0.2 秒，并以 39 英里/小时的速度行驶。

这个例子不一定讨论对自动驾驶汽车乘客的直接伤害与车辆外部行人的直接伤害的权衡，因为备用司机本人从未面临伤害的风险。然而，它确实揭示了我们是否可以并且应该依赖人工智能感知检测而不是我们自己的感知检测，以及在这种高压、短时间的情况下手动覆盖是否是可行的备份。

它还凸显了由于缺乏对杀戮负有责任的道德代理人而将自主权（即使是暂时的）转移给自动驾驶汽车的问题。在这起案件中，Uber 撤回了其在亚利桑那州测试的 90 多辆其他 3 级自动驾驶汽车，并与受害者家属达成和解。另一方面，备用司机被指控犯有过失杀人罪。责任是否正确地归咎于她，或者应该归咎于车辆——后者有可能吗？

联合国教科文组织概述人工智能道德框架应优先考虑避免伤害和尊重人权。安全和非歧视应成为机器学习原则的基础。人类监督、控制和问责与负责任的人工智能一样重要。公平和“为了更大的利益”的附加概念表明，我们希望人工智能使用功利主义意识形态进行决策。另一方面，“尊重人权”涉及到行为本身的道德正确性，即道义论。

当然，透明度对于理解自动驾驶汽车最终如何计算决策也至关重要。为了评估自动驾驶事故造成或预防的伤害，我们需要了解底层人工智能技术如何以及为何得出某个结论。公众对自动驾驶汽车的信任需要了解责任，并确保遵守正确的框架。

欧洲议会研究服务机构认识到在开发和部署自动化决策人工智能时必须解决的道德、法律和经济问题。这包括研究如何在底层算法中制定道德原则，以及如何使全球政策和法规跟上人工智能创新的指数速度。

在人权方面，人类机构也受到优先考虑，研究机构希望保护“最终用户不受到仅基于自动化处理的决定的影响”。在技术方面，网络安全标准对于确保系统安全可靠将变得更加重要。符合道德的人工智能需要值得信赖的软件。

虽然我们目前还没有让公众在英国道路上使用 3 级以上自动驾驶汽车，也没有在国内市场上销售任何此类车辆，但宝马、特斯拉和梅赛德斯等行业主要参与者的目标是在 2025 年利用技术推出这些车辆像 Traffic Jam Pilot 那样这样做。

如果自动驾驶汽车遵循正确的决策道德，将会带来巨大的好处。据估计，道路上与交通相关的事故将减少 90%。尽管如此，很明显，我们还没有可量化的道德和法律框架来概述在支持自动驾驶的技术方面应如何做出决策和优先权衡。

因此，AV 参与者需要进一步概述“尽量减少伤害”的含义，以及哪种道德意识形态应该指导决策。正如我们在 2018 年 Uber 事故中看到的那样，责任和机构也必须澄清。所有这些，如何处理，以及我们朝哪个方向前进，都将对社会产生长期的道德影响。