本文来自微信公众号“安全牛”。
10月11日在备受瞩目的特斯拉Robotaxi发布会上，特斯拉创始人马斯克仅用了短短20分钟，就展示了包括Robotaxi产品Cybercab、无人驾驶厢式车Robovan和人形机器人Optimus等多个革命性产品，引发了人们对自动驾驶美好未来的无限遐想。在我国，曹操出行很快做出响应，计划在两年内推出完全定制化的Robotaxi车型。
然而，在盛赞这些炫酷的高度智能化、网联化的产品带来颠覆性出行体验的同时，业界也在担忧这些产品带来的诸多安全隐患。Robotaxi是新一代智能终端的典型代表，由此我们应该看到新一代智能终端所带来的远远超出传统网络安全范围，已经扩展到人身安全和科技伦理等领域的安全挑战。
安全问题是特斯拉Robotaxi前进的绊脚石
在表面风光的背后，关于特斯拉自动驾驶系统的可行性和安全性的担忧，让马斯克雄心勃勃的计划蒙上阴影。
特斯拉在自动驾驶技术路线上另辟蹊径，选择了"视觉识别+端到端机器学习"的模式，区别于Waymo、Cruise和Zoox等其他主流公司利用"多传感器融合+高精地图"组合来增强其安全特性。尽管前者虽然更具成本效益，但因缺乏透明度和“黑箱”特性而受到批评，导致在发生错误时难以分析和纠正。
英伟达首席执行官黄仁勋直言完全依赖这种技术的风险，“直接跳入完全自动驾驶的车辆太不安全，必须逐步推进”。他补充说，这也是为什么英伟达要将人工智能与传统计算系统和额外传感器结合，以采取更保守谨慎的自动驾驶方法。
值得一提的是，此时正值特斯拉的半自动驾驶系统正受到美国国家公路交通安全管理局（NHTSA）的调查，原因是多起事故的发生，包括涉及其自动驾驶和全自动驾驶功能的致命事件。
与此同时，特斯拉在自动驾驶合规性方面也屡屡受挫。
随着智能网联汽车的发展，相关网络安全法规也在不断更新。例如，UNECE WP.29 R155和ISO/SAE 21434标准的实施，以及欧盟的网络安全弹性法案和美国NHTSA更新的网络安全最佳实践，都为推动汽车网络安全的发展做出了规范。
2022年，德国联邦机动车交通管理局调研认为特斯拉的辅助驾驶系统Autopilot存在“异常”，并责令该公司进行整改，同时要求限制部分辅助驾驶功能。
2023年12月，NHTSA迫使特斯拉召回近36.3万辆搭载FSD Beta软件的汽车，理由这些车辆在使用FSD Beta软件时存在安全隐患，可能导致车辆在交叉路口等特定环境下行为不可预测，增加碰撞风险。
作为一款高度联网的智能终端，Robotaxi的网络安全防护能力直接关乎车辆和乘客的生命安全。而当前汽车网络安全事件呈现高发态势。汽车电动化、网联化、智能化和共享化"新四化"和网络安全已成为你中有我、我中有你的命运共同体，特斯拉Robotaxi要获得市场和公众认可，必须拿出切实可行的网络安全方案。
技术突破与安全挑战并存
特斯拉在Robotaxi上展示的技术突破有目共睹。Cybercab搭载了全新的AI芯片，算力和能效均实现数倍提升；整车成本有望降至3万美元以下，公里成本更是可低至0.2美元，大大拓展了其商业化前景。
然而安全专家指出，Robotaxi的安全风险同样不容忽视。一方面，自动驾驶系统容易受到数据投毒、模型窃取等新型攻击。
另一方面，Robotaxi可视为一个移动数据中心，其网络架构、通信协议等方面都可能存在漏洞。根据Upstream的2022年全球汽车网络安全报告，超过80%的网络攻击都是通过远程方式进行的。这表明，Robotaxi的网络架构可能面临严重的网络攻击风险。
比如，自动驾驶出租车利用V2V（车辆对车辆）和V2I（车辆对基础设施）通信来增强安全性和协调性，这些通信渠道可能容易受到拦截或欺骗攻击，恶意实体可能会向车辆或基础设施发送虚假信息。
更令人担忧的是，特斯拉在软件开发流程和供应链管理等方面也暴露了诸多问题。特斯拉自推出以来，研究人员陆续在其固件中发现多个安全漏洞，这些漏洞涉及不同车型和系统组件，包括蓝牙连接固件、GPS系统、雨刷等。尽管特斯拉为这些漏洞打了补丁，都是由此带来安全风险仍然不容忽视，成为制约Robotaxi发展的一大掣肘。
Robotaxi引发的安全思考已经从单车防护扩展到了城市级的韧性与安全。一旦Robotaxi大规模上路，其高度互联、自组织的特性将使交通系统更容易受到网络攻击的影响。而且佐治亚理工学院早些年的一项研究表明，在交通高峰期，只要让20%的汽车熄火就能让交通完全瘫痪。
新一代智能终端面临前所未有的安全挑战
事实上，特斯拉是新一代智能终端的一个典型代表。
随着特斯拉Robotaxi、Cruise Origin等无人车，以及各类智能机器人的落地应用，新一代智能终端正加速走进大众生活。这些终端早已经超出了智能手机、AI PC的范畴，深入到出行、医疗、家居等各个场景，带来了全新的安全挑战。
1.更深更广的网络安全风险
互联汽车和机器人的激增为网络犯罪分子创造了更广泛的攻击面。
每个设备都可能成为未经授权访问的潜在入口点，从而导致数据泄露或操纵车辆系统。
与此同时，新一代智能设备收集了大量数据，比如互联汽车会收集包括有关用户及其驾驶习惯的个人信息。这些数据可能容易被盗或滥用，从而引发对隐私侵犯的担忧。
2.安全边界不断拓展
新一代智能终端的安全边界不断拓展，已从网络空间延伸到物理世界，涉及人身安全、隐私保护、伦理道德等诸多领域。以Robotaxi为例，其安全不仅关乎信息泄露，更关乎乘客的生命安全。一旦发生碰撞或失控等事故，后果将不堪设想。
麻省理工学院教授Iyad Rahwan曾指出，当智能体做出"错误"决策时，究竟该由谁来担责，这在伦理和法律上都是一个巨大的灰色地带。
3.AI安全问题集中爆发
新一代智能终端高度依赖人工智能技术，这使其成为AI安全问题的集中爆发点。一方面，AI系统本身存在偏差、脆弱性、不可解释性等问题，可能导致错误决策和不可预测的行为。另一方面，AI系统也更容易受到对抗性攻击、数据投毒等新型威胁的影响。
4.更广泛的供应链安全威胁
新一代智能终端通常采用开放式架构，涉及多方参与和复杂的产业链条。这不仅增加了安全管理的难度，也带来了更多的攻击面。
比如，2023年法国网络安全公司Synacktiv的研究人员在Pwn2Own大会上展示了如何在2分钟内入侵特斯拉Model 3的信息娱乐子系统。尽管特斯拉不断改进其系统的安全性，但仍然存在被黑客攻击的风险。
5.智慧基础设施的安全挑战
新一代智能终端所依赖的智慧基础设施同样面临网络安全挑战。以自动驾驶为例，其需要车路协同、高精度定位、边缘计算等一系列支撑，而这些设施往往缺乏足够的安全防护。
据统计，全球每天约有1.5亿次针对物联网设备的攻击，其中不乏针对交通基础设施的案例。2020年，RansomEXX勒索软件对美国德克萨斯州交通部进行了攻击，影响了交通信号灯系统。
应对新一代智能终端安全挑战的对策建议
面对新一代智能终端带来的诸多安全新挑战，我们必须未雨绸缪，在产品、技术、标准、法规等层面多管齐下，构筑起智能时代的安全防线。
1.在产品层面
厂商应秉持安全、隐私和伦理的理念，将其融入产品设计和开发的全生命周期。
诸如特斯拉这样的产业链核心企业应加强供应链安全管理，严格审查软硬件组件的安全性；在系统架构上采用纵深防御、主动免疫等理念，提升产品的本质安全；建立完善的漏洞管理和事件响应机制，及时发现和修复安全问题。
2.在技术层面
加强人工智能安全基础研究，突破可解释性、鲁棒性、隐私保护等关键技术瓶颈。与此同时，还要大力发展主动防御技术，通过威胁情报、异常检测、动态防御等手段，对抗日益智能化的攻击。针对新一代智能终端的应用场景，强化技术协作，提升提供整体韧性。比如，针对自动驾驶等场景，加强车路协同、车车通信等关键技术的安全防护。
3.在标准规范方面
加快构建新一代智能终端安全标准体系。目前，ISO/SAE 21434、UN R155等汽车网络安全标准已经发布，但在AI安全、机器人安全等方面仍有诸多空白。
我国应积极参与相关国际标准制定，抢占技术制高点。同时，还要加强安全测试、评估和认证机制建设，为智能终端的安全应用提供客观依据。
4.在法律法规方面
尽快明确智能时代的安全红线和监管原则。
欧盟出台的《人工智能法案》对高风险AI系统提出了严格要求，值得借鉴。
在我国，《中华人民共和国网络安全法》、《中华人民共和国数据安全法》和《中华人民共和国个人信息保护法》等法律为人工智能的安全提供了基础性保障，《生成式人工智能服务管理办法（征求意见稿）》和《生成式人工智能服务管理暂行办法》针对生成式人工智能服务提出了具体的安全要求，《新一代人工智能发展规划》提出了建立人工智能安全监管和评估体系的目标。
业内人士认为，接下来可在此基础上，明确智能终端全生命周期的安全责任，规范数据采集、共享和使用行为，为公众权益提供有力保障。
5.在公众意识方面
注重全社会的安全意识培养和能力建设。一方面，要广泛开展智能安全素养教育，提升公众识别和防范风险的意识；另一方面，要大力发展智能安全交叉学科，培养既懂AI又懂安全的复合型人才。只有安全意识、安全技术、安全人才等软实力得到全面提升，我们才能在新一代智能终端带来的机遇和挑战中把握主动。
新一代智能终端正以Robotaxi为代表，加速走进我们的生活。它们不仅为出行、医疗、家居等领域带来革命性变革，也为人类社会的发展注入了新的活力。让我们以开放、审慎、负责任的态度拥抱智能新时代，用安全护航新一代智能终端的创新发展。
