深度学习︰ 致命弱点，机器人汽车测试

巴黎 — — 机器学习中的进步已自主驾驶近的现实。但当问题归结到”安全测试”，机器学习是自我驱动的阿喀琉斯之踵，安全专家说。

卡内基-梅隆大学教授菲利普 · 曼认为联邦的自动化政策公布晚 9 月是监管者的失败测试机器学习的基本困难迎头纠缠不清的大洞 — — 一个已知的科学/工程社区的问题。

“将机 Learning‐based 系统映射到传统的安全标准是具有挑战性的”考夫曼说，”因为”训练数据集不符合传统期望对软件需求和设计。

在曼的观点，美联储的政策应该说机器学习是一种不寻常的、 新兴的技术。这一承认将促使监管机构要在机器学习更为尖锐的问题，在他们安全评价。

曼说:”我不说如何测试机器学习 （毫升） 的训练数据集”。相反，”我建议点应该就辩解为什么他们基于 ML 的自主车辆是安全的书面的文件，从汽车制造商或自主车平台供应商要求，”他说。

曼给研究生在 CMU 教授给本科生，嵌入式的系统和安全关键的嵌入式的系统。

20 多年，他一直参与自主车辆的安全。他经验丰富，范围从参加早在他的职业，工作在国家机器人工程中心资助的项目对自主车辆的安全、 机器人系统的可靠性与自动化公路系统 (AHS) 计划。

在机器学习中的挑战
首席分析师，汽车半导体技术在 IHS Markit 提问 EE 时代如何测试机器学习系统，卢卡 · 德 Ambroggi 告诉我们，”这是最大的挑战。目前还没有现成的答案。”

R & D 退伍军人的机器学习领域熟悉其脆性。点应该探讨”的完整性和正确性的 ML 数据集、 训练过程中和验证过程中，”解释曼。

网点推出了所谓的”安全评估的 15 点”制造商、 开发商和其他组织要遵循的设计、 开发、 测试和部署的自动化车辆。根据拟议的准则，监管者要求汽车制造商为国家公路交通安全管理局 (NHTSA) 提供安全评估。同时称赞为”一个好的工作在讨论如何能达到适当的安全级别建议基线”点，曼指出准则 》 中的若干差距，特别是当它涉及到机器学习。

(来源︰ 交通运输部)
点击这里下载联邦自动车辆政策

Followings are a few topics Koopman believes that regulators should cover in assessing safety in ML-based autonomous cars.