建立可靠的人机合作关系

有效团队的一个关键要素是信任，无论是运动、商业还是军事团队，这在一定程度上是基于团队成员履行指定角色的能力的相互理解。当涉及到形成有效的人类和自主系统团队时，人类需要及时准确地洞察他们的机器伙伴的技能、经验和可靠性，以便在动态环境中信任他们。目前，当天气或照明等条件变化导致自主系统的能力波动时，自主系统无法提供实时反馈。机器缺乏对自身能力的认识，并且无法将其传达给人类伙伴，这会降低信任并降低团队效率。

为了帮助将机器从简单工具转变为值得信赖的合作伙伴，DARPA今天宣布了能力感知机器学习（CAML）计划。CAML的目标是开发机器学习系统，在时间紧迫、动态的情况下持续评估自己的性能，并以易于理解的格式将这些信息传达给人类团队成员。

国防部高级研究计划局国防科学办公室的项目经理周江英说：“如果机器能说‘我在这些条件下做得很好，但是我在这些条件下没有太多的经验’，这将允许更好的人机协作。”“然后，合作伙伴可以做出更明智的选择。”

这种动态将支持力量倍增效应，因为人类随时都知道他或她的机器伙伴的能力，并且能够有效地利用它们。

相比之下，周小川注意到了最先进的自治系统所面临的挑战，这些系统无法评估或交流他们在快速变化的形势下的能力。

“在什么情况下，你让机器工作？在什么情况下你应该监督它？哪些资产或资产组合最适合您的任务？这些是CAML系统能够回答的问题，”她说。

通过一个涉及自动驾驶汽车技术的简化例子，周描述了对于一个试图决定两辆自动驾驶汽车中哪一辆更适合在雨中夜间驾驶的骑手来说，CAML技术是多么有价值。第一辆车可能会在晚上的雨中进行通信，它知道自己是在看一个人还是一个90%准确率的无生命物体，并且已经完成了1000多次任务。第二辆车可以在夜间的雨中以99%的准确度区分人和无生命物体，但完成任务的次数少于100次。有了这些信息，骑手可以做出一个关于使用哪辆车的知情决定。

CAML计划寻求在机器学习、人工智能、模式识别、知识表示和推理、自主系统建模、人机界面和认知计算方面的专业知识。为了最大限度地利用创新提案概念，DARPA强烈鼓励非传统提案人，包括小型企业、学术和研究机构以及首次政府承包商参与。