建设更好地相信人类和机器之间

如机器变得更聪明，他们成为嵌入在无数生活方面。在某些方面，他们可以几乎作为人机团队中的正式成员。在这种情况下，与任何一支球队，信任是良好性能的必要条件。
但人和机器之间的信任动力学尚不好理解。通过 SUTD-麻省理工学院博士后研究员计划，麻省理工学院和新加坡科技大学设计 (SUTD)，合作资助两年项目博士后西阳杰西，麻省理工学院航空系和航天学助理教授朱莉 · 沙阿和 SUTD 工程产品发展教授 Katja Hölttä-奥托旨在开发更多的知识，在这一领域。期间她的奖学金，杨花了一年，作为一个在 SUTD，博士后，现在第二年在麻省理工学院整理她的研究。她和她的教师导师希望他们的努力将有助于更好的用户界面设计和更好的人机团队绩效。
某些任务可以简单地通过更有效地由一台机器或协助从一台机器比单独一个人。但机器可以犯错误，尤其是在方案的不确定性和模糊性的特点。因此，信任对机器正确校准是良好的人机团队绩效的前提。
各种因素相交来确定多大程度上，人类相信机器，并反过来，它们可以表现在一个给定的任务。这些因素包括该机器是如何可靠，人类是多么自信，和并发工作负荷 （即多少个任务人是负责同时进行）。梳理出任何一种要素的影响可以是具有挑战性的但通过复杂的实验设计，杨、 沙和 Hölttä-奥多已经能够更切合实际的方式，处理主题处理缺陷的机器和隔离在人机信任关系来研究其影响的各种因素。
在 SUTD，杨和 Hölttä-奥多设计了一个实验涉及人性的参与者从自动的决定援助协助执行记忆和识别的任务。在实验中，参与者记住一系列图像，后来承认他们在血泊中类似的图像。图像要选择，非常可靠地对某些人来说决定援助提供建议和其他人不是这样。结果表明，参与者往往 undertrust 高度可靠的艾滋病和迷信非常不可靠的。信任-可靠度校准亦改善人类的经验更多使用决定援助。
麻省理工学院，杨和沙阿探索如何接口设计可以促进信任可靠度校准。具体地说，杨和沙感兴趣的是可能性报警显示的潜在好处。与传统二进制报警指示只有”威胁”没有威胁”，可能性的警报可以提供有关的置信水平和紧迫性预警的事件的其他信息。杨和沙阿认为可能性报警将有助于缓解”狼来了”效应，通常在高危行业中观察到的现象。在这类行业中，触发警报的阈值是经常设置的很低为了捕捉每一个重要的事件。然而，门槛低，不可避免地导致误报而导致人类用户失去报警系统中的信任，最终损害任务性能。
在另一个实验，目前正在进行中，杨和沙阿模拟多任务场景参与者充当士兵执行搜索和检测任务。他们必须保持水平飞行的四个无人驾驶飞行器 (Uav) 并在同一时间在发回的无人机照片蒸汽检测潜在的威胁。二进制的报警或可能性报警帮助参与者完成自己的使命。后者会大概是缓解”狼来了”效应，提高参与者的注意分配，以及提高人机团队绩效。
最终，这项研究可以帮助在多个域，从军事应用程序像实验中模拟到医疗诊断到机场安全告知机器人技术和人工智能的发展。
“缺乏信任常常被作为更广泛地使用的 AI 和自治系统的关键障碍之一”沙阿说。”这些研究弄清楚，增加用户的信赖，在系统不是正确的目标。相反，我们需要新的方法，帮助人们适当校准他们的信任，在系统中，尤其考虑到这些系统将永远不完美。”杨将提出她的研究在应用人为因素和今年 7 月，人机工程学，以及 60 年会的人文因素及人机工程学社会在 9 月第 7 次国际会议。