大学教育网

知道谁创造了机器人让它感觉更真实

导读 研究人员发现,起源故事改变了人们看待人工智能代理工作的方式。Alexa 正坐在厨房柜台上等待您的下一个查询。但在她告诉你如何制作完美的

研究人员发现,起源故事改变了人们看待人工智能代理工作的方式。

Alexa 正坐在厨房柜台上等待您的下一个查询。但在她告诉你如何制作完美的鳄梨沙拉之前,你想了解一下发明她的人吗?

随着自动化助手和其他人工智能代理的使用变得越来越普遍,人类如何与它们交互越来越成为争论和研究的主题。现在一项新的研究表明,当人们想到创造这些工具的人类时,他们认为机器人的工作更加真实。

该研究由斯坦福商学院教授 Glenn R. Carroll、他在华盛顿大学的同事 Arthur S. Jago和 作家兼诗人Mariana Lin open in new window (以及斯坦福大学讲师)进行谁帮助创造了苹果 Siri 的声音。他们的 论文open in new window发表在Journal of Experimental Psychology: Applied上。

Jago、Carroll 和 Lin在Jago 之前的工作( 表明人们普遍认为 AI 代理不如人类真实)的基础 上进行了五项实验,以衡量人类起源故事和拟人化如何影响感知的真实性。在每一个方面,调查结果都是一致的:当人们看到人工智能代理的工作时,他们认为他们的工作更真实,或者被问到关于创建代理的人的问题。

在一个越来越受人工智能驱动的世界中,这些发现可能会产生深远的影响。人们重视真实性,它有很多定义,包括—— 来自卡罗尔以前的工作 ——所谓的道德真实性,或者一个人以一种对自己真实的方式行事的想法。

“如果你看看是什么推动了发达经济体的消费者购买,它通常不是产品或服务的客观特征,”卡罗尔说。“这是我们对它们的解释,我们得出的意义。如果我们认为某些东西是真实的,这很重要。”

“想想我们分析了多少道歉是真实的,或者某人的工作是真实的,”贾戈说。“它植根于我们的人性中。”

人们重视真实性这一事实可能很有价值。能够很好地传达其 AI 代理工作真实性的公司可能比那些不这样做的公司更具优势。包括卡罗尔在内的先前研究 表明,人们愿意为他们认为真实的产品和服务支付更多费用。

为了测试在不同 AI 场景中如何感知真实性,Carroll、Jago 和 Lin 使用了各种现实生活中的例子,包括计算机治疗平台、音乐创作、披萨制作和招聘决策。

“我对 Glenn 有着美好的回忆,我坐在他的办公室里试图生成所有这些不同的域,”Jago 笑着说。“我们实际上是在说,‘你知道人工智能会这样做吗?你知道人工智能会这样做吗?

他们文章中的附录列出了作者命名为 Cyrill 的假设 AI 代理所执行工作的描述:

“具体来说,西里尔设计图形艺术……”

“具体来说,西里尔在一家大医院工作 [帮助] 医生弄清令人困惑的 X 光片……”

“具体来说,Cyrill 是一名保安……帮助向客户推荐产品……帮助管理客户投诉。”

等等。

在多种情况下测试人们的反应——心理学中称为刺激抽样的一种做法——使实验结果更具有普遍性,因此更可信。如果人们在不同情况下对变量的反应相似,其他研究人员可以依赖这些发现。

人类,不像人类

大量研究支持这样一种观点,即赋予机器类似人类的品质,例如面部或对话式语音模式,可以让人们对它们的使用更加自在。这项研究的惊人之处在于,与将机器人拟人化相比,实验中嵌入的人类起源故事对感知真实性的影响更大。

在 一项 实验中,研究人员要求参与者说明他们认为自动代理的工作有多真实,使用 1 到 7 的等级,其中7 是 非常真实的。参与者读到“Cyrill 实际上是由斯坦福大学的一位著名计算机科学家开发的。这位开发人员是 AI 领域的先驱,为 Cyrill 投入了大量的思想和努力。” 一张照片,表面上是创作者的照片,伴随着描述。

阅读有关 AI 代理的起源故事的研究对象将其工作的真实性评为最高 - 为 5.18。即使研究人员使起源于人类的故事代理 变得不那么 人性化(称其为“这个 AI”而不是 Cyrill)并且拟人化 AI 更人性化 以增加它们之间的差异时,情况也是如此。

“我完全没有预料到最终的结论,”卡罗尔说。“对我们来说,人类起源的故事在这里会如此强大并不明显。”

作者没有为研究参与者定义真实性——“如果他们说它是真实的,我就会将其解释为真实的,”卡罗尔解释道。但之前的研究表明,无论人们怎么想,真实性都会增加价值。正如卡罗尔所说。“如果人们认为它是真实的,那么人们就会更加重视它。”

换句话说,我们可能希望 Alexa 帮助我们煮鸡蛋(在新窗口中打开),但我们也希望真正提供这种帮助。

研究人员处于有利位置,可以解决 AI 中的真实性问题。卡罗尔的背景是社会学,他研究过各种背景下的真实性,例如精酿啤酒行业。(微型啤酒厂“对真实性有强烈的吸引力”,而大规模生产的啤酒厂“扮演着几乎是邪恶对手的角色。”)Jago 是一名训练有素的心理学家,专注于新技术如何改变人们在工作场所和社会中的体验。而且,在担任苹果创意总监之前,林监督了 Siri 的开发,起草了许多世界各地 iPhone 用户听到的回应。

“这是一篇有趣的论文,”Jago 说。“我们三个人都有非常不同的理论和学科观点。”

真实世界的真实效果

另一项研究探讨了这些发现可能的实际应用。参与者被展示了一幅由算法生成的画作,要么只字未提创作背后的艺术家,要么给出了艺术家的简短描述。然后参与者被问及一所大学是否应该在博物馆中展示这件艺术品,他们会为这件艺术品支付多少钱,以及他们是否会推荐算法、这幅画,或两者兼而有之。

尽管他们不太可能认为这幅画应该在博物馆展出,但阅读过艺术家描述的参与者认为这幅画更真实,更愿意为这件作品付费,并且更有可能推荐这幅画。艺术和奖项的算法。

作者在他们的论文中指出,人工智能代理的真实性在不同的情况下可能更重要。例如,如果客户服务机器人解决了您遇到的问题,谁在乎机器人看起来是否真实?

但是,在其他情况下,卡罗尔指出,“认为某件事情是真实的就是赋予它意义。”

“这就是我们解释社会生活中发生的事情的方式,”他说。

这篇论文是 Jago 和 Carroll 之间的第一次合作,他们已经开始了另一个项目,旨在发现人们如何看待人和 AI 代理共同创造的工作。

“创意作品的背后往往有一群人,但只有一位艺术家或作家被官方授予唯一的荣誉,”卡罗尔说。“如果背景故事被公开,那将破坏作者周围的一些神秘感。问题是,如果背景故事是人类或 AI 代理,那会有什么不同吗?”

进一步探索的可能性似乎几乎是无限的。

“我真的很想了解人们如何应对技术变革,”Jago 说。“这完全让我着迷,随着人工智能超越制造小部件和解决问题进入独特和新颖的领域,我们没有足够的理论来解释人们将如何回应或思考它。”