文章来源：卡内基美隆大学官方网站
卡内基梅隆大学的一项新研究探索了自闭症患者在工作中遇到问题时如何与 ChatGPT 和类似的人工智能工具互动以获取帮助和建议。
但由计算机科学学院的 Andrew Begel领导的研究团队还发现，此类系统有时会给出值得怀疑的建议。自闭症社区内部仍然存在争议，即这种使用聊天机器人是否是一个好主意。
软件与社会系统系副教授 Begel 表示：“我们发现，有些自闭症患者已经在使用 ChatGPT 来提问，而我们认为 ChatGPT 既适合这些问题，也不适合这些问题。” 和 人机交互研究所（HCII）。“例如，他们可能会问：‘我如何在工作中交朋友？’”
Begel 领导 VariAbility 实验室试图开发工作场所，包括残疾人和神经差异的人都可以成功地工作。
为了更好地了解如何使用大型语言模型 (LLM) 来解决这一缺陷，Begel 和他的团队招募了 11 名自闭症患者来测试来自两个来源的在线建议——一个基于 OpenAI 的 GPT-4 的聊天机器人，以及在参与者看来像第二个聊天机器人但实际上是人类的聊天机器人。
有点令人惊讶的是，绝大多数用户更喜欢真正的聊天机器人，而不是伪装的顾问。贝格尔说，这并不是因为聊天机器人给出了更好的建议，而是它提供建议的方式。
贝格尔说：“参与者优先考虑快速，易于消化的答案。”
聊天机器人给出的答案非常直白，没有太多微妙之处，而且通常以要点的形式呈现。相比之下，咨询师经常会问用户想做什么或为什么要这样做。贝格尔说，大多数用户都不愿意进行这样的来回争论。
参与者喜欢聊天机器人的概念。
但当一位专门为自闭症求职者提供支持的专业人士评估这些答案时，她发现 LLM 的一些答案并没有帮助。例如，当一位用户询问如何交朋友时，聊天机器人建议用户直接走到人们面前，开始与他们交谈。当然，问题在于自闭症患者通常不会觉得这样做很舒服，贝格尔说。
实验结果由第一作者兼 HCII 博士生 JiWoong (Joon) Jang 于上个月在檀香山举行的计算机协会计算机系统人为因素会议 (CHI 2024) 上发表。除了 Begel 和 Jang，合著者还包括 HCII 博士生 Sanika Moharana 和 HCII 助理教授 Patrick Carrington。
贝格尔说，经过专门解决自闭症患者的问题的聊天机器人可能会避免分配不良建议，但是自闭症社区中的每个人都可能会接受它。
“当我们在不与人交流的情况下开发技术时，我们会优先考虑谁的观点，这是一个巨大的争论。这是在优先考虑神经典型观点，即‘我希望自闭症患者在我面前表现得如此’吗？还是在优先考虑自闭症患者的愿望，即‘我想按照自己的想法行事’或‘我想与人相处，确保别人喜欢我，不讨厌我’？”
从本质上讲，这是一个自闭症患者是否有权参与旨在帮助他们的研究的问题。这也是 另一篇 CHI 论文探讨的问题，贝格尔与纳巴·里兹维和加州大学圣地亚哥分校的其他研究人员共同撰写了这项研究。在这项研究中，研究人员分析了 2016 年至 2022 年期间发表的 142 篇关于开发机器人帮助自闭症患者的论文。他们发现，90% 的人机交互研究都没有考虑到自闭症患者的观点。贝格尔说，结果之一是开发了许多自闭症患者不一定想要的辅助技术，而他们的一些需求却没有得到满足。
“例如，我们注意到，大多数为自闭症患者设计的互动机器人都是非人类的，比如恐龙或狗，”贝格尔说。“自闭症患者的人性如此缺乏，以至于他们不配拥有人形机器人吗？”
技术当然有助于更好地理解自闭症患者和非自闭症患者的互动方式。例如，贝格尔正在与马里兰大学的同事合作开展一个项目，利用人工智能分析这两组人之间的对话。人工智能可以帮助识别说话者一方或双方的理解差距，这些差距可能会导致笑话不合时宜或让人觉得某人不诚实。贝格尔说，技术还可以帮助说话者预防或修复这些对话问题，研究人员正在向一大群自闭症患者征求意见，了解他们希望得到什么样的帮助。
“我们开发了一个视频通话工具，并将这个人工智能附加到其中，”贝格尔说，他还开发了一个自闭症咨询委员会，以确保自闭症患者有权决定他的实验室应该开展哪些项目。“一种可能的干预措施可能是在这个工具上添加一个按钮，当我不想大声说出来时，它会显示‘抱歉，我没听清。你能重复一下你的问题吗？’或者可能有一个按钮显示‘我不明白’。或者甚至可以有一个可以总结会议议程的工具，这样当你说‘我想回到我们讨论的第一个话题’时，你就可以帮助你的队友找到方向。”
