西班牙毕尔巴鄂德乌斯托大学(Deusto University)的心理学家Lucía Vicente和Helena Matute的新研究提供了证据，证明人们可以在决策中继承人工智能偏见(人工智能输出的系统性错误)。
人工智能系统取得了惊人的成果，例如，可以像人类一样进行对话，这给这项技术带来了高可靠性的形象。
越来越多的专业领域正在实施基于人工智能的工具来支持专家的决策，以最大限度地减少决策中的错误。然而，由于人工智能结果的偏见，这项技术并非没有风险。我们必须考虑到，用于训练人工智能模型的数据反映了过去人类的决策。如果这些数据隐藏了系统错误的模式，人工智能算法将学习并重现这些错误。事实上，大量证据表明，人工智能系统确实继承并放大了人类的偏见。
维森特和马图特的研究最相关的发现是，相反的效果也可能发生:人类继承了人工智能的偏见。也就是说，人工智能不仅会从人类数据中继承其偏见，而且人们也会从人工智能中继承这些偏见，从而有陷入危险循环的风险。《科学报告》发表了Vicente和Matute的研究结果。
在研究人员进行的三个系列实验中，志愿者们完成了一项医学诊断任务。在这项任务中，一组参与者得到了一个有偏见的人工智能系统的帮助(它显示了一个系统错误)，而对照组则没有得到任何帮助。人工智能、医疗诊断任务和疾病都是虚构的。为了避免干扰真实情况，整个场景都是模拟的。
在有偏见的人工智能系统的帮助下，参与者犯了与人工智能相同类型的错误，而对照组没有犯这些错误。因此，人工智能的建议影响了参与者的决策。
然而，这项研究最重要的发现是，在与人工智能系统互动后，这些志愿者在切换到独立执行诊断任务时，继续模仿其系统错误。换句话说，首先得到有偏见的人工智能帮助的参与者在没有这种支持的情况下复制了它的偏见，从而表现出遗传偏见。而从一开始就在没有帮助的情况下完成任务的对照组的参与者没有观察到这种影响。
这些结果表明，人工智能模型的偏见信息可能对人类决策产生持久的负面影响。人工智能偏见效应的遗传发现表明，需要进一步对人工智能与人类互动进行心理学和多学科研究。
此外，为了保证人工智能的公平和道德，不仅要考虑人工智能的技术特征，还要考虑人工智能与人类合作的心理方面，还需要基于证据的监管。
更多信息:Lucía Vicente等人，人类继承人工智能偏见，科学报告(2023)。DOI: 10.1038/s41598-023-42384-8期刊信息:科学报告
由Deusto大学提供
引用:研究表明人类可以继承人工智能偏见(2023,10月3日
作品受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。的有限公司
内容仅供参考之用。
