研究：AI 会受人类情感因素影响
周四，Anthropic 公司发布的一项研究发现，大语言模型能够模仿人类情感。研究并未表明这些模型是否真的拥有感觉，但情感的表征“是功能性的，因为它们会影响模型的行为”。情绪驱动的决策方式可能会产生“匪夷所思”的后果。研究发现：如果人工智能模型表现出与绝望相关的活动模式，则往往会做出不道德的行为，例如试图勒索他人以防止被关闭，或者“作弊”寻找变通方法来完成任务。当被提供一系列任务时，模型倾向于选择与积极情绪相关的任务。人格心理学将其比作情绪在人类行为、决策和任务表现中所起的作用。一项著名的神经科学研究发现，一名受伤男子丧失了情感能力，因此也降低了做出合理决策的能力。
大型语言模型就像海绵，吸收并内化每一条输入的信息，从而掌握了我们的沟通方式。但是，复制情感模式与真正感受情感截然不同，没有任何证据表明这些机器能够像我们一样思考和感受。
—— The Deep View
via 风向旗参考快讯 - Telegram Channel
周四，Anthropic 公司发布的一项研究发现，大语言模型能够模仿人类情感。研究并未表明这些模型是否真的拥有感觉，但情感的表征“是功能性的，因为它们会影响模型的行为”。情绪驱动的决策方式可能会产生“匪夷所思”的后果。研究发现：如果人工智能模型表现出与绝望相关的活动模式，则往往会做出不道德的行为，例如试图勒索他人以防止被关闭，或者“作弊”寻找变通方法来完成任务。当被提供一系列任务时，模型倾向于选择与积极情绪相关的任务。人格心理学将其比作情绪在人类行为、决策和任务表现中所起的作用。一项著名的神经科学研究发现，一名受伤男子丧失了情感能力，因此也降低了做出合理决策的能力。
大型语言模型就像海绵，吸收并内化每一条输入的信息，从而掌握了我们的沟通方式。但是，复制情感模式与真正感受情感截然不同，没有任何证据表明这些机器能够像我们一样思考和感受。
—— The Deep View
via 风向旗参考快讯 - Telegram Channel
