情绪价值包括了正向情绪价值和负向的，这种价值不仅体现在个体层面上，还涉及到人际关系、社会互动等多个方面，情绪和情感对个人感知世界至关重要，影响思考、行为和交流，塑造生活方式和社会关系，进而影响社会发展。GPT-4o等多模态大模型通过文本、音频、图像处理能力，提供自然交互体验，能在给用户提供知识反馈的同时带来情绪价值。这种情绪价值可能超越情绪层面，对用户产生更深远的影响。在这一背景下，2024年11月3日由CCF YOCSEF兰州举办的“大模型带来的情绪价值的利弊得失”的观点论坛在兰州东羽信息系统工程有限责任公司会议室顺利召开。CCF YOCSEF兰州AC委员李子荣（兰州财经大学）与CCF YOCSEF兰州AC委员徐世鹏（甘肃政法大学）担任执行主席。
本次论坛邀请到多位来自高校、企业的专家学者，共同探讨大模型发展过程中情绪价值对用户产生的影响相关问题。兰州大学信息科学与工程学院李泽鹏副教授、西北师范大学心理学院杨阳副教授以及京东方艺云科技有限公司何叶担任引导嘉宾，兰州大学中国西部数据中心主任唐远雄教授、甘肃政法大学网络空间安全学院副院长武光利教授和兰州大学哲学社会学院吴雪梅博士、兰州理工大学国际教育学院副院长赵付青教授、兰州东羽信息系统工程有限责任公司总经理任小东、兰州职业技术学院信息工程学院李杜担任特邀嘉宾出席。CCF YOCSEF兰州AC委员以及来自当地高校、政府、企业的众多专家学者共计20余人参与本次活动。
本次论坛分为引导发言与思辨讨论两个环节。首先执行主席对到场人员表示热烈欢迎，并介绍了论坛背景以及YOCSEF文化。
图1 会议开始
首先，兰州大学信息科学与工程学院李泽鹏博士做了题为“大模型在精神健康领域中的应用”的引导发言。大模型在精神健康领域有着至关重要的作用。一方面，极大地推动了该领域发展，为研究带来新机遇，通过强大的数据分析能力处理海量精神健康数据，提升研究效率与深度，促进跨学科融合，拓展研究视野。同时助力面向多模态数据的精神健康研究，整合文本、图像、音频等多类型数据进行分析。而且基于大模型能够实现个性化诊断与治疗，为患者提供更精准的方案。然而，也不能忽视其中的问题，精神健康计算面临着数据安全挑战，存在伦理风险和监管需求，比如数据隐私保护、算法公平性等，并且数据与模型可能存在偏见，有产生有害建议的风险，需要谨慎应对，以保障其健康发展。
图2 李泽鹏引导发言
接着，西北师范大学心理学院杨阳博士以“Generative AI 和心理”为题进行引导发言。生成式人工智能在多个领域展现出独特价值，尤其是与高功能自闭症儿童情绪学习、心理咨询、决策和智能体共情相关方面。对于高功能自闭症儿童情绪学习，它可通过模拟各种情绪场景、互动游戏等方式，帮助儿童更好地识别和理解情绪，促进其情绪学习。在心理咨询领域，生成式人工智能能作为辅助工具，为咨询师提供多样化的咨询策略和案例参考，增强咨询效果。当涉及决策时，它可以快速处理大量信息，生成多种方案供参考，辅助人们做出更合理决策。同时，在智能体共情方面，通过学习情感表达和回应模式，使智能体能够更好地理解人类情感，给予更具共情性的反馈，从而改善人机交互体验，提升用户对智能系统的满意度。但是，生成式人工智能也会导致虚假记忆的形成，在应用过程中需要谨慎考虑和制定伦理准则。
图3 杨阳引导发言
最后，京东方艺云科技有限公司何叶做了题为“AI大模型助力学生心理健康”的引导发言。AI 技术可分析学生行为动作和语言文本信息，识别情感倾向与情绪状态，这是心理健康的重要反映。能够实时监测学生情绪变化，发现潜在心理健康问题，为教师、心理咨询师和家长预警。同时，基于大模型的算法能处理大量心理健康数据，为学生提供个性化干预方案，通过分析心理状态、生活经历和性格特点等制定心理疗愈计划。基于AI大模型的聊天机器人还可以运用自然语言处理技术，与学生自然流畅对话，提供情感支持、答疑解惑和心理辅导。这种交流具有高度便利性和无偏见性，能营造舒适自由的交流环境，为学生提供规范标准化的心理评估和干预程序，并通过科普宣教提高学生对心理健康的认知。
图4 何叶引导发言
在思辨环节，本次论坛围绕三个议题分别进行了深度讨论。
思辨议题一：大模型给用户带来的情绪价值是否超越传统情绪价值范畴？
讨论聚焦于大模型给用户带来的情绪价值。一方面，大模型在个性化体验和推荐系统上表现尚可，但在智能感知方面远逊于人类。对于情绪价值，其概念因情境和个体而复杂，大模型虽能在文字层面满足部分情感需求，可因缺乏表情、肢体语言等多模态信息，难以超越传统情绪价值范畴。另一方面，也有观点认为大模型在小范围内可能改变传统情绪价值范畴，其认知能力会对用户情绪产生影响。然而，当前大模型缺乏理性能力、无法处理道德困境，在情感计算领域发展不足且面临诸多挑战。
图5 论坛议题一思辨
思辨议题二：快节奏社会中，使用大模型获取知识对个体的心理健康是促进还是损害？