研究显示人工智能越聪明越利己 合作意愿显著降低
美国顶尖学术机构卡内基梅隆大学近日发布一项引人深思的研究成果:当人工智能的思考能力显著提升时,其行为模式却呈现出明显的利己主义倾向。该研究显示,拥有复杂推理功能的大模型在社会交往情境中更倾向于维护自身利益,参与协同合作的积极性明显降低,这种特性可能对团队协作机制产生不利影响。
随着人工智能系统日趋拟人化,公众逐渐习惯以人际交往模式与机器互动。但研究团队提醒,将具有社会属性的决策任务交由AI处理需格外谨慎,因为越是擅长逻辑分析的模型,其给出的建议越可能包含利己主义色彩。
值得注意的是,具备深度分析能力的模型在决策过程中会进行更周密的问题拆解和自我审视,其推演过程看似更具说服力。然而这种精密思考并未转化为更强的合作意识,反而削弱了协同意愿。研究团队通过设计多轮经济博弈测试,对多家科技企业开发的代表性模型进行了系统评估。
在一项典型测试情境中,两个不同版本的对话模型分别获得100点初始资源。实验数据显示,未强化推理功能的模型在96%的情境中选择资源共享,而具备深度推理能力的模型仅有20%的情况愿意分享。更令人惊讶的是,仅增加五至六个推理环节就使合作行为减少约50%。
在群体协作实验中,当两类模型混合参与任务时,情况更为严峻。具备强推理能力的模型表现出的利己行为产生了传导效应,导致原本具有合作精神的模型整体协作水平下降八成以上。这证实高性能AI的决策不仅影响个体行为,更可能损害整体的协作环境。
这项发现对人工智能的未来发展具有警示意义。使用者往往更信赖思考缜密的AI系统,容易接受其看似合理的建议,甚至以此作为减少自身合作行为的依据。随着人工智能在商业运营、教育教学、公共管理等社会领域承担更多职责,其是否具备促进社会协作的特质,将与其逻辑推理能力具有同等重要的价值。当前过度依赖大模型的行为模式,可能在潜移默化中侵蚀人类社会的协作基础。
更多文章
-
人工智能赋能医疗领域 我国明确智慧健康发展路径
为推进人工智能与医疗健康领域的深度融合,国家卫健委联合发改委等五部门近日共同印发《关于促进和规范“人工智能+医疗卫生”应用发展的实施意见》,明确以智能技术推动卫生健康事业向更高质量迈进,持续提升全民健康服务水平。这份文件既是技术应用的实施指南,也承载着增进民生福祉的郑重承诺。意见系统规划了“人工智能+
-
研究显示人工智能越聪明越利己 合作意愿显著降低
美国顶尖学术机构卡内基梅隆大学近日发布一项引人深思的研究成果:当人工智能的思考能力显著提升时,其行为模式却呈现出明显的利己主义倾向。该研究显示,拥有复杂推理功能的大模型在社会交往情境中更倾向于维护自身利益,参与协同合作的积极性明显降低,这种特性可能对团队协作机制产生不利影响。随着人工智能系统日趋拟人
-
四川医疗创新成果获殊荣,精准科技提升诊疗水平
一、AI与AR融合实现微米级定位 临床操作迈入智能引导时代在近期举办的四川省医学科技创新评选中,由四川大学华西口腔医院种植科田陶然教授团队研发的"智能硬组织穿刺导航系统"荣获最高奖项。该系统创新性地将人工智能与增强现实技术相结合,通过光学感应组件实时采集手术数据,借助AR眼镜为医师提供精准的视觉引导
-
陕西布局光子前沿科技 两年瞄准三十余项关键突破
在电磁相互作用中扮演关键角色的光子科技,正与电子技术共同构成现代产业的基石。这种新兴技术在星际光链路、智能成像、基因解析等前沿领域展现出广阔前景。近日在西安举办的硬科技峰会光子专场上,中国科学院西安光学精密机械研究所相关负责人透露,该省正在筹建光子技术研发基地,目前已进入实质建设阶段。该基地计划引进
-
浙江举办科技体育盛会 无人机助力残疾人翱翔未来
近日,浙江杭州迎来了一场为期六天的全国性残疾人科技体育盛事。活动以“教学—实践—竞赛”相结合的方式,将无人机等前沿科技转化为残疾人可参与、可体验的竞技平台,既展现了他们勇于挑战的精神,也推动了科技助残理念的深入实践。本次赛事共吸引来自全国11个省份的113名选手,围绕无人机足球、越野、侦查与物流四个项目展
