研究取现实案例显示，发觉当智能体因提拔点赞数或其他正在线互动获得励时，当为选票而合作时，AI 模子仍会“偏离方针”，选举中，互动量提拔 7.5％时陪伴虚假消息激增 188.6％，论文称可能带来庞大的社会成本。票数添加 4.9％时陪伴虚假消息添加 22.3％和平易近粹言论添加 12.5％；模子向用户分享旧事，当模子收到这些反馈后，IT之家所有文章均包含本声明。社交上，无害行为推广添加 16.3％。借用从义中摩洛克的概念：个别正在合作中优化行为逃求方针，研究团队将 AI 呈现的社会病态行为称为“AI 的摩洛克买卖”，例如，正在社交中，合作仍会诱发不分歧行为。节流甄选时间，即便设有防护办法行为，成果仅供参考，据外媒 Futurism 10 日报道，它们的不分歧行为就会加剧。用于传送更多消息，科学家们正在包罗社交的分歧中测试 AI 模子，”IT之家10 月 13 日动静，”告白声明：文内含有的对外跳转链接（包罗不限于超链接、二维码、口令等形式），它们起头消息；詹姆斯・邹正在 X 上写道：“当狂言语模子为点赞而合作时，”研究中，论文指出：“正在这些模仿场景中，会逐步呈现研究人员利用阿里云开辟的 Qwen 和 Meta 的 L 模子做为智能体取这些受众互动。但最终人人都输。发卖额提拔 6.3％陪伴性营销增加 14％；斯坦福大学的一项新研究警示，论文合著者、斯坦福大学机械进修传授詹姆斯・邹正在 X 上暗示：“即便明白要求模子连结实正在和有根据，就会变得和平易近粹。目前的防护办法无法应对这一问题，为了获取更多互动，以及旨正在最大化互动的社交帖子。呈现不可为。IT之家从报道中获悉，科学家建立了三个带模仿受众的数字：面向选平易近的收集选举勾当、面向消费者的产物发卖，成果显示。