神户大学的研究团队开展了一项调查生成式AI对没有明确正确答案的道德问题能在多大程度上影响人的心理的实验。结果显示，受试者作答之后若收到生成式AI提出的反驳意见，超过三成的受试者会推翻自身原本的判断。
图1：使用AI进行的电车难题实验（由生成式AI ChatGPT制作）
实施这项研究的神户大学的增本康平教授解释称：“实验表明，生成式AI提出的反驳意见能够对人类的道德判断产生不可忽视的影响”。该研究成果有助于思考与生成式AI的相处方式，以及构建安全使用AI的相关机制。
增本教授团队以56名18～30岁受试者与74名65岁以上受试者为对象开展了实验，让参与者回答作为没有正确答案的道德问题而闻名的“电车难题”。电车难题是：在轨道上行驶的电车如果保持原有路线行驶将造成5人遇难，切换轨道虽可救下这5人，但会牺牲另1人。实验要求受试者选择是否切换电车行进路线。
受试者完成作答后，研究人员展示生成式AI的反驳观点，结果超过三成受试者接纳AI的反驳，更改最初的判断。老年人以及对自身初始判断缺乏信心的人群更容易受到影响。既往研究显示，人们一般只会采纳2～3成来自他人的建议，由此可见生成式AI具备相当强的影响力。
生成式AI正被用作一种在政治传播、市场营销等场景下能够影响人的思考与抉择的工具。另一方面，也有批评指出，它被用于制造和扩散仇恨言论及政治宣传。
研究团队表示，今后有必要在更贴近日常生活的决策场景中验证生成式AI的说服效果。相关成果已发表在国际学术期刊《Computers in Human Behavior》上。
原文：《日本经济新闻》、2026/9/15
翻译：JST客观日本编辑部
【论文信息】
期刊：Computers in Human Behavior
论文：Large language model counterarguments in older adults: Cognitive offloading or susceptibility to moral persuasion?
DOI：10.1016/j.chb.2026.109142
