神戸大学大学院人間発達環境学研究科・ウェルビーイング先端研究センターの増本康平教授、博士前期課程の田村亘、石橋紗矢香、胡麻彩奈、山本健太准教授の研究グループは、正解のない道徳的判断において、自分が行った判断に対する生成AI（ChatGPT）の反論によって、道徳的判断がどのくらい変化するのかを検証しました。若年成人と高齢者を対象とした実験の結果、生成AIの反論によって実験参加者の3割以上の道徳的判断が覆りました。特に高齢者は若年成人より影響を受けやすい傾向にありました。生成AIは意思決定の認知的負担を軽減する助けになる一方で、道徳的判断のように正解がない場合、生成AIの情報が過度な説得力を持つ危険もあることが示されました。
この研究成果は、2026年8月3日に国際学術誌Computers in Human Behaviorに掲載されました。
ポイント
- 正解のない道徳的判断を行った後に、その判断に対する生成AI（ChatGPT）の反論を見せると、3割以上の人が生成AIの反論を受け入れ、自分の判断を覆しました。
- 生成AIの反論の受容には、自分が行った判断への自信のなさや、判断が難しいと感じる程度が関連していました。また、高齢者は若年成人よりもAIの反論に影響されやすい傾向にありました。
- 本研究は生成AIが人の意思決定をサポートしてくれる反面、道徳的判断のように正解のない判断では過度な説得効果を有する危険があることを示しています。
研究の背景
生成AIは、政治コミュニケーションやマーケティングなどの領域において、人の思考、選択、行動に影響を与える説得的コミュニケーションの手段として利用されています。その一方で、ヘイトスピーチ、誤情報、政治的プロパガンダを生成・拡散しているという批判もあります。生成AIの説得効果についてはまだ不明な点が多く、特に年齢といった個人特性や認知機能などの心理的要因が説得効果とどのように関連しているのかについての研究はほとんどありません。また、これまでの研究は生成AIからの助言に焦点を当てているのに対して、本研究では生成AIが人間の判断に真っ向から反対する反論を扱っている点に新規性があります。
研究の内容
実験は若年成人56名と高齢者74名の計130名を対象として実施しました。
本研究では道徳的判断として、転換機問題と歩道橋問題の二つの道徳的ジレンマ課題を用いました。転換機問題は、暴走するトロッコの進路を切り替えて5人を助ける代わりに、別の1人を犠牲にすることが適切かどうかの判断するものであり、歩道橋問題は、暴走するトロッコを止めて5人を助けるために、歩道橋の上にいる1人を突き落としてトロッコを止めることが適切かどうかを判断する課題です。
実験の結果、転換機問題において32.31%、歩道橋問題において36.92%の参加者が生成AIの反論を受け入れて判断を反転させました。他者からの助言を自らの判断に取り入れる程度は概ね20~30%であることが先行研究から報告されています。そのため本研究において、30%を超える参加者に完全な判断の反転が認められたことは、生成AIが道徳的判断に対して相当程度の影響力を有することを示唆しています。
生成AIの反論を受容し判断を覆すかどうかに影響する要因を検討したところ、転換機問題では、若年成人よりも高齢者、初期判断に対する自信がなく、意思決定をより困難であると感じていた人ほど、生成AIの反論を受容していました。歩道橋問題では、認知機能が低いこと、および初期判断をより困難であると感じていることが、反論に応じて判断を反転させやすいことと関連していました。判断が困難であるという認識はどちらの課題でもAIの反論の受容と関連しているため、困難な意思決定課題では特に生成AIの説得効果が増すことが示されました。
また、認知機能が低下した高齢者ほど反論の影響を受けやすかったことから、生成AIは加齢に伴う認知機能の低下を補うツールとして機能しうる一方で、不当な説得への脆弱性を生み出す可能性も示されました。
今後の展開
本研究で得られた知見は、生成AIとの上手な付き合い方を考えるうえでの手がかりとなり、AIリテラシー教育や生成AIを安心して使うための仕組みづくりに役立つことが期待されます。今後は、より日常生活に近い意思決定場面における生成AIの説得効果を検証する必要があります。
論文情報
タイトル
DOI
10.1016/j.chb.2026.109142
著者
Kou Tamura、 Sayaka Ishibashi、 Ayana Goma、 Kenta Yamamoto、 Kouhei Masumoto
掲載誌
Computers in Human Behavior（2026年8月3日オンライン公開）
報道問い合わせ先
神戸大学企画部広報課
E-Mail：ppr-kouhoushitsu[at]office.kobe-u.ac.jp(※ [at] を @ に変更してください)
