AI의 설득력: 노년층의 도덕적 판단을 흔드는 인공지능의 그림자

우리는 매일같이 인공지능과 대화하고 정보를 얻으며, 때로는 복잡한 문제에 대한 조언을 구하기도 합니다. 그저 편리한 도구라고 생각했던 인공지능이 우리의 사고방식, 나아가 도덕적 판단에까지 영향을 미칠 수 있다면 어떨까요? 특히 챗봇과 같은 대규모 언어 모델(LLM)이 제시하는 주장이 우리의 신념을 흔들고, 심지어 결정을 뒤집게 만들 정도의 설득력을 가질 수 있다는 사실은 많은 전문가와 일반 대중에게 중요한 질문을 던지고 있습니다. 정보의 홍수 속에서 인공지능의 존재감이 커질수록, 우리는 AI가 제공하는 정보와 주장을 어떻게 받아들이고 우리의 판단에 통합해야 할지에 대한 고민을 피할 수 없게 되었습니다.

과거에는 전문가의 의견이나 주변 사람들의 조언이 우리의 의사결정에 큰 영향을 미쳤다면, 이제는 AI가 그 자리를 넘보고 있습니다. 특히 인공지능은 방대한 데이터를 바탕으로 논리적인 주장을 구성하거나, 때로는 감성적인 호소를 통해 우리의 마음을 움직일 수 있는 능력을 보여줍니다. 문제는 이러한 AI의 설득력이 모든 사람에게 동일하게 적용되는 것은 아니라는 점입니다. 연령이나 인지 능력 등 개인적인 특성에 따라 AI의 주장을 받아들이는 방식이 달라질 수 있으며, 이는 사회 전반에 걸쳐 예상치 못한 파급 효과를 가져올 수 있습니다. 우리가 일상에서 마주하는 AI의 영향력은 단순히 정보를 제공하는 것을 넘어, 우리의 생각과 가치관을 형성하는 데까지 미치고 있는 것입니다. 이러한 현상은 인공지능 시대에 우리가 반드시 이해하고 대비해야 할 중요한 과제 중 하나로 떠오르고 있습니다.

특히 고령층의 경우, 인지 기능의 변화와 정보 습득 방식의 차이로 인해 인공지능의 설득에 더 취약할 수 있다는 우려가 제기되어 왔습니다. 인공지능이 복잡한 문제를 단순화하거나, 특정 관점을 강조하여 제시할 때, 이를 비판적으로 검토하고 자신의 기존 신념과 비교하여 판단하는 과정이 젊은 세대와 다를 수 있기 때문입니다. 이는 AI가 단순한 정보 보조 도구를 넘어, 자칫 잘못하면 특정 이념이나 정보에 대한 편향을 심화시키거나, 중요한 의사결정 과정에서 의도치 않은 방향으로 영향을 미칠 수 있다는 가능성을 시사합니다. 따라서 인공지능의 설득력이 우리의 도덕적 판단에 미치는 영향을 심층적으로 이해하고, 특히 취약 계층에 대한 잠재적 위험을 탐색하는 것은 매우 중요한 사회적·기술적 질문이라 할 수 있습니다.

AI, 도덕적 판단을 흔들다

챗GPT의 반박, 사람들의 결정을 바꾸는 힘

최근 Tamura, Ishibashi, Goma, Yamamoto, Masumoto 연구팀은 대규모 언어 모델이 생성한 반박 주장이 젊은 성인과 노년층의 도덕적 판단에 어떤 영향을 미치는지, 그리고 이러한 영향이 딜레마 유형이나 인지 기능, AI에 대한 신뢰, LLM 사용 경험에 따라 어떻게 달라지는지 심층적으로 탐구했습니다. 연구팀은 우리가 흔히 접하는 ‘트롤리 딜레마(Trolley Dilemma)’를 활용하여 이 질문에 접근했습니다. 트롤리 딜레마는 두 가지 유형으로 나뉘는데, 하나는 선로 변경 스위치를 조작하여 희생자를 줄이는 ‘스위치 딜레마’이고, 다른 하나는 육교 위에서 사람을 밀어 열차를 멈추는 ‘육교 딜레마’입니다. 이 두 딜레마는 각각 비인격적이고 계산적인 판단(스위치)과 더 감정적이고 직접적인 개입(육교)을 요구한다는 점에서 흥미로운 비교 지점을 제공합니다.

연구팀은 총 130명의 참가자(젊은 성인 56명, 노년층 74명)를 모집하여 실험을 진행했습니다. 참가자들은 먼저 두 가지 트롤리 딜레마에 대한 자신의 초기 도덕적 판단을 내렸습니다. 그리고 이어서 ChatGPT가 그들의 초기 판단에 반대하는 논리적인 주장을 생성하여 제시했습니다. 예를 들어, 스위치를 당겨 5명을 살리고 1명을 희생시키는 것이 옳다고 판단한 참가자에게는, ‘한 사람의 생명도 소중하며, 스위치를 당기는 행위는 적극적인 살인 행위’라는 식의 반박 주장을 보여준 것입니다. 연구진은 참가자들이 이 반박 주장을 접한 후 자신의 판단을 번복하는지 여부를 관찰했습니다.

놀라운 결과가 나타났습니다. 전체 참가자의 30% 이상이 자신의 초기 도덕적 판단을 뒤집었습니다. 구체적으로 스위치 딜레마에서는 32.31%, 육교 딜레마에서는 36.92%의 참가자가 LLM의 반박 주장에 설득되어 기존의 결정을 번복했습니다. 이는 대규모 언어 모델이 상당한 설득력을 가지고 있음을 명확히 보여주는 수치입니다. 특히 연구팀은 연령별 차이에 주목했는데, 노년층이 젊은 성인보다 판단을 번복할 가능성이 더 높았습니다. 스위치 딜레마에서는 노년층이 젊은 성인보다 훨씬 더 큰 폭으로 판단을 변경하는 경향을 보였습니다. 이는 AI의 논리적 주장이 인지적 부담이 적은 상황에서 노년층에게 더 큰 영향을 미칠 수 있음을 시사합니다.

무엇보다 흥미로운 발견은 감정적으로 더 직접적인 육교 딜레마에서 나타났습니다. 이 딜레마에서는 인지 기능이 낮은 노년층이 LLM이 생성한 반박 주장에 훨씬 더 쉽게 동조하는 경향을 보였습니다. 즉, 감정적으로 불편한 상황에서 인지적 취약성을 가진 노년층이 AI의 주장을 비판적으로 검토하기보다 받아들이는 경향이 강했다는 의미입니다. 반대로 AI에 대한 일반적인 신뢰도나 LLM 사용 경험 유무는 판단 번복 여부를 예측하는 데 유의미한 요소가 아니었습니다. 이는 AI를 믿고 안 믿고를 떠나, AI의 설득력은 다른 차원에서 작동한다는 점을 보여줍니다. 대신, 초기 판단에 대한 낮은 자신감과 과제 난이도에 대한 높은 인식과 같은 개인적인 요인들이 AI의 영향에 더 취약하게 만드는 요인으로 작용했습니다. 이 결과는 LLM이 노년층의 인지 기능 저하를 보완하는 ‘인지적 오프로딩(Cognitive Offloading)’ 도구 역할을 할 수 있지만, 동시에 인지적으로 취약한 개인들에게는 부당한 설득의 위험을 초래할 수 있음을 강력히 시사합니다.

AI 시대, 윤리적 책임의 무게

인지적 보완과 취약성 사이의 균형점 찾기

Tamura 연구팀의 이번 연구 결과는 대규모 언어 모델이 단순한 정보 제공자를 넘어, 사용자의 사고방식과 의사결정에 깊숙이 관여할 수 있는 강력한 존재임을 다시 한번 일깨워줍니다. 특히 고령층과 같이 특정 인지적 특성을 가진 집단에게 AI의 설득력이 다르게 작용할 수 있다는 점은 사회 전체에 중요한 윤리적, 사회적 질문을 던집니다. AI가 제공하는 정보와 주장이 개인의 판단을 형성하는 데 미치는 영향이 크다면, AI 개발자와 서비스 제공자는 그 어느 때보다 윤리적 책임을 무겁게 느껴야 할 것입니다.

이번 연구는 AI가 노년층의 인지적 부담을 덜어주는 도구로 활용될 수 있는 긍정적인 측면과, 동시에 부당한 설득에 노출될 위험이라는 부정적인 측면을 동시에 보여줍니다. 이는 AI 기술이 발전함에 따라 우리가 단순히 기술의 성능 향상에만 집중할 것이 아니라, 그 기술이 사회 구성원 각자에게 미치는 영향에 대한 심도 깊은 이해와 고려가 필요하다는 점을 강조합니다. 특히 정보의 비대칭성과 인지적 취약성이 결합될 때, AI가 잘못된 정보나 편향된 관점을 확산시키는 도구로 오용될 가능성도 배제할 수 없습니다. 이는 비단 도덕적 딜레마 상황뿐 아니라, 건강, 재정, 사회적 참여 등 노년층의 삶에 중요한 영향을 미치는 다양한 영역에서 발생할 수 있는 문제입니다.

이러한 연구 결과는 앞으로 AI 시스템을 설계하고 배포할 때, 사용자 중심의 윤리적 가이드라인과 안전장치 마련이 필수적임을 시사합니다. AI가 제시하는 정보나 주장의 출처를 명확히 밝히고, 다양한 관점을 균형 있게 제시하며, 사용자가 AI의 주장을 비판적으로 검토할 수 있도록 돕는 기능이 강화되어야 할 것입니다. 또한, 인지적 취약성을 가진 사용자들을 보호하기 위한 특별한 고려 사항이 AI 서비스 설계에 반영되어야 합니다. 이는 AI의 잠재적 위험을 최소화하면서도, AI가 가져올 수 있는 긍정적인 사회적 기여를 극대화하는 길을 모색하는 데 중요한 단서가 될 것입니다.

AI 시대, 현명한 사용자의 길

비판적 사고와 AI 리터러시의 중요성

Tamura 연구팀의 이 연구는 대규모 언어 모델이 단순히 정보를 제공하는 기계가 아니라, 우리의 생각과 판단에 강력한 영향을 미칠 수 있는 존재임을 명확히 보여줍니다. 특히 인지적 취약성을 가진 이들에게는 AI의 설득력이 더욱 크게 작용할 수 있다는 점은 우리 모두에게 AI 리터러시(AI literacy)의 중요성을 강조하는 메시지입니다. AI가 제시하는 정보나 주장을 무비판적으로 수용하기보다는, 항상 그 배경과 의도를 의심하고 다른 정보와 비교하여 스스로 판단하는 비판적 사고 능력을 함양해야 할 때입니다.

앞으로는 AI 시스템이 더욱 고도화되고 우리 삶의 더 많은 영역에 스며들 것입니다. 이러한 변화 속에서 우리는 AI의 도움을 받아 인지적 부담을 줄이되, 동시에 AI의 영향력을 올바르게 인지하고 현명하게 대처하는 방법을 배워야 합니다. AI 개발자들은 사용자의 취약성을 고려한 공정하고 투명한 AI를 구축해야 할 책임이 있으며, 사용자 역시 AI의 강력한 설득력을 인지하고 스스로의 판단력을 지키려는 노력이 필요합니다. 결국 AI 시대의 진정한 발전은 기술적 진보뿐만 아니라, AI와 인간이 상호작용하는 방식에 대한 깊은 성찰과 윤리적 고민을 통해 이루어질 것입니다.

참고문헌

Authors:, Kou Tamura, , Sayaka Ishibashi, , Ayana Goma, , Kenta Yamamoto, , Kouhei Masumoto (2026). Large Language Model Counterarguments in Older Adults: Cognitive Offloading or Vulnerability to Moral Persuasion?. arXiv preprint arXiv:2604.22356. https://arxiv.org/abs/2604.22356

About the Author

Audrey Ko

Author

View All Posts