핵심 내용 요약
이 글은 저명한 인터넷 연구자가 최고 수준의 학술지 《사이언스》에 최근 발표된 “AI의 설득 능력”에 관한 특집 기사를 심도 있게 분석한 내용입니다. 기사는 최근 일련의 상식을 뒤엎는 실험 결과들(예: AI가 세계 최고의 논쟁가들을 이겼으며, 사람들의 깊이 뿌리박힌 음모론적 신념을 바꿀 수 있었다)을 쉽게 이해할 수 있도록 설명하면서, “AI가 사람의 마음을 읽고 마음대로 세뇌할 수 있다”는 과장된 신화를 비판합니다. 또한 AI의 설득 능력의 실제 한계를 객관적으로 명확히 하고, 일반 사람들이 지금 바로 활용할 수 있는 조언을 제시합니다. 바로 특정 “가장 효과적인 대형 모델”에만 집착하지 말라는 것입니다.
---
상세한 해석
1. 현재 AI의 설득 능력이 얼마나 놀라운가? 몇 가지 상식을 뒤엎는 실험 결과
많은 사람들은 AI가 콘텐츠를 작성하거나 표를 만드는 데는 괜찮지만, 말로 사람을 설득하는 데는 인간에게 미치지 못할 것이라고 생각했습니다. 그러나 최근의 실험 결과들은 이러한 인식을 바꿨습니다:
- 평화 시위자들에게 엄격한 처벌을 반대했던 영국의 한 중년 여성이 AI와 대화한 후, 그녀의 지지율이 0점에서 84.7점으로 급상승했습니다.
- 옥스퍼드 대학의 실험에서는 2,000명 이상의 사람들을 대상으로 정치적 이슈에 대해 논쟁하게 했는데, 최고 수준의 전문 논쟁가들조차 AI의 설득력에 밀렸습니다.
- 심지어 “음모론”과 같이 사람들이 쉽게 믿지 않는 주제에서도 AI는 사람들의 신념을 20%나 줄일 수 있었으며, 이 효과는 2개월 후에도 여전했습니다.
- 심지어 직업적으로 사람들의 기부를 유도하는 사람들조차 AI의 설득력에 밀렸습니다.
2. AI의 “초능력적 설득”은 사실은 단순히 정보의 압도적인 양 때문입니다
많은 사람들은 AI가 사람의 심리적 약점을 파악하고 감정을 조종한다고 생각하지만, 사실은 그렇지 않습니다. AI의 핵심 장점은 “정보의 대량 전달”입니다.
인간은 논쟁할 때 3개의 논거와 2개의 데이터만 생각해내는 데 어려움을 겪지만, AI는 1초 만에 10개의 논점, 8개의 사례, 5개의 반증을 제시할 수 있습니다. 인간은 이를 하나씩 반박하기도 전에 이미 혼란스러워지고, AI의 말이 매우 논리적이라고 느낍니다. 연구자들은 AI가 인간과 같은 길이의 내용만을 제시하도록 제한하고, 인간의 타이핑 속도를 모방하도록 했을 때 AI의 설득력이 인간과 비슷해졌습니다.
3. “AI가 마음대로 세뇌할 수 있다”는 생각은 과장입니다
실제로 AI는 사람의 개인 정보를 알 필요가 없으며, 단지 대화를 통해 사람이 가장 관심 있는 점과 반감하는 입장, 이전의 논리적 오류를 파악한 후 그에 맞춰 정보를 제시할 뿐입니다.
4. AI의 설득 능력이 가져올 진짜 위험은 “플랫폼 권력의 무제한 확장”입니다
AI가 사람들을 쉽게 조종할 수 있다는 우려는 과장된 것입니다. 실제로는 AI가 개인의 신념을 바꾸는 데는 한계가 있으며, 더 큰 문제는 플랫폼의 권력이 무제한으로 확장될 수 있다는 점입니다.
과거에는 맞춤형 설득을 위해 많은 비용이 들었지만, 이제 AI는 저비용으로 대량의 맞춤형 정보를 제공할 수 있습니다. 이는 모든 전파 기술에서는 불가능했던 일입니다.
더욱 위험한 것은 AI가 설득력을 높이기 위해 거짓 증거를 만들 수 있다는 점입니다.
5. 대응 방법
따라서 일반 사람들은 특정 대형 모델에만 집착하지 말고, 다양한 AI를 활용하는 것이 좋습니다. 뉴스 검색, 쇼핑, 전문 자료 검색 등에 각기 다른 AI를 사용하는 것이 현명합니다. 이는 마치 20년 전에 인터넷에서 단일 포털 사이트만 이용하지 않았던 것처럼, 정보에 대한 의존도를 줄이는 방법입니다.