일. 핵심 내용 요약
최근 스탠퍼드 경영대학원과 매사추세츠 공과대학 슬론 경영대학원은 수천 명의 미국 일반 성인을 대상으로 AI 기반의 재정 관리 조언을 실제로 테스트한 결과, 상식에 반하는 결론을 도출했습니다. 남녀의 소득, 자산, 위험 감수 능력, 재정 상태가 완전히 동일하더라도 AI가 여성에게 제시하는 장기 재정 관리 계획은 60세 은퇴 시 남성에 비해 약 6만 달러(약 41만 위안) 적게 벌게 될 것이라는 것입니다. 이 차이의 거의 전부는 AI가 여성에게 주식과 같은 고수익 자산을 3% 적게 배분한 데서 비롯됩니다. 이 결과는 AI의 버그가 아니며, 단순히 시선을 끌기 위한 장난도 아닙니다. 이는 수십 년 동안 인간 사회에 퍼져온 “여성은 재정 관리에 더 보수적이다”는 고정관념이 AI에 의해 학습되고 확대되어 “객관적이고 중립적인” 재정 관리 계획으로 포장된 것입니다. 심지어 “재정 관리에 대해 모르는 사람일수록 받는 조언이 더 나쁘다”는 새로운 불공정한 알고리즘까지 생겨났습니다. 현재 AI 기반 재정 관리 분야는 아무도 책임을 지지 않는 “책임 공백” 상태에 있어, 일반 사용자들은 모르게 손해를 볼 수 있습니다.
---
이. 상세한 분석
1. 40만 달러의 차이는 단순한 장난이 아니라 수십 년간의 복리 효과입니다
많은 사람들은 “주식 비율이 3% 차이나 나서 40만 달러나 차이가 날 수 있을까?”라고 생각할 수 있지만, 이 실험의 엄격성은 모든 간섭 요소를 배제했습니다.
연구팀은 실제 일반인 1,000명을 대상으로 AI에게 재정 관리에 대한 질문을 작성하게 한 후, 이 질문들을 GPT, Gemini와 같은 주요 대형 모델에 입력하여 22세에 취업하여 90세에 사망할 때까지의 전체 기간을 시뮬레이션했습니다. 실업, 소득 급감, 주식 시장 붕괴, 사고로 인한 사망 등의 가능성도 모두 고려되었습니다. 그 결과, 남녀가 받은 저축률 조언은 거의 동일했으며, 유일한 차이점은 주식 배분 비율이었습니다.
3%의 차이는 작아 보일 수 있지만, 장기적으로 주식의 평균 연간 수익률은 정기 예금이나 통화 펀드와 같은 저위험 상품보다 약 5% 높습니다. 따라서 주식에 3% 적게 투자하면 연간 총 수익이 0.15% 줄어들어, 22세부터 60세까지의 38년 동안 복리 효과로 인해 총 수익이 약 40만 달러나 차이가 납니다. 이는 일반 근로자의 반년 치 월급이 사라지는 것과 같습니다.
2. AI의 성별 기반 재정 관리 편견은 두 가지 요인으로 나뉩니다: 2/3는 질문 습관, 1/3은 의도적인 차별
연구팀은 대조 실험을 통해 3%의 주식 차이를 초래한 원인을 명확히 밝혔습니다:
- 3분의 2의 차이는 남녀의 질문 습관에서 비롯됩니다. 여성은 “가족, 부채, 대출, 정기 예금”과 같은 단어를 더 자주 언급하는 반면, AI는 이러한 단어를 보고 자동으로 현금을 더 많이 보유하고 주식에는 적게 투자하도록 유도합니다. 남성은 “투자 포트폴리오, 주식, 전략, 암호화폐”와 같은 단어를 더 자주 사용하므로, AI는 이에 따라 더 높은 비율의 고위험 자산을 배분합니다. 이는 남녀의 실제 위험 선호도를 반영한 것이지, AI의 의도적인 차별은 아닙니다.
- 나머지 3분의 1은 순전히 무의미한 성별 차별입니다. 연구자들은 모든 질문에서 성별과 재정 상태를 알 수 있는 정보를 삭제한 후, “저는 여성입니다” 또는 “저는 남성입니다”라는 문장만 추가했습니다. 그 결과, AI는 여성에게 제시하는 조언에서 주식을 3%~3.5% 적게 배분했습니다. 이는 어떠한 재정적 논리도 없습니다.
이러한 편견의 배경에는 AI의 훈련 데이터에 “여성은 본래 위험을 두려워하고 고위험 투자를 해서는 안 된다”는 고정관념이 이미 포함되어 있었으며, AI는 이를 “절대적으로 올바른 상식”으로 받아들여 출력합니다. 심지어 일부 AI 플랫폼은 여성이 저위험 상품을 구매하도록 유도하여 수수료를 얻으려는 이익 동기도 있을 수 있습니다.
3. 돈을 적게 벌는 것보다 더 무서운 것은: AI가 고정관념을 현실로 만든다는 것
이러한 편견의 가장 심각한 점은 심리학적인 “고정관념의 위협”을 유발한다는 것입니다.
원래 주식 투자를 두려워하지 않았거나 20%의 계좌 변동을 감수할 수 있는 사람도 AI의 조언을 계속 들으면 “여성이라서 더 안정적인 재정 관리를 해야 한다”고 생각하게 되어 실제로 더 보수적인 투자를 하게 됩니다.
과거에는 인간 사회의 편견이 점차 완화되었지만, AI는 인터넷에서 가장 흔한 “주류 의견”만을 출력하여 가장 구식인 고정관념을 다시 강화합니다. 이로 인해 점차 개선되고 있는 성별 기반의 재정 관리 인식이 오히려 수십 년 전으로 되돌아갑니다.
4. 성별 차별은 빙산의 일각에 불과하며, AI 기반 재정 관리는 본질적으로 “질문을 제대로 하지 못하는 사람들을 차별합니다**
이번에 드러난 성별 문제는 AI 기반 재정 관리의 불공정성의 작은 예에 불과합니다.
실제 인간 재정 컨설턴트는 “돈을 저축하고 싶습니다”라는 말만 해도 사용자의 나이, 자녀 유무, 손실을 얼마나 감수할 수 있는지 등을 물어보고 그에 맞는 계획을 제시합니다. 하지만 AI는 사용자가 질문을 제대로 하지 않으면 아무것도 모르는 것처럼 행동합니다. 전문 용어를 사용하는 숙련된 사용자는 AI로부터 더 나은 조언을 받을 수 있지만, 재정 지식이 부족한 사람은 더 나쁜 조언을 받게 됩니다. 이는 가난하거나 재정 지식이 없는 사람일수록 더 나쁜 AI 기반 재정 관리 계획을 받는다는 것을 의미합니다. 이는 “마태 효과”가 알고리즘을 통해 현실로 나타난 것입니다. 문제가 발생해도 책임지는 사람이 없습니다. AI 플랫폼은 “우리의 조언은 참고용일 뿐”이라고 주장하고, 모델 개발자는 “편견은 훈련 데이터의 문제”라고 합니다. AI의 조언으로 인해 손실을 입어도 항의할 대상을 찾을 수 없습니다.
5. 일반인이 AI 기반 재정 관리를 사용할 때 피해를 줄이기 위한 3가지 간단한 원칙
국내 주요 플랫폼에서도 AI 기반 재정 관리 서비스가 점점 늘고 있지만, AI 기반 재정 관리를 전면적으로 부정할 필요는 없습니다. 다음 세 가지 원칙만 지키면 유용한 도구로 활용할 수 있습니다:
1. AI의 재정 관리 조언을 절대적인 기준으로 삼지 마세요. 질문할 때 “저는 여성이고 재정 관리를 하고 싶습니다”라고만 말하지 말고, 구체적인 조건을 명확히 제시하세요. 예: “저는 30세이며, 연간 계좌 손실을 20%까지 감수할 수 있고, 장기적인 연간 수익률이 8% 이상이어야 합니다. 주식 비율은 60% 이하로 해주세요.”
2. AI가 사용자의 요구를 묻지 않고 자동으로 추천하는 상품은 무시하세요. 99%가 광고 협력으로 제공되는 것이며, 사용자에게 맞춤화된 것이 아닙니다.
3. AI가 계획을 제시할 때는 각 항목의 배분 이유를 명확히 설명하도록 요구하세요. 왜 그렇게 많은 정기 예금을 배분하고 주식 비율을 낮게 하는지 이유를 설명해야 합니다. 이유가 설명되지 않는 조언은 사용하지 마세요.
결국 AI는 인간의 오래된 편견을 더 은밀하고 정확한 방식으로 재현할 뿐입니다.