핵심 내용 요약
초기에는 중미의 대기업들이 AI 사용을 강제로 확대하고 토큰 소비량을 경쟁적으로 비교했지만, 이제는 토큰 사용을 제한하며 더욱 절약적인 방식을 모색하고 있습니다. 이러한 변화의 겉보기에는 정책의 180도 전환처럼 보이지만, 실제로는 AI에 대한 인식이 “기술적 믿음”에서 “비즈니스적 계산”으로 회귀하고 있습니다. 기업들은 AI 투자(토큰 비용, 숨겨진 비용)가 실제 수익을 훨씬 초과한다는 것을 깨달았으며, “슈퍼 개인”의 신화도 비용과 위험 문제로 인해 현실화되기 어렵다고 판단하여 AI 사용을 보다 세밀하게 관리하기로 결정했습니다.
상세한 분석
#### 1. 더 이상 토큰 소비량으로 경쟁하지 않는다: 많이 사용한다고 해서 효율적인 것은 아니다
이전에 대기업들은 “토큰 소비량”을 핵심 성과 지표(KPI)로 삼았으며, 직원들이 AI를 많이 사용할수록 더 혁신적이고 효율적이라고 생각했습니다. 하지만 이는 착각이었습니다. 직원들은 업무를 완수하기 위해 AI에게 쓸모없는 긴 문장을 작성하거나 반복적으로 잘못된 코드를 생성하도록 했으며, 그 결과 토큰 비용이 크게 증가했지만 회사의 수익이나 연구 개발 효율성에는 변화가 없었습니다.
예를 들어, 마이크로소프트의 초기 제품인 Copilot의 경우, 고도로 사용하는 사용자들이 하루에 소모하는 컴퓨팅 비용이 월간 구독료(30달러)를 훨씬 초과했습니다. 또한 한 SaaS 기업은 고객에게 AI 기능을 무료로 제공했지만, 사용자들이 50단어 분량의 메모를 1500단어 분량의 계획서로 확장하도록 요구하여 개인당 하루 비용이 8달러(월 240달러)에 달했고, 결국 컴퓨팅 비용이 3000달러에서 16만 달러로 급증하여 파산하게 되었습니다.
스탠퍼드와 MIT의 연구에 따르면 기업들의 AI 시범 프로젝트 중 95%가 측정 가능한 재무적 수익을 창출하지 못했으며, 실제 가치를 창출한 경우는 극소수에 불과했습니다.
#### 2. AI의 오류는 기업이 감당해야 한다: 보이지 않는 숨겨진 비용
토큰 비용은 빙산의 일각에 불과합니다. 더 큰 문제는 AI가 초래하는 고객 불만과 홍보 위기입니다.
예를 들어, 에어 캐나다(Air Canada)의 AI 고객 서비스가 “사별 시 항공권 비용을 환불해준다”고 잘못 약속했다가 소송에 휘말렸습니다. 에어 캐나다는 AI가 독립적인 법적 주체라고 주장했지만, 법원은 회사가 책임을 져야 한다고 판결했습니다. 또한 DPD의 AI 고객 서비스가 사용자에게 조작당해 회사를 비난하는 시를 작성하거나 욕설을 하여 전 세계적으로 화제가 되었고, 회사는 긴급히 시스템을 중단해야 했습니다.
이러한 숨겨진 비용(배상, 홍보 대응, 수정 비용)은 AI가 절약하는 인력 비용보다 훨씬 높아서 기업들은 AI를 관리하기 위해 더 많은 비용을 들여야 합니다.
#### 3. 사실상 AI는 인간보다 비쌀 수 있다: 한 그릇의 밥과 수많은 GPU의 비용
많은 사람들이 AI가 인간보다 저렴하다고 생각하지만, 이는 잘못된 인식입니다. 인간은 한 그릇의 밥과 커피(20와트의 에너지)로 하루 종일 복잡한 작업을 할 수 있습니다. 반면 AI의 Transformer 아키텍처는 모든 상호작용이 매우 비용이 많이 듭니다:
- 주의력 메커니즘: 사용자가 100단어를 말하면, AI는 각 단어를 이전의 모든 단어와 일대일로 비교해야 하며, 단어 수가 많을수록 더 많은 계산이 필요합니다.
- 단어별 생성: AI가 답변할 때는 단어를 하나씩 생성하는데, 각 단어를 생성하기 위해 이전의 모든 대화 내용을 다시 검토해야 합니다(마치 책 전체를 복습하는 것과 같습니다).
- 파라미터 이동: AI를 사용할 때마다 수천억 개의 지식점을 하드디스크에서 메모리로 옮겨야 합니다(마치 건물 전체의 벽돌을 옮기는 것과 같습니다).
심각한 상황(계약 체결, 규제 준수 등)에서 AI의 오류 비용과 관리 팀의 비용을 합치면 직원을 고용하는 것보다 더 많이 듭니다. CFO들은 계산 결과 AI를 무분별하게 사용하는 것보다는 직원을 고용하는 것이 더 경제적이라고 판단합니다.
#### 4. “슈퍼 개인”의 신화는 사라진다: 대부분의 사람들은 여전히 AI의 부속물일 뿐
이전에는 AI가 한 사람이 팀 전체의 업무를 할 수 있게 해서 “슈퍼 개인”을 만들어낸다고 주장했습니다. 하지만 이제는 그것이 신화라는 것이 명확해졌습니다:
- 분업은 사라지지 않았으며, 오히려 더 비싸졌습니다: AI로 인해 프론트엔드/백엔드 개발자의 필요성이 증가했으며, 더 높은 임금을 받는 AI 아키텍트와 보안 전문가를 고용해야 합니다.
- 비용을 감당할 수 없습니다: 슈퍼 개인이 AI를 사용하면 매일의 토큰 비용이 급격히 증가하여 개인이 감당하기 어렵습니다.
- 위험을 감당할 수 없습니다: 소규모 기업이 AI를 사용하다가 오류로 인해 큰 손실(예: 시스템 다운으로 인한 수억 원의 손실)을 입을 수 있습니다. 현대 기업의 법률 및 홍보 팀은 “위험 방패” 역할을 하므로 슈퍼 개인에게는 그러한 능력이 없습니다.
결국, “슈퍼 개인”은 소수의 엘리트(예: 자유 미디어 작가, 독립 개발자)에 국한되며, 대부분의 사람들은 여전히 AI와 함께 일하며 대기업의 토큰 기준에 따라 업무를 수행해야 합니다.
결론
대기업들이 토큰 사용을 제한하는 것은 AI가 더 이상 효과적이지 않아서가 아니라, 모든 기술에 대해 투자 대비 수익을 신중하게 고려해야 한다는 비즈니스적 본질로 돌아가는 것입니다. AI는 “공짜 점심”이 아니며, 그 비용과 위험은 기업과 개인이 이성적으로 대처해야 합니다. “AI가 모든 것을 뒤집는다”는 신화도 결국 현실의 재정적 계산에 부딪혀 사라질 것입니다.