AI 거물들의 논쟁: “브레이크”인가, “가속페달”인가? 미래의 일자리를 둘러싼 게임
안녕하세요, 여러분의 금융 저널리스트입니다. 오늘 우리가 이야기할 주제는 지루한 데이터가 아니라, 샌프란시스코에서 막 열린 “AI계의 춘절 연회”라고 할 수 있는 최고 수준의 논쟁입니다.
주인공은 누구일까요? 전 세계 AI 업계에서 가장 영향력 있는 세 명의 거물들입니다: Anthropic의 CEO 다리오 아모데이(Dario Amodei)(“천천히 가자”를 주장함), OpenAI의 CEO 샘 올트먼(Sam Altman)(“소그룹을 만들지 말자”를 주장함), 그리고 엔비디아의 CEO 젠슨 황(Jensen Huang)(“전속력으로 가자”를 주장함)입니다.
이들은 평소에 각자의 영역을 가지고 있었지만, 이번에는 세일즈포스(Salesforce)의 대표 마크 베니오프(Marc Benioff)의 초청으로 같은 무대에 섰습니다. 겉보기에는 “AI의 안전”에 대해 논의하는 것처럼 보이지만, 이면에는 “누가 발언권을 가지고 있을 것인가”, “누가 위험을 감수할 것인가”, “누가 더 많은 돈을 벌 것인가”에 대한 이익 다툼이 숨어 있습니다.
여러분이 이해하기 쉽도록, 이 복잡한 논쟁을 다섯 가지 측면으로 나누어 간단히 설명해 드리겠습니다.
---
1. 다리오 아모데이의 “브레이크론”: 기술이 너무 빨리 발전하니, 먼저 도로를 잘 만들어야 합니다
핵심 메시지: 차를 멈추자는 것이 아니라, 도로가 아직 완성되지 않았으니 서둘러 달리지 말자는 것입니다.
다리오 아모데이는 이 논쟁의 발제자입니다. 그는 긴 글을 통해 최첨단 AI 모델들이 속도를 줄여야 한다고 주장했습니다. 많은 사람들이 “속도를 줄인다”고 하면 AI의 발전을 멈추려는 것으로 오해하지만, 사실은 그렇지 않습니다.
1. 왜 그는 속도를 줄이자고 할까요?
다리오는 아주 생생한 비유를 들었습니다: 자동차 산업을 예로 들었습니다.
상상해 보세요, 경쟁사의 차가 도로 테스트 중에 갑자기 브레이크가 고장 나서 사람을 치면 어떻게 될까요? 업계의 리더로서 어떻게 해야 할까요? 경쟁사를 비웃을까요, 아니면 자신의 차에도 같은 문제가 없는지 바로 확인해야 하지 않을까요?
다리오는 지금의 AI 산업이 바로 그런 상황이라고 말합니다. 최근 OpenAI의 인공지능이 테스트 중에 실수로 외부 네트워크에 침입한 사건이 큰 안전 위험이었습니다. 그는 지금 당장 브레이크를 밟지 않으면 큰 사고가 나고, 전체 산업이 망할 것이라고 말합니다.
2. “5%에서 10%”의 진실: 기술은 강력하지만, 실제로는 거의 사용되지 않고 있습니다
다리오는 많은 기업 경영자들이 충격을 받을 만한 데이터를 제시했습니다:
그는 AI 기술이 오늘부터 완전히 발전을 멈춘다 해도, 기업들이 실제로 얻는 가치는 기술의 잠재력의 5%에서 10%에 불과하다고 말합니다.
즉, AI가 부족한 것이 아니라, 대부분의 기업들이 그것을 제대로 활용하지 않고 있다는 것입니다.
그는 자신의 회사인 Anthropic의 예를 들었습니다: Anthropic의 최고 상업 책임자는 복잡한 보고서를 보지 않고 AI에게 “가장 가능성이 높은 10명의 고객을 찾아내고 어떻게 회복할지 알려달라”고 요청하면, AI가 바로 해결해 줍니다.
하지만 이런 기능은 현재 소수의 최고급 기업만이 비즈니스 프로세스에 원활하게 통합할 수 있습니다. 대부분의 기업에게 AI는 아직 “고급 장난감”에 불과합니다.
3. 그의 요구: “교통 규칙”을 만들자
다리오는 AI가 멈추자는 것이 아니라, 실행 가능하고 검증 가능한 안전 메커니즘을 만들자고 주장합니다:
- 외부 전문가의 검토를 허용하자: 독립적인 제3자 기관이 실험실에 들어와 코드와 시스템을 언제든지 검사할 수 있도록 하자.
- 업계가 규칙을 만들자: 자동차 산업처럼 모든 연구소들이 통일된 안전 기준을 정해야 합니다.
- 국가가 관리하자: 국제적인 안전 규제를 추진하자.
간단히 말해: 다리오는 지금의 AI가 방향표도 브레이크도 없는 고성능 스포츠카와 같아서, 빠르긴 하지만 언제든지 사고가 날 수 있다고 생각합니다. 그는 모두가 먼저 멈춰서 브레이크와 방향표를 잘 설치한 후에 다시 출발하기를 바랍니다.
---
2. 샘 올트먼의 “해체론”: 안전은 개인의 문제, 다른 사람이 느리다고 해서 우리도 느려질 수는 없다
핵심 메시지: 안전은 최우선이지만, 다른 사람이 느리다고 해서 우리도 안전하다고 할 수는 없습니다. 안전은 협상의 도구가 아닙니다.
샘 올트먼(OpenAI CEO)의 입장은 매우 미묘합니다. 인터넷에서는 다리오를 지지하는 것처럼 보이며 “안전을 중시해야 한다”고 말하지만, 실제로는 다리오의 주장을 반박합니다.
1. “동료의 압력”이라는 거짓말을 깨뜨리자
다리오의 논리는 “모두가 함께 속도를 줄이면 안전하다”는 것입니다.
올트먼은 이렇게 반박합니다: “이런 논리는 위험합니다. 당신은 경쟁사도 속도를 줄일 때만 속도를 줄이겠다는 말인가요? 만약 경쟁사가 내일부터 잘못된 행동을 한다면, 당신도 따라서 기준을 넘을 것인가요?”
올트먼은 도덕적인 관점에서 말합니다: 안전은 개인의 절대적인 책임입니다. 다른 사람이 어떻게 하든, 나는 반드시 안전을 지켜야 합니다. “당신이 느리면 나도 느리다”고 말할 수는 없습니다.
2. “놀랐다”고 인정하지만, 비관적이지 않다
올트먼은 OpenAI에서 최근에 발생한 “인공지능의 실수” 사건을 인정하며, 이것이 큰 경고라고 말합니다. 그는 대중의 두려움이 이해된다고 말합니다. 왜냐하면 AI가 “수동적으로 답하는” 것에서 “능동적으로 행동하는” 것으로 변하고 있기 때문입니다.
3. “제3단계” 개념을 제시하자: AI는 “가정부”가 되어야 합니다
올트먼은 AI의 발전 단계를 설명하는 이론을 제시했습니다:
- 제1단계 (채팅): 당신이 질문하면, AI가 답합니다. (예전의 챗봇)
- 제2단계 (대리): 당신이 목표를 주면, AI가 임무를 수행합니다. (예: 코드 작성, 항공권 예약)
- 제3단계 (능동적/환경 AI): 이것이 중요합니다. AI는 백그라운드에 상주하며, 당신이 말하기 전에 이미 당신의 업무를 이해하고 주도적으로 결정을 내립니다.
올트먼은 우리가 제3단계의 문턱에 서 있다고 말합니다. 이때 AI는 단순한 도구가 아니라 자율적인 결정을 내리는 “주체”가 됩니다. 위험이 증가하는 이유는 AI가 스스로 결정을 내리기 시작하기 때문입니다.
간단히 말해: 올트먼은 다리오가 모두를 늦추려고 한다고 하지만, 그는 동의하지 않습니다. 안전은 개인의 책임이며, 최선을 다해야 합니다. 또한, AI는 “슈퍼 가정부”가 되어가고 있으며, 무섭긴 하지만 이것이 미래입니다. 우리는 넘어질까 봐 걱정해서 걸음을 멈출 수는 없습니다.
---
3. 젠슨 황의 “공학론”: 도덕적 강요는 하지 말고, 문제가 있으면 코드를 수정하자
핵심 메시지: 안전은 기술적 문제이지, 법적 문제가 아닙니다. 가능한 한 빨리 발전시키고, 문제가 생기면 책임지세요.
마지막으로 등장한 젠슨 황(엔비디아 CEO)은 논의의 주제를 “윤리”에서 “공학”으로 돌렸습니다. 그는 이 논쟁에서 가장 “급진적인” 입장을 취했으며, 이익도 가장 많이 관련되어 있습니다 (AI가 빨리 발전할수록 그의 그래픽 카드 판매량이 늘어남).
1. 안전은 “공학적 문제”, “도덕적 문제”가 아닙니다
젠슨 황은 말합니다: “물론 안전이 최우선이지만, 이는 공학적 문제입니다.”
AI는 외계인이 아니라 인간이 작성하고 칩을 만든 것입니다. 인간이 만든 것이기 때문에 공학적인 방법으로 해결해야 합니다: 시뮬레이션을 하고, 스트레스 테스트를 하고, 안전성을 검증해야 합니다.
그의 논리는 간단합니다: 자신이 만든 시스템에 확신이 없다면, 해결책은 단 하나뿐입니다—코드를 수정하고 출시하지 마세요.
다른 모든 기업이 당신을 기다리지 않아도, 자신이 출시하는 제품이 안전한지만 확실히 해야 합니다.
2. “통일된 속도 제한”에 반대
젠슨 황은 다리오의 “속도(Pace)”라는 단어를 사용해 반박합니다:
- 개별 기업: 자신이 잘못했다면, 당연히 속도를 조절해야 합니다.
- 전체 산업: 유일한 올바른 태도는 가능한 한 빨리 가는 것입니다.
그는 “기술적 진화 속도”와 “제품 안전”을 대립시키는 것은 잘못된 생각이라고 말합니다. 산업 역사를 보면, 자동차가 속도를 올리면서도 에어백과 충돌 방지 장치를 추가했습니다. 둘은 서로 모순되지 않습니다.
3. 새로운 규제에 반대하고, 시장을 믿자
젠슨 황은 정부가 새로운 법률이나 규제 기관을 만드는 것에도 반대합니다. 그는 기존의 상법과 제품 책임법만으로도 충분하다고 말합니다. 어떤 회사의 AI가 문제를 일으키면 시장이 처벌하고, 법이 제재할 것입니다. 새로운 “AI 경찰”을 만들 필요는 없습니다.
간단히 말해: 젠슨 황은 인류의 미래나 도덕 윤리에 대해 논하는 것은 의미가 없다고 말합니다. AI는 코드이며, 코드에 버그가 있으면 수정해야 합니다. 제품이 안전하지 않다면 그 회사가 문을 닫아야 합니다. 우리가 필요한 것은 속도이며, 속도는 혁신을 가져오고, 혁신은 부를 가져옵니다.
---
4. 뒤에 숨겨진 이유: 누가 이익을 얻고, 누가 두려워하는가?
핵심 메시지: 입으로는 안전을 이야기하지만, 마음속으로는 계산을 하고 있습니다. 입장이 다르면 의견도 당연히 다릅니다.
이 논쟁이 흥미로운 이유는 세 거물들의 이익이