AI의 “자기 자신을 만드는” RSI: 신성으로 가는 계단인가, 아니면 자본의 새로운 이야기인가?
안녕하세요, 여러분의 금융 저널리스트이자 경제학자입니다.
최근 AI 업계가 또 한 번 뜨거워졌습니다. OpenAI의 대표가 GPT-6이 “범용 인공지능”(AGI)의 문턱에 다가가고 있다고 자랑하던 와중에, 새로운 핫키워드가 등장하여 AGI의 주목을 대부분 빼앗았습니다. 바로 RSI(Recursive Self Improvement, 재귀적 자기 개선)입니다.
간단히 말해, AI가 더 이상 사람의 지시를 따르는 것을 넘어서 스스로 코드를 작성하고, 실험을 수행하며, 자신의 “뇌”를 수정하기 시작했습니다. 수정한 후에는 다음 세대의 더 강력한 모델에 전달합니다. 이는 마치 학생이 스스로 문제를 풀고, 시험지를 만들고, 실수를 바로잡으며, 학습 방법을 최적화한 다음 다음 학생에게 가르치는 것과 같습니다. 그 속도가 점점 빨라져서 결국 인간이 무엇을 하는지 이해할 수 없을 정도가 됩니다.
이 기사의 핵심적인 주장은 매우 날카롭습니다: RSI의 기술적 진전은 실제로 일어나고 있지만, 그것을 둘러싼 “종말 공포”와 “안전에 대한 이야기”는 본질적으로 잘 설계된 상업적 게임입니다. 한편으로는 AI 거대 기업들이 “너무 위험하다, 속도를 줄여야 한다”고 외치는 반면, 다른 한편으로는 칩을 팔고, 데이터 센터를 건설하며, 자금을 조달하고 있습니다.
이제 이 긴 기사를 다섯 가지 차원으로 나누어서 일반인도 이면의 논리를 이해할 수 있도록 설명해 드리겠습니다.
---
1. 기술적 진실: AI는 정말로 “자기 진화”를 시작했을까?
먼저, “과학 소설”과 “현실”을 구분해야 합니다. RSI라는 개념은 새로운 것이 아닙니다. 1965년에 수학자 I.J. Good이 “지능 폭발”(intelligent explosion)이라는 개념을 제시했습니다: 만약 기계가 기계를 만들 수 있고, 새로운 기계가 이전 기계보다 더 똑똑하다면, 지능 수준은 롤러코스터처럼 기하급수적으로 증가할 것입니다.
하지만 현재의 RSI는 이전에 과장되었던 것과는 다르며, 구체적인 실현 단계를 가지고 있습니다.
상하이 교통대학교, 청화대학교 등의 최신 연구에 따르면, RSI는 L1부터 L5까지 다섯 단계로 나뉩니다:
- L1-L2 (초급): AI는 인간이 제시한 개선 방안을 실행하거나 스스로 개선하는 작은 요령을 찾습니다. 이는 마치 인턴이 상사가 어디를 수정하라고 하면 거기를 수정하는 것과 같습니다.
- L3-L4 (중급): AI는 자율성을 가지기 시작합니다. 필요한 경험을 스스로 결정하고, 환경 피드백을 영구적인 변화로 전환할 수 있습니다. 이는 프로세스에 문제가 있으면 스스로 최적화하는 숙련된 작업자와 같습니다.
- L5 (고급/최종): 이것이 가장 무서운 단계입니다. AI는 작업을 개선할 뿐만 아니라 개선 메커니즘 자체도 수정합니다. 이는 후속적인 검색 방법과 결과 평가의 기본 논리를 결정하는 데 사용됩니다.
현재의 현실은 다음과 같습니다:
OpenAI와 Anthropic은 실제로 중요한 진전을 이루었습니다.
- OpenAI는 “자동화된 연구 인턴”을 구현했습니다. 그들의 데이터에 따르면, 이제 1인의 인간 근무일당 AI 지능체는 3.1인의 인간 근무일 분량의 작업을 수행할 수 있습니다. 즉, AI의 연구 개발 효율은 이미 인간 연구원을 넘어섰습니다.
- Anthropic은 더 과감하게, 더 약한 모델(Sonnet 5)을 사용하여 더 강한 모델(Opus 4.8)의 안전성을 검증하게 했습니다. 결과적으로 60시간 만에 50가지 이상의 방안을 테스트하여 강력한 모델의 안전성을 거의 정식 버전 수준으로 끌어올렸습니다.
결론: AI는 실제로 “AI를 만들고” 있지만, 아직 “통제 불능”에 이르지는 않았습니다. 현재는 주로 소프트웨어 시스템 수준에서 패치를 적용하고 있습니다(예: 코드 최적화, 작업 스케줄링 조정), 기본 물리 법칙을 직접 다시 쓰는 것은 아닙니다. 하지만 이는 이미 큰 진전이며, 연구 개발 속도가 인간의 선형적 통제를 벗어나고 있음을 의미합니다.
---
2. 안전 역설: 왜 “브레이크”와 “가속페달”을 같은 발로 밟는가?
기사에서 가장 흥미로운 부분은 AI 거대 기업들의 “말과 행동의 불일치”를 폭로하는 것입니다.
보세요, Anthropic의 CEO인 다리오 아모데이와 OpenAI의 과학자들은 AI의 위험성을 강조하고 있습니다. 그들은 AI를 “외계 지능”에 비유하며, 통제하지 않으면 AI가 사이버 공격을 감행하거나 문명을 파괴할 수 있다고 경고합니다. 그래서 그들은 업계에 “속도를 줄이라”고 촉구하며, 안전 연구에 시간을 남겨달라고 합니다.
하지만 다른 한편에서는 어떤 일이 일어나고 있을까요?
- 엔비디아의 창립자인 젠슨 황은 이에 반박합니다: 흑백으로 보지 마세요, 안전과 혁신은 충돌하지 않습니다.
- 더욱 아이러니한 것은, “너무 위험하다, 속도를 줄여야 한다”고 외치는 회사들이 바로 가장 많은 돈을 벌고, 가장 빠르게 확장하는 회사들입니다.
여기에는 거대한 논리적 순환이 있습니다:
1. 공포를 조성합니다: “AI는 너무 위험하다, 통제 불능할 수 있다.”
2. 해결책을 제시합니다: “이러한 위험한 AI를 모니터링하고 방어하기 위해 더 강력한 AI가 필요하다.”
3. 자원 수요: “이렇게 강력한 방어용 AI를 만들기 위해서는 더 많은 칩, 더 많은 전력, 더 큰 데이터 센터가 필요하다.”
4. 상업적 결과: 그래서 수십억 달러의 자금 조달, 수십만 개의 GPU 클러스터, 거대한 인프라 프로젝트가 “인류의 안전을 위해 필요한 인프라”로 포장됩니다.
쉽게 말해: 이는 브레이크 패드를 파는 사람이 한편으로는 “이 차의 브레이크가 너무 나쁘다, 언제든지 사고를 낼 수 있다”고 말하면서, 다른 한편으로는 자신의 최신 제품, 더 비싼 제품, 더 많은 연료가 필요한 초고성능 브레이크 시스템을 사라고 하는 것과 같습니다.
누가 이익을 얻는가?
거대한 보안 팀, 폐쇄적인 데이터 센터, 충분한 감사 자원을 가진 거대 기업들입니다. 안전 검토 비용이 매우 높기 때문에 중소기업과 오픈소스 커뮤니티는 이를 감당할 수 없습니다. 이러한 “안전에 대한 이야기”는 사실상 경쟁자를 억제하고 거대 기업의 독점 지위를 공고히 하는 방어벽입니다.
---
3. 이익 게임: 종말론 뒤에 숨은 “컴퓨팅 파워 분배 전쟁”
AI가 그렇게 위험하다면, 왜 모두가 그냥 멈추지 않을까요? 왜냐하면 멈추는 것은 미래의 주도권을 잃는 것을 의미하기 때문입니다.
기사는 현재 AI의 위험성을 어떻게 평가하고, 어떤 능력을 제한해야 하며, 다음 세대의 모델을 훈련할 자격이 누구에게 있는지에 대한 규칙을 몇몇 선두 연구소가 장악하고 있다고 지적합니다. 이들은 기술의 추진자이자 위험 기준의 정의자입니다.
- 거대 기업(OpenAI, Anthropic 등): 그들은 “고위험”이라는 이야기를 유지함으로써 자신들의 거액 투자의 정당성을 증명하고, 규제 기관의 과도한 개입을 막아야 합니다.
- 하드웨어 기업(엔비디아 등): 젠슨 황이 종말론에 반대하는 이유는 무엇일까요? 종말론이 사실이 되면 정부가 컴퓨팅 파워 승인이나 데이터 센터 금지령을 내릴 수 있기 때문입니다. 금을 캐든 괴물을 캐든, 누군가가 계속 캐는 한, 삽에는 시장이 있습니다. 카드 구매나 데이터 센터 건설을 막는 모든 목소리는 하드웨어 산업 체인의 일자리를 위협합니다.
따라서 이 논쟁의 배경에는 “인류가 파괴될 것인가”가 아니라 다음 라운드의 컴퓨팅 파워, 자본, 산업 이익이 어떻게 분배될 것인가가 있습니다.
- 신을 만드는 자(AI 회사): 한편으로는 신이 통제 불능할 수 있다고 경고하며(규정 준수와 독점을 위해), 다른 한편으로는 더 많은 자원을 얻어 신을 계속 만들기를 요구합니다(상업적 이익을 위해).
- 삽을 파는 자(하드웨어 회사): 신이 계속 진화하기를 바랍니다. 왜냐하면 진화에는 더 많은 삽이 필요하기 때문입니다.
이것이 바로 “모든 일이 나에게 유리하다”는 자본의 논리입니다.
---
4. 기술적 한계: “지능 폭발”까지 얼마나 남았을까?
이야기는 무섭게 들리지만, 기술적인 실질적인 문제도 살펴봐야 합니다. 현재 RSI는 빠르게 진전하고 있지만, 진정한 “초지능”(ASI)에 이르기까지는 몇 가지 넘어야 할 장애물이 있습니다:
1. 재앙적인 망각 vs. 보수적인 업데이트:
AI는 지속적으로 새로운 지식을 흡수해야 하지만, 기존의 능력을 잃어서는 안 됩니다. 업데이트가 너무 급격하면 AI는 “기억을 잃어버리고”, 말하는 방법이나 걷는 방법을 잊게 됩니다. 반면에 너무 보수적이면 새로운 것을 배울 수 없습니다. 이 균형을 맞추는 것은 매우 어렵습니다.
2. 연구 판단력의 부족:
AI에게 코드를 최적화하도록 하면 기준은 명확합니다(작동만 하면 됩니다). 하지만 과학 연구를 하게 하면 실패한 실험이 “방향이 잘못되었는지” 또는 “계속 탐구할 가치가 있는지”를 판단해야 합니다. 이러한 직관과 과학적 취향은 현재 인간에게 크게 의존하고 있습니다.
- *예시:* 진정한 과학적 돌파는 종종 전 인류가 생각하지도 못한 기이한 문제를 제기하는 것입니다. AI는 아직 이러한 “0에서 1”의 창의적인 질문을 할 수 없으며, “1에서 100”의 최적화에 더 능숙합니다.
3. 시간 예측의 차이:
전문가들의 예측은 매우 다릅니다:
- 낙관론자(Thinking Machines): 3-4년.
- 중도론자(Millidge): 약 5