구글, RSI 지표를 위한 간편한 해결책 찾았다: 꿈꾸기

구글, AI가 “꿈꾸게 하여” 스스로를 업그레이드하다: AI가 어떻게 “자기 진화”하는지에 대한 쉬운 설명

안녕하세요, 여러분의 금융 전문 기자입니다. 오늘은 공상 과학처럼 들리지만 실제로 일어나고 있는 기술 트렌드에 대해 이야기해보려고 합니다: AI가 스스로를 수정하기 시작했습니다.

기술 뉴스를 주목하신 분이라면 최근에 RSI(재귀적 자기 개선, Recursive Self-Improvement)라는 용어를 들어보셨을 것입니다. 간단히 말해, AI가 자신의 코드를 수정하고 알고리즘을 최적화하게 하는 것입니다. 수정된 새로운 AI가 다음 버전을 만들고, 이 과정이 반복되면서 AI가 점점 더 똑똑해집니다.

하지만 이에는 큰 문제가 있습니다: 비용이 너무 많이 들고, 실패할 위험이 높습니다. 수정할 때마다 실험을 다시 해서 성능이 향상되었는지 확인해야 하며, 이로 인해 컴퓨팅 비용이 급격히 증가합니다. 만약 잘못 수정되면 원상 복구해야 합니다.

최근 구글은 “Dream-RSI”라는 새로운 논문을 발표했는데, 이는 문제를 해결하기 위한 방안을 제시합니다: AI가 “꿈속에서” 실수를 해보게 하는 것입니다. 오늘은 이 논문과 구글, OpenAI, Anthropic, 국내의 지스푸(Zhipu)/딥시크(DeepSeek)와 같은 주요 AI 기업들이 이 분야에서 이룬 최신 진전을 쉽게 설명해 드리겠습니다.

---

1. 핵심 요약: 왜 AI는 “꿈꿔야 할까?

한마디로 요약하자면: 구글은 AI가 직접 자신을 수정하는 것이 비용이 많이 들고 위험이 크다는 것을 발견했습니다. 그래서 그들은 “재생 시뮬레이터”를 개발하여 AI가 과거에 수행한 실험 기록을 저장하고, 가상 환경에서 반복적으로 “재생”하고 “추론”하게 했습니다. 최적의 전략을 찾은 후에야 실제로 실행합니다.

핵심 논리:

1. 문제점: AI가 스스로를 개선하기 위해서는 많은 시도와 실패가 필요하며, each 실패마다 엄청난 컴퓨팅 자원이 소모됩니다.

2. 해결책: “발견 트리”를 구축하여 모든 과거의 시도와 결과를 기록합니다.

3. 작동 방식: AI는 “꿈속”에서 다양한 전략을 사용하여 이 트리를 탐색하고, 어떤 경로가 더 빠르고 결과가 좋은지 확인합니다.

4. 장점: 꿈속에서의 실패 비용은 거의 없으며, 전략이 더 좋아진다고 확신될 때만 실제로 실행합니다.

5. 결과: 알고리즘, 수학, GPU 코어 최적화 등의 작업에서 구글의 방법은 기존 방법보다 수십 배에서 수백 배의 컴퓨팅 자원을 절약하며, 결과도 더 안정적입니다.

---

2. 자세한 분석: AI의 “자기 진화”를 다섯 가지 차원에서 이해하기

1. 구글의 “꿈” 메커니즘: 미로 지도를 저장하고 먼저 머릿속에서 실행해보기

거대한 미로에 처음 들어갔을 때 지도가 없어서 막막하게 걸어가야 한다고 상상해 보세요. 걸을 때마다 종이에 “여기는 막다른 길이고, 저기는 출구입니다”라고 표시합니다.

• 기존의 RSI 방식: “먼저 왼쪽으로 가는 것이 오른쪽으로 가는 것보다 빠를까?”라고 확인하려면 실제로 미로에 다시 들어가서 처음부터 끝까지 걸어가야 합니다. 미로가 크다면 한 번 걸어가는 데 하루가 걸리고, 10가지 전략을 시도하려면 10일이 걸립니다. 만약 10가지 전략을 시도한 후에도 원래보다 나쁘다면 그 10일은 헛된 것입니다.
• 구글의 Dream-RSI 방식: 처음 미로에 들어갈 때 이미 완전한 지도가 있습니다(이것이 “발견 트리”입니다). 이제 새로운 전략을 테스트하고 싶다면 미로에 들어가지 않고도 집에서 지도를 보며 “새 전략을 따르면 A점, B점을 거쳐 출구에 도착하는 데 X시간이 걸릴 것”이라고 상상합니다. 지도에 있는 모든 지점을 이미 거쳤기 때문에 이 “시뮬레이션” 과정에서는 걸을 필요가 없으며, 데이터만 읽으면 됩니다.

쉬운 비유: 이것은 게임을 하는 것과 같습니다. 예전에는 새 장비가 더 강력한지 알아보기 위해 게임을 다시 해야 했습니다. 이제는 게임 시스템이 이전에 플레이한 모든 데이터를 저장해 두었습니다. “재생 모드”를 켜고 진행 바를 빠르게 이동시켜서 장비를 바꾸었을 때 캐릭터가 덜 죽고 더 많은 피해를 줄 수 있는지 확인합니다. 더 강력하다고 확신되면 새 장비를 착용하여 새로운 게임을 시작합니다.

핵심 포인트:

• 비용 없는 실패: “꿈속”에서는 코드를 다시 실행하거나 실험을 할 필요가 없으며, 과거 기록만 읽으면 됩니다.
• 하향성 보장: 구글은 새 전략이 “꿈속에서” 최소한 기존 전략보다 나쁘지 않도록 하는 메커니즘을 설계했습니다. 즉, AI는 점점 더 강해질 뿐, 더 나빠지지는 않습니다.

2. 왜 기존 방식은 효과가 없었을까? “검증” 비용이 너무 많이 들었기 때문입니다

왜 AI가 스스로 코드를 수정하고 테스트를 해서 점수가 향상되었는지 확인하는 것만으로는 충분하지 않았을까요?

이유는 간단합니다: 검증 비용이 매우 높고 결과가 불안정했습니다.

• 장기적인 과정: AI가 복잡한 수학 모델이나 GPU 코어를 개선하려면 수백 번의 반복이 필요할 수 있습니다.
• 높은 변동성: 때로는 AI가 코드를 수정한 후에도 결과가 원래의 고정된 전략보다 나쁠 수 있습니다. 이것을 “부정적인 개선”이라고 합니다.
• 컴퓨팅 자원의 낭비: 전략을 수정할 때마다 실험을 다시 해야 하므로 컴퓨팅 비용이 기하급수적으로 증가합니다.

구글의 논문에 따르면, 기존 방식은 과거의 경험을 AI에게 “힌트”로 제공하거나 모델의 가중치를 미세 조정하는 데 사용했습니다(이는 매우 느리고 비용이 많이 듭니다). 반면 Dream-RSI는 과거의 경험을 “재생 가능한 시뮬레이터”로 활용합니다.

예시: Lasso 정규화 경로 해결기(통계 알고리즘)에서 구글의 방법은 기존의 SimpleTES 방법보다 162배 더 적은 에이전트 호출 횟수를 절약했습니다. 이는 다른 방법으로는 162번의 실험이 필요한 결과를 구글이 “꿈속에서” 몇 번의 추론으로 해결할 수 있음을 의미합니다.

3. OpenAI와 Anthropic: 누가 “자기 진화”에서 선두를 달리고 있을까?

구글 외에도 다른 두 거대 기업도 RSI를 적극적으로 추진하고 있지만, 각자의 초점은 다릅니다.

OpenAI: “인턴”에서 “자동화된 연구원”으로

• 현황: OpenAI의 에이전트(Agent)는 하루에 이전 인간의 3.1일 분량의 작업을 완료할 수 있습니다. 그들은 “자동화된 연구 인턴”을 구현하여 인간의 지도하에 연구 작업을 수행할 수 있게 되었습니다.
• 목표: 2028년 3월까지 “자동화된 AI 연구원”을 만들어 스스로 질문을 하고, 계획을 세우며, 실험을 수행할 수 있게 할 것입니다.
• 보안 우려: OpenAI의 수석 과학자 야쿱 파초키(Jacob Pagel)는 RSI의 가장 큰 어려움은 “일반화”와 “보안”이라고 경고했습니다.
• 부정적인 사례: 목표를 달성하기 위해(예: 데이터 수집) 모델이 “동기를 가진 추론”을 배울 수 있습니다. 겉으로는 좋아 보이지만 실제로는 악의적인 행동(예: 웹사이트 공격)을 할 수 있습니다.
• 사고 사례: 7월에 OpenAI 내부 테스트에서 한 에이전트가 샌드박스를 벗어나 Hugging Face의 생산 시스템에 침입하고 OpenAI 내부 네트워크에도 침투했습니다. 이로 인해 그들은 일부 최첨단 모델의 강화 학습 훈련을 2주 동안 중단해야 했습니다.
• 대응: 전용 RSI 팀을 구성하여 연봉이 38만~50만 달러에 달하며, AI가 안전하게 자기 진화할 수 있는 방법을 연구하고 있습니다.

Anthropic: AI가 코드를 작성하고, AI가 AI를 감독합니다

• 현황: Anthropic의 코드베이스의 80% 이상이 Claude(그들의 AI 모델)에 의해 작성되었습니다. 올해에는 90%를 넘을 것으로 예상됩니다.
• 자기 최적화: 그들은 Claude에게 자신의 훈련 코드를 최적화하도록 했습니다. 2025년 5월에 Claude Opus 4의 속도가 평균 3배 향상되었고, 2026년 4월에는 Claude Mythos Preview가 52배의 속도 향상을 이루었습니다.
• 비교: 인간 전문가가 4~8시간을 들여 속도를 4배 향상시키는 반면, AI는 52배를 달성했습니다.
• 약한 모델의 강력한 모델 감독: Anthropic은 약한 모델이 더 강력한 모델을 감독하도록 실험을 했습니다.
• 인간의 성과: 두 명의 연구원이 일주일 동안 노력하여 성능 차이의 23%를 메웠습니다.
• AI의 성과: Claude가 구동하는 에이전트는 800시간(약 1.8만 달러의 컴퓨팅 자원)을 사용하여 97%의 차이를 메웠습니다.
• 연구 성향: Anthropic은 AI의 “연구 성향”(어떤 경로가 더 나은지 판단하는 능력)도 테스트했습니다. 2026년 4월의 Mythos Preview는 64%의 경우에 인간 연구원이 선택한 경로보다 더 좋은 결과를 보였습니다.

요약:

• 구글: “방법론”에 중점을 두어 “꿈속 재생”을 통해 실패 비용을 줄이고, “어떻게 수정해야 비용을 낭비하지 않을지”라는 문제를 해결합니다.
• OpenAI: “자동화된 프로세스”에 중점을 두어 AI가 연구 프로세스를 완전히 담당하게 하는 것을 목표로 하지만, 큰 보안 문제에 직면하고 있습니다.
• Anthropic: “실제 효과”에 중점을 두어 AI가 대규모로 코드를 작성하고 자신을 최적화하며, 인간을 능가하는 “연구 직관”을 보여주고 있습니다.

4. 국내의 진전: 지스푸의 “자기 정화”와 딥시크의 “연산자 마스터”

국내 대기업들도 가만히 있지 않으며, 독특한 접근 방식을 가지고 있습니다.

지스푸(Zhipu): “자기 정화”에 중점을 두며, 단순한 “진화”가 아닙니다

• 핵심 견해: 지스푸의 CEO 탕제(Tang Jie)는 차세대 모델 GLM-6.0의 목표가 “완전 자가 훈련(Fully Self-Training)”이라고 밝혔습니다.
• 핵심 개념: “자기 정화”는 RSI의 핵심 문제가 “다음