1. 핵심 내용 요약
이 글은 『중국 대형 모델 간략사』의 서문 부분으로, 2021년 여름부터 2022년 말 ChatGPT가 출시되기 전까지 중국 내 대형 모델 산업이 겪었던 혼란스러운 시기를 재조명합니다. 당시에는 성공적인 사례가 전혀 없었으며, 대형 모델이 어떤 형태로 발전할지 아무도 몰랐습니다. 연구 기관, 대기업, 초기 창업자들은 모두 추측에 의존해 시도를 했습니다. GPT-3보다 10배 더 큰 초대형 모델을 만들었지만 활용 방안을 찾지 못한 경우도 있었고, 자금을 유치했지만 첫 제품의 개발 방향조차 명확히 하지 못한 경우도 많았습니다. 2022년 말 두 가지 사건이 연이어 발생하면서 산업의 발전 방향이 우리가 지금 알고 있는 대형 모델 경쟁의 궤도로 완전히 전환되었습니다: 미국이 고급 AI 칩 수출을 규제하기 시작했고, ChatGPT가 무료로 대중에게 공개되었습니다.
---
2. 쉬운 설명
1. 2021년의 대형 모델은 일반 사용자를 위한 것이 아니었습니다
지금은 대형 모델을 채팅 로봇으로 인식하지만, 2021년에 개발된 수조 단위의 대형 모델들은 채팅과는 거리가 멀었습니다. 예를 들어, 당시에 공개된 ‘워도 2.0’의 파라미터 규모는 1.75조 개에 달했으며, GPT-3보다 10배 크지만 일반 사용자를 위한 채팅 기능은 전혀 없었습니다. 모든 업계 관계자들은 대형 모델을 데이터를 처리하여 지능을 생성하는 ‘발전소’로 상상했으며, 모든 AI 제품에 에너지를 공급하는 역할을 할 것이라고 생각했습니다. 하지만 결국 대형 모델은 우리가 일상적으로 사용하는 간단한 채팅 도구로 발전했습니다.
2. 초기의 파라미터 경쟁은 단순히 투자 유치를 위한 것이 아니었습니다
많은 사람들이 초기 대형 모델의 파라미터 경쟁이 의미없는 것이라고 비판했지만, 실제로는 새로운 패턴이 발견되었습니다. 이전에는 AI가 특정 분야에만 적용되었지만, GPT-3의 등장으로 모델을 충분히 크게 만들고 많은 데이터를 입력하면 번역, 글쓰기, 수학 문제 해결 등 다양한 작업을 자동으로 수행할 수 있게 되었습니다. 이후 ‘규모의 법칙’이 입증되었는데, 파라미터와 데이터, 연산 능력을 늘리면 모델의 성능이 지속적으로 향상된다는 것입니다.
3. 다양한 배경의 참여자들은 대형 모델에 대해 각기 다른 이해를 가지고 있었습니다
2021년에 대형 모델을 개발한 기업들은 공통된 기준이 없었습니다. 예를 들어, ‘지원’이라는 연구 기관은 대형 모델을 모든 산업에 공급하는 ‘공공 인프라’로 보았고, ‘화웨이’는 기업들이 AI를 개발할 때의 반복적인 작업을 줄이는 도구로 보았습니다. 초기 창업자들은 대형 모델의 실제 활용 방안을 몰랐기 때문에 각자의 경험을 바탕으로 시도를 했습니다.
4. 초기 대형 모델 창업의 극단적인 시도는 상상을 초월했습니다
2021년 말에 대형 모델에 모든 것을 건 사람들은 주변 사람들에게 ‘미친 사람’으로 여겨졌습니다. 예를 들어, ‘미니맥스’를 개발한 사람은 첫 제품의 개발 방향조차 몰랐지만, 투자자들은 그의 비전을 믿었습니다. 결국 그들은 대형 모델을 활용한 채팅 제품을 만들었습니다.
5. 2022년 말의 두 가지 사건이 대형 모델 산업의 방향을 결정했습니다
2022년 10월 이전까지 중국 내 대형 모델 산업은 명확한 목표가 없었지만, 두 가지 사건이 모든 것을 바꾸었습니다. 미국의 칩 수출 규제와 ChatGPT의 무료 공개로 인해 대형 모델의 활용 방향이 명확해졌습니다. 이제 모든 기업들은 대형 모델을 채팅 도구로 활용하게 되었습니다.