기업은 모델을 구매해야 할까, 아니면 관련 정보와 맥락을 충분히 파악해야 할까?

“독점 모델”에 속지 마세요: 사장님들, 이 돈을 그냥 쓰는 건가요?

사장님들과 CIO(최고 정보 책임자) 여러분, 지난 반년 동안 누군가가 PPT를 들고 이렇게 물어보지 않았나요? “우리도 자체적인 대형 모델을 만들어야 할까요?”

이 말은 정말 멋져 들리지만, 그런 모델을 만들지 않으면 회사가 시대에 뒤처질 것처럼 여겨집니다. 하지만 솔직히 말해서, 이 돈을 쓰는 것은 마음이 불편합니다. 오늘은 그런 허황된 기술 용어들은 제쳐두고, 이 돈을 어떻게 사용해야 하는지 명확히 설명해 드리겠습니다.

핵심 요점을 한 마디로 요약하자면:

소위 “독점 모델”이라는 것은 사실은 여러 가지를 섞어놓은 것으로, 가치가 떨어지는 세 가지 ‘상품’(자체 학습, 미세 조정, 사설 배포)과 가치가 올라가는 하나의 ‘자산’(기업 고유의 맥락/비즈니스 논리)**이 섞여 있습니다. 대부분의 기업들은 이 ‘상품’들을 ‘자산’으로 착각하고 돈을 쓰지만, 결과적으로는 그것들이 점점 더 낡아집니다. 진짜 경쟁 우위는 모델 자체에 있는 것이 아니라, 기업 내에 존재하는 미쓰여진 데이터와 규칙들에 있습니다.

이제 이 복잡한 문제를 다섯 가지 측면으로 나누어 자세히 설명해 드리겠습니다.

---

1. “독점 모델”的 네 가지 실체를 파헤치기: 정말로 무엇을 사고 있는 걸까?

현재 시장에서 말하는 “독점 모델”은 마치 바구니처럼 여러 가지를 다 담아놓은 것입니다. 우리는 그 안을 살펴보면 사실 네 가지만 있으며, 그 성격은 완전히 다릅니다:

• 첫 번째: 제로부터의 자체 학습 (가장 비싸고, 가장 어렵음)
• 의미: 마치 스스로 농사를 짓고, 밀을 갈고, 음식을 만드는 것처럼, 가장 원시적인 코드부터 모델을 훈련시키는 것입니다.
• 비용: 1억에서 10억 달러의 비용과 수백 명의 최고 수준 팀이 필요합니다.
• 현황: 실제로 성공한 사례는 손에 꼽힐 정도입니다. 대부분의 기업들은 이 문턱조차 넘지 못합니다.
• 두 번째: 미세 조정 (가장 ‘자체적’인 것처럼 보임)
• 의미: 기존의 오픈소스 모델(예: 타사의 일반적인 대형 모델)에 회사 데이터를 입력하여 해당 업계의 전문 용어를 배우게 하는 것입니다.
• 비용: 그래픽 카드 한 장과 며칠의 작업 시간만 필요합니다.
• 현황: 듣기에는 좋지만, 이것이 “우리만의 모델”이라는 착각을 유발하는 가장 쉬운 함정입니다.
• 세 번째: 사설 배포 (가장 안전하지만, 반드시 가장 똑똑한 것은 아님)
• 의미: 모델은 여전히 타사의 것(예: 화웨이, 바이두)이지만, 서버를 회사 데이터 센터로 옮기는 것입니다. 데이터가 외부로 나가지 않으므로 안전합니다.
• 비용: 하드웨어와 라이선스 구매 비용이 필요합니다.
• 현황: 은행과 정부 기관들이 이를 선호하지만, 구입한 것이 반드시 가장 똑똑한 모델은 아닐 수 있습니다.
• 네 번째: 맥락 (가장 가치 있지만, 보이지 않음)
• 의미: 회사의 데이터, 비즈니스 규칙, 경험 많은 직원들의 지식, 승인 절차 등입니다. 이것들은 계약서에 적혀 있지 않지만, AI가 제대로 작동하는지 여부를 결정합니다.
• 비용: 장기적인 축적과 정리가 필요합니다.
• 현황: 이것이 진짜 경쟁 우위입니다.

중요한 차이점:

처음 세 가지는 ‘상품’으로, 구입하는 순간 가치가 고정되어 있으며, 기술 발전으로 인해 시간이 지날수록 가치가 떨어집니다(오늘의 최고급 모델도 3년 후에는 쓸모없어질 수 있습니다).

네 번째는 ‘자산’으로, 사용할수록 가치가 올라가며, 데이터가 많을수록 경쟁 우위가 높아집니다.

---

2. 왜 공급업체들은 ‘상품’을 ‘자산’으로 포장해서 팔까?

네 번째 항목(맥락)만이 진짜 자산인데, 왜 판매자들은 계속 “독점 모델”이라고 말할까요?

왜냐하면 여러 가지를 섞어서 팔면 더 잘 팔리고, 더 높은 가격을 받을 수 있기 때문입니다.

• 경계선 모호함: 공급업체들은 어떤 부분이 완전히 구매되는 것인지(자산), 어떤 부분이 임대되는 것인지, 내년에 얼마나 비용이 드는지를 거의 알려주지 않습니다. 명확하게 구분하지 않으면 계약이 어렵습니다.
• 업계 모델의 현실: “항생 금융 모델”, “신피이 의료 모델” 같은 이름들은 맞춤형으로 들리지만, 실제로는 제조업체가 소유하고 있으며, 모든 기업에 판매됩니다. “업계 전용”이라고 하지만, 실제로는 그렇지 않습니다.
• 불안을 조성함: 가장 큰 목적은 “만들지 않으면 뒤처진다”는 느낌을 주는 것입니다.

예를 들어보겠습니다:

상품은 새 차를 사는 것과 같아서, 구입 후 바로 가치가 떨어집니다(3년 후에는 잔가가 매우 낮아집니다).

자산은 오래된 집의 기초와 같아서, 사용할수록 더 안정적이고 가치가 올라갑니다.

현재 시장은 “새 차”를 “대대로 물려받은 집의 기초”로 포장해서 팔며, 사람들이 이익을 얻었다고 생각하게 만듭니다.

---

3. 이 세 가지 ‘혼란스러운 계산’을 살펴보자: 블룸버그, 미세 조정, 사설 배포의 함정

몇 가지 실제 사례를 통해 이 세 가지 상품의 문제점을 살펴보겠습니다.

**첫 번째 사례: 블룸버그의 ‘자체 학습’ 실패**

• 배경: 블룸버그는 전 세계에서 가장 좋은 금융 데이터를 보유하고 있으며, 2023년에 1억 3천만 달러를 들여 5억 개의 파라미터를 가진 모델을 제로부터 훈련시켰습니다.
• 결과: 3년이 지난 후, 블룸버그 경영진은 그 모델이 단지 “연구용 모델”에 불과하며 어떤 제품에도 사용되지 않았다고 인정했습니다.
• 이유: 훈련이 끝난 후 그 모델의 파라미터는 고정되었고, 외부의 일반적인 모델들은 몇 달마다 업데이트됩니다. 정지된 모델로 진화하는 모델을 따라잡으려고 해도 점점 더 뒤처집니다.
• 교훈: 좋은 자원을 가지고 있어도 진화하는 경쟁자들을 이길 수는 없습니다. 자체 학습은 거대 기업의 영역이며, 일반 기업은 손대지 않는 것이 좋습니다.

**두 번째 사례: 미세 조정의 ‘실패’**

• 배경: 미세 조정은 저렴하고 괜찮아 보이지만, 실제로는 많은 프로젝트가 중간에 실패하거나 출시되지 못합니다.
• 문제점:

1. 개발 환경에서의 어려움: 45%의 기업들이 개발 환경에서 문제를 겪으며, 모델은 실험실에서는 잘 작동하지만 실제 환경에서는 제대로 작동하지 않습니다.

2. 엄격한 조건: 성공한 27%의 프로젝트도 안정적인 조건, 충분한 데이터, 신속한 평가가 필요합니다. 이 중 하나라도 부족하면 모든 것이 무의미합니다.

3. 정적인 상태: 모델은 훈련이 끝난 순간 가장 똑똑하지만, 비즈니스가 변하면 “남겨진 자산”이 됩니다. 다시 훈련시키려면 비용이 듭니다.

**세 번째 사례: 사설 배포의 ‘헛된 주권’**

• 배경: 82%의 기업들이 사설 배포를 선호하는데, 이유는 데이터가 외부로 나가지 않기 때문입니다.
• 현실:

1. 이용률 낮음: 전국의 지능 컴퓨팅 센터들의 평균 이용률은 58.3%에 불과하며, 일부 지역에서는 30%도 되지 않습니다. 기계는 데이터 센터에 있지만, 비즈니스는 이루어지지 않습니다.

2. 헛된 주권: 한국은 “주권 AI”를 추구하지만, 실제로는 타사의 기술을 사용하는 경우가 많습니다. 예를 들어, 네이버는 알리바바의 비전 인코더를 사용했다가 제외되었습니다.

3 진실: 구입한 “독점 모델”은 대부분 데이터 센터의 공간에 불과하며, 실제 권한은 타사에 있습니다.

결론: 이 세 가지 경우 모두 겉보기에는 좋지만, 실제로는 돈을 쓰고도 결과가 좋지 않습니다. 돈은 쓰였지만, 그것들은 점점 더 낡아지며, 심지어 사용하기도 전에 이미 구식이 됩니다.

---

4. 왜 알면서도 계속 그런 실수를 하는 걸까? (인간성과 직장의 논리)

계산이 이렇게 복잡한데, 왜 계속 그런 실수를 하는 걸까요? 이것은 단순한 수학 문제가 아니라 정치적인 문제입니다.

• 책임의 불평등:
• 잘못된 구매: 회사의 손실이지만, 사장은 돈을 아까워하지만 보통 해고하지는 않습니다.
• 구매하지 않으면: 개인이 “뒤처짐”의 책임을 집니다. 대형 모델을 구매하지 않아도 해고되지는 않지만, 구매하지 않으면 질문을 받습니다.
• CIO의 딜레마:
• 4분의 3의 CIO들이 AI 구매를 후회하지만, 결정은 그들이 내렸습니다.
• 최근 30%의 CIO들은 이해하지 못하는 AI 결과에 대해 설명해야 합니다.
• 70%의 CIO들은 예산과 직위가 영향을 받을까 봐 걱정합니다.
• 결과: 구매하면 업무를 완수한 것처럼 보이지만, 구매하지 않으면 책임을 집니다. “불안” 때문에 구매한 것은 결국 “불안”만 남깁니다.

---

5. 문제를 해결하는 방법: “모델”을 사지 말고, “자산”을 구축하라

이 상황에서 벗어나려면 다른 접근 방식이 필요합니다. “어떤 모델이 좋은가”가 아니라 “내 자산은 어디에 있는가”를 물어봐야 합니다.

**무엇을 구매해야 할까? (상품에 대한 원칙)**

1. 자체 학습: 수십억 원의 예산과 수백 명의 팀이 없다면, 생각조차 하지 마세요.

2. 미세 조정: 작업이 안정적이고, 데이터가 충분하며, 평가가 가능한 경우에만 시작하세요. 그렇지 않으면 돈을 낭비하는 것입니다