핵심 내용 요약
최근 Anthropic, OpenAI, 구글과 같은 주요 AI 기업들이 새로운 모델을 발표하거나 예고하면서, 잠시 주춤한 최첨단 AI 모델 경쟁이 다시 가속화되고 있습니다. 이전에는 단순히 성능 점수를 비교하는 데 집중했지만, 이번 경쟁에서는 “보안”이라는 중요한 요소가 새롭게 부각되었습니다. 기업들은 모델의 능력(프로그래밍, 지식 작업, 사이버 보안 분석 등)을 향상시키는 동시에 보안 조치를 강화하고 있습니다. 예를 들어, 고위험도의 훈련을 일시 중단하거나 모델을 더 완벽하게 만들기 위해 출시를 연기하는 등의 조치를 취하고 있으며, AI가 초래할 수 있는 사이버 공격 위협에 대비하기 위해 공동으로 대응하고 있습니다. 능력과 보안의 동시적인 발전이 다음 단계의 AI 모델 경쟁에서 핵심이 될 것입니다.
1. 주요 기업들의 새 모델 출시와 경쟁 재개
최근 AI 업계에서는 다양한 움직임이 있었습니다:
- Anthropic은 Claude Fable 5.1과 Mythos 5.1을 직접 출시하며 “세계에서 가장 진보된 프로그래밍 및 지식 작업 모델”이라고 주장했습니다.
- OpenAI는 최신 모델인 Astra의 출시를 예고했지만, 가장 강력한 사이버 보안 기능은 일부 사용자만을 대상으로 테스트하고 있습니다.
- 구글도 더 강력한 코딩 모델을 개발하며 선두 기업들과의 격차를 좁히려고 노력하고 있습니다.
이러한 움직임들이 동시에 일어난 것은 이전에 잠시 주춤했던 모델 경쟁이 다시 활발해졌음을 의미합니다. 이번에는 단순히 누가 더 똑똑한 모델을 만드는지를 비교하는 것이 아니라, “보안”이라는 중요한 요소가 추가되었습니다.
2. Anthropic의 새 모델: 성능은 향상되었지만, 단일 작업 비용은 오히려 증가
Anthropic의 Fable 5.1은 이전 모델보다 성능이 향상되었습니다. 제3자의 평가에 따르면, 지능 지수, 프로그래밍 테스트(Terminal-Bench), 금융 지식 테스트(τ³-Banking) 등 여러 기준에서 최고 점수를 기록했습니다. 예를 들어, 지능 지수는 Fable 4보다 4점 높았으며, 프로그래밍 테스트 점수는 91.4%로 플랫폼 역사상 가장 높은 수준입니다.
하지만 가격 측면에서는 약간의 모순이 있습니다:
- 좋은 소식은 캐시 읽기 비용이 75% 감소했다는 것입니다. 캐시는 모델이 이전에 처리한 정보를 저장해 다시 사용할 때 재계산할 필요가 없게 해주어 비용을 절약해줍니다.
- 나쁜 소식은 단일 작업 비용이 20% 증가했다는 것입니다. 그 이유는 모델의 추론 능력이 향상되어 출력되는 정보의 양이 증가했기 때문입니다(출력되는 토큰 사용량이 이전 모델의 1.7배에 달합니다).
기업 사용자에게는 캐시를 자주 사용할 수 있는지(캐시 적중률)가 실제 비용에 직접적인 영향을 미칩니다.
3. OpenAI의 보안 강화: Astra의 제한적인 테스트
OpenAI의 Astra 모델은 매우 특별합니다. 이 모델은 OpenAI가 정한 “핵심 사이버 보안 능력 기준”을 충족한 첫 번째 모델로, 이전에는 발견되지 않았던 보안 취약점을 스스로 찾아내고 이를 활용하는 방법을 자동으로 개발할 수 있습니다.
이러한 강력한 기능 때문에 OpenAI는 Astra를 쉽게 공개하지 않고 있습니다:
- 일정 기간 훈련을 마친 후에도 출시를 연기하여 보안을 강화하고 있습니다.
- 이전의 Hugging Face 보안 사건에서 얻은 교훈을 바탕으로 Astra에 많은 보안 조치를 추가했습니다(예: 유해한 네트워크 요청을 거부하고, 남용을 방지하기 위한 모니터링을 강화하는 등).
- 먼저 소수의 테스터만을 대상으로 사용하며, 보안에 문제가 없는 것을 확인한 후에 사용 범위를 확대할 계획입니다.
OpenAI의 CEO 올트먼은 “현재 능력과 보안의 동시적인 향상이 그 어느 때보다 중요하다”고 말했습니다.
4. 전 업계의 보안 강화 노력: 기업들의 공동 대응
OpenAI뿐만 아니라 전 업계가 보안에 주목하고 있습니다:
- Anthropic은 최근 발생한 두 건의 보안 사건을 분석하고 제3자 기관과 협력하여 독립적인 검토를 진행하고 있으며, 고위험도의 강화 학습 훈련도 일시 중단했습니다.
- 업계 공동 대응: OpenAI를 중심으로 Anthropic, 구글, 마이크로소프트 등 100여 개 기업이 공동으로 공개 서한을 발표하여 “AI가 발동하는 사이버 공격이 점점 더 많아지고 복잡해질 것”이라고 경고하며, 모두가 함께 대응할 것을 촉구하고 있습니다. 특히 병원, 전력망, 수처리장과 같은 핵심 인프라가 점점 더 큰 위협에 직면하고 있습니다.
프랑스 AI 보안 센터의 전문가는 이러한 움직임들이 최근의 보안 사건들의 영향을 받아 기업들이 AI 경쟁에 제동 장치를 장착하기 시작했다고 말했습니다.
5. 능력과 보안의 동시 추구: 다음 단계 경쟁의 핵심
이전의 AI 모델 경쟁에서는 단순히 점수를 비교했지만, 이제는 달라졌습니다:
- 한편으로는 능력을 향상시키고 있습니다(Antropic은 프로그래밍 기준을 갱신하고, 구글은 코딩 능력을 향상시키며, OpenAI는 Astra를 통해 사이버 보안의 문턱을 넘으려고 노력합니다).
- 다른 한편으로는 보안을 강화하고 있습니다(고위험도의 훈련을 중단하고, 출시를 연기하여 보안을 개선하며, 공동으로 대응을 촉구합니다).
올트먼도 인정했습니다. 이전에는 프로그래밍 분야에서 기회를 놓쳤지만, 뒤처져도 재능 있는 모델로 따라잡을 수 있다고 말했습니다. 하지만 그 전제는 보안이 반드시 함께 강화되어야 합니다.
간단히 말해, 앞으로의 AI 모델 경쟁은 “누가 더 빨리 달리는가”가 아니라 “누가 빨리 달리면서도 제대로 제동할 수 있는가”가 될 것입니다. 능력과 보안은 모두 필수적입니다.