핵심 내용 요약
Anthropic이 발표한 “When AI builds itself”라는 기사는 내부 실제 데이터를 바탕으로 AI(Claude)가 어떻게 자체 개발에 깊이 관여하고 있는지 보여줍니다. 현재 Anthropic의 80% 생산 코드가 Claude에 의해 생성되며, 엔지니어들은 “코드를 작성하는 전문가”에서 “코드를 검토하는 감독자”로 변화했습니다. 기사는 AI의 반복 속도가 점점 빨라지고 있음을 시사하지만, 제목은 AI가 이미 “스스로 진화할 수 있다”는 오해를 줄 수 있습니다. 이에는 두 가지 의미가 숨어 있습니다: 첫째, AI의 개발 속도는 실제로 빨라지고 있지만 중요한 결정은 여전히 인간이 내립니다; 둘째, Anthropic은 자금 조달과 상장을 앞두고 규제를 촉구하는데, 이는 자사의 선도적인 위치를 확보하기 위한 것으로 보입니다.
1. 엔지니어들이 “전문가”에서 “감독자”로 변화하다
현재 Anthropic의 코드의 80%가 Claude에 의해 작성되며, 엔지니어들이 하루에 제출하는 코드 양은 지난해의 8배에 달합니다(코드 줄 수는 품질을 나타내지 않지만, 검토 결과는 문제가 없습니다). 이는 프로그래머들의 작업 방식이 완전히 변했다는 것을 의미합니다. 예전에는 직접 코드를 작성하고 테스트하며 제출했지만, 이제는 AI에게 목표를 제시하고 AI가 코드를 작성하고 테스트하며 버그를 수정하는 반면, 인간은 방향이 올바른지, 결과에 문제가 있는지만 판단합니다.
예를 들어, 예전에는 감독이 직접 카메라를 조작하고 편집을 했습니다; 이제는 10개의 AI 제작팀이 있으며, 감독은 “어떤 장면을 촬영할지”, “어디가 잘못되었는지”, “중단하라”고만 말하면 됩니다. 인간의 가치는 더 이상 “무언가를 할 수 있는 능력”이 아니라 “무엇을 해야 하는지, 어떻게 올바르고 그른지 판단하는 능력”입니다. 마치 스마트폰으로 사진을 찍는 것이 보편화된 후에, 사진의 품질을 결정하는 것은 셔터를 누르는 기술이 아니라 어떤 각도에서, 어떤 내용을 찍을지 “선택하는 안목”입니다.
결론: 실행력의 가치는 점점 낮아지고 있으며, ‘판단 능력’이 미래의 핵심 경쟁력입니다.
2. 새로운 장애물: AI의 결과를 “검토할 수 있는가?**
AI는 많은 코드, 계획, 실험을 생성할 수 있지만, 인간이 이를 모두 검토하는 것이 새로운 문제가 되었습니다. Anthropic은 AI가 AI의 코드를 검토하여 온라인 버그의 3분의 1을 사전에 발견할 수 있지만, 여기에는 위험이 있습니다: Claude가 Claude가 작성한 코드를 검토하는 것은 같은 선생님이 학생들의 시험지를 서로 평가하는 것과 같아서 동일한 종류의 오류에 대해 “집단적으로 눈이 멀 수 있습니다”.
더 중요한 것은, AI가 올바르게 작동했다고 해도 그 이유를 알 수 있는가 하는 것입니다. 예를 들어, AI가 기능을 만들었지만 정상적으로 작동하지만 그 논리에 숨겨진 위험이 있는지 확신할 수 없습니다. 미래 팀의 문제는 “계획이 없는 것”이 아니라 “100개의 AI 계획 중 어떤 것이 실제로 실행에 가치가 있는지, 어떤 것이 겉보기에는 맞아 보이지만 사실은 잘못되었는지”입니다.
결론: 미래에 가장 부족한 능력은 ‘AI를 사용하는 방법’이 아니라 ‘AI의 결과를 검토할 수 있는 능력’—올바른 계획을 선택하고, 숨겨진 오류를 발견하며, 언제 중단해야 하는지 알는 것입니다.
3. AI가 너무 빨리 발전하여 인간이 따라잡기 어렵다
기사에 따르면 AI가 장기적인 작업을 독립적으로 완료하는 데 걸리는 시간이 7개월에서 4개월로 단축되었습니다. 2024년 3월에는 4분만 가능했던 작업을 2025년 3월에는 1.5시간, 2026년 3월에는 12시간 만에 완료할 수 있습니다. 성공률은 50%에 불과하지만(아직 완전히 신뢰할 수는 없지만) 추세는 분명합니다: AI의 반복 속도가 점점 빨라지고 있으며, 인간의 수보다는 컴퓨팅 파워와 칩에 의해 제한을 받게 될 것입니다.
하지만 문제는, AI의 “기계적 속도”와 인간 사회의 “인간적 속도” 사이에 큰 격차가 있다는 것입니다. 예를 들어, AI는 새로운 약을 빠르게 개발할 수 있지만 약물 승인에는 수십 년이 걸립니다(부작용을 검증해야 하기 때문입니다); AI는 코드를 빠르게 수정할 수 있지만 사용자의 습관은 천천히 형성되어야 합니다(예를 들어, 뇌의 기억 기능을 얻으려면 많은 사용자 피드백을 수집해야 합니다). 이러한 “느린 변수”(법률, 교육, 사용자 심리)는 AI가 대체할 수 없으며, 이것이 일반 사람들이 직면하는 실제 불안입니다—직업이 대체되는 것이 아니라 사회 규칙이 기술 변화를 따라잡지 못하는 것입니다.
결론: 당신의 업무에 ‘느린 변수’가 있다면(예: 사용자를 이해하고, 상황을 다듬으며, 신뢰를 구축하는 것), 그것이 당신의 안전망이 됩니다.
4. 제목은 “연막탄”: AI는 아직 “스스로 진화할 수 없다**
기사의 제목 “When AI builds itself”는 인상적이지만, 실제 상황은 AI가 단지 “인간의 개발을 돕는 것”일 뿐, “스스로를 만드는 것”은 아닙니다. 진정한 자기 진화는 AI가 스스로의 약점을 발견하고, 계획을 제안하며, 훈련하는 것입니다. 하지만 Anthropic은 “아직 그 단계에 이르지 못했다”고 인정합니다.
예를 들어, Transformer 아키텍처의 탄생은 구글 엔지니어들이 복도에서 논쟁하는 동안 거장 사셸(Scholar)이 이를 듣고 적극적으로 참여하여 코드를 재작성함으로써 돌파구를 만들었습니다. 이 과정에서 인간의 우연한 소통과 결정적인 판단이 핵심이었습니다—코드는 결과에 불과합니다. Anthropic의 80% 코드가 AI에 의해 생성되었다고 해서 80%의 개발이 AI에 의해 이루어진 것은 아닙니다. 어떤 문제를 선택하고, 어떤 결과를 신뢰할지, 언제 중단할지는 여전히 인간의 손에 달려 있습니다.
결론: 제목에 현혹되지 마세요. AI는 지금 ‘슈퍼 도우미’일 뿐, ‘독립적인 결정자’가 아닙니다.
5. 규제를 촉구하는 “양동작전”: 선도적인 위치를 확보하기 위함
기사의 마지막 부분에서는 “검증 가능한 AI 개발 중단 메커니즘”을 촉구하며 이는 책임감 있는 것처럼 보이지만, 실제로는 시간선이 있습니다: Anthropic은 방금 6억 5천만 달러의 자금 조달을 완료했으며, 가치는 거의 천억에 달하고, IPO 신청도 비밀리에 제출했습니다. 이때 규제를 촉구하는 것은 사실 “선도적인 위치를 확보하기 위함”입니다—대형 기업만이 그러한 자원을 가질 수 있습니다.
결론: 기술의 발전은 경제적, 사회적 변화를 가져오며, 이에 따라 새로운 규제와 정책이 필요합니다. 인간과 AI가 협력하여 이러한 변화를 긍정적으로 이끌어야 합니다.
6. 결론:
AI는 우리의 삶에 큰 영향을 미치고 있으며, 이러한 변화를 잘 관리하고 활용하는 것이 중요합니다. 우리는 AI의 장점을 최대한 활용하면서도 그로 인한 위험을 줄여야 합니다. 이를 위해서는 AI에 대한 이해와 교육이 필수적입니다. 또한, 새로운 기술과 환경에 맞게 사회 제도와 법률을 조정하는 것이 중요합니다. 인간과 AI가 협력하여 미래를 함께 만들어 나가야 합니다.