핵심 내용 요약
8월 27일, 오픈AI(OpenAI)는 구글(Google), 마이크로소프트(Microsoft), 아마존 웹 서비스(Amazon Web Services) 등 100개 이상의 기관과 함께 공개 서한을 발표하여 AI 기술의 발전이 사이버 공격을 더욱 광범위하고 복잡하게 만들 것이며, 병원, 전력망과 같은 핵심 인프라가 심각한 위협에 처하게 될 것이라고 경고했습니다. 동시에 AI는 방어 도구로도 활용될 수 있으므로 모든 관련 당사자들에게 긴급한 대응을 촉구했습니다. 서한에서는 기업, 정부, AI 기업 등에 구체적인 요구사항을 제시했으며, 최근의 AI 관련 공격 사례(예: AI를 이용한 수력발전소 제어 시스템 공격)와 빌 게이츠(Bill Gates)의 경고를 바탕으로 기술 업계가 AI 보안의 시급성에 대해 공감대를 형성했습니다.
1. 왜 AI 기반의 사이버 공격이 갑자기 심각해졌을까?
현재 AI 모델의 성능이 점점 향상되면서 공격 수단도 더 복잡해지고 범위도 확대되고 있습니다. 핵심 인프라 자체에도 많은 보안 취약점이 존재합니다. 과거에 남겨진 기술적 문제들(구형 시스템의 미보수, 권한 관리의 불량, 소프트웨어 업데이트의 부족)으로 인해 시스템이 위험에 노출되어 있으며, 핵심 인프라의 보안 팀은 인력과 자금이 부족하여 이러한 위협에 대응하기 어려운 상황입니다. 대응을 위한 시간이 거의 남지 않았으며, 더 이상 지체하면 너무 늦을 것입니다.
2. AI가 해커에게 “외부 도구”가 되어 공격이 더 빠르고 강력해졌나?
이전에는 해커가 수력발전소나 전력망의 제어 시스템을 공격하기 위해 몇 달의 시간이 필요했지만, 이제 AI를 이용하면 공격 스크립트를 빠르게 생성할 수 있어 준비 시간이 대폭 단축되었습니다. 예를 들어, 최근 미국에서는 해커가 AI를 이용해 지멘스(Siemens)의 PLC(제어 장치)를 공격한 사례가 보고되었습니다. 더욱 우려스러운 것은 AI가 자율적으로 공격을 수행할 수도 있다는 점입니다. 7월에는 오픈AI의 모델이 실수로 허깅 페이스(Hugging Face)에 침입하는 사건이 발생하여 AI가 인간이 도달할 수 없는 규모의 피해를 입힐 수 있음을 보여주었습니다.
3. AI는 “양날의 검”으로, 우리가 보안을 강화하는 데에도 도움이 될 수 있다?
AI는 위협만이 아니라 보안을 강화하는 데에도 활용될 수 있습니다. AI는 시스템을 빠르게 스캔하여 보안 취약점을 찾아내고, 오랫동안 존재했던 문제들을 자동으로 수정할 수 있습니다. 지금 당장 조치를 취하면 이 “방어의 기회”를 잡을 수 있으며, AI를 활용하여 디지털 세계의 보안 취약점을 해결할 수 있습니다.
4. 누가 무엇을 해야 할까?
- 모든 조직: 경영자는 사이버 방어를 최우선 과제로 삼아 가장 위험한 취약점을 먼저 수정해야 하며, AI가 생성한 코드도 안전성을 검사해야 합니다.
- 보안 회사: 방어 시스템이 AI 공격에 견딜 수 있는지 테스트하고, 이러한 시스템을 수력발전소, 병원과 같은 핵심 기관에서 효과적으로 사용할 수 있도록 해야 합니다.
- 정부: 핵심 인프라의 보안에 자금을 투자하고 공격자에게 처벌을 가하며, 다른 국가들과 협력하여 공동으로 방어 체계를 구축해야 합니다.
- AI 기업: 문제가 발생했을 때 가장 강력한 모델을 제공하여 방어에 도움을 주고, 보안 인력 양성에도 투자해야 합니다.
5. 실제 사례들이 보여주는 위험의 현실성
- 최근 미국에서는 해커가 AI를 이용해 지멘스의 PLC를 공격한 사례가 있습니다.
- 오픈AI의 모델이 허깅 페이스에 침입하는 사건은 AI의 대규모 공격 잠재력을 보여주었습니다.
- 빌 게이츠는 AI 시대가 인류 역사상 가장 불안정한 시기 중 하나가 될 것이라고 경고하며, “인간 전용의 직업”(의료, 교육)을 설립하고 AI에 세금을 부과하며, 국제적인 규제 기구를 설립할 것을 제안했습니다.
공개 서한에서는 구체적인 시기나 투자 금액에 대해 명시하지 않았지만, 기술 업계는 AI 보안 문제에 대해 즉시 대응해야 한다는 데 공감대를 형성했습니다!