핵심 내용 요약
AI는 국경 간 전자상거래 업체들이 생산성을 향상시키는 데 필수적인 도구가 되었지만, 아마존, TikTok Shop과 같은 플랫폼들은 최근 AI 콘텐츠의 규정 준수를 강화하는 새로운 규정들을 도입했습니다(예: AI로 생성된 콘텐츠에 표시를 추가하거나, 거짓된 미화를 금지하는 등). 이러한 규정들은 규제 압력, 사용자의 불만, 그리고 생태계 관리의 필요성에 따른 것입니다. 업체들은 인간과 AI의 협업이나 전용 AI 프레임워크를 활용하여 이에 대응하고 있습니다. AI는 업체들의 작업 효율성(예: 이미지 제작, 데이터 분석 등)을 크게 향상시켜 중소기업들이 대기업과 경쟁할 수 있는 기회를 제공하지만, 윤리적 논란도 존재합니다. AI를 사용하지 않는 업체들은 점차 시장에서 뒤처질 수 있습니다.
1. 플랫폼의 새로운 규정: AI 콘텐츠는 “투명해져야 하며”, AI를 이용해 사용자를 속여서는 안 됩니다
최근 아마존과 TikTok Shop은 AI로 생성된 콘텐츠에 대한 새로운 규칙을 도입했습니다:
- 아마존: 상품 이미지나 동영상에 AI로 생성된 사실적인 인물이 포함된 경우, 업로드 전에 “메타데이터 태그”를 추가해야 합니다(즉, 콘텐츠에 “AI로 생성됨”이라는 표시를 붙여야 함). 이는 각국에서 새로운 AI 관련 법규를 준수하기 위함입니다.
- TikTok Shop: 전적으로 또는 주로 AI로 생성된 콘텐츠에는 표시를 해야 하며, AI를 사용하여 상품의 실제 모습을 변형시켜서는 안 됩니다(예: 작은 크기의 상품을 크게 보이게 하거나, 평범한 색상을 한정판 색상으로 보이게 하는 등). 또한, 상품에 “마법적인 효과”를 꾸며서도 안 됩니다(예: 평범한 물컵이 질병을 치료할 수 있다고 주장하는 등).
간단히 말해, 플랫폼들은 업체들이 AI를 이용해 가짜 콘텐츠를 만들어 소비자를 속이는 것을 방지하기 위해 이러한 규정을 도입한 것입니다.
2. 왜 플랫폼들이 갑자기 AI를 규제하나요? 그 뒤에는 세 가지 “압력”이 있습니다
본색 싱크탱크의 전문가 장주평은 플랫폼들이 이러한 규정을 강화하는 데는 세 가지 주요 이유가 있다고 말합니다:
1. 엄격한 규제: 2026년은 “AI 규정 준수의 원년”으로, 미국, 유럽연합, 그리고 국내에서도 AI 관련 법규가 도입되었으며, 벌금은 전 세계 매출의 3%에 달하거나 수백만 유로에 이를 수 있습니다. 플랫폼들은 벌금을 피하고자 합니다.
2. 사용자의 불만 증가: 많은 업체들이 AI를 사용하여 상품을 과도하게 미화하고 있어(예: 플라스틱을 금속처럼 보이게 하는 등), 사용자들이 받은 상품이 기대와 다르다는 불만이 증가하고 있으며, 이로 인해 플랫폼의 평판이 손상되고 있습니다.
3. 생태계의 혼란: 저품질의 AI 콘텐츠(예: 모두 비슷한 상품 이미지 등)가 규정을 준수하는 업체들의 트래픽을 잠식하고 있어, 플랫폼들은 이러한 “쓰레기 콘텐츠”를 제거하여 공정한 경쟁을 유지해야 합니다.
또한, AI는 거짓 광고, AI를 이용한 사기(예: 가짜 판매자가 돈을 속이는 등), 댓글 조작, 불법 운영(예: 금지된 단어를 사용하는 AI 콘텐츠 등)과 같은 문제를 야기하고 있어, 플랫폼들은 이를 규제할 수밖에 없습니다.
3. 업체들은 어떻게 대응하나요? “인간과 AI의 협업” + “전용 도구”를 병행하여 대응합니다
업체들은 새로운 규정에 대응하기 위해 다음과 같은 방법을 사용하고 있습니다:
- 인간과 AI의 협업으로 태그를 피하기: 상하이 위에르다의 딩린펑은 모든 AI 콘텐츠에 태그를 추가할 필요는 없다고 말합니다. 예를 들어, 디자이너가 AI로 생성된 콘텐츠를 직접 수정하거나 논리를 재검토하는 경우, 최종 결과는 “인간의 작품”으로 간주되어 태그를 붙이지 않아도 됩니다. 오직 대량으로 생성된 저품질의 AI 콘텐츠만 엄격하게 검사됩니다.
- 전용 AI 프레임워크를 사용하여 저작권 침해를 방지하기: 맞춤형 태양광 집을 만드는 쉰웨이핑은 자체적인 AI 검사 및 디자인 프레임워크를 구축하여, 저작권이 있는 자료(예: 브랜드 이미지 등)의 사용을 제한하고, AI가 비상업적인 자료만 사용하도록 합니다. 또한 Accio work과 같은 통합 도구를 사용하여 콘텐츠를 생성할 때 플랫폼의 규정에 자동으로 맞춰줍니다.
- 지속적인 테스트를 통해 균형을 찾기: 딩린펑은 정책이 계속 변화하고 있기 때문에, 다양한 AI 도구와 사용 방법을 테스트하며 점차 규정에 적응하고 있습니다. 아직 확정된 해결책은 없습니다.
업체들은 플랫폼이 이러한 변화의 혜택을 받는 주체이므로, 더 많은 규제 책임을 져야 한다고 생각합니다. 모든 문제를 업체들에게만 전가해서는 안 된다고 봅니다.
4. AI는 과연 얼마나 유용한가요? 효율성이 10배로 향상되었으며, 중소기업도 “코너를 돌아 추월”할 수 있습니다
AI는 이미 업체들에게 “생산성의 도구”가 되었습니다:
- 효율성의 급격한 향상: 위에르다의 이미지 제작 효율성은 하루에 50장에서 500장으로 10배로 향상되었으며, 이전에는 4명의 디자이너가 5개의 플랫폼을 관리해야 했지만, 이제는 1명의 디자이너와 AI만으로도 충분합니다. 쉰웨이핑의 회사는 디자인 시간이 반나절에서 10분 이내로 단축되었습니다.
- 데이터 기반의 더 정확한 작업: AI는 시장 데이터(예: 미국 구매자가 어떤 색상을 선호하는지, 어떤 이미지의 클릭률이 높은지 등)를 분석하여 목표 시장에 맞는 콘텐츠를 생성할 수 있으며, 이는 전통적인 디자이너의 직관에 의존하는 방식보다 전환율을 더 높일 수 있습니다.
- 중소기업의 역전: 딩린펑은 AI 덕분에 중소기업들이 대기업과 경쟁할 수 있는 기회가 생겼다고 말합니다. 이전에는 대기업만이 많은 홍보 비용을 지출할 수 있었지만, 이제는 AI를 사용하여 중소기업도 고품질의 콘텐츠를 빠르게 제작하고, 비디오 트래픽과 투자 수익률(ROI)을 향상시켜 “코너를 돌아 추월”할 수 있습니다.
- 전용 AI의 전문성: 쉰웨이핑은 일반적인 AI(예: ChatGPT)는 기업의 구체적인 요구를 충족시키지 못한다고 말합니다. 중소기업은 전용 AI를 사용하여 더 전문적인 서비스를 제공할 수 있습니다.
5. 결론
AI는 업계에 많은 변화를 가져오고 있으며, 이러한 변화에 적응하는 것이 중요합니다. 업체들은 새로운 기술을 적극적으로 도입하고, 규정을 준수하며, 인간과 AI의 협업을 통해 경쟁력을 유지해야 합니다. 또한, 플랫폼과의 협력을 통해 새로운 시장 기회를 찾아야 합니다.