一、 핵심 내용 요약
최근 많은 차주들이 실제로 테스트를 해보거나 실제 사고에서도 이치에 맞지 않는 현상을 목격했습니다. 고급 보조 주행 기능이 탑재된 차량들은 횡단하는 보행자나 갑자기 나타나는 어린이를 정확하게 피할 수 있지만, 도로 위에 갑자기 나타나는 양이나 소와 같은 가축, 또는 표지판이 없는 임시 도로 장애물이나 콘크리트 덩어리는 전혀 인식하지 못하고 그대로 들이받고 있습니다. 이 내용은 대중이 지능형 주행 시스템에 대해 가지고 있는 일반적인 오해를 바로잡아줍니다. 지능형 주행 시스템의 능력은 “모든 것을 인식하고 피할 수 있는 것”이 아니며, 이는 자동차 제조업체들이 훈련 데이터, 연산 능력 배분, 위험 규칙, 법적 한계 등에서 내린 현실적인 선택의 결과입니다. 그 첫 번째 목표는 최대한의 인명 안전을 보장하는 것이지, 모든 이상한 상황에 대처할 수 있는 “만능 운전자”가 되는 것이 아닙니다. 기술을 과시하는 것이 지능형 주행 시스템의 설계 의도가 아닙니다.
---
두、 상세한 분석
1. 왜 사람을 피하는 것은 “기본적인 과제”인데 양을 피하는 것은 “드문 추가 과제”가 되었을까?
지능형 주행 시스템의 AI를 운전 면험을 준비하는 학생으로 생각해보세요. 그 “시험 문제”는 자동차 제조업체들이 점차적으로 제공하는 훈련 자료입니다. 전 세계 모든 국가의 교통 규칙에서 “보행자 보호”는 최우선 사항입니다. 그래서 자동차 제조업체들은 AI에게 수천만 장의 보행자 관련 자료를 제공합니다: 낮에도, 밤에도, 비가 올 때도, 우산을 쓴 사람들도, 유모차를 끄는 사람들도, 지팡이를 짚은 사람들도, 심지어 차 사이에서 갑자기 나타나는 어린이들도… AI는 눈을 감고도 이들을 정확하게 인식할 수 있습니다.
하지만 양은 어떨까요? 도시 도로에서는 거의 양을 볼 수 없으며, 대부분의 차주들은 일상적인 출퇴근 중에 가축을 마주치지도 않습니다. 자동차 제조업체의 자료 라이브러리에 있는 양의 사진은 보행자 사진의 1%도 되지 않으며, 많은 경우 인터넷에서 찾은 짧은 동영상의 스크린샷입니다. 심지어 서 있는 개나 흰색 천으로 된 봉투를 양으로 오인하는 경우도 많습니다. AI는 이런 전혀 새로운 상황에 대처할 준비가 되어 있지 않아서 당연히 제대로 대응할 수 없습니다. 임시 도로 장애물도 마찬가지입니다: 공사 현장에서 아무렇게 쌓인 콘크리트 덩어리, 모래가 담긴 짠 봉투, 반쯤 찢긴 도로 표지판 등은 통일된 외형 기준이 없어서 AI의 데이터베이스에 저장되어 있지 않아 인식할 수 없습니다.
2. 지능형 주행 시스템에는 “생명 보호 우선순위 표”가 있습니다
많은 사람들은 지능형 주행 시스템의 칩이 무한한 연산 능력을 가지고 있어 도로 위의 모든 것을 동시에 인식할 수 있다고 생각하지만, 사실은 그렇지 않습니다. 현재 사용되는 자동차용 지능형 주행 칩의 연산 능력은 제한적입니다. 동시에 앞뒤 좌우로 달리는 차량, 차선, 신호등, 도로변 표지판 등을 모두 주시해야 하며, 도로 위에 떠다니는 플라스틱 봉투나 굴러가는 빈 생수병, 땅 위의 작은 돌까지 모두 위험한 것으로 간주하면 자주 급브레이크를 밟거나 갑자기 방향을 바꿔야 합니다. 이렇게 되면 차량의 주행이 불안정해지고 승객들은 메스꺼움을 느끼며, 뒤따르는 차량들도 추돌할 위험이 커집니다.
그래서 자동차 제조업체들은 AI에게 명확한 규칙을 설정해 놓았습니다: 연산 능력은 가장 위험한 상황에 우선적으로 사용됩니다. 첫 번째 우선순위는 보행자, 두 번째는 정상적으로 운행하는 자동차, 전기차, 자전거, 세 번째는 가축이나 도로변의 고정된 장애물입니다. 많은 중고급 보조 주행 시스템은 도로변에 움직이지 않는 물체들을 “고정된 시설”로 간주하여 운전자가 직접 주의를 기울여 피하도록 합니다. 시스템이 임의로 방향을 바꿔 옆에 있는 차량을 들이받게 되면 더 큰 사고가 발생할 수 있기 때문입니다. 이전에 많은 뉴스에서 지능형 주행 시스템이 도로변에 정차한 소방차나 고장 난 차량을 들이받는 사고가 발생한 것도 이러한 우선순위 규칙 때문입니다.
3. 사람은 한눈에 양을 인식할 수 있지만 AI는 인식할 수 없습니다: 사람과 AI의 “인식 논리”는 완전히 다릅니다
많은 차주들이 “양이 그렇게 크고 눈에 띄는데 AI는 왜 못 인식하나?”라고 불평합니다. 하지만 사람과 AI의 인식 논리는 완전히 다릅니다. 사람은 일상 경험을 바탕으로 판단합니다. 예를 들어, 시골길을 운전할 때 도로변에 풀밭이 있고 멀리 있는 흰색 물체가 양일 가능성이 높다면 미리 속도를 줄입니다.
하지만 AI는 일상 경험이 없으므로 주변의 물체와 자신의 데이터베이스에 저장된 이미지를 비교할 뿐입니다. 어두운 밤에 멀리 서 있는 양과 도로변에 쌓인 흰색 플라스틱 봉투나 비료가 담긴 짠 봉투의 픽셀 차이가 거의 없어서 AI는 어느 것이 움직이는 생물이고 어느 것이 움직이지 않는 쓰레기인지 구별할 수 없습니다. 심지어 양의 몸에 진흙이 묻어 회색으로 변했을 때도 AI는 그것을 도로의 그림자로 인식할 수 없습니다. 사람은 상황과 경험을 통해 정보를 보완할 수 있지만, AI에게는 그런 정보가 없으므로 본 적 없는 것은 마치 “존재하지 않는 것”과 같습니다.
4. 자동차 제조업체들은 “만능 지능형 주행 시스템”을 만들지 않습니다: 예상치 못한 책임을 감당하기 싫어서
많은 사람들은 자동차 제조업체들이 기술이 부족해서 양이나 도로 장애물을 인식하지 못한다고 생각하지만, 사실은 그렇지 않습니다. AI의 데이터베이스에 양의 사진이나 다양한 도로 장애물의 사진을 추가하는 것은 기술적으로 어렵지 않으며 비용도 몇 십만 원에 불과합니다. 그런데도 자동차 제조업체들은 이를 하지 않습니다. 그 이유는 책임을 감당하기 싫기 때문입니다.
현재 시판되는 모든 보조 주행 기능이 탑재된 차량들은 법적으로 “운전자가 전적으로 책임을 져야” 하며, 사고가 발생하면 첫 번째 책임자는 운전자입니다. 자동차 제조업체가 시스템을 너무 민감하게 설정해 도로변에 갑자기 나타난 고양이나 닭을 피하려다 옆에 있는 차량이나 전기차를 들이받게 되면 그 책임은 누가 지게 될까요? 차주들은 분명히 항의할 것입니다: “지능형 주행 시스템을 사용하고 있는데 왜 제멋대로 방향을 바꿔 사고를 일으켰나요?” 자동차 제조업체는 그런 평판을 감당할 수 없으며 법적 책임도 질 수 없습니다. 그래서 자동차 제조업체들은 가장 흔하고 위험한 상황, 즉 보행자와의 충돌을 완벽하게 방지하는 데 집중하고 있으며, 발생 확률이 매우 낮은(10년에 한 번도 발생하지 않는) 양과 비표준 도로 장애물과의 충돌 상황은 일부러 시스템의 개입을 제한하고 운전자에게 책임을 맡기고 있습니다. 이는 위험을 분담하기 위함이지, 실제로 할 수 없어서가 아닙니다.
결론적으로, 현재의 보조 주행 시스템은 “보행자를 피하는 데 도움을 주는 고급 조수”에 불과하며, 모든 이상한 상황을 처리할 수 있는 “만능 운전자”가 되는 것이 아닙니다. 그 설계 의도는 일상적인 출퇴근 중에 발생할 수 있는 사고를 줄이는 것이지, 기술을 과시하는 것이 아닙니다.