AI가 전쟁을 바꿀 것이라는 예측은 2010년대 중반부터 계속되었다. 유명한 기술 리더들과 국방부 관계자들은 자율무기가 미래의 결정적 전쟁 수단이 될 거라고 말해왔다. 그런데 최근 여러 분쟁 지역의 데이터들을 보면 현실은 훨씬 복잡하고 어둡다. AI 기반 시스템들이 실제 전투 환경에서 예상과 다르게 작동하거나 아예 실패하는 경우들이 드러나고 있기 때문이다.
AI 타겟팅 시스템, 왜 자꾸 틀리는가
군사용 AI의 첫 번째 문제는 인식(recognition) 단계에서 시작된다. 드론이나 지상 감시 시스템에 탑재된 AI는 대규모 데이터로 학습되어 패턴을 인식하도록 설계된다. 하지만 전쟁터의 현실은 학습 데이터와 극적으로 다르다. 민간인과 전투원의 구분이 애매해지고, 군사 장비는 위장되거나 변형되며, 환경은 예측 불가능하게 변화한다. 실제 운영 환경에서 AI 시스템들은 오인 식별률이 생각보다 높은 수준으로 보고되고 있다. 특히 야간이나 악천후에서는 정확도가 급격히 떨어진다는 것이 알려져 있다. 이는 단순한 기술 문제가 아니라 근본적인 한계다. 사람의 얼굴이나 차량 번호판을 인식하는 민간용 AI와 달리, 전쟁에서는 부분적인 정보나 위장된 표적을 판단해야 하기 때문이다.
"적응형 적" 앞에서 무력해지는 머신러닝
AI 시스템이 직면한 더 큰 문제는 적의 적응이다. 머신러닝 모델은 고정된 패턴에는 강하지만, 상대가 그 패턴을 알면 순식간에 무효화된다. 전쟁에서는 이것이 현실화된다. 한 측이 AI 기반 감시 체계를 도입하면, 상대방은 그 시스템을 회피하기 위해 전술을 바꾼다. 위장 방식을 변경하거나, AI가 학습하지 못한 새로운 움직임을 만들거나, 아예 다른 경로를 사용한다. 이런 동적 환경에서 AI는 지속적으로 재학습되어야 하는데, 실제 전장에서는 이것이 불가능에 가까워 보인다. AI 모델을 갱신하려면 새로운 데이터가 필요하고, 그 데이터는 실시간으로 수집되어야 하며, 처리 속도도 전장의 변화 속도를 따라가야 한다. 현재 기술로는 이 모든 것을 동시에 만족하기 어렵다. 결과적으로 전쟁이 진행되면서 AI의 정확도는 점점 떨어지는 경향을 보이고 있다.
데이터 중독의 함정, "이상적 상황"만 학습한 AI
군사 AI의 또 다른 약점은 학습 데이터의 편향성이다. AI는 학습에 사용된 데이터만큼만 똑똑하다. 그런데 군사 데이터는 수집이 어렵고, 공개된 것은 거의 없다. 따라서 많은 국방 AI 시스템들은 상대적으로 제한된 시뮬레이션 데이터나 과거 분쟁의 부분적 정보로 학습된다. 이는 시스템이 현재의 새로운 전투 양식에 대비하지 못하도록 만든다. 드론 기술, 사이버 전투, 새로운 무기 체계들이 등장하면서 AI는 이를 예측하지 못한 상황에 자주 마주친다. 게다가 한 번 배포된 AI 모델을 전장에서 수정하기는 매우 어렵다. 민간 분야에서는 서비스가 잘못되면 수정 버전을 배포하면 되지만, 전쟁 중에는 그럴 수 없다. 시스템이 실패하는 순간, 그것은 즉시 전략적 손실로 이어진다.
자율화의 역설, 인간을 제거하면 위험만 커진다
흥미로운 점은 많은 군사 전략가들이 현재 "완전 자율"보다는 "인간-AI 협력" 모델로 회귀하고 있다는 것이다. 초기에는 AI로 의사결정을 완전히 자동화하려 했지만, 실제 전장 경험은 이것이 재앙이 될 수 있음을 보여주었다. 인간 판단을 제거하면, AI의 오류는 극대화되고, 도덕적 책임이 모호해진다. 더 중요하게는, 전쟁의 불확실성과 예측 불가능성에 대응할 수 있는 유연성을 잃게 된다는 것이다. 실제로 효과를 본 시스템들은 AI가 데이터를 분석하고 제안하면, 인간이 최종 판단을 하는 구조다. AI는 보조 도구로서의 역할에 충실할 때 가장 유용하다는 결론에 도달한 것이다. 이는 AI의 한계를 인정하는 것이기도 하다.
"진짜 무기"는 인간의 문제 해결 능력이었다
흥미롭게도, 최근 분쟁 지역에서 드러나는 현실은 기술이 아닌 다른 것의 중요성을 보여준다. AI 기반 감시 시스템과 자동화 무기보다 결정적인 역할을 한 것은 인텔리전스 분석, 실시간 소통, 빠른 의사결정 구조, 그리고 현지 정보 수집 능력이었다. 즉, 기술을 어떻게 활용할 것인가에 대한 전술적 판단이 더 중요했다는 의미다. 또한 AI가 제공하는 데이터를 해석하고, 그것의 신뢰도를 평가하며, 상황에 맞게 조정할 수 있는 인간의 역량이 결국 결정했다. 이는 AI 업계에서 쉽게 인정하지 않는 부분이지만, 방어 관련 사고가 깊은 전략가들은 이미 이를 알고 있다. 자동화가 모든 것을 해결하지 못한다는 깨달음은 IT 분야에서도 마찬가지로 적용된다.
미래 전쟁, 기술 경쟁에서 조직 경쟁으로
앞으로의 전쟁은 "누가 더 똑똑한 AI를 가졌는가"가 아니라 "누가 그것의 한계를 빨리 깨닫고 적응했는가"로 결정될 가능성이 높다. AI 도입은 계속되겠지만, 그것이 신기루처럼 여겨지던 시대는 지나갔다. 오히려 AI의 불완전성을 받아들이고, 그것을 인간의 판단과 경험으로 보완하는 능력이 중요해진다. 또한 AI 시스템 자체의 보안도 문제가 된다. AI 모델이 탈취되거나 오염될 수 있다는 위험도 고려해야 한다. 결과적으로 기술만으로는 우위를 확보할 수 없다는 것이 점점 분명해지고 있다. 이는 기업의 디지털 전환에도 같은 교훈을 제공한다. AI를 도입한다고 해서 문제가 자동으로 해결되지 않는다. 그것을 어떻게 운영할 것인가, 어떤 한계가 있는지 이해하고 관리하는 것이 진짜 경쟁력이 된다는 의미다.
현대전의 진화는 우리에게 중요한 메시지를 전달한다. 기술에 모든 것을 맡기는 것은 위험하며, 결국 사람의 판단과 경험이 가장 신뢰할 수 있는 자산이라는 것이다. AI는 도구일 뿐이고, 그 도구의 한계를 아는 것이 가장 강한 전략이 될 수 있다.