AI가 딥페이크라 판정하면 유죄 증거가 되나
경찰, 탐지 소프트웨어·영상분석관·AI 포렌식 ‘3중 대응’ 가동
2026년 1~7월 딥페이크 범죄 피의자 419명 검거·17명 구속
탐지 결과는 수사 출발점…원본·메타데이터·제작과정까지 연결해야
인공지능으로 만든 허위영상물이 빠르게 정교해지면서 경찰 수사도 AI를 이용한 탐지 단계에서 제작 프로그램과 조작 과정을 역추적하는 디지털 포렌식 단계로 진화하고 있다.
경찰청 국가수사본부는 2026년 1월부터 7월까지 허위영상물, 이른바 딥페이크 범죄 피의자 419명을 검거하고 이 가운데 17명을 구속했다고 밝혔다. 경찰은 딥페이크 탐지 소프트웨어와 과학수사 영상분석, AI 디지털 포렌식을 결합한 ‘3중 대응체계’를 운영하고 있다.
그러나 AI 프로그램이 특정 영상을 “딥페이크일 가능성이 높다”고 판단했다고 해서 그 결과만으로 제작자를 특정하거나 형사재판에서 유죄가 확정되는 것은 아니다. 탐지기술은 조작 가능성이 있는 영상을 찾아내는 수사 도구이고, 실제 형사책임을 판단하려면 영상 원본과 메타데이터, 제작에 사용된 프로그램, 저장·전송 기록, 피의자의 기기와 계정 등 다른 증거가 함께 연결돼야 한다.
첫 단계는 AI로 ‘의심 영상’을 가려내는 것
경찰의 딥페이크 대응 첫 단계는 탐지 소프트웨어다.
경찰은 국내 허위영상물 탐지에 특화된 AI 모델을 탑재한 소프트웨어를 개발해 수사에 활용하고 있다. 개발 이후 현재까지 총 1636건의 수사에 적용됐으며, 올해 들어서는 디지털 성범죄 외에도 선거범죄와 허위정보 등 다른 수사 분야에서 72건 사용됐다.
탐지 프로그램은 영상에서 사람이 직접 발견하기 어려운 조작 흔적을 분석해 딥페이크 가능성을 판단하는 데 도움을 준다.
예를 들어 얼굴 합성과정에서 발생할 수 있는 영상의 불일치나 프레임 간 변화, AI 생성 과정에서 나타나는 특징 등을 분석해 수사관이 추가로 살펴봐야 할 영상을 추려낼 수 있다.
대량으로 확보된 영상물을 일일이 사람이 처음부터 확인하는 것보다 수사의 속도를 높일 수 있다는 장점이 있다.
그러나 이 단계는 어디까지나 ‘탐지’다.
영상이 실제 조작됐다는 사실을 최종적으로 확정하거나 누가 만들었는지를 자동으로 결정하는 단계와는 다르다.
탐지기가 애매하면 영상분석관이 다시 본다
AI 탐지 결과가 명확하지 않은 영상은 두 번째 단계로 넘어간다.
경찰은 탐지 소프트웨어만으로 위·변조 여부를 판단하기 어려운 경우 과학수사 분야의 영상분석관에게 정밀 분석을 의뢰하는 절차를 구축했다. 영상분석관은 별도의 분석 프로그램과 전문적인 영상 감정을 통해 조작 여부를 추가로 확인한다.
이 과정이 필요한 이유는 딥페이크 탐지 AI도 오류 가능성을 완전히 없앨 수 없기 때문이다.
진짜 영상을 조작된 것으로 판단하는 오탐이 발생할 수 있고, 반대로 매우 정교하게 제작된 허위영상을 놓칠 가능성도 있다.
영상의 압축이나 재인코딩, 화면 캡처, SNS 업로드 과정에서 화질이 변해도 분석결과에 영향을 줄 수 있다. 원본이 아닌 여러 차례 복제된 영상을 분석할수록 영상에 남아 있던 기술적 흔적이 사라질 가능성도 커진다.
따라서 수사에서는 AI의 판단을 그대로 받아들이기보다 전문 분석을 추가해 결과를 검증하는 과정이 필요하다.
세 번째는 ‘누가 어떤 프로그램으로 만들었나’ 추적
경찰이 최근 강화하고 있는 세 번째 단계는 AI 디지털 포렌식이다.
딥페이크 범죄 수사에서 영상이 조작됐다는 사실만 밝혀내는 것으로는 충분하지 않다. 실제 형사책임을 묻기 위해서는 누가 영상을 제작하거나 유포했는지를 밝혀야 하기 때문이다.
경찰은 딥페이크 제작에 사용되는 상용 AI 프로그램의 특징을 분석해 AI 포렌식 기법을 개발했다. 시·도경찰청의 전문분석관이 피의자의 디지털 기기 등을 분석해 어떤 프로그램이 사용됐는지, 영상의 어느 부분이 변경됐는지 등을 확인하고 제작부터 유포까지의 범행과정을 재구성하는 방식이다.
이 과정에서 제작에 사용된 프로그램의 흔적과 파일 생성정보, 저장경로, 편집 흔적 등이 중요한 단서가 될 수 있다.
피의자의 컴퓨터나 휴대전화에서 원본 이미지와 합성 결과물이 함께 발견되거나 제작 프로그램 사용기록과 업로드 기록이 연결된다면 단순한 영상 탐지 결과보다 강한 증거관계가 만들어질 수 있다.
‘AI가 90%라고 했다’만으로 제작자를 입증할 수는 없다
딥페이크 탐지 기술이 발전하면서 탐지 프로그램이 산출하는 확률이나 점수가 마치 형사책임을 판단하는 숫자처럼 받아들여질 가능성도 있다.
그러나 탐지 점수는 기본적으로 해당 영상이 AI로 생성되거나 조작됐을 가능성을 분석한 기술적 결과다.
그 점수가 곧 특정 사람이 영상을 제작했다는 사실을 의미하지 않는다.
영상이 조작됐다는 사실과 피고인이 그 영상을 제작했다는 사실, 이를 고의로 유포했다는 사실은 각각 별도로 입증돼야 한다.
특히 인터넷에서는 파일이 여러 사람을 거쳐 복제·재유포될 수 있다. 특정 계정에서 허위영상물이 발견됐다는 사실만으로 최초 제작자가 누구인지 바로 확인되지 않는 경우도 있다.
결국 탐지 AI는 수사의 방향을 잡는 도구가 될 수 있지만 범죄의 전 과정을 대신 설명해주는 증거는 아니다.
원본 파일과 메타데이터가 중요한 이유
딥페이크 수사에서 영상 원본 확보가 중요한 이유도 여기에 있다.
인터넷에 올라간 영상은 서비스 과정에서 압축되거나 재인코딩되는 경우가 많다. 이 과정에서 원래 파일이 가지고 있던 생성시간과 편집 흔적, 파일 구조 등의 정보가 일부 사라질 수 있다.
반면 제작자의 기기에서 원본 영상이나 중간 작업 파일이 발견되면 분석할 수 있는 정보가 훨씬 많아진다.
파일 메타데이터에는 생성·수정 시간이나 사용된 장비·프로그램 등 수사에 도움이 될 수 있는 정보가 남을 수 있다.
다만 메타데이터 역시 절대적인 증거로만 볼 수는 없다. 일부 정보는 변경하거나 삭제할 수 있기 때문이다.
따라서 실제 수사에서는 원본 파일과 메타데이터뿐 아니라 프로그램 사용기록, 계정 접속정보, 통신자료, 클라우드 저장내역 등 여러 디지털 증거를 교차 확인하는 과정이 중요하다.
‘검거 419명’은 유죄확정 419명이 아니다
경찰청이 발표한 올해 1~7월 피의자 419명 검거와 17명 구속이라는 수치도 정확하게 구분해서 볼 필요가 있다.
검거는 수사기관이 범죄 혐의가 있다고 보고 피의자를 특정해 형사절차를 진행했다는 의미다. 법원이 최종적으로 유죄를 확정했다는 의미와는 다르다.
구속도 마찬가지다.
구속영장이 발부됐다는 것은 도주나 증거인멸 우려 등 구속 필요성이 인정됐다는 의미이지 피의자가 최종적으로 유죄판결을 받았다는 뜻은 아니다.
이 구분은 AI를 활용하는 수사에서 더욱 중요하다.
탐지 기술의 성능이 높아지더라도 형사사법의 기본원칙까지 바뀌는 것은 아니다. 수사는 범죄 혐의를 찾아가는 단계이고, 유죄 여부는 수집된 증거를 토대로 법원의 심리를 거쳐 판단된다.
딥페이크 탐지가 다른 범죄로 확대되는 이유
경찰은 딥페이크 탐지와 AI 포렌식 기술의 활용 범위를 디지털 성범죄 이외 영역으로도 넓히고 있다.
올해 딥페이크 탐지 소프트웨어는 선거범죄 등 다른 수사 분야에서도 72건 활용됐다. 경찰은 향후 허위정보 유포나 전기통신금융사기 등 AI를 악용한 범죄로 기술 적용범위를 확대할 방침이다.
생성형 AI가 발전하면서 조작 영상의 목적도 다양해지고 있기 때문이다.
성적 허위영상뿐 아니라 특정 인물이 실제 하지 않은 발언을 한 것처럼 만든 영상이나 음성을 선거나 투자사기에 이용할 수 있다. 가족이나 지인의 얼굴과 목소리를 조작해 송금을 요구하는 범죄에도 생성형 AI가 악용될 가능성이 있다.
그만큼 영상이 진짜인지 확인하는 기술은 디지털 성범죄 전담도구를 넘어 일반적인 사이버수사의 기반기술로 확대될 가능성이 크다.
AI 수사가 확대될수록 ‘설명 가능한 검증’ 필요
탐지 기술의 활용범위가 커질수록 수사기관이 AI 결과를 어떻게 검증하고 설명할 것인지도 중요한 문제가 된다.
AI 프로그램이 특정 영상을 조작영상으로 판단했다면 어떤 특성을 근거로 그렇게 판단했는지, 분석에 사용된 프로그램의 버전과 조건이 무엇이었는지 등이 향후 증거의 신뢰성을 판단하는 요소가 될 수 있다.
같은 영상이라도 분석 프로그램이나 모델에 따라 다른 결과가 나올 가능성을 완전히 배제하기 어렵기 때문이다.
경찰이 탐지 프로그램의 결과만 사용하지 않고 영상분석관의 전문분석과 디지털 포렌식을 추가하는 3중 구조를 마련한 것도 이러한 한계를 보완하기 위한 것으로 볼 수 있다.
결국 사람의 검증이 빠진 AI 수사가 아니라 AI가 수사관의 판단과 디지털 증거 분석을 보조하는 구조가 핵심이다.
딥페이크 시대, 증거는 더 많이 연결해야 한다
딥페이크 기술의 발전은 영상 자체가 가진 증거의 의미도 바꾸고 있다.
과거에는 영상에 사람이 등장하고 특정 행동을 하는 모습이 찍혀 있다는 사실 자체가 중요한 증거로 받아들여질 수 있었다. 하지만 실제와 구별하기 어려운 합성 영상이 만들어지는 환경에서는 영상이 존재한다는 사실만으로 진위를 판단하기 어려워지고 있다.
경찰의 ‘AI 3중 대응’은 이런 변화에 대응하기 위한 시도다.
탐지 소프트웨어가 의심되는 영상을 먼저 찾고, 판단이 어려운 경우 영상분석관이 위·변조 여부를 다시 검증하며, AI 포렌식으로 제작 프로그램과 조작 과정을 추적한다.
다만 이 세 단계 역시 형사재판의 결론을 자동으로 만드는 시스템은 아니다.
딥페이크 탐지 결과는 중요한 수사 단서가 될 수 있지만 최종적으로는 원본과 메타데이터, 제작 프로그램과 작업기록, 계정과 전송경로 등 여러 증거가 연결돼야 한다.
AI가 가짜를 찾는 시대가 됐지만 누가 왜 만들었고 어떻게 유포했는지 입증하는 책임까지 AI가 대신하는 것은 아니다. 딥페이크가 정교해질수록 형사증거 역시 하나의 탐지 점수보다 여러 독립적인 증거를 교차 검증하는 방식으로 더욱 정교해질 필요가 있다.