경찰청 국가수사본부는 2026년 1~7월까지 허위영상물(딥페이크) 범죄 피의자 419명(구속 17명)을 검거하였으며, 진화하는 범죄에 대응하기 위해 ①‘딥페이크 탐지 소프트웨어’ 판별, ②과학수사 영상 분석관 판독, ③인공지능(AI) 범행도구 분석 등 3중 대응체계를 갖추고 이를 고도화하고 있다.

사례 1
해외 성인사이트에 유포된 성적 허위영상물을 분석해 동일 제작자의 범행임을 확인하고, 경찰의 딥페이크 탐지기술을 통해 피의자(20대 남)를 신속 검거해 구속 송치했다.

사례 2
SNS를 통해 성착취 허위영상물을 제작·판매한 피의자를 검거한 뒤, AI 디지털 포렌식으로 생성형 AI 프로그램과 원본 사진을 확보해 제작 의뢰자의 혐의까지 수사하고 있다.

 사례에서 활용된 ‘딥페이크 탐지 소프트웨어’는 다수의 해외 법집행 기관에서도 사용하고 있는 것으로, ①얼굴 생성 및 교체 여부, ②생물학적 특징 분석(눈 깜빡임, 혈류 변화), ③파일 메타데이터 구조 등을 종합적으로 분석하여 합성 여부를 가려내며, 국내 허위영상물 탐지에 특화되도록 훈련된 인공지능 모델을 탑재하는 등 성능을 지속해서 고도화하고 있다. 개발 후 현재까지 총 1,636건 활용되었으며, 특히 올해는 선거범죄 등 기타 수사 분야에서도 72건 활용되는 등 그 영역을 넓혀가고 있다.

경찰이 딥페이크 등 허위영상물 범죄에 대응하기 위해 탐지·분석 기술을 지속적으로 고도화하고 있다. 경찰의 ‘딥페이크 탐지 소프트웨어’는 얼굴 생성·교체 여부와 눈 깜빡임, 혈류 변화 등 생물학적 특징, 파일 메타데이터 등을 종합 분석해 영상의 합성 여부를 판단한다.

개발 이후 현재까지 1,636건에 활용됐으며, 올해는 선거범죄 등 수사 분야에서도 72건이 활용됐다. 또한 조작 여부가 불분명한 영상은 전문 영상분석관이 추가 검증하고, AI 포렌식 기법을 통해 조작에 사용된 프로그램과 변경 부분을 추적해 범행 과정을 재구성하고 있다.

경찰은 향후 허위정보 유포와 전기통신금융사기 등 AI 악용 범죄 전반으로 기술 적용을 확대할 방침이다.

문영미 다른기사 보기