경찰청 국가수사본부(국수본)는 딥페이크 탐지 소프트웨어를 개발해 관련 범죄 단속을 위해 활용한다고 5일 밝혔다.
딥페이크는 딥러닝(Deep learning)과 가짜(Fake)의 합성어로 기존 영상을 다른 영상에 겹쳐서 만들어 낸 이미지 합성기술이다.
경찰이 개발한 소프트웨어는 딥페이크 기술이 쓰인 것으로 의심되는 영상을 시스템에 올리면 5~10분 내 분석 작업을 완료해 영상의 진위를 판별한다.
판별이 완료되면 결과보고서를 즉시 만들어 수사에 곧바로 활용할 수 있다.
기존 딥페이크 탐지 모델은 해외에서 제작돼 북미·유럽계 위주의 데이터로 구성된 것이 대부분이었다. 이에 따라 한국인을 대상으로 합성된 영상은 탐지율이 떨어지는 한계가 있었다.
새로 개발한 탐지 소프트웨어는 인물 5400명의 데이터 520만점을 바탕으로 한국인 데이터 학습이 이뤄졌다.
이어 기존 학습 데이터에 없는 새로운 합성 영상이 발견돼도 대응할 수 있도록 최신 인공지능 모델을 적용했다.
경찰은 소프트웨어를 활용해 선거범죄, 합성 성 착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나간다는 방침이다.
경찰청은 “딥페이크 이용 여부가 의심될 때 딥페이크 탐지 소프트웨어를 통한 분석을 거쳐 빠르게 결과를 확인한 후, 적극적인 수사를 진행해 나갈 수 있을 것으로 기대한다”고 밝혔다.