경찰청 국가수사본부(국수본)는 '딥페이크(Deepfake) 탐지 소프트웨어'를 개발해 관련 범죄 단속에 본격적으로 활용한다고 오늘(5일) 밝혔습니다.
딥페이크는 딥러닝(Deep learning)과 '가짜'를 의미하는 단어인 페이크(Fake)의 합성어로, 기존 영상을 다른 영상에 겹쳐서 만들어 내는 AI 기술을 기반으로 한 이미지 합성기술을 말합니다.
경찰이 개발한 소프트웨어는 페이스 스왑(Face Swap·영상 등에서 얼굴을 인식하고 교체하는 AI 딥러닝 기술) 등 딥페이크 기술이 쓰인 것으로 의심되는 영상을 시스템에 올리면 통상 5∼10분 이내에 분석 작업을 완료해 진위를 판별합니다.
또한 판별이 완료됨과 동시에 결과보고서를 즉시 만들어내 수사에 곧바로 활용할 수 있도록 합니다.
기존에 만들어진 딥페이크 탐지 모델은 해외에서 제작돼 서양인 위주의 데이터로 구성된 것이 대부분이었습니다.
이로 인해 한국인을 대상으로 합성된 영상에 대해서는 탐지율이 떨어지는 문제점이 있었습니다.
새로 개발한 소프트웨어는 한국인 데이터 100만 점, 아시아 계열 인종 데이터 13만 점 등 한국인과 관련한 인물 5천400명의 데이터 520만 점을 바탕으로 다양한 학습이 이뤄졌습니다.
나아가 기존에 학습된 데이터가 아닌 새로운 형태의 합성 영상이 발견되더라도 대응할 수 있도록 최신 AI 모델을 적용했습니다.
해당 소프트웨어의 진위 여부 탐지율은 약 80%에 달합니다.
다만 경찰은 탐지율이 100%가 아닌 점을 고려해 증거자료보다는 수사 방향을 설정하는 자료로 활용할 예정입니다.
아울러 딥페이크와 관련한 새로운 기술이 끊임없이 개발·전파되는 만큼 딥페이크 영상 선거범죄에 대해선 학계·기업 등 AI 전문가로 구성된 민간 자문위원의 교차 검증을 받아 소프트웨어의 오탐지 가능성을 최소화할 계획이라고 경찰은 전했습니다.
국수본 관계자는 "딥페이크 이용 여부가 의심될 때 빠른 분석과 결과 확인을 거쳐 적극적으로 수사할 수 있을 것"이라며 "향후 더욱 정확한 탐지가 이뤄지도록 소프트웨어를 고도화하고 선거범죄, 합성 성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다"고 말했습니다.
http://n.news.naver.com/mnews/article/055/0001135982
|
딥페이크 영상 10분 이내 가려낸다…경찰, 탐지 기술 개발
|
|
|
조회 : 41 
추천 : 1 
비추천 : 0
플래시24 게임다운로드 |
모바일접속