AI 기술 활용한 딥페이크 성범죄 영상물 공동 대응 체계 구축

노형석 기자

작성일 2026-06-26 08:03

인공지능(AI) 기술을 활용하여 딥페이크 성범죄 영상물을 신속하게 판별하고, 삭제·차단 및 피해자 지원으로 이어지는 정부 차원의 공동 대응 체계가 본격적으로 가동된다.

행정안전부, 성평등가족부, 방송통신위원회는 지난 25일 정부서울청사에서 '딥페이크 성범죄 대응 기술협력을 위한 업무협약'을 체결하고, 피해 영상물 대응 전 과정을 고도화하기로 했다. 이번 협약은 생성형 AI 기술의 발전으로 딥페이크 성범죄가 더욱 지능화·고도화되고 피해 영상물이 온라인상에서 빠르게 확산되는 현실에 대응하기 위해 마련되었다.

행정안전부는 국립과학수사연구원과 협력하여 개발한 AI 딥페이크 탐지·분석 모델을 관계기관과 공유하여, 피해 영상물의 탐지 및 분석, 삭제·차단, 피해자 보호 전 과정에 활용할 계획이다. 협약식에는 김민재 행정안전부 차관, 정구창 성평등가족부 차관, 고민수 방송통신위원회 상임위원이 참석하여 딥페이크 성범죄 피해 예방과 피해자 보호 강화를 위한 기관 간 협력을 약속했다.

이번 협약에 따라 세 기관은 AI 딥페이크 탐지·분석 모델의 공유 및 활용, 피해 영상물 탐지·삭제·차단 절차의 연계, 2차 피해 방지를 위한 정보보호 및 보안 조치 등에 협력한다. 행정안전부는 AI 기술 발전 속도에 맞춰 탐지·분석 모델을 지속적으로 고도화하고 관계기관에 제공·공유할 예정이다. 성평등가족부는 기존 민간 탐지 모델과 정부의 AI 모델을 함께 활용해 피해 영상물 및 의심 콘텐츠를 정밀 분석하고 삭제를 지원하며, 피해자 보호와 2차 피해 방지를 위한 업무 기준을 마련·운영할 계획이다. 방송통신위원회는 딥페이크 성범죄 의심 콘텐츠의 온라인 유통에 대응하고 플랫폼 사업자와의 협력 체계를 강화하며, 재유포되거나 변형된 콘텐츠에도 신속히 대응할 수 있도록 관계기관 간 정보 공유와 협력을 확대할 방침이다.

정부는 이번 협약을 통해 AI 탐지·분석 기술을 딥페이크 성범죄 대응 전 과정에 연계함으로써, 피해 영상물이나 의심 콘텐츠 접수 시 AI 모델을 활용한 1차 탐지·분석 결과를 삭제·차단 및 피해자 지원 절차와 연계하여 신속하게 대응할 계획이다. 또한, 피해 영상물 처리 과정에서 개인정보와 피해자 인권 보호를 최우선으로 고려하고, 불필요한 영상의 복제·공유·보관을 제한하는 등 보안 관리 기준을 강화한다.

행정안전부, 성평등가족부, 방송통신위원회는 협약 이후 AI 딥페이크 탐지·분석 모델을 현장에 본격 적용하고 활용도를 높이는 한편, 딥페이크 성범죄 공동 대응 성과를 지속적으로 점검할 계획이다.

윤호중 행정안전부 장관은 "딥페이크 성범죄는 피해 확산 속도가 빠르고 재유포·변형으로 인한 2차 피해 우려가 큰 만큼 관계기관 간 신속한 공동 대응이 중요하다"며 "AI 딥페이크 탐지·분석 모델을 관계기관과 공유하고 탐지 및 분석부터 삭제·차단, 피해자 보호까지 이어지는 기술 기반 협력 체계를 구축해 나가겠다"고 밝혔다.