딥페이크(deepfake)는 딥 러닝(deep learning)과 가짜(fake)의 혼성어로 인공 지능을 기반으로 한 인간 이미지 합성 기술이다. 생성적 적대 신경망(GAN)라는 기계 학습 기술을 사용해 기존의 사진이나 영상을 원본이 되는 사진이나 영상에 겹쳐서 만들어낸다. 쉽게 말해 AI를 이용한 가짜 영상물이다.

 

이런 딥페이크 기술의 발전과 함께 이를 악용한 범죄가 우리 사회 곳곳에 퍼지고 있다. 연예인뿐 아니라 직장 동료 등 주변인을 대상으로 한 딥페이크 피해 사례가 이어지면서 사회적 혼란이 커지고 있지만 효과적인 단속과 규제는 쉽지 않다.

 

◆트와이스·뉴진스도 당했다…연예계 ‘강경 대응’ 의지

 

 

다른 사람의 얼굴 사진을 음란물에 합성하는 딥페이크 성범죄가 점차 확산하자 연예계는 선처 없는 강경 대응 의지를 밝혔다. 아이돌 가수나 배우 등 스타들은 딥페이크 성범죄 피해를 고스란히 받고 있는 상황이다.

 

트와이스가 속한 JYP엔터테인먼트와 블랙핑크·베이비몬스터 등이 소속된 YG엔터테인먼트, 뉴진스 소속사 어도어 등 국내 4대 기획사뿐 아니라 (여자)아이들 소속사 큐브엔터테인먼트, 권은비 소속사 울림엔터테인먼트 등 다수의 국내 연예기획사들이 “선처 없는 강력한 법적 대응을 진행 중”이라고 딥페이크와의 전쟁을 선포했다.

 

특히 권은비는 지난해 워터밤으로 화제를 모은 이후 선정적인 사진과 영상의 합성 피해를 지속적으로 당해왔다. 소속사에 따르면 다수 게시물을 취합해 1차 고소장을 제출했으며 현재 경찰 수사가 진행되고 있다. 브레이브걸스 출신 유정은 지난 2월 한 방송에 출연해 직접 딥페이크 피해를 고백했다. 유정은 “제 사진을 딥페이크에 이용한다는 사실을 지인 제보로 알게 됐다. 기분이 나빴다. 여성, 남성 누구나 충분히 피해를 볼 수 있는 상황이라고 생각한다”고 분노했다.

 

피해는 아이돌 가수뿐만이 아니다. 배우 박규영, 모델 아이린 측도 “딥페이크 제작물이 불법 제작 및 유포되는 사례가 발생하고 있다”며 엄중히 대응하겠다고 경고했다.

 

성착취물은 아니지만 불법 광고에 딥페이크 기술이 이용되기도 한다. 지난 8월 덱스 측은 “덱스를 사칭해 딥페이크, 인공지능 등의 기술이 접목된 불법 도박 게임 광고가 온라인 커뮤니티 및 유튜브, SNS 등을 통해 무분별하게 유포되고 있다. 해당 광고는 덱스가 출연했던 영상들을 기반으로 만들어진 가짜 영상”이라고 주의를 당부했다.

 

◆‘서울대 N번방’ 피해자 최소 61명…딥페이크 성범죄 피의자 중 10대가 83%

 

딥페이크의 폐해는 사회 전반에 뿌리내린 모양새다. 기존의 딥페이크 성범죄는 연예인 등 유명인을 대상으로 했지만 최근엔 대상이 지인까지 확대되는 등 피해가 늘고 있다.

 

최근 ‘서울대 N번방’ 사건은 우리 사회에 큰 충격을 안겼다. 서울대 졸업생들이 여학생들의 얼굴을 딥페이크 성착취물에 합성해 음란물로 유포한 사건이다. 조사 결과 확인된 피해자만 서울대 동문 12명 등 61명에 달하는 것으로 파악됐다. 검찰은 지난달 26일 열린 결심공판에서 주범인 박씨에게 징역 10년, 강씨에게 징역 6년을 선고해달라고 재판부에 요청한 상태다.

 

특히 딥페이크 관련 범죄 가해자가 대부분 10대라는 사실이 더욱 우려를 키운다. 경찰청에 따르면 올해 9월까지 검거된 딥페이크 성범죄 피의자 중 83.7%는 10대다. 9월엔 텔레그램을 통해 연예인 20여명의 딥페이크 성착취물을 판매한 10대들이 경찰에 붙잡혔다. 이들은 지난해 11월부터 각각 텔레그램에 ‘합사방(합성사진방)’ 등의 채널을 개설해 연예인이 성적 행위를 하는 내용의 딥페이크 성착취물을 불특정 다수에게 판매한 혐의를 받는다.

 

◆쉽지 않은 피해 예방…‘딥페이크 성범죄 처벌’ 강화

 

 

딥페이크 범죄 피해를 막기 위해 경찰은 SNS상 사진 및 개인정보 공개 최소화와 스마트폰으로 전송된 출처가 불분명한 링크 및 파일 열람 금지 등을 안내하고 있다. 그러나 유명인도 아닌 일반인이 무심코 SNS에 올린 사진이 불법 영상물 범죄에 악용되기 때문에 근본적인 예방은 쉽지 않다.

 

범죄를 원천 차단하기 위해선 무엇보다 강력한 규제와 처벌이 필요하다. 그러나 딥페이크 영상물은 주로 국내 기관의 규제를 벗어난 해외 사이트에서 유포된다. 해외 플랫폼이 삭제 요청을 받아들이지 않으면 국내에서 해당 웹페이지 접속을 차단하는 방법밖에 없지만 외국 아이피로 우회 접속하는 프로그램을 누구나 쉽게 구할 수 있는 만큼 실효성은 없다.

 

딥페이크 피해가 갈수록 확산하자 국회는 지난달26일 불법 딥페이크 성착취물을 소지·구입·저장·시청만 하더라도 처벌할 수 있게끔 한 개정안을 본회의에서 통과시켰다. 정부는 딥페이크 성범죄 온상으로 지목된 텔레그램과 협력 관계를 구축했다. 텔레그램은 딥페이크 등 기술을 악용한 불법정보에 무관용 원칙을 적용해 신속하게 삭제 차단 조치하기로 했다.

 

지동현 기자 ehdgus1211@sportsworldi.com

[ⓒ 세계비즈앤스포츠월드 & sportsworldi.com, 무단전재 및 재배포 금지]