딥페이크(Deepfake) 용어는 인공지능(AI)의 일종으로 딥러닝을 이용해 실제처럼 보이는 가짜 콘텐츠를 만드는 것으로 ‘깊은 학습과 가짜(deep learning & fake)’ 라는 단어들의 합성어로 사람의 얼굴, 목소리, 행동, 텍스트 등을 조작해서 진짜와 같은 가짜 이미지나 영상을 만드는 것을 말한다. 딥페이크 역사는 연구자들이 이미지 처리를 위해 AI를 실험하기 시작한 1990년대부터로 볼 수 있지만, 2017년 11월 소셜미디어 플랫폼에 익명의 Reddit 사용자가 기존 인공지능 알고리즘을 활용해서 진짜와 같은 가짜 동영상을 만드는 알고리즘을 게시하면서 처음 등장했다.

딥페이크 기술을 좋게 사용할 경우에는 엔터테인먼트, 교육, 의료, 마케팅, 고객서비스 등 다양한 분야에서 혁신적인 방법들을 제공할 수 있지만, 부정적으로 사용하거나 악용하면 개인의 사생활 침해, 명예훼손, 사기, 허위정보 유포 등으로 사회와 국가에 부정적 또는 범죄적인 결과들을 초래 할 위험이 많은 데도 아직 세계 인구 71%가 딥페이크가 무엇인지를 잘 모르고 있는 실정이다.

그간의 사례들을 살펴보면 영화 분야에서 배우의 얼굴을 다른 캐릭터에 사용하거나 정치인들의 발언을 조작해서 가짜 뉴스 동영상을 만들어 사회에 혼란을 초래할 위험이 있고 유명인의 얼굴이나 음성을 이용해 범죄에 악용하기도 해서 허위정보 유포 도구로도 사용되고 있다. 앞으로 기술이 더 발전할수록 실제와 가짜의 구분이 더 어려워져서 사회적 신뢰와 각종 사생활 침해 문제들이 많아질수록 법적대응들도 더 늘어나게 될 것이다.

딥페이크 성범죄(Deepfake sex crime)는 인공지능(AI) 기술을 사용해서 생성된 이미지, 오디오, 또는 비디오를 본인의 동의 없이 그 이미지나 음성을 성적인 맥락에서 부적절하게 사용 및 유포하는 행위를 말하며 이런 범죄는 피해자의 명예를 훼손하고 장기적으로는 정신건강에 치명적인 영향을 끼칠뿐더러 피해자가 미성년자인 경우에는 성범죄로 간주된다. 이미 지난 6년간 엄청난 가짜 성적인 이미지들과 영상음란물들이 생성되어 온라인을 누비고 있어서 여러 국가나 미국의 각주에서는 게시물을 유포한 사람뿐 아니라 제작한 사람도 함께 처벌대상에 포함시키는 디지털 성범죄 단속을 위해 법규제정을 서둘고 있다.

세계 딥페이크 포르노 웹사이트들 중에 66%가 미국(41%)과 한국(25%)에 있고 34%는 다른 국가들에 있다고 한다. 2017년 처음 인기를 끌었던 딥페이크는 주로 연예인들의 가짜 포르노를 만드는데 사용되었다. 2018년 12월 이전까지의 온라인 딥페이크 비디오는 7,964개 이었던 것이 2019년에 14,678개로 100% 증가했고 2020년 49,081개, 2023년에는 95,829개라고 하니 6년 사이에 12배가 증가된 셈이다. 콘텐츠 유형은 96%가 포르노 이었으며 4%만 포르노가 아니었다. 딥페이크 포르노그래피 웹 사이트들은 새로운 현상 임에도 불구하고 상위권 4개의 딥페이크 포르노 웹 사이트에서만 1억 3천 4백만 건의 비디오 조회 수를 기록했다고 한다.

2024년 6월 온라인자료에 의하면 전 세계 인구의 스마트폰 중독(26.99%), 소셜미디어 중독(17.42%), 인터넷 중독(14.22%) 사이버섹스 중독(8.23%) 문제가 있다고 한다. 앞으로 딥페이크 음란물들로 성 범죄와 중독을 더 부추길 위험이 있다.

딥트레이스에 의하면 온라인 딥페이크 비디오의 96%는 나체나 노골적인 성적행위들을 묘사한 영상물들로 주로 여성들을 대상으로 하고 있다고 한다. 노스웨스턴 대학 법학 교수인 쿠글러는 2020년에 미국 성인 1,141명을 대상으로 실시한 연구에서 성적으로 노골적이고 비 합의적인 딥페이크 비디오에 대한 일반인들의 태도를 조사했으며, 대다수 응답자들은 그 행위를 범죄로 규정되기를 원했다. 요즘 소셜 미디어 사이트와 이메일사용이 보편화됨에 따라 캘리포니아를 비롯해 17개 주에서 소셜 미디어 사이트, 이메일 또는 기타 전자통신을 통해 사람을 협박, 또는 괴롭히려는 의도로 수행된 온라인 사기들을 구체적으로 규제하는 법규들을 제정했으며 다른 주에서도 계속 입법화를 추진하고 있다.

딥페이크의 확산과 영향은 빠르게 전개되고 있으며, 다양한 분야에서 중대한 도전을 제기하고 있다. 여러 통계자료에서와 같이 급속히 그리고 끊임없이 성장하는 딥 페이크 환경에서는 문제의 인식과 해결책에 대한 시급한 필요성이 강조되기 때문에 바른 예방 및 대처 정보들을 습득해서 가족단위로 경계하며 교육하는 것이 중요하다. 기술향상을 멈추게 할 수는 없지만, 사용자들이 그 기술을 올바르게 사용하고 그릇된 사용으로 인한 피해들이 발생하지 않고 중독되지 않도록 모두가 노력해야만 한다.

▶ 미주 한국일보 인터넷신문 - [전문가 칼럼] 딥페이크 음란물이 성 범죄와 중독을 부추긴다!

   (2024년 10월 23일자 미주한국일보 오피니언 난에 기고한 글)

이해왕 선교사

한인 중독증회복 선교센터

상담전화: 미국 909-595-1114 (앤서링에 상담용건을 남겨주십시오!)