지난달 24일, 대학생인 희진(가명) 씨의 휴대전화에 익명의 발신자가 보낸 텔레그램 메시지 한 통이 도착했다.

“당신의 사진과 개인 정보가 유출됐습니다. 우리 이야기를 나눠보죠.”

이 메시지를 읽기 위해 대화방에 들어가자 몇 년 전 희진 씨가 학교 다닐 때 찍은 사진 한 장이 수신됐다. 뒤이어 2번째 사진이 도착했다. 다만 첫 번째 사진을 성적인 모습으로 합성한 가짜 이미지였다.

겁에 질린 희진 씨는 이에 아무런 대답도 하지 않았다. 그러자 계속 비슷한 이미지가 수신됐다. 하나같이 정교한 딥페이크 기술을 사용해 성행위 중인 사람의 몸에 희진 씨의 얼굴을 합성한 사진이었다.

실제 사람의 얼굴을 성적인 사진에 합성하는 사례가 많은 딥페이크 이미지는 AI 발전과 함께 점점 더 많이 생겨나고 있다.

희진 씨는 BBC와의 인터뷰에서 “극도로 겁이 났고, 외로웠다”고 토로했다.

하지만 희진 씨뿐만이 아니다.

그로부터 2일 전, ‘한겨레’의 고나린 기자는 엄청난 특종 기사 하나를 발표했다.

최근 한국 경찰이 국내 주요 대학 2곳의 딥페이크 음란물 조직을 수사하고 있다는 소식이었다. 고 기자는 이러한 일이 더 많이 벌어지고 있으리라 확신했다.

이에 고 기자는 SNS 세계를 조사하기 시작했고, 메시지 앱 ‘텔레그램’에서 특정 여성을 동시에 아는지 확인하고, 함께 아는 여성이 있으면 이 여성의 사진을 서로 공유해 AI 소프트웨어를 사용해 몇 초 만에 가짜 음란물 이미지를 만들어내는 대화방 수십 곳을 발견했다.

고 기자는 BBC에 “몇분마다 자신이 아는 여성 지인의 사진을 올리고 딥페이크로 합성해달라는 요청이 올라왔다”고 설명했다.

게다가 고 기자는 이러한 대화방이 대학생들만 노린 게 아니었으며, 특정 고등학생, 심지어 중학생을 대상으로 하는 대화방도 있었다는 것을 발견했다.

특정 개인 학생의 딥페이크 이미지가 다량으로 제작되면 개인별 대화방이 생성되기도 했다. 광범위하게 ‘능욕방’ 혹은 ‘겹지인방’이라고 불리는 이러한 텔레그램 채널에는 엄격한 가입 조건이 붙어 있는 경우도 많았다.

고 기자의 보도는 한국 사회를 충격에 빠트렸다. 텔레그램을 창업한 러시아 출신 CEO가 최근 프랑스에서 텔레그램과 관련된 범죄 혐의로 체포된 데 이어 지난 2일 한국 경찰은 텔레그램에 대한 수사 개시를 검토 중이라고 밝혔다.

아울러 정부 또한 나서 관련자들에게 더 높은 형량을 내리겠다고 약속했으며, 윤석열 대통령은 딥페이크를 이용한 성범죄는 단순한 장난이 아니라고 촉구했다.

한편 텔레그램은 BBC에 제공한 성명을 통해 “불법 음란물 등 우리 플랫폼의 유해한 콘텐츠에 맞서 적극적으로 싸우고 있다”고 밝혔다.

‘체계적이고 조직적인 과정’

BBC는 이러한 대화방들의 소개 문구를 확인했다. 회원들에게 딥페이크의 대상이 될 사람의 이름, 나이, 거주 지역과 함께 사진 4장 이상을 올리라고 요구하는 곳도 있었다.

고 기자는 “어찌나 체계적이고 조직적으로 이뤄지는지 충격받았다”면서 “회원 수가 2000명이 넘는, 같은 학교에 다니는 미성년자 학생들이 모인 대화방을 발견했을 때 가장 끔찍했다”고 회상했다.

고 기자의 기사가 공개된 이후, 여성 권리 운동가들 또한 텔레그램을 샅샅이 뒤지며 이를 추적하기 시작했다.

그렇게 주말이 되기 전까지 전국의 학교 및 대학교 500여 곳이 표적이 됐음이 알려졌다. 실제 피해자 수는 아직 확인되지 않았으나, 상당수가 한국 법상 성관계 동의 연령인 만16세 미만인 것으로 추정된다.

그리고 가해자로 의심되는 이들 중 상당수도 10대 청소년이다.

한편 희진 씨는 이러한 딥페이크 사태의 규모를 알게 된 후 얼마나 많은 이들에게 자신의 딥페이크 영상이 유포됐을지 알 수 없어 더 불안해졌다고 설명했다.

가장 먼저 든 감정은 자책감이었다.

“내가 SNS에 내 사진을 올려서 이런 일이 일어난 것은 아닐까 끊임없이 생각했습니다. 제가 더 조심했어야 했을까요?”

희진 씨처럼 이번 보도 이후 수많은 여성 및 청소년들이 SNS 계정에서 자신의 사진을 삭제하거나, 아예 계정을 비활성화하고 있다. 다음 목표물이 될 수도 있다는 두려움 때문이다.

한편 피해를 입은 지인들을 알고 있다는 대학생 아은 씨는 “우리가 잘못한 게 아닌데 우리의 행동과 SNS 사용을 스스로 검열해야 한다는 사실에 좌절감과 분노를 느낀다”고 토로했다.

아은 씨에 따르면 자신과 같은 학교에 다니는 한 여성 피해자는 경찰로부터 가해자를 잡기 너무 어려우니 사건을 이어가지 말라는 말을 들었으며, 또한 “가짜 사진”이기에 “범죄라 볼 수 없다”는 말도 들었다고 한다.

한편 이번 사태의 중심에는 텔레그램이 있다. 당국이 쉽게 접근할 수 있으며, 특정 콘텐츠의 삭제 등을 요구할 수 있는 다른 공개적인 웹사이트들과 달리, 텔레그램은 암호화된 비공개 메시지 앱이다.

사용자는 익명으로 접근할 수 있으며, ‘비밀’ 모드로 대화방을 설정할 수도 있다. 그리고 대화 내용은 흔적도 없이 빠르게 삭제될 수 있다. 이로 인해 이곳에서는 범죄 행위가 크게 성행하게 됐다.

지난주 한국 정치인들과 경찰은 관련 범죄에 대한 수사 및 가해자들을 대상으로 정의를 실현하겠다며 강력하게 대응하고 나섰다.

지난 2일, 서울경찰청은 아동을 대상으로 한 합성 음란물이 유포되도록 용인한 텔레그램의 역할에 대해 조사하겠다고 밝혔다.

텔레그램의 창업자 파벨 두로프 CEO는 아동 성학대물 유통 방조 등 텔레그램과 관련된 여러 범죄 혐의로 지난주 프랑스에서 체포됐다.

그러나 여성 인권 운동가들은 텔레그램에서 성범죄가 기승을 부리도록 너무 오랫동안 방치했던 한국 당국의 책임도 있다고 비난한다. 한국은 이전에 이러한 위기에 직면한 적이 있기 때문이다.

지난 2019년, 한 성범죄 조직이 텔레그램을 통해 여성들과 아동들을 대상으로 성적인 사진을 제작하고 협박 및 강요한 사실이 드러난 바 있다.

당시 경찰은 텔레그램에 수사 협조를 요청했으나, 텔레그램은 총 7차례의 협조 요청을 모두 무시했다. 결국 주범은 징역 40여 년형을 선고받았으나, 검열에 대한 우려로 해당 플랫폼에 대해서는 어떠한 조치도 이뤄지지 않았다.

고 기자는 “주범에게 형을 선고한 것 외에 아무것도 하지 않고 방치하면서 상황이 더 심각해진 것 같다”고 지적했다.

한편 2019년 당시 학생 기자로서 ‘n번방’ 사건을 폭로했던 박지현 전 더불어민주당 비상대책위원장은 사건 이후 디지털 성범죄 피해자들을 위한 정치적 대변자로 변신했다.

박 전 위원장은 이번 딥페이크 사건이 알려지면서 하루에도 몇 번씩 울먹이는 학생과 학부모들의 전화를 받는다고 말했다.

“SNS에 공개된 이러한 대화방에서 자신의 학교명을 발견하고 겁에 질려 있습니다.”

박 전 위원장은 한국 정부를 향해 텔레그램을 규제 혹은 금지해야 한다고 목소리를 높이는 대표적인 인물이다. “이러한 IT 기업이 사법 기관에 협조하지 않으면, 국가는 국민을 보호하고자 반드시 규제에 나서야 한다는 것”이다.

이번 딥페이크 사태가 터지기 전부터 ‘디지털 성범죄 피해자 지원센터’는 이미 딥페이크 음란물 피해를 당한 미성년자 수가 급격히 증가하고 있음을 알고 있었다.

2023년 기준 지원센터가 상담한 딥페이크 음란물 피해 10대 청소년은 86명이었다. 그런데 올해 8월까지 그 수는 238명으로 급증했다. 그리고 지난 한 주간 무려 10대 청소년 64명이 추가로 찾아왔다고 한다.

이 센터의 박성혜 팀장은 지난 한 주 동안 밀려드는 전화로 직원들이 24시간 내내 일했다면서 “마치 전쟁이라도 터진 듯 전면적인 비상사태였다”고 설명했다.

“최신 딥페이크 기술로 인해 이전보다 훨씬 더 많은 (합성) 이미지가 존재하며, 이는 앞으로도 더 늘어날 것으로 우려됩니다.”

디지털 성범죄 피해자 지원센터에서는 피해자에게 상담을 지원할 뿐만 아니라 유해 콘텐츠를 추적하고, 플랫폼과 협력해 삭제를 요청하고 있다.

박 팀장은 텔레그램이 피해자의 요청으로 콘텐츠를 삭제한 사례도 있었다면서 “아예 불가능한 것은 아니”라고 말했다.

텔레그램은 BBC에 보낸 성명을 통해 자사 콘텐츠 관리자들이 “적극적으로 텔레그램의 공개적인 부분을 모니터링하고, AI 도구를 활용하고, 사용자의 신고를 받아들여 서비스 약관을 위반하는 콘텐츠를 매일 수백만 건씩 삭제하고 있다”고 설명했다.

한편 여성 인권단체들은 이 같은 새로운 AI 기술로 인해 피해자들이 더 쉽게 착취당할 수 있다는 점은 인정하면서도, 결국 이는 최근 한국의 온라인 세계에서 이어지는 여성 혐오의 최신 버전이라고 주장한다.

가장 먼저 온라인에서 여성들을 향한 언어적 폭력이 있었다. 이후 공중화장실과 탈의실 등에 설치된 불법카메라가 급속도로 퍼져나갔다.

여성 단체 84곳이 서명한 성명서는 이번 사태의 “근본적인 원인은 구조적 성차별이고 해결은 성평등”이라고 밝히고 있다.

이는 구조적 성차별은 없다면서 여성 폭력 피해자 지원 및 방지 예산을 삭감하고, 여가부 폐지를 공약으로 내세운 윤 대통령을 직접적으로 비판하는 발언이다.

청소년 성범죄자들을 상담하는 이명화 ‘아하 서울 시립 청소년 문화센터’ 센터장은 딥페이크 범죄가 어느 날 갑자기 발생한 것처럼 보이지만, 사실 이미 만연한 문제라고 지적했다.

이 상담사는 “10대들 사이에서는 딥페이크가 이미 하나의 문화가 됐다. 이를 장난, 놀잇거리로 본다”고 진단했다.

이 상담사는 가해자에게 이들이 저지른 범죄가 무엇인지 정확히 알려주고, 무엇이 성적 학대에 해당하는지 교육하면 재범을 막을 수 있다는 연구 결과를 인용해 청소년 대상 교육이 무엇보다도 중요하다고 강조했다.

한편 정부는 딥페이크 이미지를 제작하고 공유하는 이들에 대한 형량을 높이고, 이 같은 음란물을 본 사람도 처벌하겠다고 나섰다.

가해자에 대한 처벌이 충분하지 않다는 비판의 목소리가 높았기 때문이다. 그런데 문제는 가해자 대부분이 청소년으로, 보통 소년 법원에서 재판을 받아 형량이 그리 높지 않게 나오곤 한다.

이번 사태가 드러난 이후 수많은 대화방이 폐쇄됐으나, 언젠가 분명 새로운 대화방이 나타나 그 자리를 대신할 것이다. 이미 이번 사건을 다룬 기자들을 겨냥한 ‘능욕방’이 만들어지기도 했다.

이번 사건을 처음으로 전한 고 기자는 이미 이로 인해 밤에 잠이 잘 오지 않는다면서 “내 사진이 올라왔는지 계속 그 대화방을 확인한다”고 토로했다.

이러한 불안감은 한국의 수많은 10대 여성 청소년 및 여성들에게 퍼져나갔다. 아은 씨는 자신의 남성 지인들을 의심하게 됐다고 했다.

“이제는 사람들이 몰래 내 뒤에서 이러한 범죄를 저지르지 않을 거라고 확신할 수 없다”는 아은 씨는 “사람들과 만날 때 극도로 경계하게 됐다. 좋지 않은 일”이라고 마무리했다.