N번방 사건이 터진지 얼마 되지도 않은 것 같은데, 다시 전국을 뒤흔들만한 사건이 발생했습니다. 이번엔 친구나 지인 사진에 음란물을 합성하는 '딥페이크' 범죄가 발생한 것입니다. 피해는 갈수록 눈덩이처럼 불어나고 있는데요. 이는 누구나 쉽게 불법 합성물을 만들고 퍼트릴 수 있기 때문입니다. 사진 한 장만 있으면 알아서 불법 합성물을 만들어주고 비공개 사진까지 해킹해 주는 텔레그램 봇들이 수천 개, 사용자는 수십만 이상에 달합니다.

간단한 봇을 활용한 비공개 소셜미디어 계정 해킹

이런 봇들 중에는 소셜 미디어를 해킹해 주는 봇도 있는데요. 사진도용을 막기 위해 SNS를 비공개로 바꾸면 해킹으로 뚫어 해당 SNS 채널에 있는 사진을 크롤링, 딥페이크 음란물을 합성하는 용도로 사용하는거죠. 딱히 제약이 있는 것도 아닙니다. 아무나, 누구나 들어갈 수 있습니다. 비공개 계정으로 돌리건, 하이라이트를 내리건 보관함 자체를 해킹해버리는데 답이 없습니다.

사실 이런 문제는 올해 초부터 문제가 되기 시작했습니다. 등장 당시에는 조롱의 대상이었던 이 신기술이 급격하게 발전, 이제는 진짜와 가짜를 구분할 수 없을 정도로 강력해졌습니다. 보안업체 iProov CTO 도미닉 포레스트는 "보안 전문가로서 수십 년 동안 가짜와 진짜를 구분하는 일을 해왔고, 그 일에 상당히 자신이 있었는데 (딥 페이크 기술 때문에) 2020년경 부터는 구분이 어렵다고 느꼈다"고 말했습니다. 

생성형 AI로 인해 획기적으로 낮아진 합성 난이도

생성형 AI 기술이 발전하면서 딥페이크에 접할 수 있는 창구가 늘어나고 딥페이크를 사용한 합성 난이도가 상당히 낮아졌다는 것 역시 문제입니다. 아니 이것이 핵심입니다. 생성형 AI 사용의 기술적, 가격적 진입장벽이 차차 내려갔습니다. 2010년대만 하더라도 AI와 딥페이크를 다룬다는 건 전문가의 영역이었고 작업의 난이도도 매우 높은데다, 강력한 컴퓨터가 필요하고 성능도 애매했습니다. 하지만 지금은 아닙니다. 간단한 앱을 무료로 다운로드 하거나 수십 달러 정도의 돈만 내면, 심지어 요즘은 전문화된 봇까지 등장하여 양질의 딥페이크 콘텐츠를 누구나 만들 수 있게 된 것입니다. 지금 가장 큰 문제가 되는 것은 얼굴 교체입니다.

Face Swapping이라고도 불리는데요. 이런 얼굴 교체 전문 도구가 올 초부터 다크웹에서 급증, 수백에서 수천개까지 나돌기 시작했습니다. 다크웹이 아니더라도 마찬가지입니다. 정상적인 경로를 통해서도 얼굴 교체 기능이 있는 앱들은 얼마든지 찾을 수 있습니다. 지금 시점에서 이 기술은 딱히 신기하지도, 특별한 기술이 필요하지도 않습니다. 포토샵 등을 통해 음란물을 한땀 한땀 위조하는 시대는 더 이상 지났다는 겁니다. 이제 실제 사람의 모습과 행동이 담긴 3분짜리 영상과, 그 사람이 실제로 말한 문장 100개만 있으면 딥페이크로 어떤 내용이든지 가짜 영상을 만들 수 있습니다. 가짜 영상은 실제와 구분이 불가능할 정도로 정밀합니다.

그러나 구독자 수가 119만에 달하는 유튜버 '뻑가'는 이번 텔레그램 딥페이크 사태에 대해 "호들갑을 떤다", "(사건을 공론화하는) 사람들 보면 이런 (음란물) 정보에 밀접하게 반응하고 참여하고 있다고 보면 된다"고 비난했습니다.
또 문제를 제기한 박지현 전 더불어민주당 비상대책위원장에 대해서는 "또 신나게 나와서 22만명 이렇게 선동하고 있다. 아주 눈에 불을 켜고 남혐(남성혐오)하려고 한다. 무슨 국가 재난이냐, 미쳐가지고"라고 맹비난했습니다.

이 유튜버는 텔레그램 음란물 봇 채널 참여자 22만명에 대해 "저게 전 세계 사람들 다 모여 있는 단체방이다. 수치적으로 한국인의 텔레그램 이용자 수는 전 세계에서 0.33%다. 22만명의 0.33%는 726명 밖에 안된다"라는 논리를 폈습니다. 이준석 개혁신당 대표 역시 이 수치를 근거로 똑같은 주장을 폈습니다. 별 일 아니라는거죠.

딥페이크, 음란물 제작을 넘어 개인정보 유출의 문제

하지만 이번 사태의 본질은 타인의 사진을 이용해 음란물을 제작하고 공유하는 범죄 행위 그 이상이라고 봐야 합니다. 이 사건의 본질은 다양한 해킹 기법과 AI가 결합하여 좀 더 파괴적인 결과물을 낳은 개인 대상 APT 공격이라 보는 것이 맞습니다. 정부는 텔레그램 해킹 주의보를 발령하고 2차 인증을 설정하라고 했지만, SNS 해킹 봇과 결합해서 이미 감당할 수 없을 만큼 규모가 커졌다는 것을 생각해보면 문제는 이후 더욱 커질 가능성이 큽니다. 실제 2018년 당시 인스타그램 커뮤니티 내에서 해킹 관련 소식이 급증한 적이 있었는데요. 일부 계정을 복구했더니 러시아발 공격 흔적이 나오기도 했습니다.

인스타그램은 당시 대변인을 통해 "계정에서 해킹이 발생한 걸 인지하면 인스타그램에서는 해당 계정에 대한 접근을 차단하고, 계정 원래 주인이 계정 복구 절차를 밟도록 안내를 해줍니다. 여기에는 비밀번호 리셋 등이 포함됩니다."라고 말했지만, 크롤링은 초 단위로 진행되는지라 해킹이 한번 발생한 후에는 어떤 방법으로든 감당할 수 없게 됩니다. 심지어 한 사용자는 이중인증 옵션을 사용하고 있었는데도 해킹을 당했다고 주장하기도 했습니다. 창과 방패의 싸움에서 더 이상 방패가 제 기능을 못하게 된 것입니다.
전문가들은 당시 이 공격 목적에 대해 "많은 인스타그램 계정을 스팸 봇 등으로 활용하기 위해서일 것"이라고 분석했지만, 지금 상황은 조금 더 나쁘게 돌아가고 있습니다. 청주 한 중학교 재학 중인 B양은 "지난 20일 자고 일어났더니 새벽에 경기도 용인에서 인스타그램 계정 로그인이 된 기록이 남아있었다"면서 "SNS 사진을 해킹을 한 뒤 딥페이크로 재생산해 텔레그램 방에 판다는 소문을 들어 너무 불안하다"고 말하기도 했습니다.

굳이 해킹을 하지 않아도 됩니다. 글래사그램을 위시한 소위 '인스타-스파이'라는 프로그램들이 유통되고 있기 때문입니다. 이 앱은 복잡한 해킹 없이 인스타그램의 취약점을 이용해 다른 사람의 스토리를 몰래 확인하고, 크롤링 할 수 있게 해 줍니다. 이 과정에서 완벽한 익명성이 보장되기 때문에 더욱 문제가 됩니다. 이 앱은 안드로이드 및 iOS 기기에서 작동하는데요. 비공개 계정이라 하더라도 최대 8-10일이 걸릴 뿐, 일단 핸들네임이나 URL만 알게 된다면 대부분의 비공개 계정의 보관함에도 접근할 수 있게 해 줍니다. 설치를 위해 상대방의 기기에 접근할 필요 없이 계정 아이디만 알고 있으면 추적이 가능하죠. 상대방이 주고받은 메시지나 민감한 정보를 보는 것은 불가능하다지만, 원래 공격자들의 목적이 얼굴이 나온 사진 한 장만 확보하면 되기 때문에 아무런 문제가 되지 않습니다.

N번방 사건과 유사한 사회공학적 해킹과 피해 사례

거기다 더해 한번 이렇게 딥페이크 음란물이 만들어지면 거기서 파생되는 사회공학적 해킹도 문제가 됩니다. 성범죄자들은 피해자와 그 지인에게 개인정보를 자동으로 수집하는 피싱 링크를 보내고 신상정보를 알아냈다며 협박했습니다. 피해자에게 해킹 프로그램이 심어진 링크를 보내고 이를 빌미로 성착취를 했던 N번방 수법과 동일합니다. 경찰이 수사에 착수했지만 일부 가해자들은 "합성 좀 했다고 벌받는 게 말이 되느냐"는 행태를 보이기까지 했습니다. 딥페이크 음란물 합성 채팅방 참여자들은 피해자에게 신상정보를 요구하는가 하면 "어느 학교에 다니는 누구인지 이름을 말하면 합성한 사진을 올려주겠다"고 조롱하기도 했는데요. 소위 '지인능욕 링공방'에선 N번방 가해자들의 범행 수법을 답습한 2차 가해도 이뤄졌습니다.

텔레그램의 경우 대화방 운영자가 방 검색을 허용하지 않게 설정할 수도 있는데요. 원하는 봇을 사용하기 위해서 봇이 있는 대화방에 들어가기 위해선 입장 링크를 알아야 합니다. 이런 링크를 공유하는 곳을 줄여서 '링공방'이라고 합니다. 참여자들은 피해 사실을 확인하러 온 여성들에게 "여기는 링공방이라 사진이 없다. 딥페이크방 주소를 알려주겠다"며 입장 링크를 보냈지만, 이 링크는 피싱 링크였습니다. 링크를 클릭하면 사용자의 IP 등 개인정보가 유출되도록 해킹 코드가 심어져 있었던거죠.

이는 과거 N번방 가해자들의 범행 수법과 동일합니다. 딥페이크 가해자들도 별반 다르지 않았습니다. 피해 사실을 확인하러 온 여성에게 "내가 보낸 링크를 눌렀냐", "네 전화번호와 IP가 모두 털렸을 것"이라고 협박했습니다. 심지어 가해자들은 죄의식을 느끼지 못하는 것처럼 보이기까지 했습니다. 오히려 한 주만 지나면 다른 이슈에 묻힌다며 자신만만한 태도를 보이기도 했죠. 해당 방 참여자들은 "합성 좀 했다고 벌을 받는 것이 법치국가가 맞느냐"며 "딥페이크 봇은 중국과 미국에서 만든 것이라 한국사람 다 잡혀가도 딥페이크는 없어지지 않는다"고 말하기도 했습니다.

다양한 해킹 수단의 결합이 불러 일으킨 거대한 보안 문제

사건의 해악, 그리고 사용자들의 2차 가해 문제를 모두 접어두더라도 이번 사건은 생성형 AI와 SNS 해킹 도구, 그리고 사회공학적 해킹이라는 복합적인 공격 수단이 모두 결합하면 얼마나 무서운 변종이 되었는지를 보여주는, 보안적으로도 매우 중요한 사건이라고 볼 수 있습니다. 이 사건은 단순히 음란물 합성에 그치지 않을 것입니다. 이미 사람이 맨눈으로 딥페이크로 만든 영상을 보고 진짜와 가짜를 식별하는 건 불가능해졌다고 하는데요. 이런 결과물이 신분 도용 등에 활용, 금융 인증 등에 사용되기 시작한다면 어떻게 될까요? 심지어 이런 음란물을 합성하는 봇들은 작업 과정에서 되먹임 과정이 발생, 생성형 AI를 더욱 강하게 학습시켜주며 AI를 강화시킵니다. 문제는 이 점입니다. 생성형 AI에서 가장 큰 문제가 되는 것은 적절한 수준의 학습 데이터를 수집하는 것인데요.

최소한의 데이터를 학습시켜 어떻게든 딥페이크 음란물을 만들어 내고 공격자들에게 공유할 수 있게 되면 음란물을 원하는 악성 사용자들이 데이터를 자발적으로 가져다주며 악성 인공지능의 학습을 더욱 빠르게, 강하게 만들어 주는 것입니다. 거기다 SNS 해킹/크롤링 봇, 피싱 링크가 결합하여 더욱 파괴력이 강해진 것이죠.

이 문제는 단순히 청소년의 일탈이나 개인의 부주의로만 접근해서는 안 됩니다. APT(Advanced Persistent Threat) 공격과 동일하게 복합화 된 공격이, 자동화된 인공지능 도구를 통해 개인의 내밀한 사생활을 뚫고 들어가는데까지 악용되고 있다는 점에서 이제는 개인마저 기업 레벨, 아니 그 이상의 보안성을 요구하는 시대가 되어버렸다고 봐야 한다는 것입니다.