[문화 속 산업이야기] ‘딥페이크 핵전쟁’에 속아 벙커에 갇힌 부자들…우리는 속지 않을까

[산업일보]
전 세계가 극단적 분열 끝에 결국 ‘핵전쟁’으로 붕괴했다. 억만장자들은 미리 투자해 둔 호화 벙커로 피신한다.

지난해 넷플릭스에서 공개된 드라마 ‘억만장자들의 벙커(Billionaire's Bunker)’는 이러한 설정에서 출발한다. 벙커로 피신한 억만장자 고객들은 벙커 운영진이 제공하는 주요 뉴스와 외부 탐사 영상을 통해 세계가 파괴됐음을 확인하고 절망에 빠진다.

벙커 고객들에게는 AI(인공지능) 비서 서비스가 제공된다. AI는 고객의 요청에 따라 방의 조명을 조절하고 원하는 음악을 재생한다. 의료 행위에도 활용된다. 의대생이 가진 의료 지식만 존재하는 상황에서, AI는 환자의 증상에 따라 질병을 예측하고 치료법과 투약량을 제시한다.

그러나 이 모든 상황은 치밀하게 설계된 사기였다. 세상은 멀쩡했다. 건축가 ‘미네르바’를 필두로 한 사기범죄집단이 지하에 벙커를 건설하고 세계적 위기가 임박했다고 부유층을 속여 벙커에 가둔 것이다.

사기꾼들의 목적은 ‘고객들’의 돈이었다. 벙커에서 24시간 생활하는 고객들의 말투·습관 등을 AI에 학습시켜 아바타를 제작하고, 이들이 운영하는 사업체의 임원을 실시간 딥페이크 영상 통화로 속여 가짜 스타트업에 거액을 투자하게 만든다.

드라마처럼 AI·딥페이크 기술을 활용한 범죄는 이미 우리 주변에서 벌어지고 있다.

국가정보원이 지난해 11월 발표한 ‘인공지능 위험 사례집’을 살펴보면, 반정부 조직이 오랜 동맹 관계인 국가와 갈등을 유도하기 위해 정교한 딥페이크 영상·이미지를 제작해 소셜 미디어에 전파했다.

선거 과정에서 여론조사 1위 후보가 자신의 성범죄·부정 축재 사실을 고백하는 딥페이크 영상이 SNS에 뿌려지는 사례도 여러 나라에서 발생했다.

지난해 6월 베트남에서는 생성형 AI로 가짜 얼굴 영상을 만들어 은행의 얼굴 인식 인증을 우회하고 1조 동(550억 원 가량)을 세탁한 범죄조직이 검거되기도 했다.

정부는 이러한 AI·딥페이크 범죄에 대응하고자 다양한 정책을 마련하고 있다.

지난해 국립과학수사연구원은 ‘AI딥페이크 분석모델’을 개발했고, 5~6월 두 달간 제21대 대통령 선거기간 중 대통령 후보 관련 딥페이크 사건 13건과 디지털 성범죄 2건을 포함해 총 53종의 딥페이크 관련 영상을 감정했다.

지난해 12월 10일 열린 ‘제7회 국가정책조정회의’에서는 AI로 만든 가짜 전문가나 유명인 딥페이크 등을 활용한 허위·과장광고 대응책으로, ‘AI 생성물 표시제’를 도입하고 위법성 판단 기준을 명확히 했다.

한편, 디지털 범죄 대응 전문기업 라바웨이브는 올해 6월 ‘제9회 전국동시지방선거’를 앞두고 리얼미터에 의뢰해 실시한 ‘딥페이크 국민인식 조사’ 결과를 지난해 12월 29일 밝혔다.

보도자료에 따르면, 50대 유권자의 72.7%와 60대 유권자의 70.7%가 딥페이크 피해를 본 후보자의 해명이 어려울 것이라고 답했다. 딥페이크로 인식이 형성되면 짧은 선거기간 동안 정확한 해명이 유권자에게 제대로 전달되기 어렵고, 유권자들의 판단이 굳어지기 쉬워 허위 정보의 영향력이 더 커질 것이라는 분석이다.

라바웨이브 김준엽 대표는 보도자료에서 ‘해외 선거 과정에서 허위 또는 비방의 내용을 담은 딥페이크가 악용된 사례를 다수 확인할 수 있어, 일회성 대응책이 아닌 지속적 기술 업데이트와 유권자 대상 교육 콘텐츠 개발이 병행돼야 한다’라고 밝혔다.