딥페이크(Deep Fake) 음란물 소동이 가짜(Fake)가 되지 않으려면(손화철)

손화철(한동대 글로벌리더십학부 교수)

딥페이크(Deep Fake)는 기계 학습의 일종인 딥러닝(Deep Learning) 기술의 ‘Deep’과 ‘가짜’라는 의미의 ‘Fake’를 합친 말이다. 딥러닝 기술을 통해 가짜 사진이나 동영상을 진짜처럼 만들어내는 것이다. 지난 8월 15일 광복절에 여러 방송에서 유관순 열사가 미소를 짓거나 윤봉길, 안중근 의사가 고개를 움직이는 모습을 방영했는데, 모두 오래된 사진을 이용한 딥페이크였다. 요즘처럼 찍어둔 사진과 동영상이 많은 사람이라면 상당히 자연스러운 동영상을 제작할 수 있을 것이다.

같은 원리로 타인의 목소리를 가지고 그 사람이 하지 않은 말을 하는 것처럼 들리게 하는 딥보이스(Deep Voice) 기술도 있다. 이미 특정 가수의 목소리로 그가 부르지 않은 노래를 부른 것처럼 만드는 기술이 있어서, 예능 프로그램에서 실제 가수에게 그가 부른 적이 없는 노래를 부르게 하고, AI로도 그 가수의 목소리로 같은 노래의 음원을 만들어 진짜 사람의 노래를 맞추게 한 적도 있다.

이 기술을 활용하면, 죽은 사람의 영상과 목소리를 가지고 새로운 동영상도 만들 수 있다. 최근 개봉한 <에이리언: 로물루스>에는 전작에 출연한 적이 있으나 4년 전 사망한 이안 홈이라는 배우를 출연시켜 논란이 일기도 했다. 담임 목사나 사망한 원로 목사의 목소리로 성경 전체를 들을 수 있게 한 교회도 있는데, 조금만 생각하면 다른 가능성도 많다. 예를 들어 챗GPT 같은 생성형 AI에 특정 목사의 과거 설교 자료를 학습시키면 그의 스타일과 성경 해석으로 계속해서 새로운 설교 영상을 만들 수도 있을 것이다. 돌아가신 부모님과 화상 채팅을 하면서 자식 교육에 대해서 의논을 하는 상황도 불가능해 보이지 않는다.

최근에는 이 기술이 악용되는 것에 대해 우려가 커지고 있다. 특히 딥페이크 기술로 지인이나 유명인의 얼굴을 음란물 사진이나 영상에 합성하는 일이 우리나라에서 가장 많이 일어난다 하여 큰 문제가 되었고, 국회에서도 딥페이크 성폭력을 방지하는 법을 서둘러 제정하였다.

국회의 빠른 대처는 고무적이지만, 이 같은 법적 수단은 최소한의 방어책일 뿐이다. 딥페이크 기술을 사용하지 않고 누군가의 얼굴 사진을 다른 사람의 나체 사진에 대충 이어 붙이기만 해도 극도의 성적 수치심과 모욕감을 유발하는 성폭력이 이미 구성되기 때문이다. 딥페이크 기술은 사진을 오려 붙이는 기존의 성범죄를 정교하게 하는 수단이고, 딥페이크 음란물의 제작과 소지에 대한 강력한 제재는 그에 대한 적절한 대증적 대처라고 보아야 한다. 딥페이크를 이용한 가짜 뉴스 제작과 유포에 대한 여러 법적 대응도 이와 비슷하다.

딥페이크 기술이 노정하는 진짜 문제는 이런 대처로 해결되지 않는다. 이 문제의 근본 원인은 오히려 위에서 언급한 딥페이크 기술의 다양한 가능성이나 우리 사회가 기술을 받아들이는 방식과 연동해서 해석해야 한다. 다음과 같은 물음을 제기해 보자. 음란물이 아니면 선의나 개인의 바람에 따라 진짜 같은 가짜를 만들고 유포해도 되는가? 딥페이크 기술을 이용해서 만든 콘텐츠는 누가 어떤 방식으로 공유해야 하는가? 이런 기술의 사용을 쉽게 만들어서 청소년을 비롯한 누구에게나 접근 가능하게 하는 것이 과연 바람직한가? 아무런 흔적도 남기지 않는 방식으로 이런 결과물이 유포되는 경로를 어떻게 볼 것인가?

우리나라에서 딥페이크 음란물이 가장 많이 만들어지고, 수많은 청소년이 여기 개입하고 있다는 사실은 충격적이다. 그러나 이는 모든 기술 발전을 비판 없이 받아들이고 전 국민이 SNS를 적극 활용하는 디지털 강국의 또 다른 면모일 뿐이다. 디지털 성범죄를 비롯한 세계적인 탈법과 범죄에 널리 사용되는 텔레그램을 추적되지 않는다는 이유로 대통령을 비롯한 국가 지도자들이 거리낌 없이 사용하는 것과 딥페이크 음란물 사태가 무관하다 할 것인가? 이 사태는 특정한 사람들의 일탈이나 개별 기술의 문제가 아니라 첨단 기술을 무비판적으로 수용하는 문화와 환경의 문제이다. 챗GPT, 메타버스, 인공지능 교과서 같이 충분히 검증되지 않은 도구를 거리낌 없이 국가 제도와 시스템에 편입시키는 무분별함이 이 사태의 근본 원인이다.

문화와 의미 체계에 미치는 기술의 영향력을 무시하고 기술을 도구로 취급하는 것도 문제다. 명백히 범죄적인 기술의 오용을 막는다고 해서 누가 봐도 그럴듯한 선용만 남는 것이 아니다. 죽은 자를 살려내고 멈추어 있는 사진을 움직이게 하며, 진짜와 가짜의 구분을 흐리게 만드는 딥페이크 기술의 가능성을 어떻게 방식으로 사용하는 것이 적절한지에 대한 고민이 필요하다. 그리우니까 살려 내고, 실감이 나니까 움직이게 하고, 재미로 가짜를 만들어내는 것을 너무 가볍게 생각하면 삶과 죽음, 기억과 망각, 사귐과 기림, 인간관계와 종교, 진실과 거짓에 대한 기존의 이해는 속절없이 망가질 수 있다. 그렇다면 지금처럼 명백한 문제점을 도려내는 방식으로 기술 발전을 추구할 수도 있지만, 명백히 적절한 방식만 먼저 도입하는 방식을 취하는 것도 고려해야 한다.

딥페이크 음란물 문제로 이 기술에 대한 대중의 관심이 높아진 것은 다행한 일이다. 그러나 드러난 범죄에 대한 비난과 법적 처벌의 강화로 문제가 해결되었다고 생각한다면 이 소동은 진짜 문제를 가리는 가짜(Fake)가 되고 만다. 이번 소동을 계기로 첨단 기술의 의미에 대한 더 깊은 고민이 시작되면 좋겠다.