티스토리 뷰

ⓒ클립아트코리아

 

AI 인공지능을 기반으로 한 이미지 합성 기술인 딥페이크(Deepfake). AI의 자체 학습 기술인 딥러닝(Deep Learning)에 가짜(Fake)라는 말을 덧붙여 만든 용어로, 본격적으로 쓰이기 시작한 건 2017년 말 해외 커뮤니티에서 딥페이크스(Deepfakes)라는 아이디를 쓰는 유저가 합성 포르노 영상을 게시하면서부터입니다. 이후 ‘FakeApp’이라는 무료 소프트웨어가 배포되면서 초보자도 쉽게 딥페이크 영상을 만들어 올리기 시작하게 되었습니다. 기술이 고도화되면서 점차 진짜와 구분하기 어려운 수준까지 발전하게 된 것이죠. 이제는 사진을 넘어서서 영상까지 합성이 가능하게 되어 우리는 또 철저히 의심해야 할 사항이 늘어났습니다.

 

그렇다면, 이 딥페이크 기술의 원리가 무엇인지 궁금하지 않으신가요? 딥페이크의 원리를 이해하기 위해서는 두 가지를 알아야 할 텐데요. 바로 딥러닝과 GAN입니다. 먼저 딥러닝은 심화신경망을 활용해 기계학습을 한 방법론입니다. 즉, 컴퓨터가 사람처럼 생각하고 배우도록 하는 기계학습 기술로서 이미지검색, 음성검색, 기계번역 등 다양한 분야에 활용합니다. 그리고 두 번째는, 딥페이크의 핵심 알고리즘인 GAN입니다. GAN은 생성적 적대 신경망(Generative Adversarial Net)의 약자로, 두 신경망 모델의 경쟁을 통해 학습하고 결과물을 만들어냅니다. 두 모델은 ‘생성자(Generator)’와 ‘감별자(Discriminator)’로 불리는데요. 상반된 목적을 갖고 있습니다. 생성자는 실제 데이터를 학습하고 이를 바탕으로 거짓 데이터를 생성하며 실제에 가까운 거짓 데이터를 생성하는 것이 목적입니다.

 

이와 다르게, 감별자는 생성자가 내놓은 데이터가 실제인지 거짓인지 판별하도록 학습합니다. 진짜 같은 가짜를 생성하는 생성자와 이에 대한 진위를 판별하는 감별자 간의 경쟁을 통해 더욱 고도화된 진짜 같은 가짜 이미지를 만들 수 있는 것입니다. GAN는 이러한 작용을 통해서 사람의 눈으로는 실존 인물인지 가상인물인지 판별하기 어려운 수준의 사진을 제작하며, 과거에는 전문가가 포토샵 등을 이용해 일일이 작업해야 가능했던 일을 더 빠르고 쉽게 작업할 수 있게 하였습니다.

 

GAN의 알고리즘 ⓒ정나영 제작

 

이러한 딥페이크 기술은 생산성을 높이고, 과거 인물을 복원하는 등 긍정적으로 사용되고 있기도 하지만, 아직은 딥페이크의 장점보다 단점이 더 많이 나타나는 점은 그 누구도 부인할 수 없을 것이라고 생각됩니다. 딥페이크 기술을 악용하여 성인 영상물을 제작하거나 정치인들의 가짜뉴스를 제작하고, 음성 딥페이크를 통한 사기 행각이 벌어지는 등 피해 사례들이 속출하고 있습니다. 그중에서도 디지털 성범죄에 악용되는 사건이 자주 발생하는데요, 딥페이크 영상 중 무려 98%가 포르노로 소비되고 있으며, 한국 여성 연예인은 이 중 4분의 1을 차지한다는 충격적인 조사 결과가 있기도 했습니다. 딥페이크는 단지 유명인을 대상으로 한정하지 않으며, 여러 웹사이트나 sns를 통해 인물의 이미지 데이터를 쉽게 모을 수 있어 그 대상은 일반인에게까지 확장되었습니다.

 

ⓒpexels

 

IT업계는 이러한 딥페이크의 폐해에서 벗어나기 위해 다양한 노력을 하고 있습니다. 조작된 음성 및 영상을 식별하는 AI 신기술 개발 촉진을 위한 ‘딥페이크 식별 챌린지 (DFDC)'를 그 예로 들 수 있습니다. DFDC는 AI를 연구하는 학자들과 일반인들이 데이터를 이용해 딥페이크 영상을 해독할 수 있는 코드를 개발하는 것이 주목적인 경연대회입니다. 많은 기업들은 이처럼 딥페이크의 부작용을 퇴치하기 위해 노력을 기울이고 있습니다.

 

점점 더 빠른 속도로 발전해가는 새로운 기술들 속에서, 인간이 AI로 인해 피해를 보는 시대가 오지 않도록 제도적으로 부작용을 제대로 통제할 필요가 있습니다. 우리 모두 경각심을 가지고, 개인적으로 악용하지 않아야 하는 것을 명심해야 합니다. 사람들의 삶을 풍요롭게 해주는 신기술들이 악용되지 않도록 적절한 관련 법규와 제도가 함께 발전되기를 기원합니다.

 

 

 


댓글쓰기 폼

한국전력 블로그 굿모닝 KEPCO!

관리자
글 보관함