딥러닝 - GAN (Generative Adversarial Network) - 딥페이크(Deepfake)

(개념)

딥페이크는 인공지능(AI) 기술을 활용한 영상 제작 기술 중 하나입니다.

 

AI가 합성하려는 인물의 얼굴이 나오는 고화질의 동영상을 딥러닝하며 데이터를 축적하고, 합성하고자 하는 동영상에 얼굴의 정보를 프레임 단위로 합성하는 기술입니다.

 

(기술)

딥페이크에는 '생성적 대립 신경망(Generative Adversarial Network, GAN)'이라는 AI 기술이 활용됩니다. 생성 모델이 판별 모델을 완벽하게 따라할 수 있을 때까지 머신러닝이 이뤄집니다. 그렇기에 사람의 눈으로는 딥페이크로 제작된 영상과 실제 영상을 구분할 수가 없습니다. 음성과 영상 모두에서 '진짜 같은 가짜'를 만들어 낼 수 있는 것입니다.

 

(활용)

가상공간(VR), 영상통화 등에서 엔터테인먼트 요소로 활용될 수 있고, 각종 콘텐츠 제작 비용도 줄일 수 있습니다. IT기업 신디시아가 딥페이크를 활용해 축구 스타 데이비드 베컴의 말라리아 퇴치 홍보 캠페인을 9개 언어로 제작해 활용한 것이 딥페이크 기술 활용의 대표적인 사례입니다.

 

(악용사례)

딥페이크 탐지 전문 기업 딥트레이스랩스(Deeptrace Labs)는 2019년 1월부터 9월까지 1만4678개의 딥페이크 영상을 발견했는데, 그중 96%가 포르노 영상이었습니다. 충격적인 것은 포르노에 합성된 비율 중 K팝 연예인들의 비율이 25%에 달했다는 점입니다.

문제는 이뿐만이 아닙니다. 지난해 2월 발표된 'AI의 악용 : 전망, 방지 및 대응(The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation)' 보고서에서는 딥페이크가 정치적으로 악용될 수 있음을 경고하기도 했습니다. 실제로 마테오 렌치 전 이탈리아 총리가 다른 사람을 모욕하는 영상이 나돌기도 했고, 오바마 전 미국 대통령이 트럼프 대통령을 비난하는 영상이 유튜브에 게시된 적도 있습니다. 영상까지 믿을 수 없게 된 상황에서 믿을 수 있는 대책과 보완책이 제시될 수 있기를 바라 봅니다.

 

주간기술동향 2159호, 음성 딥페이크 탐지기술 동향, 2024.12.11

 

주간기술동향 2159호, 음성 딥페이크 탐지기술 동향, 2024.12.11

 

 

 

 

https://www.techm.kr/news/articleView.html?idxno=72390

[글로벌 3분템뉴스] 포르노, 가짜뉴스에 악용되는 '딥페이크' 대책 마련 시급하다 - 테크M