[태그:] Deepfake

딥페이크 기술의 정교화와 온디바이스 AI 기술의 발전으로 누구나 손쉽게 위조 콘텐츠를 제작·확산할 수 있는 우려가 커지고 있지만, 반대로 온디바이스 AI는 외부 서버에 의존하지 않고도 실시간으로 딥페이크를 탐지하거나 방지할 수 있는 효과적인 수단이 될 수 있습니다. 이에 KAIST 사이버보안연구센터는 주식회사 엔텀과 함께 SNS 사진 등에서 딥페이크 생성을 사전에 차단하는 노이즈를 자동 삽입하는 방식의 안드로이드 앱 DFGuard를 개발하였습니다. 본 글에서는 DFGuard의 작동 원리와 구현 방식, 데모를 통한 활용 방법을 소개합니다.

딥페이크 기술은 얼굴과 음성을 조작해 허위 정보를 만들어내며, 정치적 선전, 금융 사기, 가짜 뉴스 확산 등 사회적 문제를 야기합니다. 특히, 생성형 AI 기술이 발전하면서 기존 탐지 기술만으로 이를 완전히 차단하기 어려워졌습니다. 기존 대응 방식은 탐지를 통해 이미 생성된 딥페이크를 판별하는 것이었지만, 사전 차단이 불가능하다는 한계가 있습니다. 이에 따라 능동적 방어 기법이 주목받고 있으며, 적대적 인공지능(Adversarial AI)을 활용해 딥페이크 생성 모델을 교란하거나 학습 데이터를 변조하여 가짜 미디어 생성을 차단하는 방법이 연구되고 있습니다.

딥페이크 기술의 발전으로 우리는 새로운 도전에 직면해 있습니다. 현실과 구분하기 어려운 가짜 미디어들이 사회에 혼란을 야기하고 있습니다. 이 글에서는 딥페이크가 만들어지는 원리와 그 위험성을 살펴봅니다. 특히 딥페이크 생성의 핵심 기술인 GAN과 확산 모델에 대해 알아보고, 이를 탐지하기 위해 개발된 다양한 방법들을 소개합니다.