딥페이크 기술의 정교화와 온디바이스 AI 기술의 발전으로 누구나 손쉽게 위조 콘텐츠를 제작·확산할 수 있는 우려가 커지고 있지만, 반대로 온디바이스 AI는 외부 서버에 의존하지 않고도 실시간으로 딥페이크를 탐지하거나 방지할 수 있는 효과적인 수단이 될 수 있습니다. 이에 KAIST 사이버보안연구센터는 주식회사 엔텀과 함께 SNS 사진 등에서 딥페이크 생성을 사전에 차단하는 노이즈를 자동 삽입하는 방식의 안드로이드 앱 DFGuard를 개발하였습니다. 본 글에서는 DFGuard의 작동 원리와 구현 방식, 데모를 통한 활용 방법을 소개합니다.
[글쓴이:] 고 기혁
KAIST 사이버보안연구센터 AI보안팀장. 인공지능 모델에서 발생하는 보안, 프라이버시 및 공정성 문제를 해결하기 위한 다양한 연구를 수행하고 있다.
ChatGPT의 눈부신 성공으로 촉발된 초거대 언어 모델(Large Language Model) 및 생성형 인공지능(Generative Artificial Intelligence) 개발 경쟁은 전세계 유수의 기업들이 앞다투어 초거대 언어 모델 기반 서비스를 공개하는 원동력으로 작용하고 있습니다. 그렇지만 초거대 언어 모델은 여타의 기술과 같이 완벽하지 않으며, 이에 따른 보안 위협이 존재합니다. 본 글에서는 초거대 언어 모델이 지니는 보안 위협과 그를 완화하고자 활용될 수 있는 설명가능한 기술에 대해 몇 가지 예시를 통해 살펴봅니다.
눈부신 발전과 폭발적인 활용으로 우리 삶에 큰 편의를 가져다주는 인공지능 기술. 인공지능이 우리들의 삶을 풍요롭게만 만드는 것일까요? 모든 일에는 양면성이 있듯이 인공지능으로 인해 마땅히 보호되어야 할 개인정보가 노출되어 피해를 입는 사례도 적지 않게 나타납니다. 본 글에서는 인공지능 기술의 활용이 개인정보에 미치는 위협을 살펴보고, 이에 대비하여 제안된 사용 프라이버시(Use-based Privacy, Use Privacy)에 대해 살펴보도록 하겠습니다. 인공지능의
PC, 스마트폰 등 디지털 기술이 개인의 삶에 미치는 영향이 증가하면서 개인정보에 대한 올바른 보호의 중요성 또한 증대되고 있습니다. 개인정보를 올바르게 보호하기 위해서는 먼저 그 기준이 되는 프라이버시 모델이 필요합니다. 본 글에서는 대표적인 프라이버시 모델인 비식별화 기법(Anonymization)과 디퍼렌셜 프라이버시(Differential Privacy)에 대해 살펴보도록 하겠습니다. 비식별화 기법: k-익명성, l-다양성, t-근접성 비식별화란 민감한 개인정보가 포함된 데이터셋을 공개할 때, 특정