인물 합성 기술(Deepfake)

인공지능(AI) 기술인 딥 러닝(deep learning)과 가짜(fake)의 합성어로 AI 기술로 사람의 영상을 합성하는 기술.

인물 합성 기술(deepfake)은 2017년에 미국 온라인 커뮤니티 레딧 (Reddit)의 한 회원이 기존 영상에 유명인 얼굴을 입혀 가짜 콘텐츠를 게재한 데서 유래됐다. 주로 실존하지 않는 사람의 얼굴이나 음성을 현실처럼 만들어 내거나, 실제 인물의 얼굴이나 음성을 다른 사람의 것으로 바꿔치기 한다.

인물 합성 기술은 ‘생성적 대립 신경망(GAN : Generative Adversarial Network)*’이라는 기계 학습(Machine Learning) 방식을 기반으로 한다. GAN은 AI 모델을 생성 모델과 판별 모델로 구분하며, 각 모델의 학습을 반복하는 과정을 거친다. 생성 모델과 판별 모델은 서로를 적대적 경쟁자로 인식하며 상호 발전한다. 생성 모델은 실제와 유사한 데이터를 생성하도록 훈련하고 판별 모델은 데이터 진위 여부를 구별하도록 훈련한다. 이 과정을 반복하면서 원본 영상과 구별이 힘들 정도로 정교한 합성 영상이 만들어진다.

생성형 AI 기술의 발전으로 인물 합성 기술은 더 많은 AI 윤리 논쟁을 촉발했다. 특히 가짜 뉴스뿐만 아니라 성인물 영역에서 위험성이 대두됐다. 2024년 미국 팝스타 테일러 스위프트 얼굴에 음란물을 합성한 사진이 퍼지면서 인물 합성 기술 악용에 대한 강력한 규제가 필요하다는 목소리가 커졌다.

사티아 나델라 MS 최고경영자(CEO)는 인물 합성 기술 악용에 대한 규제와 안전장치의 필요성을 강조했다. 소셜미디어 X(옛 트위터)는 성 착취물이나 허위 정보를 단속할 ‘신뢰와 안전 센터’를 신설했다.

한편 의료 분야에서 인물 합성 기술로 만들어진 영상은 AI가 질병을 학습하고 정확히 진단할 수 있도록 학습하는 데 사용된다. 미디어 업계에서는 특수 효과에 활용돼 콘텐츠 품질 개선에 기여하기도 한다.

* 생성적 대립 신경망(GAN : Generative Adversarial Network) : 생성 모델과 판별 모델이 경쟁하면서 실제와 가까운 이미지, 동영상, 음성 등을 자동으로 만들어 내는 기계 학습 (ML : Machine Learning) 방식의 하나로, 컴퓨터 프로그램이 특정 분야 실제 예제들을 학습하고 공통점을 추론하여 매우 정교한 위조품을 만들어 낼 수 있음.

출처]

한국정보통신기술협회(최신 ICT 시사용어 2025) : 인물 합성 기술(Deepfake)

 

 

 

 

 

 

대한민국의 아름다운 영토, 독도