도쿄대학대학원 정보이공학계 연구과의 연구팀이 동영상 내 인물의 얼굴이 진짜인지 가려내는 딥페이크검출AI를 개발했다고 4월 26일 발표했다. 이 AI는 기존 연구의 성능을 크게 웃돌아 세계 최고 성능이라는 평가를 받았다고 전했다. 한층 높은 정밀도로 딥페이크의 검출이 가능해져 악용의 근절을 기대하고 있다.

딥페이크(deepfake)는 딥러닝(deep learning)과 페이크(fake)의 합성어로 인공지능(AI) 기술을 이용해 제작된 가짜 동영상 또는 제작 프로세스 자체를 의미한다. 딥페이크의 기술은 영화 산업 등에서 새로운 가치를 창출하는 한편, 스마트폰 카메라 앱 등에서 누구나 쉽게 가짜 동영상을 만들 수 있게 되었다. 그 때문에 정치나 포르노 등의 가짜 동영상 제작에 악용되어 사회 문제가 되고 있다.

딥 페이크를 검출하는 AI 기술의 대부분은 훈련시에 학습한 만드는 방법에 모방한 페이크 화상 등밖에 검출할 수 없고, 그 이외의 것을 검증할 때에는 성능이 크게 저하되는 문제를 안고 있다.

이러한 딥 페이크에 대해, Microsoft사는 2020년에 의사 페이크 화상을 만들어, 그것을 사용한 검출 AI의 학습 방법을 제안하였다. 그러나 이 방법에서는 매우 검출이 용이한 의사 페이크 화상을 생성하는 경우가 있어 이러한 화상을 학습한 검출 AI는 고압축률에 의한 깨진 화상이나, 고/저노광(高/低露光)하의 페이크 화상에 대해서는 검출 정밀도가 저하되는 문제가 있었다.

이에 도쿄대학 연구팀은 부정합이 적은 검출이 어려운 의사 가짜 이미지를 생성하는 "Self-Blended Images"(SBIs)라는 방법을 제안했다. SBIs에서 생성한 이미지를 검출 AI에 가짜 이미지로 학습시킴으로써 사소한 위조흔적도 놓치지 않고 검출할 수 있었다.

SBls의 성능과 기존 방법을 5종류의 평가용 데이터 세트로 비교평가한 결과 도쿄대학이 제안한 방법이 4종류에서 세계 최고 성능을 나타냈다.

연구팀은 앞으로도 딥 페이크의 악용 근절을 향한 연구를 진행하여 검출 AI의 정밀도를 높일 계획이다. 이 연구 성과는 6월 19~24일 미국에서 개최되는 컴퓨터 분야 국제회의 IEEE/CVF Conference on Computer Vision and Pattern Recognition(CVPR)에서 발표할 예정이다.