AI 얼굴 바꾸기: 작동 원리, 위험성 및 법률

AI 얼굴 바꾸기 기술은 인공지능을 사용하여 사진, 영상 또는 실시간 영상 스트림에서 한 사람의 얼굴을 다른 사람의 얼굴로 교체합니다. 얼굴 바꾸기 AI 앱은 얼굴을 감지하고, 특징을 매핑하여 데이터를 대상 이미지에 옮기고, 조명, 각도, 피부 톤, 표정까지 자동으로 일치시킵니다. 결과는 원본처럼 매우 자연스럽게 보이지만 얼굴만 다를 뿐입니다. 최신 도구 중 일부는 한 장의 사진만으로도 작동하지만, 데이터가 많을수록 품질이 향상됩니다.

대부분의 사람들은 AI 얼굴 바꾸기를 재미로 활용합니다:

• 스스로를 밈이나 영화 장면 속에 넣기
• 친구의 얼굴을 만화 캐릭터에 합성하기
• 새로운 헤어스타일을 시도해 보기 전에 미리 적용해 보기

전문가들도 이를 사용합니다. 영화 스튜디오들은 배우들을 젊게 보이도록 하거나, 다양한 언어로 더빙할 때 전문적인 AI 얼굴 바꾸기를 사용하며, 마케터들은 한 광고 캠페인을 여러 모델로 변형해 다시 촬영하지 않고도 활용합니다.

하지만, AI 얼굴 바꾸기는 딥페이크의 가장 흔한 유형 중 하나이기도 합니다. 딥페이크란 실제로 존재하며 식별 가능한 인물을 거짓으로 나타내는 합성 미디어입니다. 딥페이크는 음성 복제, 허구의 오디오, 완전히 AI로 생성된 영상까지 포함하지만, 그중에서도 AI 얼굴 바꾸기가 가장 흔한 유형입니다.

AI 얼굴 바꾸기는 어떻게 작동하나요?

각 AI 얼굴 바꾸기 도구는 세부 방식이 다르지만, 보통 아래의 네 단계를 따릅니다.

1. 감지. 소프트웨어가 이미지나 영상에서 모든 얼굴을 찾아냅니다. 이는 휴대폰 카메라가 사람에게 초점을 맞출 때 쓰는 기본 기술과 같습니다. 영상의 경우 프레임마다 감지합니다.
2. 매핑. 그 다음 얼굴 곳곳에 기준 포인트를 표시합니다:
3. 눈꼬리 부분
4. 코의 브릿지 부분
5. 턱선
6. 입의 형태

그 포인트들로 소프트웨어는 얼굴의 비율, 각도, 그리고 그 순간의 표정까지 얼굴 모델을 만듭니다. 최신 도구들은 얼굴의 고유함을 조명이나 각도와 관계없이 유지되는 일종의 수학적 서명인 숫자 문자열로 압축합니다.

1. 생성. 소프트웨어는 해당 서명을 토대로 소스 얼굴을 대상 이미지와 일치하게 재구성합니다. 머리 각도, 조명, 표정, 피부 질감까지 모두 포함합니다. 일반적으로 기반 모델은 다음 세 가지 유형 중 하나입니다:
2. GANs: 한 모델이 가짜 이미지를 생성하고, 다른 모델이 실제처럼 보이는지 확인하면서 결과를 반복적으로 개선합니다.
3. 디퓨전 모델: 무작위 노이즈에서 점진적으로 실제 같은 이미지를 만들어 냅니다.
4. 두 가지 방법의 하이브리드 모델도 있습니다.

이러한 모델들은 대규모 이미지 데이터셋으로 학습되었기 때문에, 적은 수량의 입력만으로도 그럴듯하게 얼굴을 바꿀 수 있습니다.

1. 블렌딩. 마지막으로 새 얼굴은 프레임에 자연스럽게 합성됩니다. 가장자리, 색상, 질감을 주변 이미지와 일치시켜 경계가 보이지 않도록 만듭니다. 영상의 경우 머리의 회전이나 눈썹 움직임까지 추적합니다.

실시간 AI 얼굴 바꾸기 도구는 심지어 라이브 화상통화 중에도 작동할 수 있습니다. 사기범이 통화에 참가하면 소프트웨어가 프레임마다 얼굴을 다시 씌워(때때로 눈에 띄는 지연이 거의 없음), 화면에서 보는 사람의 움직임은 실제지만, 그들이 쓰고 있는 얼굴은 실제가 아닙니다.

이런 이유로 World에서는 Zoom을 위한 World ID라는 신제품을 선보여 기업이 AI 얼굴 바꾸기, 즉 딥페이크로부터 보호받을 수 있도록 합니다. 이 시스템은 라이브 영상과 해당 사용자의 인증된 World ID를 비교하고 일치할 경우 "인증된 인간" 배지를 표시할 수 있습니다. 이는 중요한 회의에서 실제로 누구인지 검증하는 신뢰의 한 층을 더하는 것이 목적입니다.

얼굴 바꾸기 앱이 사용자의 사진으로 무엇을 하나요?

중국 앱 ZAO가 2019년에 입소문을 타고 퍼졌을 때, 사용자는 약관이 회사에 그들이 업로드한 모든 콘텐츠에 대해 "완전히 무료, 취소 불가, 영구적, 양도 가능한" 권리를 부여한다는 사실을 알게 됐습니다. FaceApp's 약관은 그보다 더 나아가 사용자의 외형을 영구적이고 전 세계적으로 사용할 수 있으며, 어떤 미디어 형식이든 보상 없이 수정, 공개 전시할 수 있는 라이선스를 주장했습니다. 두 회사 모두 대중의 반발에 약관을 완화했습니다.

도난된 얼굴과 도난된 비밀번호는 왜 다를까요?

AI 얼굴 바꾸기는 논란이 많고 위험성을 지니고 있습니다. 이제 얼굴이 신분 도용 범죄에 사용되고 있기 때문입니다. 보안 연구기관 iProov는 신원 인증 시스템을 겨냥한 얼굴 바꾸기 공격이 1년 사이 300% 급증했다고 밝혔습니다.

얼굴 데이터가 민감한 이유는 얼굴이 이제 비밀번호와 비슷하게 작동하기 때문입니다. 휴대폰 잠금 해제, 결제 인증, 은행 로그인에도 사용되고, 일부 앱은 셀카 확인까지 요구합니다. 비밀번호가 유출되면 30초 만에 변경할 수 있지만, 얼굴이 유출되면 평생 노출되며, 고화질 사진 하나로도 각종 사기에 악용될 수 있습니다.

이 모든 이유로 인해 우리는 인터넷에서 자신임을 증명하는 방식을 다시 생각해야 합니다. 대부분의 인터넷 서비스에서는 여전히 겉보기의 얼굴만 신뢰하기 때문입니다.

AI 얼굴 바꾸기를 보고 있다는 것을 어떻게 알 수 있을까요?

AI 얼굴 바꾸기인지 진짜 사람 얼굴인지 구분하기가 점점 더 어려워지고 있습니다.

예전에는 부자연스러운 눈 깜빡임, 이상한 조명, 머리카락 주변의 흐릿한 경계를 주의하라는 조언이 있었습니다. 이것은 몇 년 전 AI 얼굴 바꾸기의 특징이었습니다. 하지만 요즘 AI 얼굴 바꾸기 도구들은 이런 실수를 하지 않습니다.

숫자는 냉정한 현실을 보여줍니다:

• 56개 연구와 86,000명 이상의 참가자를 대상으로 한 조사에서, 사람들은 가짜 얼굴과 음성을 약 55%의 확률로만 구별했고, 이는 동전을 던지는 것과 거의 다르지 않은 수준이었습니다.
• iProov가 2000명의 소비자를 대상으로 가짜를 찾아보라고 사전 고지했을 때, 모든 가짜를 정확히 찾은 사람은 0.1%에 불과했습니다.
• 참가자들은 영상을 통한 얼굴 바꾸기에서 사진보다 가짜를 잡아낼 확률이 36% 더 낮았습니다.

얼굴 바꾸기를 탐지할 수 있나요?

AI 얼굴 바꾸기는 때때로 탐지될 수 있지만, 모든 실제 사례에 일관되게 신뢰할 수 있는 방법은 없습니다. 탐지 소프트웨어는 이전에 본 가짜만 잡아낼 수 있고, 얼굴 바꾸기 기술의 발전 속도가 너무 빨라 어떤 탐지기도 따라잡기 어렵습니다.

통제된 실험에서는 AI 얼굴 바꾸기 탐지 도구가 훈련된 가짜에서는 좋은 성적을 냅니다. 하지만 연구진이 SNS에서 수집한 실제 얼굴 바꾸기 사례에 대해서 테스트하자, 정확도가 거의 절반으로 떨어졌습니다.

AI 시대 얼굴 바꾸기에서 인간 인증

사람도 소프트웨어도 AI 얼굴 바꾸기를 완전히 잡아내지 못한다면, 방어법은 다른 방향, 즉 진짜 사람임을 증명하는 방향이어야 합니다. 이것이 바로 인간 인증의 개념입니다.

World ID는 이러한 인간 인증 시스템 중 하나이며, 얼굴 이미지를 저장하지 않고도 사용자의 고유성을 인증합니다. 인증은 한 번만 Orb라는 전용 인증 기기에서 진행하며, Orb가 얼굴과 홍채 이미지를 통해 인증된 고유 사용자인지 확인합니다. 주변의 Orb 찾기.

여러분의 World ID는 오직 휴대폰 내 World ID 앱에만 존재하며, 여러분의 얼굴 이미지는 그 외에 어디에도 저장되지 않습니다. 암호학적으로 보호되기 때문에, World ID는 얼굴과 달리 복제하거나 위조할 수 없습니다.

틴더와 Zoom은 이미 World ID를 사용해 플랫폼의 인물이 진짜 사람인지 확인하고 있습니다. 더 큰 목적은 가짜 계정을 줄이고 온라인 상호작용의 신뢰도를 높이는 것입니다.

주요 요점

• AI 얼굴 바꾸기는 인공지능을 이용해 사진, 영상 또는 실시간 화상통화에서 한 사람의 얼굴을 다른 사람의 얼굴로 바꾸는 기술입니다. 최신 도구들은 수백만 명의 얼굴로 학습되었으며, 한 장의 사진과 몇 초만으로도 매우 그럴듯하게 얼굴을 바꿀 수 있습니다.
• AI 얼굴 바꾸기는 사기, 괴롭힘, 비동의 친밀 이미지 생성 등과 같은 불법 행위에 악용될 수 있습니다.
• 보안 연구원들은 신원 인증 시스템을 대상으로 한 얼굴 바꾸기 공격이 한 해 동안 300% 증가했다고 밝혔습니다.
• 얼굴 바꾸기는 사람이나 소프트웨어 모두가 신뢰할 정도로 탐지할 수 없습니다. 한 연구에서는 응답자 중 0.1%만이 모든 가짜를 알아봤습니다.
• 인간 인증은 AI 얼굴 바꾸기 사기로부터 신뢰할 수 있는 보호를 제공합니다. World ID는 한 번의 Orb 인증으로 진짜, 인증된 고유 사용자임을 확인하며, Zoom과 Tinder 같은 플랫폼도 이제 World ID를 이용해 실제 사람이 이미지를 사용하고 있는지 확인합니다.

자주 묻는 질문

얼굴 바꾸기와 딥페이크의 차이점은 무엇인가요?

얼굴 바꾸기는 기존 사진이나 영상에서 AI가 한 사람의 얼굴을 다른 사람의 얼굴로 바꾸는 기법입니다. 딥페이크는 실제 식별 가능한 사람을 잘못 표현하여 하지 않은 말이나 행동을 하게 만드는 합성 미디어입니다. 얼굴 바꾸기는 딥페이크에서 가장 일반적인 형태입니다. 이 딥페이크 범주에는 목소리 복제, 조작된 오디오, 그리고 완전히 AI가 생성한 영상도 포함됩니다.

결론

AI 얼굴 바꾸기는 장난감에서 시작해 디지털 신뢰의 가장 어려운 과제 중 하나가 되었습니다. 이 기술은 이제 단 한 장의 사진만으로도 작동하고, 화상 통화에서 실시간으로 구동되며, 인간의 눈과 탐지 소프트웨어 모두를 쉽게 피해갑니다. 매번 새로운 가짜를 쫓는 것은 이미 본 것만 잡아내는 탐지의 한계로 인해 소모전이 될 뿐입니다. 보다 근본적인 해법은 화면 너머의 진짜 사람임을 증명하는 것입니다. 그 역할을 인간 인증이 하며, World ID의 목적도 바로 실제, 인증된 고유 사용자가 존재함을 확인해 복제 가능한 얼굴을 노출하지 않아도 된다는 데 있습니다.