용어집

딥페이크: 법적 정의와 파일 증거

EU AI법에서 정의하는 딥페이크는 실제 인물, 사물, 장소, 단체 또는 사건과 닮았고 사람에게 진짜이거나 사실인 것처럼 거짓으로 보일 수 있는, AI로 생성하거나 조작한 이미지, 오디오 또는 영상 콘텐츠입니다.

정의와 isGenAI 동작은 2026년 10월 기준입니다. 업데이트 2026년 10월 21일.

딥페이크을(를) 위해 코드로 그린 일러스트 — AI 출처 표시: 이 기록이 PNG 파일 안 어디에 있고, isGenAI 보고서가 이를 어떻게 보여 주는지. 이 이미지는 코드로 그린 일러스트입니다.

법적 정의와 의무

EU AI법 제3조가 이 용어를 정의하고, 제50조 제4항은 딥페이크를 생성하거나 조작하는 배포자(deployer)에게 해당 콘텐츠가 인위적으로 생성 또는 조작되었음을 공개하도록 요구합니다. 명백히 예술적이거나 풍자적인 작품에는 좁은 예외가 있으며, 이 경우 작품 감상을 방해하지 않는 공개만 하면 됩니다. 공개 의무는 2026년 8월 2일부터 적용됩니다. 별도로 제50조 제2항은 제공자(provider)에게 출력물을 기계 판독 가능한 방식으로 표시하도록 요구합니다.

법은 공개를 규제할 뿐, 탐지 방법을 정하지 않습니다.

딥페이크가 의심될 때 isGenAI가 돕는 방법

isGenAI는 파일이 기록한 것을 읽습니다. AI 도구를 명시한 C2PA 매니페스트, IPTC 소스 유형, AI 문구, 저장된 프롬프트, 또는 알려진 원본과 일치하는 사본입니다. 각 결과를 출처와 함께 보고하며, 픽셀로 딥페이크 확률을 산출하지 않습니다. 영상의 경우 C2PA 검사기가 MP4와 MOV 매니페스트를 검증하고, 프레임 추출 도구가 대조용 정지 이미지를 만듭니다. 메타데이터에서 deepfake라는 단어가 발견되면 AI 문구로 인용합니다.

기록이 제거된 사본을 다루는 방법

대부분의 딥페이크는 기록이 없는 재인코딩 사본으로 퍼집니다. 처음 게시된 곳을 추적하고, 가능하면 원본을 구하고, 핑거프린트로 사본을 비교하세요. TikTok, YouTube, LinkedIn의 플랫폼 라벨은 파일 보고서 옆에 기록해 둘 만한 관찰 사항입니다.

파일을 확인할 때 이 용어를 활용하는 방법

원본 파일을 AI 이미지 판별 도구나 페이지에 안내된 도구에 업로드합니다.
“How we checked”(검사 방법) 항목에서 이 용어가 쓰인 결과를 찾고, 그 결과가 가리키는 출처 필드를 읽습니다.
증거의 종류에 따라 비중을 다르게 둡니다. 서명된 기록, 선언된 필드, 저장된 프롬프트, 일치하는 사본은 증거로서의 강도가 서로 다릅니다.
기록이 없다는 사실이 사람이 만들었다는 증거는 아니라는 점을 기억합니다.

실제 보고서에서 이 용어 보기

자주 묻는 질문

EU AI법은 딥페이크를 어떻게 정의하나요?

실제 인물, 사물, 장소, 단체 또는 사건과 닮았고 진짜이거나 사실인 것처럼 거짓으로 보일 수 있는, AI로 생성하거나 조작한 이미지, 오디오 또는 영상입니다.

딥페이크에는 누가 라벨을 붙여야 하나요?

제50조 제4항에 따라 2026년 8월 2일부터 딥페이크를 생성하거나 조작하는 배포자가 붙여야 하며, 예술·풍자 작품에는 제한적인 예외가 있습니다.

isGenAI로 영상이 딥페이크인지 알 수 있나요?

isGenAI는 파일의 출처 기록과 일치하는 사본을 보고합니다. 픽셀에 점수를 매기지 않으므로, 기록이 제거된 사본은 증거 없음으로 나옵니다.

딥페이크 주장에 반박하는 가장 좋은 증거는 무엇인가요?

원본 파일에 있는 유효하고 신뢰된 카메라 자격 증명, 또는 그런 기록이 있는 일치하는 원본입니다.

출처

정의는 위에 링크한 공개 표준을 따르며, 설명된 isGenAI 동작은 2026년 10월 기준으로 배포된 검사기입니다.

EU AI법 제50조