본문으로 건너뛰기
ReviewRamble

주간 브리프

AI 리뷰를 받은편지함으로.

  • 도구, 모델, MCP 서버, 저장소의 새 리뷰(결론부터)
  • 변경이 있을 때 다시 확인한 가격과 평점
  • 새로 발행된 분석 글

모델, 에이전트, MCP 서버, 그리고 정말 시간을 들일 만한 도구.

일주일에 한 통입니다. 각 브리프의 링크로 구독을 해지할 수 있습니다. 이메일 사용 방식

딥페이크

딥페이크(deepfake)는 AI로 만들거나 변조한 이미지, 오디오, 영상 콘텐츠로, 실제 인물, 장소, 사건을 일어나지 않은 방식으로 그럴듯하게 보여 주어 진짜로 통할 수 있는 것을 말합니다.

다른 이름: synthetic media, deep fake

작성 Divya Sharma · 2026년 11월 15일 확인 · 리뷰 방식

이 용어는 얼굴을 바꾼 영상에서 시작했지만 지금은 사실적인 가짜 전반을 가리킵니다. 전화 통화 속 복제된 목소리, 정치인이 한 적 없는 말을 하는 영상, 실제 사건을 꾸며 낸 사진 등입니다. EU AI Act는 딥페이크를 실제 인물, 사물, 장소, 사건과 닮았고 거짓으로 진짜처럼 보일 수 있는, AI가 생성하거나 조작한 콘텐츠로 정의합니다.

만드는 방법

대부분의 딥페이크는 정당한 작업에도 쓰이는 생성 도구를 조합합니다. 음성에는 음성 복제, 입 모양을 새 오디오에 맞추는 데는 립싱크 모델, 영상에는 텍스트 비디오 생성이나 얼굴 교체 모델을 씁니다. 같은 도구가 더빙, 접근성, 영화 효과에도 쓰이므로, 해악은 기술이 아니라 기만에 있습니다.

딥페이크와 합성 미디어

합성 미디어(synthetic media)는 AI가 생성한 모든 이미지, 오디오, 영상을 가리키는 더 넓은 용어로, 공개적으로 표시된 예술 작품과 스톡 이미지도 포함합니다. 딥페이크는 그 가운데 진짜로 통하도록 만든 것으로, 대개 실제 인물이나 사건과 연결됩니다.

대응

두 가지 접근이 함께 쓰입니다. 표시(labelling)는 AI 워터마킹이나 메타데이터로 콘텐츠를 출처에서부터 AI가 만든 것으로 표시합니다. C2PA 콘텐츠 자격 증명 같은 출처 기록은 파일이 가짜임을 증명하려 하기보다, 정직한 발행자가 파일이 어디서 왔고 어떻게 편집되었는지 보여 줄 수 있게 합니다. EU AI Act는 일부 예외를 두고 딥페이크가 인공적으로 만든 것임을 공개하도록 요구합니다. 표시도 탐지기도 그것만으로 문제를 해결하지는 못하므로, 놀라운 영상은 공유하기 전에 출처를 확인하십시오.

관련 용어

C2PA 콘텐츠 자격 증명
C2PA 콘텐츠 자격 증명(C2PA content credentials)은 Coalition for Content Provenance and Authenticity의 개방형 표준이 정의하는 서명된 출처 기록으로, 이미지, 영상, 오디오 파일, 문서와 함께 이동하며 그 출처와 편집 내역을 기록합니다.
AI 워터마킹
AI 워터마킹(AI watermarking)은 AI 모델이 텍스트, 이미지, 오디오, 영상을 생성하는 순간 그 안에 숨겨진, 기계가 감지할 수 있는 신호를 심는 기술입니다. 나중에 소프트웨어가 그 콘텐츠를 AI가 생성한 것으로 식별할 수 있게 합니다.
보이스 클로닝(Voice cloning)
보이스 클로닝(voice cloning)은 AI를 써서 음성 합성 시스템이 특정인의 녹음으로부터 배운 그 사람의 목소리로 말하게 하는 것입니다. 일부 시스템은 짧은 샘플만 있으면 됩니다.
EU AI Act
EU AI Act(Regulation (EU) 2024/1689)는 인공지능에 관한 유럽연합의 법입니다. AI 시스템을 만들고 배포하는 이들에게 전면 금지부터 투명성 의무까지 위험 기반 규칙을 정하며, 2025년부터 단계적으로 시행됩니다.
립싱크(AI 영상)
AI 립싱크(lip sync)는 모델을 써서 영상이나 이미지 속 인물의 입 움직임을 번역하거나 고쳐 쓴 대사 같은 새 오디오 트랙에 맞게 바꾸는 것입니다.
텍스트 투 비디오(Text-to-video)
텍스트 투 비디오(text-to-video)는 글로 쓴 프롬프트로부터 짧은 동영상 클립을 생성하는 작업입니다. 모델은 프레임 하나하나가 그럴듯하면서도 프레임 사이의 움직임이 일관된 결과를 만들어야 합니다.

출처