대선을 준비하는 AI, 캠프와 선거기관은 어떻게 쓰나

2026년 브라질부터 한국까지, 홍보물 제작과 사칭 대응의 실제

기술2026.11.06·13분 읽기

AI가 작성한 콘텐츠입니다. 실제 AI 기술에 근거하며, 활용 장면·인물·미래 상황에는 허구가 포함될 수 있습니다.

헤드폰을 쓴 편집자가 연설 음원과 공약 문서를 옆에 두고 자막을 확인하는 재구성 장면
공개 전 연설 원음과 자막을 대조하는 캠프 작업실

2026년 10월 14일, 브라질 최고선거법원은 루이스 이나시우 룰라 다시우바를 조직범죄와 연결한 AI 제작 영상의 삭제를 명령했다. 한 달 앞서 같은 법원은 2026년 선거에서 딥페이크를 어떻게 판단할지 기준을 제시했다. 생성형 AI가 들어온 대선에서는 영상 한 편을 만드는 일부터 공개할 수 있는지 판단하고 이의를 처리하는 일까지 모두 선거 준비가 된다. 브라질 선거법원 2026 딥페이크 판단, 브라질 선거법원 10월 영상 삭제 명령

AI가 대선에서 하는 일은 크게 세 갈래다. 캠프는 홍보물을 만들고 자료를 정리한다. 사칭에 쓰이면 후보가 실제로 하지 않은 말을 유권자에게 전달할 수 있다. 선거기관은 의심 자료를 선별하고 원본과 유통 경로를 조사한다. 같은 기술이 서로 다른 업무에 들어가므로, 제작 사실과 유통 규모, 득표에 미친 영향은 각각 다른 증거로 판단해야 한다.

캠프는 무엇을 만들고 어디서 사람의 검토를 거치나

2024년 인도네시아 대선에서 프라보워 수비안토의 캠페인은 후보를 친근한 만화 캐릭터로 그린 AI 아바타를 활용했다. 싱가포르 ISEAS 연구는 이를 소셜미디어 운영과 인플루언서 협업 등 여러 캠페인 변화 가운데 하나로 다룬다. 아바타는 후보의 외형을 재구성하는 이미지 생성 기술이 홍보에 쓰인 사례다. 이 사례로 확인할 수 있는 것은 캠페인이 어떤 이미지를 사용했는지까지다. 후보의 승리에서 아바타가 차지한 몫은 이 자료로 계산할 수 없다. ISEAS 인도네시아 대선 연구

화려한 아바타가 없어도 생성형 AI를 넣을 수 있는 업무는 많다. 아래는 특정 캠프의 내부 운영을 취재한 결과가 아니라, 기술이 실제 업무에 들어갈 때 무엇을 맡고 무엇을 확인해야 하는지 보여주는 예시다.

기술 들어갈 수 있는 업무 공개 전 확인할 것
음성 인식 연설이나 토론을 글로 옮겨 검색할 수 있게 한다 후보 이름, 숫자, 부정 표현을 원음과 대조한다
언어 모델과 문서 검색 공약집·기존 발언에서 근거를 찾아 답변 초안을 정리한다 최신 승인본인지, 답변의 근거 문장이 실제로 있는지 확인한다
이미지 생성과 합성 홍보용 삽화, 아바타, 시안을 만든다 실존 인물의 실제 행동으로 오인할 가능성과 공개 시점의 규정을 확인한다
기계 번역·자막 승인된 공약 설명을 다른 언어 또는 자막으로 옮긴다 지원 자격, 금액, 시행 시점이 번역에서 바뀌지 않았는지 확인한다
텍스트 분류 공개 질의나 신고를 주제별로 묶어 검토 순서를 정한다 온라인에서 많이 보인 질문을 전체 유권자의 의견으로 일반화하지 않는다

실무에서 중요한 것은 초안이 승인된 공약처럼 유통되지 않게 하는 일이다. 예컨대 캠프가 지원금 공약을 설명하는 짧은 영상에 자막을 붙인다고 하자. 음성 인식이 액수를 잘못 적고, 언어 모델이 앞뒤 문맥을 줄이면서 지급 조건을 빼면, 원본 연설과 전혀 다른 약속처럼 보일 수 있다. 초안을 고치는 사람이 원본 녹음과 최종 공약 문서를 함께 볼 수 있어야 한다. 캠프가 보관할 기록에는 자료의 버전, 수정 사항, 최종 확인자가 들어간다. 그렇게 해 두면 짧은 영상이 잘려 퍼져도 어떤 표현이 실제로 승인됐는지 확인할 수 있다.

캠프 작업에 들어갈 수 있는 구체적인 기술

시간 정보가 붙는 자동 음성 인식. Whisper 같은 모델은 연설을 글로 옮기고 발화 구간의 시간을 표시한다. 자막에 지원금 액수가 등장하면 편집자는 해당 시각으로 이동해 원음을 대조할 수 있다. 토론에서 두 사람이 겹쳐 말한 대목은 인용 전에 영상에서 발언자를 확인한다. 금액, 사람 이름, 부정 표현을 우선 검토하면 뜻을 뒤집는 오기를 찾을 수 있다. Whisper

검색 증강 생성(RAG). 승인된 공약집에서 질문과 관련된 문단을 찾아 언어 모델에 넘기고 답변 초안을 만든다. 청년 주거 지원 자격을 물으면 해당 조건이 담긴 문단을 먼저 찾는다. 문서 제목과 판 번호, 페이지를 같이 제시하면 검수자가 실제 근거를 읽을 수 있다. 구판을 검색 대상으로 남겨 두면 폐기된 조건이 답변에 들어갈 수 있다. 위 기술들은 적용 예시이며 특정 캠프의 도입 사실과 구분한다. RAG 원 논문

신고된 전화의 녹음 파형과 수신 시각 기록을 나란히 확인하는 재구성 장면

사칭은 합성 파일과 배포 수단이 만날 때 위험해진다

2024년 1월 미국 뉴햄프셔 대선 경선을 앞두고, 조 바이든을 흉내 낸 AI 음성의 자동전화가 유권자에게 걸려 왔다. 메시지는 경선에 참여하지 말라는 취지의 허위 정보를 전했다. 미국 연방통신위원회는 합성 음성에 더해 발신번호를 속이는 수단이 쓰였다고 발표했고, 같은 해 9월 정치 컨설턴트 스티브 크레이머에게 600만 달러의 벌금을 부과했다. 미국 대선 본선이 아닌 주 경선 사례라는 점도 구분할 필요가 있다. 미국 FCC 자동전화 제재 발표

이 사건에서 합성 기술은 익숙한 목소리를 제공했다. 자동전화는 그 음성을 여러 수신자에게 배포했고, 발신번호 조작은 연락의 출처를 오인하게 만들었다. 음성이 비슷한지만 들어서는 세 요소를 분리하기 어렵다. 그래서 선거기관과 플랫폼, 통신사가 서로 다른 자료를 볼 필요가 있다. 녹음의 진위, 발신 기록, 공식 선거 안내가 각각 다른 질문에 답한다. 유권자가 받은 메시지가 투표 일정이나 참여 조건을 바꿔 말한다면, 그 음성을 판별하기 전에 선거기관의 공식 안내를 확인할 수 있다.

브라질 사례는 같은 사칭 문제를 영상에서 보여준다. 법원이 삭제를 명령했다는 사실은 구체적인 콘텐츠에 조치가 내려졌다는 뜻이다. 얼마나 많은 사람이 실제로 보았는지, 그것을 믿었는지, 투표 선택을 바꿨는지는 별도 자료가 필요하다. 선거 보도에서 이 간격을 생략하면 제재 건수를 영향력 수치처럼 읽게 된다. 브라질 선거법원 10월 영상 삭제 명령

한국과 폴란드에서는 AI가 검토 대상을 찾는 데 쓰였다

한국 행정안전부와 국립과학수사연구원은 2025년 7월, 제21대 대통령선거 기간에 딥페이크 분석모델을 중앙선거관리위원회에 공유했다고 발표했다. 당국은 이 모델이 유튜브 등에서 불법 딥페이크 선거물 1만여 건을 탐지하고 삭제하는 데 기여했다고 설명했다. 이 수치는 당국이 설명한 탐지·삭제 활동의 규모다. 서로 다른 원본의 수나 분석모델의 정확도를 보여주는 수치로 읽을 수는 없다. 행정안전부·국과수 분석모델 발표

폴란드의 NASK도 2025년 대선을 앞두고 신고를 받고 온라인 공간을 관찰했다. NASK가 집계한 유효 신고 3,836건에는 허위 콘텐츠, 사칭, AI 생성 자료, 선거운동 제한 시간 위반 등이 함께 들어 있다. 이를 AI 생성물 3,836건으로 인용하면 범주가 바뀐다. 한국 자료는 특정 유형의 탐지·삭제 지원을 설명하고, 폴란드 자료는 여러 유형을 포함한 유효 신고를 집계했다. 두 숫자를 놓고 어느 나라에 딥페이크가 더 많았는지 비교할 근거는 없다. 폴란드 NASK 선거 대응 보고

선거기관의 검토 과정을 실무 관점에서 보면, 탐지 모델이 의심 자료를 먼저 추리고 검토자는 원본과 게시 맥락을 대조하는 식으로 역할을 나눌 수 있다. 화면이 어색한지뿐 아니라 누가 언제 올렸는지, 전체 영상에 같은 발언이 있는지, 잘린 앞뒤 내용이 의미를 바꾸는지도 확인한다. AI 생성 여부와 위법 여부는 질문이 다르다. 실제 영상도 제목과 편집으로 오해를 부를 수 있고, 생성 이미지는 합성 사실이 명확히 드러날 수 있다. 최종 처분을 설명할 때에는 어떤 자료와 기준으로 판단했는지가 필요하다.

재게시본을 찾는 기술과 출처를 확인하는 기술

지각 해시. PDQ는 그림의 시각적 특징을 짧은 값으로 바꾼다. 같은 그림이 재압축되거나 크기가 달라진 경우에도 유사한 파일을 찾는 데 쓸 수 있다. 신고가 들어온 이미지와 가까운 값을 가진 게시물을 묶어 사람이 비교하는 식이다. 이 과정은 같은 그림의 유통 범위를 조사하는 데 도움이 된다. 합성 여부는 원본이나 별도의 분석으로 판단한다. Meta PDQ

콘텐츠 출처 서명. C2PA 표준은 제작·편집 이력에 디지털 서명을 연결할 수 있게 한다. 검토자는 공식 배포 영상의 이력과 서명이 유효한지 확인할 수 있다. 캡처나 재게시로 이력이 빠질 수 있고, 유효한 서명도 발언 내용의 사실 여부까지 증명하지는 않는다. 탐지 모델은 의심 자료를 선별하고, 지각 해시는 유사본을 묶고, 출처 서명은 남아 있는 이력을 확인한다. PDQ와 C2PA는 적용 예시이며 위 선거기관이 도입했다는 의미는 아니다. C2PA 표준

검토자가 두 모니터에서 신고 영상과 원본 영상의 재생 구간을 대조하는 재구성 장면

한국 대선을 준비한다면 제작 단계부터 구분해야 한다

공직선거법 제82조의8 제1항은 선거일 전 90일부터 선거일까지 선거운동을 목적으로 실제와 구분하기 어려운 가상의 음향·이미지·영상 등을 AI 기술 등으로 제작·편집·유포·상영·게시하는 행위를 금지한다. 제2항은 그 기간 밖에 해당 자료로 선거운동을 할 때 합성 자료라는 사실을 명확히 표시하도록 한다. 문서 검색으로 공약을 정리하는 일과 후보가 실제로 말하는 듯한 합성 영상을 배포하는 일은 목적과 결과물이 다르다. 개별 자료의 적용 여부는 최신 법령과 선관위 안내를 확인해야 한다. 공직선거법 제82조의8

캠프에 필요한 판단은 제작물을 다 만든 뒤에만 생기지 않는다. 실존 인물의 얼굴이나 목소리를 사용할지, 결과가 실제 발언처럼 보일지, 어느 시점에 어디에 게시할지를 기획 단계에서 정해야 한다. 공개가 보류된 시안이 외부 채널로 흘러갈 수 있으므로 내부 승인 상태와 배포 담당도 구분한다. 허위정보 신고를 맡은 쪽은 원본과 게시 링크, 확인 시각을 남기고 잘못된 주장 자체를 반복 확산하지 않도록 정정 문구를 검토한다.

기사에 나온 숫자와 사례를 읽는 법

Q1. AI가 만든 이미지가 많이 퍼졌다면 표도 많이 움직였을까? 노출과 투표 행동 사이에는 여러 단계가 있다. 누가 봤는지, 어떤 메시지를 믿었는지, 다른 정보의 영향을 어떻게 구분했는지까지 확인해야 한다. 제작물의 존재나 후보의 당선만으로 득표 효과를 판단하기 어렵다.

Q2. 합성 여부를 탐지기로 확인하면 끝인가? 탐지 결과는 조사 단서다. 원본 영상, 발언 날짜, 게시 경로와 함께 봐야 한다. 확실한 원본이 있다면 모델의 점수보다 실제로 어떤 대목이 바뀌었는지 설명하기 쉽다.

Q3. 캠프가 AI로 초안을 쓰는 일도 같은 규제를 받나? 한국 공직선거법의 해당 조문은 선거운동 목적과 실제로 오인할 수 있는 가상 음향·이미지·영상 등을 다룬다. 구체적인 공개물은 형식, 내용, 제작·공개 시점에 따라 확인할 사항이 달라진다. 공직선거법 제82조의8

Q4. 삭제나 신고 건수는 선거 대응의 성과인가? 기관이 어떤 문제를 얼마나 처리했는지 보여줄 수 있다. 신고, 확인, 삭제, 노출은 집계 단위가 서로 다르다. 대응의 효과를 따지려면 얼마나 빨리 발견했는지와 정정이 실제 수신자에게 닿았는지 같은 자료가 더 필요하다.

Q5. 후보가 하지 않은 말이 퍼졌을 때 무엇을 먼저 확인하나? 내용에 따라 공식 자료를 찾는다. 투표일·자격·장소는 선거기관의 공지를, 후보 발언은 전체 영상이나 공식 기록을 확인한다. 짧은 영상의 그럴듯함과 별개로, 그 메시지가 주장하는 사실부터 검증할 수 있다.

이 글은 AI와 함께 작성했습니다. 업무 흐름 예시는 설명을 위해 구성했습니다.

AI가 작성한 콘텐츠입니다. 실제 AI 기술에 근거하며, 활용 장면·인물·미래 상황에는 허구가 포함될 수 있습니다.

이미지 3장은 설명용 AI 일러스트이며 실제 촬영 사진이나 실험 기록이 아닙니다.

참고 자료

참고 자료 8개 더 보기

이 글의 이미지는 AI로 생성했습니다

AI와 함께 작성

같은 가지의 다른 글

↑ 상위 글: 기술

이미지: Cloudflare (@cf/black-forest-labs/flux-2-klein-9b)