「공직선거법」 개정 내용
제82조의8(딥페이크영상 등을 이용한 선거운동)
① 누구든지 선거일 전 90일부터 선거일까지 선거운동을 위하여 인공지능 기술 등을 이용하여 만든 실제와 구분하기 어려운 가상의 음향, 이미지, 또는 영상 등(이하 ‘딥페이크영상 등’이라 함)을 제작·편집·유포·상영 또는 게시하는 행위를 할 수 없다.
② 누구든지 제1항의 기간이 아닌 때에 선거운동을 위하여 딥페이크영상 등을 제작·편집·유포·상영 또는 게시하는 경우 해당 정보가 인공지능 기술 등을 이용하여 만든 가상의 정보라는 사실을 명확하게 인식할 수 있도록 중앙선거관리위원회규칙으로 정하는 바에 따라 해당 사항을 딥페이크영상 등에 표시하여야 한다.
제250조(허위사실공표죄)
④ 제82조의8 제2항을 위반하여 중앙선거관리위원회규칙으로 정하는 사항을 딥페이크영상 등에 표시하지 아니하고 제1항에 규정된 행위를 한 자는 5년 이하의 징역 또는 5천만 원 이하의 벌금에, 제2항에 규정된 행위를 한 자는 7년 이하의 징역 또는 1천만 원 이상 5천만 원 이하의 벌금에 처한다.
※ 법 제82조의8 제1항을 위반한 자는 7년 이하의 징역 또는 1천만 원 이상 5천만 원 이하의 벌금에 처하며(법 제255조 제5항), 법 제82조의8 제2항을 위반하여 중앙선거관리위원회규칙으로 정하는 사항을 딥페이크영상 등에 표시하지 아니한 자에게는 1천만 원 이하의 과태료를 부과함(법 제261조 제3항 제4호).
1. 운용 개요
○ 누구든지 선거일 전 90일부터 선거일까지 선거운동을 위하여 딥페이크영상 등을 제작·편집·유포·상영·게시할 수 없음.
※ 인터넷상 게시된 딥페이크영상 등의 경우에는 선거일 전 90일 전까지 삭제하여야 함.
○ 선거일 전 90일 전에 선거운동을 위하여 딥페이크영상 등을 제작·편집·유포·상영·게시하는 경우에는 해당 딥페이크영상 등에 중앙선거관리위원회규칙으로 정하는 사항을 표시하여야 함.
○ 인공지능 기술 등으로 만든 가상의 정보임을 표시하였다고 하더라도 허위사실이 포함되어 있는 딥페이크영상 등을 공표하는 경우에는 행위 양태에 따라 「공직선거법」(이하 ‘법’이라 함) 제250조(허위사실공표죄)에 해당할 수 있음.
2. ‘인공지능 기술 등’ 부분에 대하여
○ 법 제82조의8 제1항에 따라 제한되는 ‘딥페이크영상 등’은 ‘인공지능 기술 등을 이용하여’ 만든 것으로서, 인공지능과 같은 기술을 사용하지 아니하고 보정하는 것은 포함되지 아니함.
- 법 제82조의8 제1항에 규정된 ‘인공지능 기술’이라 함은, 인간의 학습·추론·지각 능력 및 자연언어 이해능력 등 '지적능력'의 일부 또는 전부를 전자적 방법으로 구현해내는 하드웨어 또는 소프트웨어 기술이나 결과물을 말하는 것으로 볼 수 있음.
- 법 제82조의8의 입법 취지, 인공지능 기술의 의미 등을 종합적으로 고려하면, 통상 포토샵·그림판과 같이 사용자의 직접적인 조작(操作)을 요하는 프로그램의 경우 법 제82조의8에서 제한하는 인공지능 기술에 포함된다고 볼 수 없을 것임.
- 다만, 고급·전문가 버전 등 인공지능 기술을 활용한 기능이 포함된 프로그램으로 만든 음향·이미지·영상은 법 제82조의8의 제한대상이 될 수 있을 것임.
3. ‘실제와 구분하기 어려운’ 부분에 대하여
○ 법 제82조의8 제1항에 따라 제한되는 ‘실제와 구분하기 어려운 딥페이크영상 등’은 인공지능 기술 등을 이용하여 만든 가상의 영상 등을 말하는 것임.
- 인공지능 기술 등을 이용하여 만든 가상의 영상 등의 면면을 진지하게 고찰하거나 딥페이크 기술이나 영상 등의 사안에 대한 배경지식을 토대로 실제와 구분이 가능할 수 있는지 여부를 고려하지 아니함.
- 이 경우, 해당 영상 등에 해당 정보가 인공지능 기술 등을 이용하여 만든 가상의 정보라는 사실을 표시하였는지 여부와 관계없이 해당 법조가 적용됨.
※ 삽화·캐릭터에 후보자 등의 음성을 결합한 영상의 경우, 실제음성이라 하더라도, 해당 발화내용 및 그 배경(발화장소, 경위, 발화대상 등), 삽화·캐릭터의 모습 등 영상 전체를 종합하여 상황·설정이 실제와 오인가능성이 있다면 해당 법조가 적용될 것임.
4. ‘음향·이미지·영상 등’ 부분에 대하여
○ 법 제82조의8 제1항에 따라 제한되는 ‘딥페이크영상 등’은 음향, 이미지, 영상 또는 이에 준하는 것을 포함하는 것으로서, 텍스트만으로 이루어진 것은 포함되지 아니함.
- 생성형 AI 등 인공지능 기술을 이용하여 도출한 텍스트를 캡쳐한 이미지의 경우 텍스트 자체를 게시한 것과 본질적으로 동일한 것으로 볼 수 있음.
- 캘리그래피 등 디자인화된 텍스트의 경우 이미지에 해당될 수 있으나, ‘실제와 구분하기 어려운 가상’의 이미지에 해당한다고 보기 어려울 것임.
※ 인공지능 기술 등을 이용하여 제작되지 않은 통상적인 이미지 형태의 이모티콘은 법 제82조의8 규정의 적용대상에 해당되지 아니할 것임.
본 운용기준은 구체적 사안을 전제하지 아니한 일반적인 기준을 제시한 것이며, 구체적인 행위양태 등에 따라 위법 여부는 달라질 수 있음.
