인공지능 기술-“딥페이크”를 이용한 선거운동은 언제까지 할 수 있나?

  컴퓨터 기술의 발전은 사회 전반적으로 많은 변화를 가져왔으며, 그 발전의 정도가 어느 지점까지 갈 것인가를 상상하기도 힘들다. 더욱이 인간과 같은 인지, 추론, 판단할 수 있는 능력을 컴퓨터로 구현하기 위한 인공지능의 발전은 인간으로 하여금 실제와 가짜를 구분해 내는 것을 어렵게 만들 수도 있다.

  과학 기술이 항상 선의의 방향으로만 이용되고, 특히 인공지능이 선의의 방향으로만 사용된다는 보장도 없다.

 인간이 만든 기술은 가짜 화폐를 양산할 수도 있고, 가짜 물품을 만들어 사회질서 자체를 흔들어 혼란을 부추길 수도 있다. 그렇지만 인간이 만든 기술을 유용하게 사용하는 것은 대다수의 사람이 원하는 바일 것이다. 

  이러한 측면에서 인공지능 기술을 활용하여 기존 인물의 얼굴이나 특정부위를 합성하여 합성콘텐츠를 만드는 딥페이크(deepfake)기술을 선거운동방법으로 활용할 수 있게 되었지만, 딥페이크 자체가 합성하는 행위인바 제대로 된 것만을 합성한다고 보아 규제를 가하지 않을 수는 없을 것이다.

  이에 공직선거법에서는 2023. 12. 20 딥페이크 영상등을 이용한 선거운동을 도입하게 되었지만 공정한 선거질서를 위하여 일정한 제한을 두었다.

  선거일전 90일(2024. 1. 11)부터 선거일(2024. 4. 10)까지는 누구든지 선거운동을 위하여 딥페이크를 이용한 음향, 이미지, 영상 등을 제작·편집·유포·상영 또는 게시하는 행위를 할 수 없으며 이를 위반하게 되는 경우에는 7년 이하의 징역 또는 1천만 원 이상 5천만 원 이하의 벌금에 처해질 수 있다. 

  다만 제한기간이 아닌 평소에는 딥페이크를 이용한 영상등을 활용하여 공직선거법에서 허용된 방법으로 선거운동을 할 수 있지만 반드시 “해당 정보가 인공지능 기술 등을 이용하여 만든 가상의 정보”라는 사실을 명확하게 인식할 수 있도록 “이 음향(이미지, 영상등)은 실제가 아닌 인공지능 기술 등을 이용하여 만든 가상의 정보입니다.”라는 문구를 딥페이크 영상등에 표시하여야 하며, 인공지능 기술등을 이용하여 만든 가상의 정보라는 표시를 하지 않을 경우에는 1천만원 이하의 과태료를 부과받게 된다.

 또한 이러한 표시를 하지 않고 허위사실을 공표하게 되면 통상의 허위사실공표죄보다 가중처벌 받게 된다. 

 향후에는 딥페이크를 이용한 기술이 더욱 발전된다면 이를 선거운동에도 더욱 유용하게 사용할 수 있게 되어 후보자가 보다 효율적으로 선거운동을 하는데 도움이 될 것이다.

 인간이 만든 기술이 인간에게 도움이 되듯이 선거의 목적은 제대로 된 사람을 뽑아서 궁극적으로 국리민복이 되는 것이다. 그러고 보면 기술의 목적, 선거의 목적은 동일한 것이다.  

논산시선거관리위원회 사무국장 정주태