게시판
home > 게시판
home > 게시판
-딥페이크 관련 국내외 규제 현황 및 분석
-딥페이크 기술의 활용과 악용 사례
-디지털 리터러시 교육과 강력한 법적 처벌 병행되어야
딥페이크 기술의 빠른 발전으로 인해 허위정보 유포, 명예훼손, 저작권 침해 등의 사회적 문제가 발생하고 있으며, 특히 성적 허위 영상물의 생성과 유포가 큰 문제로 대두되고 있다.
[아웃소싱타임스 김민수 기자] 딥페이크(Deepfake)는 Deep learning과 fake의 합성어로, 인공지능을 활용하여 실제 사람의 음성이나 영상을 조작하는 기술이다.
딥페이크 기술의 빠른 발전으로 인해 허위정보 유포, 명예훼손, 저작권 침해 등의 사회적 문제가 발생하고 있으며, 특히 성적 허위 영상물의 생성과 유포가 큰 문제로 대두되고 있다.
방송통신심의위원회에 따르면, 2024년 1월부터 4월까지 딥페이크 기술을 악용한 성적 허위 영상물은 4,691건으로 전년 대비 400% 증가했다.
이에 최근 정보통신정책연구원이 발표한 '딥페이크 관련 국내외 규제 현황 및 분석' 자료를 바탕으로 국내외 주요 기업과 국가들의 딥페이크 기술 악용을 막기 위한 다양한 규제 방안들과 향후 대응방안 등을 알아본다.
■구글과 유튜브의 대응 노력
구글은 딥페이크 탐지 기술을 개발하고, 불법 딥페이크 콘텐츠의 광고를 금지하고 있다. 2024년 5월부터 딥페이크를 활용하여 음란물 등을 변경하거나 생성하는 서비스의 광고가 금지되었으며, 유튜브는 2024년 3월부터 크리에이터가 AI 사용 여부를 영상 업로드 시 표시하도록 의무화했다.
이러한 조치는 불법 딥페이크 콘텐츠의 확산을 막기 위한 것으로, AI를 통한 콘텐츠 생성이 실제 사건이나 인물과 혼동되지 않도록 하기 위함이다.
■유럽연합의 AI법
유럽연합(EU)은 2024년 5월, 세계 최초로 AI를 포괄적으로 규제하는 「AI법(Artificial Intelligence Act)」을 제정하였다. 이 법은 AI 시스템의 공급자와 사용자에게 투명성 의무를 부과하고 있으며, 딥페이크 콘텐츠에 대해서는 명확한 라벨링과 공개 의무를 요구하고 있다.
AI법은 AI를 잠재적 위험에 따라 금지, 고위험, 제한적 위험, 최소한의 위험으로 분류하며, 딥페이크는 ‘제한된 위험’에 해당한다. AI법을 위반할 경우 최대 1,500만 유로 또는 직전 회계 연도 전세계 연간 매출액의 3% 중 더 높은 금액이 벌금으로 부과될 수 있다.
■미국의 주정부 차원의 규제
미국은 현재 연방 차원에서 딥페이크를 직접적으로 규제하는 법은 없지만, 주정부 차원에서 선거 혹은 음란물과 관련한 딥페이크 규제가 존재한다.
캘리포니아주는 2019년 10월 선거법 개정을 통해 선거 60일 전부터 후보자에 대해 기만적인 음성 혹은 영상을 배포하는 것을 금지하고 있으며, 텍사스주는 2019년 9월 선거법 개정을 통해 선거 30일 이내에 딥페이크 영상을 게시 및 배포하는 것을 금지하고 있다.
뉴욕주는 2023년 9월 형법을 개정하여 당사자의 동의 없이 딥페이크를 포함한 디지털로 제작된 성적인 이미지를 의도적으로 유포하거나 게시하는 행위를 금지하고 있다.
■국내 딥페이크 규제 현황
한국에서는 딥페이크로 인한 피해가 증가함에 따라 「성폭력범죄의처벌 등에 관한 특례법」을 개정하여 딥페이크 음란물의 생성 및 유포를 처벌하고 있으며, 2023년 12월에는 「공직선거법」을 개정하여 선거운동에 딥페이크 영상을 활용하는 것을 금지하고 있다.
또한, 과학기술정보통신부는 2020년 「인공지능(AI) 윤리기준」을 마련하고, 딥페이크 탐지 등 공공분야 디지털 한계극복 기술 개발에 착수하는 등 다양한 노력을 기울이고 있다.
딥페이크 기술의 악용 사례가 증가함에 따라 심각한 피해를 야기하고 있는 현실에서, 정부와 플랫폼 사업자들은 딥페이크의 피해를 최소화하기 위해 다양한 노력을 기울이고 있다.
구글과 유튜브는 딥페이크 콘텐츠를 감지하고 투명성을 강화하기 위한 정책을 시행하고 있으며, 유럽연합과 미국의 주정부들도 관련 법제도를 마련하여 딥페이크를 규제하고 있다. 한국 또한 관련 법률을 개정하고 정책을 추진하며 대응하고 있다.
■딥페이크 대응 방안
딥페이크의 피해를 최소화하기 위해서는 기술적 대응뿐만 아니라, 이용자의 디지털 리터러시 교육과 강력한 법적 처벌이 병행되어야 한다.
딥페이크 탐지 기술의 개발과 함께, 이용자가 딥페이크 콘텐츠를 판별할 수 있는 능력을 키우는 교육이 중요하다. 또한, 불법 딥페이크 제작자 및 유포자에 대한 강력한 처벌과 피해자를 보호할 수 있는 보상제도가 마련되어야 한다.
경기대학교 경영학부 이대성 교수는 "딥페이크 규제와 관련해 가장 시급한 문제는 딥페이크 기술의 악용을 막기 위한 법적 제도의 정비이며, 현재 많은 국가에서 딥페이크 관련 법률이 마련되고 있지만, 여전히 법적 공백이 존재한다."고 밝혔다.
이어 "특히, 딥페이크 음란물이나 선거 관련 허위 영상의 경우, 강력한 처벌과 더불어 피해자 보호를 위한 제도적 장치가 필요하다."고 강조했다.
출처 : 아웃소싱타임스(http://www.outsourcing.co.kr)
