손석희, 백종원, 유재석 등 사칭
[서울=뉴시스]윤정민 기자 = “저는 한국인을 위한 혁신적 플랫폼을 개발해 AI 기반 투자를 통해 재정적 자유를 위한 길을 열었습니다. 500원만 투자하면 매월 최대 1만5000원의 수익을 올릴 수 있습니다. AI의 실시간 시장 분석으로 93%에 달하는 놀라운 성공률을 자랑합니다.”
 |
| [서울=뉴시스] 딥페이크 기술로 손석희 전 JTBC 보도담당 사장을 사칭한 투자 광고 영상이 최근 페이스북에 유통되고 있다. (사진=페이스북 캡처) *재판매 및 DB 금지 *재판매 및 DB 금지 |
페이스북에 최근 유통되고 있는 한 투자 유도 광고 영상. 그런데 이 영상에 나온 사람은 다름 아닌 손석희 전 JTBC 보도담당 사장이다. 손 전 사장을 사칭한 딥페이크 영상 광고였다.
최근 페이스북 등 소셜네트워크서비스(SNS)에 유명인을 사칭한 투자 광고가 기승을 부리고 있다. 앞서 손 전 사장뿐만 아니라 백종원 더본코리아 대표, 주진형 전 한화투자증권 대표, 방송인 유재석, 스타 강사 김미경 등을 사칭한 광고가 올라왔지만 대부분 이미지를 합성한 광고였다.
하지만 인공지능(AI) 기술을 활용해 손 전 사장의 입 모양과 말을 변조한 딥페이크 영상까지 올라오면서 사칭 광고 문제가 더 심각해지는 모양새다.
|
출고일자 2023. 11. 24
|
 |
| [서울=뉴시스] 사진 왼쪽은 방송인 유재석과 키움증권을 사칭한 투자 광고, 오른쪽은 스타 강사 김미경을 사칭한 투자 광고 (사진=페이스북 캡처) *재판매 및 DB 금지 |
이번에 화제가 된 손 전 사장 사칭 광고 영상 오른쪽 하단에는 ‘소숙희’라는 자막이 있다. 영상에 나온 인물이 손 전 사장이 아닌 ‘소숙희’로 소개하는 것으로 보인다. 영상 속 사칭된 손 전 사장은 “인생을 바꿀 수 있는 기회를 놓치지 마세요”라며 “아래 링크를 클릭해 신청하시면 전담팀이 즉시 연락을 드릴 것”이라고 말한다.
이 영상은 게재된 지 3일(24일 오전 기준)이 지났지만 여전히 페이스북 일부 이용자들에게 광고로 노출되고 있다. 이용자들은 해당 광고를 캡처해 “사기 광고의 진화다. 페이스북 이용자들을 위한 온라인 사기 예방 안내가 필요하다”, “사칭 광고가 도배되고 있다” 등의 게시글을 올리며 불만을 드러냈다.
|
출고일자 2023. 11. 06
|
 |
| [서울=뉴시스] 소셜미디어(SNS)상에서 생성형 AI(인공지능)를 사용해 기시다 후미오 일본 총리의 목소리를 재현한 것으로 보이는 가짜 동영상이 확산됐다. (사진출처: NHK) 2023.11.06. *재판매 및 DB 금지 |
딥페이크 기술을 악용한 사칭 영상은 한국뿐만 아니라 전 세계에서도 심각한 문제로 지적되고 있다.
지난 1월 조 바이든 미국 대통령이 백악관에서 성소수자를 폄훼하는 딥페이크 영상이 SNS에 유통되자 백악관이 즉각 수습에 나섰었다. 바이든 대통령은 지난달 딥페이크 등을 포함한 AI 기술 규제 행정명령 서명에 앞서 “나도 내 딥페이크를 보고 놀랐다”고 말했다.
일본에서도 기시다 후미오 총리 딥페이크 영상이 화제가 됐었다. 지난 2일 엑스(전 트위터)에 기시다 총리가 포르노물 대사를 읊는 등 성적인 단어를 말하는 30초짜리 영상이 유통됐었다. 니혼테레비 방송 로고도 붙인 이 영상은 게재 하루 만에 200만회 이상의 조회수를 기록했다.
이처럼 AI 기술 발달로 포털, SNS 등에 딥페이크 기술을 악용한 허위조작정보(가짜뉴스) 유통량이 늘어나고 있다. 이 가운데 국내에서도 내년 4월 제22대 국회의원 선거(총선)가 열리는 만큼 선거전에 딥페이크를 활용한 허위조작정보 유포가 성행할 것이라는 우려가 커지고 있다. 여론 일각에서는 관련 행위를 법적으로 처벌해야 한다는 의견이 나오고 있다.
이에 국회에서는 여러 의원이 관련 행위를 근절하기 위한 입법안을 발의하고 있다. 가장 최근에는 박성중 국민의힘 의원이 딥페이크 기술 등으로 허위조작정보를 유통할 경우 7년 이하의 징역 등으로 처벌할 수 있는 법안을 대표발의했다.
박 의원이 발의한 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안’에 따르면 타인의 의사에 반해 사람의 얼굴·신체 또는 음성을 대상으로 한 촬영물·영상물 또는 음성물을 편집·합성·가공한 정보를 유통할 경우 7년 이하의 징역, 10년 이하의 자격정지 또는 5000만원 이하의 벌금에 처한다.
◎공감언론 뉴시스 alpaca@newsis.com
