테일러 스위프트도 당했다…노골적 음란물 유포

입력 2024 01 27 10:27|업데이트 2024 01 27 10:40

스위프트 관련 딥페이크 확산, 항의 빗발
백악관 “리스크 줄이기 위해 계속 조치”

팝스타 테일러 스위프트가 9일(현지시간) 아르헨티나 부에노스아이레스에서 열린 콘서트에서 열창하고 있다. 2023.11.9 AP 연합뉴스
팝스타 테일러 스위프트가 9일(현지시간) 아르헨티나 부에노스아이레스에서 열린 콘서트에서 열창하고 있다. 2023.11.9 AP 연합뉴스
팝스타 테일러 스위프트의 얼굴이 합성된 음란물이 유포됐다.

26일(현지시간) 뉴욕타임스(NYT)와 CNN 방송 등에 따르면 최근 스위프트의 얼굴에 노골적인 자세가 합성된 사진이 소셜미디어(SNS) X와 페이스북 등에서 확산했다.

이는 인공지능(AI)을 도구로 활용한 조작물, 즉 딥페이크로 추정된다.

딥페이크는 딥러닝(Deep learning)과 가짜(Fake)란 말의 합성어로, AI 기술을 기반으로 만들어낸 가짜 사진, 동영상, 음성물 등을 의미한다.

현재는 스위프트 관련 음란물을 유포한 SNS 계정들이 정지됐으나, 음란물은 삭제 전까지 4700만회나 조회됐다고 NYT는 전했다.

음란물의 최초 출처는 불분명하지만 주로 X에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다.

X는 관련 성명에서 “확인된 모든 사진을 적극적으로 삭제하고 해당 사진을 게시한 계정에 적절한 조처를 했다”며 “추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 살피고 있다”고 밝혔다.

하지만 스위프트의 팬들은 해당 사진 공유를 한동안 방치한 X에 분노하며 항의를 쏟아냈다.

이들은 또 “테일러 스위프트를 보호하라”는 문장과 해시태크를 포함한 게시물을 대대적으로 게시해 가짜 음란물을 밀어내고 찾기 어렵게 만들었다.

AI 탐지를 전문으로 하는 사이버보안업체 리얼리티 디펜더는 해당 음란물이 AI 모델을 사용해 생성된 것으로 90% 확신한다고 NYT에 밝혔다.

딥페이크를 연구하는 워싱턴대의 컴퓨터과학 교수 오런 에치오니는 “늘 인터넷의 어두운 저류에는 다양한 종류의 포르노가 존재해 왔다”며 “이제 우리는 AI가 생성한 노골적인 이미지의 쓰나미를 보게 될 것”이라고 말했다.

● AI 규제 목소리 커져…백악관 “의회도 입법 나서야”

팝스타 테일러 스위프트가 11일(현지시간) 미국 캘리포니아주 로스앤젤레스에서 열린 콘서트 실황 시사회에 참석하고 있다. 2023.10.11 로이터 연합뉴스
팝스타 테일러 스위프트가 11일(현지시간) 미국 캘리포니아주 로스앤젤레스에서 열린 콘서트 실황 시사회에 참석하고 있다. 2023.10.11 로이터 연합뉴스
이번 스위프트의 딥페이크 음란물을 계기로 AI를 이용한 가짜 사진 생성에 강한 규제가 필요하다는 여론이 거세지는 분위기다.

현재 미국 9개 주에서는 AI를 이용해서 누군가의 모습을 모방해 합성한 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만, 연방 정부 차원의 규제는 없는 실정이다.

지난해 딥페이크 사진 공유를 연방 범죄로 규정하는 법안을 발의한 민주당 조 모렐 하원의원(뉴욕)은 스위프트와 관련한 가짜 음란물 확산을 두고 “끔찍하다”며 “이런 일은 매일 모든 곳에서 여성들에게 일어나고 있다”고 SNS에 썼다.

상원 정보위원회 위원장인 마크 워너 의원(민주당)도 “AI가 합의되지 않은 은밀한 사진을 생성하는 데 사용될 수 있다고 반복해서 경고해 왔다”며 “이것은 개탄스러운 상황”이라고 말했다.

최근 미국 대선과 관련해서는 뉴햄프셔 프라이머리(예비경선)를 하루 앞두고 민주당 당원들에게 투표 거부를 독려하는 조 바이든 대통령의 가짜 목소리를 담은 전화가 확산해 문제가 되기도 했다.

카린 장-피에르 백악관 대변인은 이날 브리핑에서 테일러 스위프트의 합성 사진이 온라인에서 확산되는 것과 관련, “매우 우려스럽다”면서 “우리는 실존하는 사람들의 친근한 이미지, 허위 정보가 사전 동의 없이 확산되는 것을 방지하기 위해 소셜미디어업체들이 정보 제공 및 규칙을 시행하는 데 해야할 중요한 역할이 있다고 본다”고 말했다.

이어 “슬프게도 이런 (규칙) 집행의 부재는 여성과 소녀들에게 더 큰 영향을 미친다”면서 “조 바이든 대통령은 지난해 행정명령을 발표한 것처럼 생성형 AI가 생산한 이미지에 대한 리스크를 줄이기 위해 노력하고 있다. 우리는 계속해서 조치를 취할 것이며 의회도 전략적인 입법 조치를 취해야 한다”고 말했다.

권윤희 기자
  • 카카오 공유하기
  • 페이스북 공유하기
  • 트위터 공유하기
  • 네이버블로그 공유하기
  • 네이버밴드 공유하기
ⓒ 트윅, 무단 전재 및 재배포 금지
연예의 참견
더보기
여기 이슈
더보기
갓생 살기
더보기
광고삭제