챗GPT에 올린 ‘내 사진’이 인터넷에…53장 외부로 샜다 [돋보기]

챗GPT 이용자 이미지 53장 외부 사이트에 게시

오픈AI의 인공지능(AI) 에이전트가 챗GPT 이용자들이 제공한 이미지 53장을 외부 사이트에 무단으로 게시한 사실이 드러났다. 이용자가 챗GPT에 올린 사진이 본인도 모르는 사이 인터넷에 노출된 것이다.

25일(현지시간) 로이터통신 등에 따르면 오픈AI는 자사 AI 에이전트가 챗GPT 이용자 이미지 53장을 외부 이미지 호스팅 사이트에 게시한 사실을 공개했다.

해당 이미지들은 사이트의 공개 목록에는 나타나지 않는 링크 형태로 게시됐다. 다만 링크를 알고 있거나 외부에서 해당 주소를 찾아낼 경우 누구나 접근할 수 있었던 것으로 전해졌다.

오픈AI는 유출된 이미지가 AI로 생성된 것인지, 실제 인물을 식별할 수 있는 사진이었는지는 공개하지 않았다. 이미지가 외부 사이트에 게시된 시점 역시 밝히지 않았다.

유출된 이미지 대부분은 현재 삭제된 상태다. 오픈AI는 아직 남아 있는 이미지도 삭제하기 위해 해당 호스팅 업체들과 협의하고 있다고 설명했다.

이번 사건은 외부 해커가 챗GPT 이용자 계정을 탈취해 데이터를 빼낸 일반적인 해킹 사고와는 성격이 다르다. 오픈AI가 개발한 AI 에이전트가 예상하지 못한 행동을 하는 과정에서 이용자가 제공한 데이터가 외부로 빠져나갔다는 점에서다.

AI가 알아서 ‘우회’…오픈AI도 전체 규모 파악 중더 큰 문제는 오픈AI조차 AI 에이전트의 이 같은 ‘돌발 행동’이 얼마나 발생했는지 아직 전체 규모를 파악하지 못하고 있다는 점이다.

오픈AI는 지난 7월 AI 에이전트가 격리된 시험 환경을 벗어나 AI 개발 플랫폼 허깅페이스 시스템에 허가 없이 접근한 사건이 드러난 뒤 과거 에이전트들의 활동 기록을 광범위하게 재검토해 왔다.

9월 중순까지 확인된 문제 행동은 20여건으로 알려졌지만 이후 내부 로그를 추가로 분석하는 과정에서도 이전에 파악하지 못했던 사례가 잇따라 발견됐다. 챗GPT 이용자 이미지 53장이 외부 사이트에 게시된 사실 역시 이 과정에서 확인됐다.

정부기관의 접근 통제를 AI가 스스로 우회한 사례도 드러났다.

호주 ABC방송 등에 따르면 지난 6월 오픈AI의 AI 에이전트는 호주 정부의 보건 데이터 사이트에서 필요한 정보를 찾지 못하자 사이트의 접근 제한을 우회해 비공개 자료에 접근했다.

개인별 의료정보에 접근한 증거는 확인되지 않았지만, 공개된 통계뿐 아니라 비공개 종합 보건통계와 내부 파일 등에 접근한 것으로 파악됐다.

오픈AI는 현재 AI 에이전트가 제3자의 보안 통제를 우회했거나 외부 웹사이트와 서비스에 부정적인 영향을 미친 사례를 조사하고 있다. 정부기관과 대학 등을 포함한 외부 기관 및 업체 수십 곳에도 관련 사실을 통보했으며, 전체 조사를 마치는 데 수개월이 걸릴 수 있다고 밝혔다.



“챗GPT에 사진 올리면 유출?”…확대 해석은 경계다만 이번 사건을 챗GPT에 사진을 올리면 인터넷에 공개될 수 있다는 의미로 확대 해석할 필요는 없다.

현재까지 확인된 유출 규모는 이용자 이미지 53장이다. 오픈AI는 해당 이미지의 구체적인 내용이나 게시 시점, 실제 인물을 식별할 수 있는 사진이 포함됐는지 등은 공개하지 않았다.

또 현재까지 알려진 AI의 이상 행동 사례에는 실제 환경에서 발생한 사건뿐 아니라 AI의 취약성과 예상 밖 행동을 파악하기 위한 내부 시험 과정에서 발견된 사례도 포함돼 있다. 이를 근거로 일반 챗GPT 이용자의 데이터 전체가 외부 유출 위험에 놓여 있다고 단정하기는 어렵다.

그럼에도 이번 사건은 AI의 예상 밖 행동이 실제 이용자가 제공한 데이터의 외부 노출로 이어질 수 있다는 점을 보여줬다는 데 의미가 있다.

AI가 질문에 답하는 챗봇을 넘어 웹사이트에 접속하고 파일을 다루며 여러 작업을 스스로 수행하는 ‘에이전트’로 발전하면서 개인정보 보호 문제 역시 새로운 과제로 떠오르고 있다.

특히 주민등록증이나 여권, 금융서류 등 유출될 경우 피해가 큰 개인정보가 담긴 이미지나 문서를 AI 서비스에 입력할 때는 서비스의 데이터 처리 방식과 보안 설정 등을 확인하는 등 이용자들의 주의가 요구된다.

김유민 기자