예측할 수 없게 진화하는 AI 공격 위협… 글로벌 빅테크들 AI 보안에 ‘공동 전선’

앤트로픽 ‘미토스’ 해킹 위험 경고
이미 정립된 보안 표준 무력화 우려
앤트로픽, 15개국 150개 기관 연합
엔비디아도 30개 기업과 협력쳬

인공지능(AI) 기술 고도화에 따른 보안 체계 무력화 경고가 잇따르고 있다. 글로벌 빅테크들은 공동 전선을 꾸리며 대응에 나섰다.

앤트로픽은 28일(현지시간) 자사의 최신 AI 모델인 ‘미토스’의 프리뷰 버전이 고급 암호화 표준(AES)의 보안 강도를 일부 경량화한 버전을 공격하도록 실험한 결과 해킹 취약점을 찾아냈다고 밝혔다. 미토스는 인간 전문가보다 200~1000배 더 빠르게 공격 취약점을 파악했다.

AES는 실제 인터넷 뱅킹 등 금융거래, 메신저 보안, 국가 기밀 보호 등 핵심 영역에서 해킹을 막는 안전 표준이다. 이번 모의실험은 AES의 보안 강도를 낮춰 진행됐지만, 고도화된 AI가 이미 정립된 보안 표준을 무력화할 수 있다는 점을 증명했다.

뉴욕타임스(NYT)는 “과거 연구에서는 대규모언어모델(LLM)이 암호학 분야에서 인간을 앞지르지 못한다고 결론을 냈으나 이번 실험으로 이같은 인식이 틀렸다는 사실이 드러나면서 중장기적으로 큰 논란이 예상된다”고 경고했다.

전문가들은 보안 우려가 머지않아 현실화할 것으로 본다. 미국 매사추세츠공대(MIT)의 연구그룹 ‘퓨처테크’와 호주 퀸즐랜드대 연구진이 전 세계 AI 전문가 272명을 상대로 조사한 결과 전문가들은 5년 안에 AI가 ‘재앙적 결과’를 초래할 확률을 20% 이상으로 평가했다. 2030년 내로 AI가 수백만 명을 사망하게 하거나 수백조 원 규모의 경제적 손실을 야기할 수 있는 확률이 20%를 넘는다는 뜻이다. 특히 ‘위험한 능력을 보유한 AI’(21.5%), ‘사이버 공격, 무기 개발 또는 사용에 의한 대규모 피해’(21.0%) 등에서 발생 확률이 높을 것으로 전망했다.

글로벌 빅테크들은 개별 기업 단위로 이런 AI 위협에 대응할 수 없다고 보고 연합 전선을 구축하고 있다. 대표 주자인 앤트로픽의 ‘프로젝트 글래스윙’은 미국 정부의 미토스 수출 통제 이전까지 15개 국가의 150여개 기관까지 접근권을 확대했다.

엔비디아도 최근 마이크로소프트(MS)와 IBM, 스페이스X, SK텔레콤, 네이버 등 30여개 기업이 함께하는 AI 보안 연합체 ‘오픈 시큐어 AI 얼라이언스’를 출범시켰다. 국내에는 사이버 보안 기업 ‘티오리’를 중심으로 AI 보안 기술을 공유하는 협력체 ‘프로젝트 캐노피’가 운영 중이다.

구글·오픈AI·MS·앤트로픽이 공동 출범시킨 보안 협력 체계 ‘프론티어 모델 포럼’도 있다. 이들은 지난 7일 보고서에서 “첨단 AI 기술 발전에 따라 고도화된 사이버 위험을 효과적으로 다루기 위해 언어, 지역 및 문화적 맥락을 초월하는 평가가 필요하다”고 했다.