사이버 탈옥이 AI의 위험성을 부각시키며 불안감을 조성하고 있다
이상명 기자
February 21, 2025
폭탄 제작과 해킹 기술이 손쉽게 전파되고 있는 시대가 도래했다. 생성AI의 위협이 커지면서 각국은 '사이버 탈옥'과의 전쟁에 돌입하고 있다. 특정 명령어로 피싱 기술을 손쉽게 배울 수 있는 상황에서 AI가 악의적인 목적을 수행하도록 유도하는 일이 빈번해지고 있다. 특히 딥시크는 탈옥 성공률이 100%에 달해 보안상의 취약점이 드러났다. 해커가 로봇을 해킹할 경우 인간을 대상으로 공격할 가능성도 존재한다.
로보락과 같은 보안 전문 회사는 중국 정부와 긴밀한 협력을 하고 있으며, 이로 인해 한국 소비자들도 개인정보 유출의 위험에 노출되고 있다. 미국의 사이버 보안 전문 기업인 팰로앨토네트웍스는 최근 딥시크의 탈옥 취약성에 대한 보고서를 발표하며, 이 AI 모델의 위험성을 경고했다. 이 보고서에서는 '사이버 탈옥'이 주요 위험 요소로 지적되었으며, 이는 딥시크가 사이버 공격의 위험 요소가 될 수 있음을 시사하는 분석도 함께 제기되었다.
딥시크 사용자가 늘어날수록 전 세계적으로 혼란이 가중될 가능성이 있다고 한다. 사이버 탈옥은 AI 시스템의 보안과 윤리적 제한을 우회하여 악의적인 목적을 수행하도록 하는 해킹 기법으로 정의된다.\n\n사이버 탈옥의 개념은 2000년대 초반 유닉스 운영체제에서 비롯되었으며, 이 OS는 컴퓨터와 모바일 기기의 규칙을 정하는 관리자 역할을 한다. 모든 전자 장치는 OS의 승인을 받아야 하며, 탈옥은 이러한 규칙을 위반하는 행위를 의미한다.
해커들은 주로 애플의 아이폰과 같은 폐쇄형 OS에서 탈옥을 시도해왔다. 하지만 AI 기술의 급속한 발전으로 인해 사이버 탈옥이 심각한 문제로 대두되고 있다. 2022년 11월 오픈AI가 챗GPT를 출시한 이후 해커들은 생성형 AI의 안전장치를 무력화하는 새로운 탈옥 공격을 시도하기 시작했다. 예를 들어 '연구 목적'이라는 구실로 폭탄 제조법이나 해킹 기술, 불법 금융 사기 방법 등을 챗GPT에 묻고 답변을 얻는 사례가 발생하고 있다.
이러한 생성 AI나 대규모 언어 모델에 대한 탈옥은 전문 지식이 없어도 손쉽게 이루어질 수 있어 더욱 위협적으로 여겨진다.\n\n딥시크의 취약성은 유일한 문제가 아니다. 시스코에 따르면, 딥시크는 주요 AI 모델 중에서 탈옥 성공률이 100%로 가장 높지만, 메타의 라마 3.1(96%) 및 오픈AI의 GPT-4o(86%)와 같은 다른 모델들도 탈옥에 취약하다. 필리파 콕스웰 팰로앨토네트웍스 부사장은 이미 국가 지원을 받는 해커들이 챗GPT와 제미나이를 활용해 피싱 기술을 발전시키고 악성코드를 개발하고 있다는 사례를 언급하며, 향후 AI 기반의 공격 도구가 개발될 것이라고 경고했다.\n\nAI와 물리적 존재인 로봇을 결합하는 피지컬 AI 시대가 도래하면서 사이버 탈옥의 심각성이 더욱 부각될 것으로 예상된다.
해커가 로봇 AI를 해킹해 인간에게 공격을 가하도록 할 수 있는 시나리오가 현실화될 수 있다는 것이다. 최근 펜실베니아대 연구팀은 LLM을 장착한 로봇을 해킹하여 탈옥하는 방법을 발견했다고 발표했다. 이로 인해 로봇 개가 폭탄을 터뜨리거나 자율주행 차량과 보행자의 충돌을 유발하는 등의 위험성이 드러났다. 조지 파파스 펜실베니아대 교수는 LLM이 물리적 세계와 결합됐을 때 안전성이 충분하지 않다는 점을 지적했다.\n\nAI 산업의 발전에 따라 사이버 보안 기업의 중요성도 높아질 것이라는 전망이 나오고 있다.
이와 관련하여 중국의 대표적인 사이버 보안 기업인 치안신그룹의 치샹둥 회장은 최근 시진핑 중국 국가주석이 주재한 민간기업 회의에 참석하여 중국의 '8대 테크기업' 중 하나로 소개되었다. 치안신그룹은 중국 정부와의 긴밀한 협력을 이어가고 있으며, 미국의 CIA를 포함한 정보 보안 기관들을 고객으로 두고 있는 팰런티어의 경쟁자로 평가받고 있다. 한국의 로봇청소기 시장을 장악하고 있는 로보락 외에도 중국의 IoT 기기와 스마트홈 제품 대부분이 치안신그룹이 제공하는 보안 솔루션을 사용하고 있다.
AI 업계 관계자는 유럽에서도 프랑스의 탈레스, 독일의 지멘스 등과 함께 사이버 보안 기술을 강화하고 있지만, 한국은 사이버 보안에 대한 인식이 여전히 낮다고 우려를 표명했다.
