챗GPT가 해킹에 악용되고 있다는 정황이 확인됐다.

자유아시아방송(RFA)은 14일(현지시간) 챗GPT를 개발한 오픈 AI의 주요 주주인 마이크로소프트(MS)가 북한을 비롯한 러시아, 이란, 중국, 북한 등 국가가 후원하는 해킹 조직들이 챗GPT를 이용한 해킹 공격을 실시했다는 보고서를 발표했다고 보도했다.

다음날인 15일(현지시간) 미국 뉴욕타임스의 보도에서는 챗GPT를 개발한 오픈AI와 마이크로소프트(MS)는 해커들의 챗GPT 이용을 감지하고 해당 사이트 접근을 차단했다는 후속보도도 나왔다.

국가 지원 해커 공격... 챗GPT 활용한다

MS는 보고서에서 이러한 조직들이 해킹 전 단계에서 챗GPT를 활용해 신분을 위장하고, 피싱(전자금융사기) 이메일 작성이나 기술적 문제 해결에 사용했다고 밝혔다. 이와 관련해, 국가 후원 사이버 조직들이 최신 AI 기술을 활용해 해킹 능력을 향상시키고 있다고 분석했다.

러시아의 해킹 조직 '포레스트 블리자드'는 우크라이나 전쟁과 관련된 위성통신과 레이더 기술에 챗GPT를 적극 활용했다. 

이란의 이슬람혁명수비대와 연계된 해커 그룹은 컴퓨터 보안 시스템 우회법을 찾는 데 챗GPT의 도움을 받았으며, 국제 개발기구가 보내는 것으로 위장하거나 페미니즘 활동가를 겨냥한 피싱 메일 작성에도 챗GPT를 활용했다.

중국의 '매버릭 팬더'와 '아쿠아틱 팬더'는 미국 내부 정보를 수집하고 기존 해킹 기술을 강화하는 데 역시 챗GPT를 사용했다. 

특히 북한의 해킹 조직은 '에머랄드 슬릿'(김수키)이란 이름으로 알려져 있으며, 주로 한국, 미국, 일본의 군·정부 기관을 공격해 중요한 정보를 탈취해 왔다. MS는 “에메랄드 슬릿이 자사 서비스를 활용해 북한을 연구하는 외국 싱크탱크를 조사한 것으로 나타났다”며 “이밖에 피싱 메일 초안을 작성했다”고 밝혔다. 

미국 사이버보안 전문가 에어리 레드보드는 RFA와의 인터뷰에서 "북한과 같은 행위자들이 새로운 기술을 활용할 가능성이 높다"며 "사법기관과 안보부처가 이러한 위협에 대응하기 위해 최신 기술에 접근할 수 있어야 한다"고 강조했다.

챗GPT 활용 정도는... "비 AI 기반 도구로도 달성 가능한 수준?"

해킹 공격에 대해 오픈 AI는 "공개적으로 사용 가능한 AI가 아닌 도구로도 이미 달성할 수 있다"며 "그 수준을 넘어서는 악성 사이버 작전에 대해선 제한적이고 점진적인 기능만 제공한다"고 설명했다. 

또한 해커들이 AI를 통해 지금까지 상상할 수 없었던 새로운 공격법을 만든 경우는 없었다고 전했다. 오픈 AI의 보안 책임자인 밥 로트스테드는 "적대국가와 연계된 해커들이 오픈AI를 통해 일반 검색 엔진보다 더욱 참신하고 새로운 공격 방법을 개발한 증거는 아직 없다"고 말했다. 

실제 해커들은 이메일 초안 작성이나 문서 번역, 컴퓨터 프로그램 오류 수정 등의 일에서 챗GPT를 활용한 것으로 알려졌다. 

일각에서는 미국의 기술이 미국과 동맹국을 공격할 수 있을 것이라는 우려가 현실화됐다면서 개발사들이 책임감을 더 가질 것을 지적했다. 영국 가디언에 에드워드 아모로소 뉴욕대 교수는 "AI와 대규모 언어 모델의 사용이 당장 눈에 띄는 위협이 되지 않을 수도 있지만 결국 모든 국가 군사력의 공격에서 가장 강력한 무기 중 하나가 될 것"이라고 전했다. 

한편 오픈AI는 MS와 협력해 챗GPT를 악의적인 사이버 활동에 사용하는 5개의 계정을 삭제했다고 밝혔다. 이 계정들은 러시아, 이란, 중국, 북한과 관련돼 있었다. 또 MS는 현재 300개 이상의 해커 그룹과 사이버 범죄자의 활동을 추적하며, 그들의 AI 프로그램 사용을 차단하고 있다고 밝혔다.