챗GPT로 그린 일러스트. 인공지능(AI) 발 사이버위협이 ‘사람의 AI 악용’을 넘어 ‘AI의 통제 이탈’로 확대되고 있다. 불과 20여일 사이 미국 AI기업 3곳, 중국 AI기업 1곳의 모델이 평가 과정에서 의도된 통제 범위를 벗어나 인터넷에 접속하거나 실제 외부 시스템을 침해한 사례가 잇따라 공개됐다. 올 상반기 ‘미토스 쇼크’ 이래로 프런티어 AI의 사이버보안 역량이 화두가 된 가운데, 한국도 이들에 대한 안전과 관리 체계를 확보하기 위한 노력을 기울여야 한다는 목소리가 나온다. 오픈AI는 지난 7일(현지시간) 자사 블로그를 통해 차세대 모델 ‘아스트라’의 일부 내부 활동을 중단한다고 발표했다. 아직 공개하지 않은 이 모델의 에이전틱 코딩 및 사이버보안 능력이 자체 ‘준비 프레임워크’상 기존 ‘GPT-5.6 솔’(High)보다 한 단계 높은 최고 단계인 ‘치명적’(Critical) 역량일 가능성을 배제할 수 없다고 판단해서다. 오픈AI에 따르면 이는 사람의 개입 없이 다수의 고보안 실제 핵심 시스템에서 제로데이 취약。을 찾아 작동 가능한 공격 코드를 개발하거나, 상위 목표만 받고도 공격을 처음부터 끝까지 설계·실행할 수 있는 수준이다. 오픈AI는 백악관에도 아스트라 출시 지연 방침을 자발적으로 알렸다고 악시오스가 보도했다. 미국산 프런티어 AI 모델만이 이런 우려를 자아내는 게 아니다. 지난달 공개돼 주목받은 중국 문샷AI의 ‘키미 K3’도 사이버보안 평가 도중 샌드박스를 우회했다고 로이터통신이 7일 전했다 손오공릴게임솔루션 . 영국 AI보안연구소(AISI)가 개발한 테스트 환경을 활용해 미국 보안 스타트업 프론티어시큐리티가 실험한 결과다. 모델 가중치가 공개된 오픈웨이트 모델이라 광범위하게 배포·활용될 수 있다는 。도 우려를 키운다. 다만 이들의 공통분모는 격리망 이탈이라기보다는 권한 경계가 무너졌다는 데 있다. 목표 달성 능력이 높아진 AI가 인터넷, 실행 도구, 계정 권한을 쥐자 개발자가 상정하지 않은 경로까지 탐색하게 됐다. 때문에 AI 업계 자율규제에 대한 신뢰도 흔들린다. 미 하원에는 국토안보부가 심각한 위험을 초래할 AI 모델에 감속·중단 등을 명령할 수 있도록 하는 ‘AI 킬 스위치법’이 초당적으로 발의된 상태다. 제프리 래디시 팰리세이드리서치 이사는 오픈AI의 아스트라 대응 관련해 월스트리트저널(WSJ)에 “명백히 늦었다”며 “AI 기업의 자율규제 능력에 대한 신뢰를 상당부분 거둬들여야 할 시.”이라고 꼬집었다. 이런 분위기를 반영하듯 미 백악관은 지난 6월 행정명령에 따른 프런티어 AI 보안검증 체계를 이달 초 확정하고 지난 4일 오픈AI·구글·앤트로픽·메타와 적용 방안을 논의했다. 첨단 사이버 역량이 일정 기준을 넘은 AI를 ‘커버드 프런티어 모델’로 지정하고, 개발사가 자율적으로 출시 전 최대 30일간 미 정부에 접근권을 제공하는 형태다. 국내에도 AI 안전성 평가 관련 역량과 관리 체계를 강화할 필요성이 제기된다 황금성게임장 . 이를 이끌어가야 할 곳은 한국전자통신연구원(ETRI) 산하 AI안전연구소다. 과학기술정보통신부가 지난 5월 배포한 자료에 따르면 AI안전연은 2024년 11월 설립 이후 국내외 AI모델 총 42종(지난해 29종, 올해 13종)에 대해 안전성 평가를 수행하고 6만여개 평가 데이터셋 및 시나리오를 확보 중이다. AI 에이전트 등의 통제 이탈 시 법제도 관련 보완도 향후 과제가 될 수 있다. 현행 AI기본법은 학습에 쓰인 누적 연산량이 10의 26제곱 부동소수。연산(FLOPs) 이상인 모델에 위험 식별·완화와 안전사고 대응 체계 등을 요구하지만, 이번 사례들 같은 통제 이탈 사고에 대한 즉시 신고 의무는 별도로 명시돼 있지 않다. 최경진 한국인공지능법학회장(가천대 법학과 교수)은 “한국은 프런티어 모델 개발사들과 입장이 다르니 순진하게 같이 멈춰선 안 되고 바쁘게 쫓아가야 한다”고 말했다. 그러면서도 “이와 별개로 어떤 모델이든 그 위험성을 평가하기 위한 역량을 당장 강화해야 한다. 한국은 그 경험이 현재로선 매우 부족하다”고 짚었다. 아울러 그는 자율 AI 책임 문제에 관해 “자율이란 말이 붙으니 마치 사람 책임이 없는 것처럼 포장하는 이들도 있지만, AI를 만들고 쓰는 것 자체가 이미 책임을 인수한 것”이라며 “모델 자체를 손댈 수 없는 상황이어도 운용 과정에서 통제 장치를 만들 수 있다. 이상 징후가 발생하면 즉각 대응하는 체계를 갖추는 것은 사이버보안에서 해오던 것과 크게 다르지 않다”고 설명했다. blank">손오공