챗GPT 스스로 외부 플랫폼 해킹, 오픈AI “전례 없는 사이버 공격”

오픈AI의 챗GPT 5.6 Sol 등 최신 AI 모델들이 내부 시험 도중 사람의 통제를 벗어나 외부 플랫폼 ‘허깅페이스(Hugging Face)’을 해킹하는 사건이 발생하자, 오픈AI는 “전례 없는 사이버 공격으로 간주하고 있다”라고 공식 입장을 밝혔다. 전 세계인이 AI 모델, 데이터셋, AI 앱을 공유하는 플랫폼 허깅페이스가 지난 16일 <보안 사고 공개> 제목의 글을 올리고 “이번주 초 당사는 운영 인프라의 일부에 대한 침입을 탐지하고 대응했다”라고 해킹 사실을 공지했다. 이어 “이번 침입은 이전에 경험했던 어떤 침입과도 중요한 차이점이 있다. 바로 처음부터 끝까지 자율적인 AI 에이전트 시스템에 의해 주도됐다는 점이다. 당사는 자체 개발한 AI를 활용해 이를 탐지하고 분석했다”라고 설명했다. 지난 21일 오픈AI는 <오픈AI와 허깅페이스 모델 평가 중 발생한 보안 사고 해결을 위해 협력한다> 제목의 공지를 내고 “지난주 허깅페이스가 새로운 유형의 보안 사고를 탐지했다. 그들은 자사 인프라를 침해하는 AI 에이전트를 탐지하고 차단한 후 이러한 조치를 취했다. 이는 점점 더 사이버 공격 능력이 강화되는 모델들이 확신됨에 따라 더욱 흔해질 것으로 예상되는 일”이라고 설명했다. 그러면서 허깅페이스는 오픈AI의 챗GPT 5.6 Sol 등이 해킹한 것으로 확인됐다고 밝혔다. 오픈AI는 “조사 결과, 이번 사건은 오픈AI 모델들, 특히 챗GPT 5.6 Sol과 더욱 강력한 사전 출시 모델들이 내부 벤치 마크 테스트 중에 복합적으로 작용한 것으로 밝혀졌다”라고 했다. 오픈AI는 “저희는 이번 사건을 최첨단 사이버 공격 기법이 동원된 전례 없는 사이버 공격으로 간주하고 있으며 그에 상응하는 대응을 진행하고 있다”며 “저희는 허깅페이스와 함께 철저한 조사를 계속 진행할 것이며 조사가 완료되는 대로 취약점, 사건 내용 및 조사 결과에 대한 자세한 정보를 공개할 예정”이라고 밝혔다. 오픈AI는 “AI는 취약점 발견 및 악용 속도를 가속화하고 있다. 이번 사건에서 얻은 가장 중요한 교훈은 모델 보안 및 안정성이 바르게 발전하는 기능에 발맞춰야 한다는 것이다. 우리 모델 개발 과정에서 사용되는 격리, 모니터링, 접근 제어 및 평가 방식을 강화하고 있다”라고 알렸다. 후원은 더 좋은 기사에 도움이 됩니다