▲ 앤트로픽 일부 첨단 인공지능(AI) 모델들이 스스로 꾸며낸 가짜 신원으로 실제 인간들에게 접촉해 악성코드 심기를 시도한 사례들이 발견됐다고 영국 AI보안연구소(AISI)가 현지시간 4일 공개했습니다.AISI는 이날 공개한 보안 사고 보고서에서 지난달에 진행된 사이버 보안 평가 도중 AI 에이전트들이 "지속적이고 승인되지 않은 활동"을 벌였다고 밝혔습니다.AI 에이전트들이 "인터넷 환경에 접근할 수 있는 상태에서 자율적이며 승인되지 않은 행동을 해서 실제 사람들과 조직들을 겨냥"했다는 겁니다.AISI는 모두 122차례 사이버보안 과제 평가 중 10차례에서 이런 사례들이 총 19건 발견됐다고 전했습니다.지난달 25∼28일에 발생한 이런 사례 19건 중 17건은 앤트로픽의 미소스 5 모델에서, 나머지 2건은 오픈AI의 GPT-5.6-Sol에서 각각 나왔습니다.이 중에는 실제 오픈소스 소프트웨어에 대한 공급망 공격 시도가 있었다고 AISI는 전했습니다.가장 심각한 단계에서는 공격자인 AI 에이전트가 공개적으로 사용되는 오픈소스 프로젝트에 악성 코드를 삽입하려고 시도하면서 인간 검토자의 승인을 얻으려 했습니다.이 에이전트는 프로젝트 관리를 맡는 인간들이 누구인지 조사하고 스스로 만든 가짜 신원 여러 개를 이용해 실제 관리자 한 명이 코드를 승인하도록 유도했습니다.이 에이전트는 자신이 작성한 코드 변경 사항을 메인 코드 저장소에 반영해 달라고 요청했다가 문제 제기를 받자, 이전 활동을 수정해 마치 무해한 것처럼 보이도록 증거를 인멸하고 새로운 신원을 만들어서 공격을 계속하려고 시도했습니다.온라인 파일 전송 서비스를 통해 메시지와 파일을 보내 상대방 또는 상대방의 AI 코딩 도구가 악성 코드를 실행하도록 유도하려는 시도도 있었습니다.AISI는 "AISI가 실제 세계에서, 실제 인물을 대상으로, 지시 없이 이 정도 수준의 기만을 본 것은 이번이 처음"이라고 평가했습니다.다만 해당 시도는 성공하지 못했으며, 실제 피해가 발생했다는 증거는 없다고 AISI는 덧붙였습니다.이와 관련해 앤트로픽은 소셜미디어 엑스(X) 게시물에서 이번 평가는 인터넷 접근을 허용하고 일부 안전 필터를 제거한 "의도적으로 완화된 조건"에서 수행됐다고 해명하면서, 보안 환경에서 모델이 탈출했다는 증거는 없다고 밝혔습니다.이 회사는 "자체 조사를 진행하면서 사건의 세부 내용을 파악하기 위해 AISI와 긴밀히 협력하고 있다"고 덧붙였습니다.오픈AI도 블로그를 통해 일탈 사례 2건에 대해 테스트 환경을 벗어났으며 평가 과제에 불필요한 활동에 해당한다고 밝혔습니다.(사진=AP, 연합뉴스)