몬트리올, 2025년 11월 25일 -- 국제 AI 안전 보고서 2차 대규모 업데이트가 공개되어 범용 AI와 관련된 위험 관리 및 기술적 완화 방법을 때맞춰 제공할 것으로 기대된다.

튜링 어워드(Turing Award)를 수상한 컴퓨터 사이언티스트인 요수아 벤지오(Yoshua Bengio)가 총괄한 이 보고서는 100명이 넘는 국제 전문가들이 참여하였을 뿐만 아니라 EU, OECD, UN 등 30곳이 넘는 국가와 국제 기구의 지원을 받고 있다.

보고서가 년 1회 공개되는 것과 비교해 현장의 진화 속도가 너무 빠르다는 점에서 단기간에 주요 기술 개발에 초점에 맞춰 보고서를 발표할 목적으로 대규모 업데이트가 도입되었다. 이번 업데이트는 2025년 10월 15일 발표된 1차 대규모 업데이트에 이은 2차 업데이트이다. 정책 입안자들은 이러한 1차/2차 업데이트를 통해 두 보고서를 종합하여 증거에 입각한 정책을 만드는 데 이용할 수 있다.

2차 대규모 업데이트에서는 신뢰성을 높이고 오용을 예방할 수 있는 기술적 방법 외에도 위험 관리 방법으로 떠오르는 제도적 접근 방식에 대해서 간략하게 소개하고 있다. 주요 내용은 다음과 같다.

• 모델 훈련을 통해 악의적 공격에 대응할 수 있는 기술적 진보가 이루어지고 있지만 아직도 격차가 존재한다. AI 모델 및 시스템이 점차 발전하여 공격에 대응할 수 있는 수준에 이르고 있지만 지능적 해커들은 불과 10번 시도했을 때 약 50%의 확률로 보안망을 뚫어 고작 악성 문서 250개로 훈련 데이터를 감염시켜 모델 성능을 떨어뜨릴 수 있다.
• 오픈-소스 격차가 좁혀지고 있다. 오픈-웨이트 모델과 업계 리더의 격차가 이제 1년 이내로 좁혀지면서 접근성을 대중화하고 있지만 오작동과 오용을 예방하기 위한 노력도 그만큼 복잡해지고 있다.
• 산업 안전 규정이 늘어나고 있지만 효과는 아직 미지수이다. 위험 관리 프레임워크를 도입하는 AI 기업 수가 2025년에 두 배 이상 증가했지만 실제 효과는 여전히 불투명하다.

보고서 총괄 의장, 몬트리올 대학(Université de Montréal) 정교수, 로제로(LawZero) 연구소장, 밀라 - 퀘백 AI 연구소(Mila - Quebec AI Institute) 과학 자문을 겸하고 있는 요수아 벤지오는 이렇게 말했다.

"앞으로도 AI 역량과 위험에 대한 업데이트가 이어지겠지만 무엇보다 적합하고 효과적인 위험 관리와 기술적 완화 방법을 향해 나아갈 수 있는 길을 투명하게 제시해야 한다. 이번 대규모 업데이트는 이러한 영역에서 어떻게 진화하고 있는지, 그리고 격차와 기회가 여전히 존재한다는 사실을 간략하게 살펴보는 기회가 될 것이다. 우리는 2026년 초 인도에서 열리는 AI 임팩트 서밋(AI Impact Summit)에서 발표될 예정인 두 번째 국제 AI 안전 보고서에 앞서 전 세계 의사결정자들에게 최근 AI 개발 소식을 때맞춰 지속적으로 제공하는 데 목적을 두고 있다."

국제 AI 안전 보고서 소개

국제 AI 안전 보고서는 첨단 AI 시스템의 역량과 위험에 대한 증거를 종합한 자료이다. 이 보고서의 취지는 증거에 근거한 자료를 제공함으로써 전 세계 의사 결정권자들이 정보에 입각한 정책 결정을 내리도록 돕는 데 있다. 국제 AI 안전 보고서는 30여 개 국가와 EU, OECD, UN을 비롯한 국제기구의 정식 대표들로 구성된 전문 자문 위원회의 지원을 받아 100명 이상의 다양한 독립적인 전문가가 공동으로 작성한다. 이 보고서는 AI가 창출할 막대한 잠재적 이점을 인정하는 동시에, AI에 수반된 위험을 파악한 후 이를 억제하는 전략의 실효성을 평가하는 데 중점을 두고 있다. 이는 AI를 만인에게 이로운 방향으로 안전하게 개발하고 사용하는 데 필수적이다. 이 보고서는 영국 정부의 의뢰로 작성되었으며, 사무국은 영국 AI 보안 연구소(UK AI Security Institute) 예하에 있다.

문의처: 밀라 미디아스(Mila Medias) (medias@mila.quebec); DSIT 미디어 문의 (press@dsit.gov.uk)

* 본 번역은 피알뉴스와이어(PRNewswire)에서 제공합니다.