1월 22일, 한국은 AI 기술의 안전성과 신뢰도를 높이기 위해 세계 최초로 포괄적인 AI 관리법을 제정했다.

로이터 통신에 따르면, 한국 정부는 이 법을 통해 AI 분야에서 세계적인 선두 주자로 자리매김하기를 기대하고 있다. 이는 2027년까지 단계적으로 AI법을 시행할 예정인 EU보다 앞선 조치다.

AI 관리 방식을 둘러싼 전 세계적인 의견 차이 속에서, 미국은 혁신을 저해하지 않도록 보다 유연한 접근 방식을 옹호하는 반면, 중국은 여러 관련 규정을 제정하고 글로벌 AI 관리 조정 메커니즘 구축을 제안했다.

◇ 고위험 AI 시스템에는 인간의 감독이 필수적이다.

이 새로운 법의 핵심은 원자력 안전, 식수 생산, 교통, 의료, 신용 평가 및 대출 심사와 같은 금융 서비스 등 민감한 분야를 포함한 '고위험' AI 시스템에 대한 인간의 감독을 의무화하는 것이다.

또한, 기업은 제품이나 서비스에 AI 기반 콘텐츠 또는 고위험 AI 기술을 사용하는 경우 사용자에게 사전에 알려야 하며, 현실과 구별하기 어려운 AI 기반 콘텐츠에는 명확한 표시를 해야 한다.

한국 과학기술정보통신부는 이러한 법적 틀이 AI 활용을 촉진하는 동시에 안전하고 신뢰할 수 있는 사회 기반을 구축하기 위해 마련되었다고 밝혔다.

◇ 위반 시 엄중한 처벌이 따르지만, 유예 기간

이 법은 상당한 처벌을 규정하고 있다. 예를 들어, AI 기반 콘텐츠에 대한 표시를 하지 않을 경우 최대 3천만 원(약 2만 400달러)의 벌금이 부과될 수 있다.

그러나 한국 정부는 기업에 최소 1년의 유예 기간을 부여한 후 행정 처벌을 시작할 것이라고 밝혔다. 이 기간 동안 당국은 기업을 위한 안내 플랫폼과 전용 지원 센터를 운영할 계획이다.

LG그룹 AI 연구팀장 출신인 배경훈 과학기술정보통신부 장관은 이번 법이 한국이 세계 3대 AI 강국으로 도약하기 위한 "중요한 제도적 토대"를 마련할 것이라고 강조했다.

하지만 스타트업 업계는 여전히 신중한 반응을 보이고 있다. 한국스타트업연합회 공동대표인 임정욱 대표는 법의 핵심적인 세부 사항이 아직 명확하지 않아 많은 창업자들이 불만을 표출하고 있다고 전했다. 임 대표는 "왜 우리가 먼저 이 법을 시행해야 하는지에 대한 불만이 있는 것 같다"고 말했다.

연합회 선임연구원인 정주연 연구원은 법 조항이 지나치게 모호하여 기업들이 법적 위험을 피하기 위해 안전한 선택을 하게 되고, 이로 인해 혁신 속도가 둔화될 수 있다고 지적했다.

이에 대해 과학기술정보통신부는 국내외 상황에 따라 유예 기간 연장 가능성을 배제하지 않으면서 기업의 부담을 줄이기 위한 방안을 지속적으로 검토하겠다고 밝혔다.

@GMVN