세계 첫 'AI 기본법' 전면 시행…규제 핵심 '고영향 AI' 기준은?

[비즈한국] 인공지능(AI) 발전과 안전성 문제를 다루는 ‘AI 기본법’이 22일 전면 시행됐다. 이 법안은 국내 AI 경쟁력을 높이는 동시에 생성물 워터마크 의무화 등 보호 장치를 마련해 AI 활용에 대한 신뢰 기반을 조성하는 데 목표를 두고 있다. 생성형 AI가 일상에 접목되고 있는 상황에서 전체 산업을 아우르는 법체계가 작동하게 된 것이다. 다만 핵심 규제인 고영향 AI의 구체적 판단 기준을 두고는 해석의 여지가 있고, 투명성 확보 의무의 현실적 적용 방식도 논의 중이다. 제도는 마련됐지만, 실행 기준과 증빙 체계가 여전히 모호해 많은 숙제가 남아 있다는 지적이 나온다. 

#가짜 진짜 가른다…AI 생성물 표시 의무화

AI 기본법 시행으로 이용자들이 체감할 주요 변화는 ‘투명성 의무’의 적용이다. AI 사업자는 생성형 AI를 활용한 이미지·영상·음성 등 콘텐츠를 유통하거나 제공할 때, 해당 콘텐츠 제작에 AI가 사용됐음을 이용자가 명확히 알 수 있도록 해야 한다. 이른바 ‘AI 워터마크’다.

정부는 기술적 수용성을 고려해 표시 방식을 유연하게 열어둔다는 설명이다. 콘텐츠 특성에 따라 눈에 보이는 방식(가시적)이나 기계가 판독할 수 있도록 데이터에 코드를 심는 방식(비가시적) 모두 허용된다. 특히 사회적 부작용이 우려되고 실제와 구분하기 어려운 딥페이크 결과물일 경우 AI 생성 사실을 이용자가 명확하게 인식할 수 있게 고지 또는 표시해야 한다.

이 같은 투명성 확보 의무는 AI 제품이나 서비스를 제공하는 사업자에게만 적용된다. 여기에는 국내 이용자에게 AI 제품과 서비스를 제공하는 해외 사업자도 포함된다. 대상은 이용자에게 최종적으로 AI 서비스를 제공하는 사업자다. 예를 들어 A기업이 개발한 AI 모델을 B기업이 API 형태로 가져와 자사 서비스에서 활용한다면, 투명성 의무는 B기업에 부여된다. 오픈AI, 구글, 네이버 등 모델을 개발하면서 직접 서비스까지 제공하는 경우에는 이들이 투명성 의무를 진다.

단순히 AI 도구를 이용해 콘텐츠를 소비하거나 개인 SNS에 게시하는 ‘개인 사용자’는 규제 대상에서 제외된다. 서비스별 워터마크 방식은 과기정통부의 투명성 가이드라인을 참조하면 된다.

#생명·안전 직결된 ‘고영향 AI’ 10대 영역 분류 

법령의 또 다른 핵심은 ‘고영향 AI’ 제도다. 시행령에 따르면 생명·안전·기본권과 직결된 10개 영역(에너지, 먹는 물, 보건의료, 원자력, 범죄 수사, 채용, 대출 심사, 교통, 공공서비스, 교육)에서 활용되는 AI가 고영향 AI로 분류된다. 

구체적 사례로는 ‘완전 자율주행 단계인 레벨 4 이상 차량(사람이 개입하지 않는 고도 자동화 시스템)’이 있다. 의료·채용·대출심사처럼 사람의 생명과 권리에 큰 영향을 주는 분야에서도 사업자는 위험 관리 체계를 갖추고 이용자 보호 계획을 수립하는 등 강화된 신뢰성 확보 조치를 이행해야 한다.

‘고영향 AI’ 여부는 사업자가 스스로 검토해야 한다. AI 사업자가 해당 여부를 잘 모르겠다면 과기정통부에 확인을 요청할 수 있다. 다만 어느 정도 수준의 기술이나 서비스가 규제 대상에 포함될지는 여전히 해석의 여지가 크다는 평가다. 업계 안팎에서는 “완전 자율주행 수준처럼 사람이 최종 의사결정에 개입하지 않는 경우에만 고영향 AI로 간주해야 한다”는 목소리와 “기본권 침해 우려가 있는 모든 알고리즘을 포함해야 한다”는 의견이 맞선다. 

실무 적용을 위한 구체적 잣대가 미비하다는 평가가 나오는 가운데 정부는 법 시행에 따른 산업계의 혼란을 고려해 강력한 처벌보다는 제도 안착에 집중한다는 계획이다. 기본법상 의무 위반 시 최대 3000만 원의 과태료가 부과되는데, 기업의 혼란을 최소화하기 위해 향후 최소 1년 이상 규제를 유예한다.  

이와 함께 정부는 법 관련 기업 문의사항을 대응하기 위해 ‘AI 기본법 지원데스크’ 설치해 운영하기로 했다. 또 다음달부터 산업계, 시민단체, 학계가 참여하는 ‘제도 개선 연구반’을 운영해 제도 개선 사항을 발굴해 나갈 예정이다.

#정부 “1년 계도”…플랫폼·통신업계는 선제 대응

국내 주요 플랫폼 및 통신사들은 AI 기본법 시행으로 AI 기술 관련 사회적 책임이 강조됨에 따라 사내 정책과 거버넌스를 정비하는 모습이다.

카카오는 오는 2월 4일부터 적용되는 서비스 약관에 ‘AI 기반 서비스 포함 및 고지 의무’를 명문화했다. 네이버 역시 내달 7일부터 AI 기반 콘텐츠 이용 정책을 강화한다. 네이버는 지난해 말 블로그와 카페, 클립 등 이용자 제작 콘텐츠 플랫폼에 ‘AI 생성 콘텐츠 표기​’ 기능을 도입했다. 

통신 업계는 전사적 거버넌스 체계 강화에 주력하고 있다. SK텔레콤은 구성원 대상 ‘굿 AI’ 캠페인을 전개하고, ‘AI 거버넌스 포털’을 고도화해 기획 단계부터 리스크를 점검하도록 했다. KT는 전담 조직인 ‘책임감 있는 AI 센터(RAIC)’를 통해 안전성과 신뢰성을 확보한 AI 생태계 구축에 나선다.

정부는 국민들에게 영향을 미치는 해외 AI 사업자에도 법을 적용할 수 있도록 해 국내 기업의 역차별을 방지한다는 방침이다. EU 규제(2027년)의 적용 등 해외동향을 고려해 유예기간 연장 가능성도 열어놨다. 

김경만 과기정통부 인공지능정책실장은 “AI 기본법은 80~90%가 산업진흥에 관한 내용이다. 초기에는 규제 집행보다 기업들이 제도에 적응할 수 있도록 지원하는 데 주력하겠다”며 “EU 규제는 3500만 유로(약 670억 원) 또는 총매출의 7% 중 높은 금액을 과징금으로 부과하지만 국내 법 과태료는 3000만 원 이하다. 혁신을 저해하지 않는 최소한의 규제”라고 강조했다.​ 

[핫클릭]

· [단독] 무신사, 반려동물·F&B 상표권 무더기 출원…체급 키우나
· 드디어 코스피 5000! 한국 증시 역사적 장면 만든 원동력 3가지
· 기후위기 시대, 1조 달러 '기후적응' 시장 열리는데 한국은…
· 유한양행, 독립법인 '뉴코' 설립해 '제2 렉라자' 노린다
· [현장] "수상이 서말이라도 사업화가 보배" CES 성과 살릴 후속 행사 열렸다

<저작권자 ⓒ 비즈한국 무단전재 및 재배포 금지>