주메뉴바로가기 본문바로가기
전체메뉴
HOME > Target@Biz > 비즈

'AI 서울 정상회의' 글로벌 빅테크가 경고한 AI 위협은?

안전한 활용과 책임 있는 개발 위한 '서울 AI 기업 서약' 발표…안전·혁신·포용성 3대 원칙 지켜져야

2024.05.22(Wed) 19:49:35

[비즈한국] 글로벌 빅테크가 그리는 ‘안전한 AI’는 어떤 모습일까. 구글, 오픈AI, 마이크로소프트(MS), 메타 등 AI 생태계를 이끄는 빅테크의 임원들과 AI 전문가들이 22일 서울에 모였다. ‘서울선언’이 탄생한 전날 AI 서울 정상회의에 이어 서울 한국과학기술연구원(KIST)에서 열린 글로벌 포럼에서다. 이날 국내외 AI 관련 거물급 기업 14곳이 합의한 ‘서울 기업 서약’도 발표됐다. 참가자들은 AI, 로봇공학 등 빠르게 발전하는 흐름을 고무적으로 평가하면서도 AI가 수반하는 위험을 함께 진단하고 안전한 활용법 마련에 머리를 맞댔다. 책임 있는 AI에 대한 산업계의 공감대는 어디까지 와 있을까. 

 

21일부터 양일간 열린 AI 서울 정상회담에서는 정상 간 선언 외에도 산업계가 합의한 서약도 발표됐다. 국내외 주요 기업들이 참여한 서울 AI 기업 서약을 공개하는 모습. 사진=강은경 기자


#AI 기술 자체 아닌 응용 단계서 규제해야

 

군용 AI, 딥페이크, 가짜뉴스, 디지털 격차 등 AI 생태계와 산업 규모가 급속도로 팽창하면서 AI에 잠재한 위험 요소들이 현실의 문제로 닥치기 시작했다. 5월 21~22일 서울에서 진행된 AI 서울 정상회의는 새로운 AI 질서를 정립하고 주요 국가와 기업 간 공조 체계를 다지는 자리였다. 앞서 21일 윤석열 대통령이 리시 수낵 영국 총리와 주재한 정상급 회의에서는 AI 거버넌스(규범)의 세 가지 기본 원칙인 안전, 혁신, 포용성이 담긴 공동 합의 '서울 선언'이 채택됐다.

정상회의 2일차 연계 행사로 마련된 이번 포럼은 산업계의 목소리에 초점을 맞췄다. 본격적인 시작에 앞서 오픈AI, 구글, 마이크로소프트, 앤트로픽, IBM, 세일즈포스, 코히어 등 해외기업과 네이버, 카카오, SK텔레콤, KT, LG AI 연구원, 삼성전자 등 국내 기업이 안전한 AI 사용을 위한 산업계 차원의 '서울 AI 기업 서약'을 발표했다.

보스턴 다이내믹스 창립자이자 AI 연구소 실행 이사인 마크 레이버트는 AI 글로벌 포럼 개회식에서 AI의 쓸모를 강조했다. AI가 인류의 생산성 향상에 기여하는 데 그치지 않고 인간이 할 수 없거나 꺼리는 일을 대신 수행해줄 수 있다는 것이다. 레이버트 이사는 사족보행 로봇이 후쿠시마 원자로 내부를 점검하는 영상을 소개하면서 “11년 동안 하지 못한 일을 우리 로봇을 통해 해낼 수 있었다”며 “아직은 로봇을 진단하고 점검하는 데 사람이 필요하지만 향후에는 생성형 AI를 통해 로봇이 스스로 진단하고 수리할 수 있을 것”이라고 기대했다.​

 

22일 글로벌 포럼 개회식에서 연설하고 있는 앤드류 응 스탠퍼드 대학교 교수. 사진=강은경 기자


AI 분야 세계적인 석학이자 혁신가 앤드류 응 스탠퍼드 대학교 교수는 안전성 규제의 접근법을 제시했다. AI 기술이 아닌 애플리케이션 영역에서 이뤄져야 한다는 지적인데, 전기모터(기술) 자체가 아니라 전기차(응용 서비스)의 안전성을 높이려는 고민이 필요하다는 시각이다. 응 교수는 “전기모터 기술이 전기차, 블렌더, 유도폭탄 등 다양한 장치에 활용될 수 있는 것처럼 AI라는 하나의 기술도 여러 용도로 사용될 수 있다”며 “기술이 아니라 애플리케이션 적용 단계에서 판단해야 한다. 그래야 기술혁신을 저해하지 않으면서 실질적인 규제가 가능하다”고 말했다. 

 

#“AI 포용성도 갖춰야” 기업들도 공감

 

오후에 진행된 전문가 세션에서는 산업계와 전문가들 사이에서 다양한 견해가 비교적 자유롭게 오갔다. 응 교수의 발언을 두고 다른 시각도 제기됐다. 아만다 마냐메 보편적디지털권리연합(AUDRi) 디지털법률·권리 고문은 “애플리케이션이 나오고 나서 규제하면 너무 늦다”며 “움직이고 있는 자동차에 억지로 브레이크를 밟는 것으로는 부족하다”고 짚었다.

참가자들은 각 국가가 비슷한 도전에 직면해 있다는 데에 공감했다. 특히 그간 상대적으로 심도 있게 논의돼 온 안전과 혁신 차원의 논의 외에도 세 번째 기본 원칙인 ‘포용성’과 다양성 문제가 중요한 키워드로 떠올랐다.

AI가 일상 곳곳에 스며들고 있는 만큼 부작용도 더 넓은 영역에서 여러 모습으로 나타나고 있다. 청소년들은 디지털 환경에 무분별하게 노출되고 있는 시간이 늘고 있고, 여성들이 오프라인을 넘어 온라인 범죄에서 피해를 입고 있다는 지적이다. 파멜라 크르지프코프스카 폴란드 디지털부 국장은 “청소년들이 최근 하루 6시간 이상 디지털 환경에 노출되는 것으로 파악되는데, 아이들에게 안전하다는 것을 확인해야 한다. 어떤 것이 진짜인지 가짜인지 잘못된 부분을 식별할 수 있도록 해야 한다”며 “AI 워터마킹을 강력하게 지지하는 이유”라고 설명했다.​

 

22일 오후 진행된 AI 글로벌 포럼 현장. 사진=강은경 기자

22일 오후 진행된 AI 글로벌 포럼 현장. 사진=강은경 기자


AI 기업 서약에는 워터마킹 등 AI가 생성한 콘텐츠를 구별할 수 있는 조치와 국제 표준 개발을 약속한다는 내용이 포함됐다. 이날 서약을 발표한 이종호 과학기술정보통신부 장관은 “책임 있는 AI 개발과 사용을 위해 우리는 AI 안전연구소와 협력을 강화할 것을 약속한다”며 중소기업, 스타트업에 대한 자금 지원 협력과 인턴십 교육 프로그램을 통한 전문인력 육성 계획을 밝힌 바 있다.

아마존과 네이버는 지난해 공개된 디지털 권리장전에 담긴 포용을 강조했다. 디지털 권리장전은 자유, 공평, 안전, 혁신, 국제연맹이라는 5대 핵심 원칙으로 디지털 시대의 방향을 규정하고 있다. 이성웅 아마존웹서비스코리아(AWS) AI 머신러닝 정책책임자는 “디지털 권리와 AI 개발은 사실 상대적이거나 상반된 가치가 아니라고 생각한다”며 “전 세계에서 상호 운용이 가능한 정책을 만들고 규제를 일관성 있게 적용해야 한다”고 밝혔다. 하정우 네이버클라우드 AI 이노베이션 센터장은 AI 리터러시는 모든 사람에게 갖춰져야 한다며 내년부터 학교에서 사용될 디지털 교과서에 대해 언급하기도 했다. 하 센터장은 “AI 주권은 문화에 대한 이해가 중요하다. 디지털 격차를 줄이는 데 집중해야 한다”고 말했다.

네이버의 데이터 활용과 프라이버시 보호에 대한 염재호 태재대학교 총장의 질문에는 “프라이버시 문제에 대응하기 위한 전담팀을 운영하고 있고 연구팀에서도 통합적인 프라이버시 연구를 진행 중”이라며 “개인적인 블로그 글 등은 활용하지 않는다. 사용자 사전 동의와 승인을 받은 데이터만 다룬다”고 답했다. 네이버는 다음 달 AI 윤리 준칙보다 구체화된 AI 안전 실행 프레임워크를 공개할 예정이다.

이번 정상회의에 참여한 빅테크들은 위험 완화 없이는 AI 개발을 안 한다는 데에 뜻을 모았다. 네이버의 AI 안전 실행 프레임워크 외에 다른 기업들에서도 움직임이 나타날지 주목된다. 이틀간 행사가 끝난 후 이종호 장관은 브리핑에서 “이번 서울에서의 성과를 내년 프랑스에서 개최되는 AI 행동 정상회의로 이어나가 국제사회 역량을 결집해 AI의 안전, 혁신, 포용을 달성하는 ‘서울 효과’를 일으키길 바란다”고 말했다.

강은경 기자 gong@bizhankook.com


[핫클릭]

· iM뱅크 지주사 최대주주 OK저축은행 둘러싸고 '내부통제' 논란
· '공사비 오르니 강남마저…' 개포주공5단지 재건축 시공자 선정 유찰
· [비즈피플] '해외직구 금지 번복' 사과한 성태윤 대통령실 정책실장
· [비즈피플] '라인 사태' 위기일까 기회일까, 시험대 놓인 최수연 네이버 대표
· 'AI 정상회담' 코앞인데 기본법 통과는 감감무소식


<저작권자 ⓒ 비즈한국 무단전재 및 재배포 금지>