[현장] 공공 AI의 적, 보안 위협 막을 묘책 어디 없을까

[비즈한국] 생성형 AI 확산 속도가 빨라질수록 공공기관의 고민도 깊어지고 있다. 최근 중소벤처기업부의 대국민 창업 프로젝트 ‘모두의 창업’에서 개인정보와 창업 아이디어가 유출되는 사고가 발생한 데 이어 AI를 악용한 고도화된 사이버 공격이 민관을 가리지 않고 전개되면서 공공 AI의 최대 과제가 활용에서 신뢰로 옮겨가는 모습이다. 23일 개막한 ‘2026 공공 인공지능(AI) 박람회’ 현장에서는 업무 혁신을 위한 AI 기술 못지않게 보안과 거버넌스, 책임 체계를 둘러싼 논의가 이어졌다.

행정안전부와 한국지능정보사회진흥원(NIA)이 개최한 이번 박람회에서는 공공 업무에 실제 적용 가능한 AI 서비스와 이를 뒷받침할 클라우드·보안 체계가 전면에 등장했다.

삼성SDS는 고용노동부 AI 근로감독관 서비스, 관세청 AI 관세행정 구현 사업, 생성형 AI 기반 통관 상담 시스템, 경찰청 빅데이터 기반 치안정보 플랫폼 등 주요 공공 프로젝트를 소개했다. 특히 행정안전부 G드라이브, 범정부 AI 공통기반 구축, 민관협력형 클라우드 사업 등 정부 AI 인프라 영역에서 수행 중인 사업을 선보였다.

눈길을 끈 것은 AI 인프라 전략이다. 삼성SDS는 대구 PPP 센터와 동탄 데이터센터, 해남 국가 AI컴퓨팅센터를 연계한 공공 AI 운영 구조를 소개했다. 지난 3월 선보인 엔비디아 B300(Blackwell Ultra) GPU 기반 GPUaaS(GPU as a Service)도 전시하며 공공 AI 수요 확대에 대응할 인프라 경쟁력을 강조했다.

LG CNS는 생성형 AI 기반 공공 플랫폼 구축 사례를 중심으로 전시를 꾸렸다. 대표 사례는 지난해 수주한 경기도교육청 지능형 디지털 플랫폼 사업이다. 약 380억 원 규모로, 도내 2800여 개 초·중·고교에 흩어져 있던 학교 홈페이지, 학교알리미, 메신저 등의 정보를 통합해 교사와 행정 담당자의 업무를 지원하는 사업이다.

LG CNS 관계자는 “교육과정 개정에 따라 평가계획서 작성 부담이 커진 교사들의 업무를 줄이는 데 초점을 맞췄다”며 “과거 자료와 이력을 기반으로 행정 업무를 지원하는 기능을 제공하고 있다”고 설명했다. 회사는 이를 교육행정 분야 생성형 AI 도입의 선도 사례로 평가하고 있다.

외교부와 추진 중인 약 300억 원 규모의 ‘지능형 AI 외교안보 데이터 플랫폼’ 사업도 강조됐다. 이 사업은 외교 문서 초안 작성과 분류·요약, 회의록 작성, 다국어 번역 기능 등을 제공하는 사업으로 올해 초 총 3단계 중 1단계 서비스가 시행되고 있다. 

NHN두레이는 AI 기반 협업 플랫폼 ‘두레이(Dooray!)’를 앞세웠다. 프로젝트·메일·메신저·캘린더를 하나로 통합한 협업 환경에 챗GPT, 제미나이, 클로드 등 다양한 대형언어모델(LLM)을 연계한 것이 특징이다. 메일 요약과 초안 작성, 업무 자동화 기능을 제공하는데,  하반기 중 NHN클라우드 기반 공공 서비스도 선보일 예정이다.

NHN두레이 관계자는 “공공기관에서도 여러 업무 시스템을 오가며 일하는 비효율이 여전하다”며 “하나의 플랫폼 안에서 업무 흐름이 자연스럽게 이어지도록 설계한 것이 강점”이라고 말했다.

#“AI 쓰는 만큼 AI를 감시해야”

올해 박람회에서 가장 자주 언급된 단어는 보안이었다. 최근 앤트로픽의 보안 특화 AI 모델 ‘미토스5’가 높은 수준의 취약점 탐지 능력을 보여주며 이른바 ‘미토스 충격’을 불러온 것도 배경으로 꼽힌다. AI가 보안 위협을 증폭시킬 수 있다는 우려가 커지면서 공공 분야 역시 대응 전략 마련에 속도를 내고 있다.

LG CNS는 생성형 AI 보안의 핵심으로 ‘AI 가드레일(AI Guardrail)’ 체계를 제시하고 있다. AI가 악성 프롬프트나 우회 지시를 수용하지 못하도록 하고, 개인정보와 민감 정보가 입력·출력되는 것을 차단하는 안전장치다.

회사는 별도 AI 모델이 사용자의 질문 의도와 맥락을 분석해 위험성을 판단하는 프롬프트 필터링과, 기관 내부 데이터의 민감 정보를 자동 식별·비식별 처리하는 데이터 필터링 기술을 적용하고 있다고 설명했다. 금융권은 금융감독원 기준, 공공부문은 국가정보원 기준에 맞춰 관련 통제 체계를 구축하고 있다.

LG CNS 관계자는 “기존에는 내부망 안에 있으면 안전하다는 경계형 보안이 중심이었지만 AI 에이전트 시대에는 더 이상 유효하지 않다”며 “누구도 신뢰하지 않는다는 전제의 제로트러스트 아키텍처가 중요해지고 있다”고 말했다. 이어 “로그와 접근 기록이 기하급수적으로 늘어나고 있어 사람만으로는 감시가 불가능하다”며 “결국 보안에도 AI를 활용할 수밖에 없는 구조”라고 설명했다.

업계에서는 기술 자체보다 통제 체계가 더 중요해지고 있다는 목소리도 나온다. 한 업계 관계자는 “어떤 질문이 입력됐고 어떤 모델이 응답해, 어떤 데이터가 활용됐는지 단계별 추적이 가능해야 공공기관의 내부 통제가 가능하다”며 “AI 처리 과정을 가시화하고 감사할 수 있는 체계가 핵심”이라고 말했다.

민간 클라우드 활용 확대도 보안 논의와 맞물려 있다. 업계에 따르면 공공기관과 중앙행정기관은 보안 요구 수준이 다르다. 특히 행정기관은 국가 행정망과 연결돼 있어 민간 클라우드 도입이 제한적이었지만 최근 국가정보자원관리원 대구센터 내 PPP(Public Private Partnership) 존이 조성되면서 보안 기준을 충족한 민간 서비스 활용이 가능해지고 있다.

#AI 정부의 조건은 ‘중단 없는 서비스’

공공 AI의 또 다른 화두는 재해복구(DR)다. 지난해 국가정보자원관리원 대전센터 화재는 공공 IT 인프라의 취약성을 드러낸 사건으로 평가된다. 정부는 이를 계기로 2030년까지 약 1만 5000개 공공 정보시스템을 대상으로 재해복구 체계 구축 사업을 추진하고 있다.

삼성SDS 역시 이번 전시에서 데이터센터 이중화와 ‘액티브-액티브(예비 센터를 동시에 운영하는 방식)’, ‘액티브-스탠바이(주센터 장애 시 예비센터 전환)’ 방식의 재해복구 서비스를 소개하며 공공·금융권 적용 사례를 제시했다. AI 시대에는 보안뿐 아니라 장애 발생 시 서비스 연속성을 확보하는 역량 역시 핵심 경쟁력으로 떠오르고 있다는 평가다.

배일권 행정안전부 인공지능정부기반국장은 박람회 현장에서 “AI 정부 인프라의 안전망을 구축하는 것은 정부 혼자만의 노력으로 되는 일이 아니다”며 “민간이 보유한 최첨단 기술력과 공공의 책임성이 결합될 때 비로소 중단 없는 AI 정부가 완성될 수 있다”고 말했다.​ 

[핫클릭]

· [현장] 하림 인수 홈플러스 익스프레스 '정상화' 첫날 풍경
· [단독] 정운호, 쌍방울 대표 사임…최대주주 지위도 상실
· 국가 바이오빅데이터 17만 확보, 정밀의료 도약 위해 100만 모은다
· [현장] "매물 이미 소진, 호가만 뛰어" '반도체 훈풍' 동탄 부동산 가보니
· [단독] 중앙그룹 3세 홍정인, 자택 담보로 67억 세금 납부 유예
· [사정기관 AI 리포트] ① 유능하고 공정한 'AI캅'은 가능할까

<저작권자 ⓒ 비즈한국 무단전재 및 재배포 금지>