[사정기관 AI 리포트] ① 유능하고 공정한 'AI캅'은 가능할까

[비즈한국] 인공지능(AI)이 산업과 일상을 넘어 국가 행정과 사정 시스템까지 바꾸고 있다. 경찰청·검찰청·국세청은 최근 AI 전담 조직을 신설하거나 확대하고, 수사와 조사, 민원 업무에 AI를 도입하는 시스템 구축에 나섰다. 효율성과 정확성을 높이겠다는 취지지만, 이들 기관이 다루는 정보와 권한은 국민의 기본권과 직접 맞닿아 있다는 점에서 AI 도입의 무게도 남다르다. 비즈한국은 경찰청·검찰청·국세청 등 3대 사정기관의 AI 전환 현황과 그 과정에서 남은 과제를 짚어본다.​

경찰청이 수사와 민원 업무 전반에 인공지능(AI)을 도입하는 작업에 속도를 내고 있다. 판례 검색과 영장신청서 초안 작성, 피의자신문조서 질문 추천, 민원 상담·접수 지원, 딥페이크 탐지 등 AI가 경찰 업무의 보조 도구를 넘어 실제 치안 행정의 판단 과정 가까이 들어오는 흐름이다. 경찰청은 이를 뒷받침하기 위해 전담 조직을 정비하고, 내부망 기반 AI 통합플랫폼과 치안 특화 거대언어모델(LLM) 개발도 추진 중이다.

비즈한국 취재를 종합하면 경찰청은 최근 ‘AI 영향평가 및 위험관리방안 수립’ 정책연구를 진행하고 있다. 계약금액 4100만 원, 수행기간 120일 규모로 씽크포비엘이 맡아 진행 중이다. 경찰청 관계자는 “올해 말 연구를 마무리할 계획”이라고 밝혔다. ‘AI 도입에 따른 경찰청 개인정보 보호체계 고도화 방안 연구’도 함께 추진된다. AI 학습·추론 과정에서 발생할 수 있는 재식별 위험과 데이터 편향, CCTV 영상 분석 시 개인정보 보호 기준까지 들여다보는 게 골자다.

두 연구는 AI기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)과 내년 2월 말 시행되는 ‘공공 AI법(인공지능 및 데이터 기반 행정 활성화에 관한 법률)’에 대한 대응 성격이 짙다. AI기본법과 공공 AI법에서는 치안 분야의 다양한 AI가 ‘고영향 인공지능’으로 분류될 여지가 높다는 평가다. AI기본법은 투명성 확보와 위험관리 체계 구축 등의 의무를 부여하고, 공공AI법의 경우 공공기관이 AI를 도입하기 전 영향평가와 위험관리방안을 마련하도록 규정하고 있다. 

#컨트롤타워부터 통합 플랫폼까지

경찰청은 이 같은 제도·법적 기반 정비와 함께 조직·인프라 재편, 수사·현장 업무에 대한 AI 적용 확대 등 세 갈래로 AI 전환에 속도를 내고 있다.

올해 3월 경찰청은 미래치안정책국 산하 ‘미래치안정책과’를 ‘치안인공지능정책과’로 개편하며 AI 전담 컨트롤타워를 공식화했다. 기존 치안 AI 혁신 태스크포스(TF)를 정규 조직으로 흡수하고 국장 직속 인공지능협력관을 신설했다. 정보화기반과도 치안인공지능기반과로 이름을 바꿨다.

조직 개편과 함께 행정업무 전반에 생성형 AI를 적용하기 위한 ‘AI 통합플랫폼’ 구축도 추진 중이다. 웨어비즈가 수행하는 정보화전략계획(ISP) 사업을 통해 경찰 내부망인 폴넷에 보고서 작성과 번역, 문서 요약 등을 지원하는 AI 기능을 연계하는 방안이 검토되고 있다. 담당 경찰 관계자는 “올해 ISP 사업을 마무리하고 내년도 예산에 반영해 본격 구축에 들어갈 수 있도록 준비하고 있다”고 말했다.

경찰대는 치안 특화 거대언어모델(LLM) 개발을 맡고 있다. 지난 4월에는 총경·경정급 관리자를 대상으로 ‘치안 AI 리더 양성 교육(CAIO)’도 시작됐다. 생성형 AI와 피지컬 AI, AI 보안·윤리 등을 다룬다.

#수사 현장에 파고드는 AI…우려는 없나

지난 2024년 11월 도입된 수사지원 AI ‘킥스-AI(KICS-AI)’는 판례 검색과 영장신청서 초안 작성을 지원해왔다. 총 46억 원 규모의 고도화 사업을 통해 사법경찰관 결정서·수사결과통지서 작성, 피의자신문조서 질문 추천, 범죄일람표 작성, 공소장·판결문을 활용한 수사환류체계 구축까지 기능을 넓힐 예정이다. 지난해부터는 디지털 포렌식 분야에도 AI 활용이 추진되고 있다.

민원 분야에서는 정부의 ‘공공 인공지능전환(AX) 프로젝트’​ 과제 중 하나로 총 107억 원이 투입된 ‘​모두의 경찰관’​이 개발되고 있다. 경찰민원24·182콜센터 등과 연계해 2027년 12월까지 민원 상담·접수·서류 작성을 지원할 예정으로, 지난 18일 국민·현장 경찰관 200명 규모의 자문단 발대식이 열렸다.

다만 이 같은 치안 AI 확산을 두고 실효성과 보안에 대한 우려도 만만치 않다. 얼굴 인식, 보이스피싱 AI 차단, 수사 보고서 자동화 등은 모두 AI기본법상 ‘​고영향 AI’​에 해당하며, 경찰청이 영향평가와 위험관리방안 수립에 나선 것도 이런 우려를 제도적으로 흡수하기 위한 포석으로 풀이된다.

이상엽 경찰대학교 교수는 해외 학술 데이터를 분석한 논문에서 경찰 AI 연구의 핵심 키워드로 ‘데이터(Data)’가 도출됐다고 언급하며 “국내 경찰 AI 연구는 법학이나 행정학 등 제도적 관점에 치우친 반면 해외에서는 컴퓨터공학 기반의 기술 적용 연구가 주를 이룬다. 인공지능이 불러올 법적 쟁점에 대응하는 것과 함께 경찰 업무에 안전하게 적용하기 위한 기술 고도화 연구도 필요한 시점”이라고 짚었다.

황석진 동국대 정보보호대학원 교수는 “피의자 신문조서 작성이나 수사·행정 지원 등 편향성이 없어야 하는 업무에 AI를 쓰면서도 이를 검증할 장치가 부족하고, 정보 무단 반출이나 존재하지 않는 사실을 만들어내는 환각(할루시네이션) 문제도 검증이 까다롭다”고 말했다. 그러면서 “법제처 판례 정도만 활용 가능하고 이미지·영상 판독이 어려운 경우도 있어 데이터 자체의 한계가 있다”며 “알고리즘에 편향이 반영되면 투명성 보장이 어려워지는데, 문제가 생겼을 때 누가 책임져야 하는지에 대한 제도적 가이드라인이나 매뉴얼은 거의 없는 상태”라고 지적했다.

이 때문에 경찰 재량을 직접 건드리는 기술보다 저항감이 낮은 기술부터 단계적으로 도입해야 한다는 제언도 나온다.

경찰청 관계자는 이런 우려에 대해 “경찰청이 진행하는 AI 관련 사업 전부에 영향평가를 진행할 계획”이라며 “고영향 AI는 국민 일상생활과 기본권에 영향을 미칠 수 있는 분야인 만큼, 이를 침해하는 부분이 없는지 평가하려는 것”이라고 취지를 설명했다. 이어 “내년 법 시행 전까지 관련 기준을 정비해 위험요인을 체계적으로 관리할 수 있는 기반을 갖출 계획”이라고 말했다.​

[핫클릭]

· 순이익 줄어도 배당 늘린 DB손해보험, 김남호 오너 일가 수혜 주목
· 이재웅 복귀한 쏘카, 자율주행 승부수에도 단기 성장동력은 미지수
· 신규 원전 2기 경북 영덕군, SMR 실증 부지는 부산 기장군 '최종 낙점'
· [단독] 정몽규 HDC 회장 장남 정준선, 3년째 계열사 고문 활동
· 무신사·에이블리가 e스포츠에 '러브콜' 보낸 까닭
· "공복에 소금물·버터?" 유튜버 맹신이 부른 잘못된 건강 루틴

<저작권자 ⓒ 비즈한국 무단전재 및 재배포 금지>