"업무 시간 4.5시간→45분 단축"…공공 AI 도입, 행정 현안부터 해결한다

[아이뉴스24 윤소진 기자] “재난문자 번역 오류는 어떻게 줄일 수 있나요?” “내부망이라 AI를 못 쓰는데, 대안이 있을까요?” “설문 분석·보고서 작성에 너무 시간이 걸립니다.”

공공부문 AI 도입을 둘러싼 현장의 질문은 기술 가능성보다 보안·환경·예산이라는 현실적 제약 속에서 어떤 업무를 어디까지 효율화할 수 있느냐에 모이고 있다. 이에 정부는 행정 현안을 중심으로 한 개념검증(PoC) 사례를 공유하고, 기관 여건에 맞춘 단계적 AI 도입 방향을 제시했다.

한국지능정보사회진흥원(NIA)은 19일 ‘2025년 공공부문 AI 도입·활용 및 데이터 분석 가이드 설명회’를 온라인으로 열고, 중앙부처·지자체·공공기관을 대상으로 AI·데이터기반행정 역량강화 PoC 컨설팅 결과를 공개했다.

이번 설명회는 2025년 6~10월, 약 5개월간 진행된 컨설팅을 바탕으로, 대규모 예산이나 전면 시스템 구축 없이도 업무 생산성을 개선할 수 있는 현실적인 AI 도입 방식을 공유하는 데 초점을 맞췄다. NIA는 이 기간 중앙부처와 지자체 등 10개 기관의 AI PoC 과제를 수행했다.

행정안전부 재난정보통신과는 기존 번역기의 오역 문제를 해결하기 위해 번역 API와 생성형 AI를 결합한 하이브리드 번역 모델을 적용했다. 번역 초안은 기존 API로 처리하고, AI는 의미 왜곡이 발생할 수 있는 핵심 표현만 보정하는 방식으로 정확도와 속도를 동시에 확보했다.

대전광역시 중구는 업무 인수인계 비효율 해소에 초점을 맞췄다. AI 요약·첨삭과 챗봇을 결합한 인수인계 지원 시스템을 PoC로 구현해, 인수인계 문서를 조직 지식 자산으로 축적·활용할 수 있도록 했다.

대구광역시 군위군은 폐쇄망 환경에서도 활용 가능한 로컬 브라우저 기반 설문 분석 도구를 도입했다. 엑셀 파일 업로드만으로 시각화와 기본 분석이 이뤄지고, 결과 해석과 보고서 초안 작성 단계에서만 외부 AI를 연계하는 구조다. 이를 통해 보고서 작성 시간이 4.5시간에서 45분으로 크게 단축됐다.

“핵심은 AI 기술이 아니라 ‘문제 정의’부터”

이들 사례의 공통점은 현장에서 가장 불편한 지점을 먼저 정의하고, 최소 기능으로 효과를 검증했다는 점이다.

발표를 맡은 신성진 한국데이터사이언티스트협회 대표는 “AI 도입의 출발점은 기술이 아니라 문제 정의”라며 “PoC는 AI를 쓰기 위한 사업이 아니라 불편한 업무를 해결하기 위한 실험 과정”이라고 설명했다.

10개 기관의 PoC 과제는 초기 기획 단계에서 여러 차례 수정됐으며, 반복·수작업·전달 오류 등 실무 문제를 세분화해 검증했다는 설명이다.

신 대표는 또 “모든 기관이 고가의 내부 LLM을 구축할 필요는 없다”며 “엑셀·파이썬·자바스크립트 같은 기존 도구와 AI를 결합한 ‘어시스트형 자동화’만으로도 하루 1~2시간의 업무 절감 효과를 만들 수 있다”고 말했다.

질의응답에서는 보안과 지자체 재정 여건에 대한 우려도 나왔다. 신 대표는 “중요한 것은 AI 학습 여부보다 외부 LLM에 데이터가 노출되느냐”라며 “이번 PoC는 외부에서 개발한 결과물을 내부망으로 이관하거나, 로컬 환경에서 구현하는 방식으로 데이터 노출을 최소화했다”고 설명했다.

그는 이어 “지자체일수록 대규모 구축보다 작은 자동화·업무 개선 과제부터 단계적으로 검증하는 접근이 현실적”이라고 덧붙였다.

NIA는 이번 사례 공개를 통해 공공부문 AI 도입을 ‘작은 PoC → 성과 검증 → 단계적 확산’ 구조로 이어간다는 방침이다. 검증된 사례는 향후 공공 AI 공통 기반이나 범정부 서비스로 확산하는 상향식 모델로 발전시킨다는 구상이다.

공공부문 ‘AI 도입·활용 사례집’은 12월 29일부터 진흥원 누리집과 데이터기반행정 역량강화 누리집을 통해 공개된다.