검색 증강 생성（RAG） 기반 로컬 인공지능 모델 도입으로 보안과 효율 동시에 잡아
[김포시소비자저널=홍완호 대표기자] 김포시가 인공지능(AI)을 행정 업무에 적극 도입하며 ‘스마트 행정’의 선두 주자로 나선다.
김포시는 내부 행정 업무의 효율성을 획기적으로 높이기 위해 ‘김포시 내부문서 인공지능(AI) 검색 챗봇’을 구축하고 시범 운영에 들어간다고 밝혔다. 이번 사업은 2025년 행정안전부 주관의 인공지능 컨설팅에서 도출된 아이디어와 학습조직을 통한 직원들의 자발적인 참여로 만들어진 시범 결과물을 실무에 적용한 것으로, 지자체 차원의 적극적인 인공지능 활용 의지가 반영된 사례다.
[보안과 정확성 모두 잡은 ‘김포시 특화 인공지능(AI) 어시스턴트’]
이번에 도입된 인공지능 챗봇은 외부 유출 우려가 없는 ‘내부망 전용 로컬 언어모델(LLM)’을 기반으로 한다. 특히 최신 인공지능 기술인 검색 증강 생성(Retrieval-Augmented Generation) 방식을 채택해 방대한 내부 업무 지침이나 규정, 매뉴얼을 인공지능이 실시간으로 검색해 답변을 생성한다.
기존 인공지능과 달리 답변의 근거가 되는 출처(문서 및 페이지 등)를 함께 표기함으로써 행정 업무의 정확성과 신뢰도를 높인 것이 큰 특징이다. 이를 통해 공무원들이 복잡한 업무 편람을 일일이 찾아보는 시간을 대폭 단축할 수 있게 됐다.
[정보통신 장애 해결부터 복지 혜택까지… 질문하면 즉시 답변]
시범 운영 단계에서는 직원들의 문의가 많은 두 가지 분야에 우선 적용된다. ‘정보화 지원 챗봇’은 개인용 컴퓨터(PC) 장애 해결, 행정전자서명 발급, 출력물 보안 예외 신청 등 정보통신 서비스 이용 방법을 안내하고, ‘후생복지 안내 챗봇’은 휴양소 신청, 후생복지 대상자 확인, 출장 시 사고 보상 등 복합적인 복지 제도를 즉시 설명해 준다.
이미 지난해 10월, 개인 단말기 환경에서 기술적 실현 가능성(PoC) 검증을 마쳤으며, 이번 시범 운영을 통해 전 직원이 체감할 수 있는 서비스로 완성도를 높일 계획이다.