공무원이 만든 AI, 전국 행정에 쓰이기 전 물어야 할 것
-공공 GitLab 가입 개발 공무원 2073명·등록 프로젝트 770개
-정부, 검증된 현장 AI 서비스 범정부 확산 추진
-편의성만큼 데이터 출처·보안·오류 책임·시민 이의제기 절차가 중요
공무원이 직접 만든 인공지능(AI) 서비스가 범정부로 확산되는 단계에 들어간다. 민원 분류와 법령 검색, 문서 검토처럼 반복적인 행정업무를 현장 공무원이 직접 AI로 개선하고, 효과가 확인된 서비스는 다른 기관에서도 공유해 쓰겠다는 구상이다.
하지만 한 부서의 업무도구가 전국 행정에 적용되는 순간 핵심 쟁점은 편의성에서 책임으로 이동한다. AI가 어떤 데이터를 근거로 판단했는지 추적할 수 있는지, 잘못된 결과가 국민의 권리와 의무에 영향을 줬을 때 누가 책임지는지, 시민이 이의를 제기하고 사람에게 다시 판단받을 절차가 있는지가 공공 AI 확산의 핵심 조건이 된다.
특히 문서 요약처럼 내부 업무를 돕는 AI와 복지·민원·인허가처럼 국민에게 직접 영향을 주는 AI는 위험도가 다르다. 서비스가 범정부로 확대될수록 데이터 출처와 보안, 모델 변경이력, 오류 수정, 인간의 최종 판단, 유지보수 책임까지 하나의 관리체계로 묶어야 한다는 지적이 나오는 이유다.
행정안전부는 9월 8일 국무회의에서 ‘공무원의 AI 활용 직접개발 활성화 및 확산 방안’을 보고했다. 지난 7월 3일 ‘AI 정부 실험실’ 시범운영을 시작한 이후 9월 3일 기준 공공 개발산출물 저장소인 공공 GitLab에 가입한 AI 개발 공무원은 2073명, 등록 프로젝트는 770개로 늘었으며 이 가운데 376개가 다른 공무원도 활용할 수 있도록 공개됐다. 정부는 앞으로 AI 챔피언 2만 명을 양성하고 AI 정부 실험실 동시 이용 규모도 6000명까지 확대할 계획이다.
현장의 아이디어를 바로 서비스로 만드는 속도는 빨라진다
공무원 직접개발의 가장 큰 장점은 문제를 발견한 사람이 곧바로 해결책을 시험할 수 있다는 데 있다. 기존 정보화 사업은 사업계획을 만들고 예산을 확보한 뒤 발주와 계약, 개발, 검수 절차를 거쳐야 해 실제 서비스가 나오기까지 상당한 시간이 걸리는 경우가 많았다.
반면 생성형 AI와 로코드·노코드 기술이 확산되면서 비교적 단순한 행정지원 도구는 전문 개발자가 아니더라도 빠르게 시제품을 만들 수 있게 됐다. 매일 반복되는 문서 검토나 자료 검색, 민원분류, 내부 지식검색처럼 현장 공무원이 가장 정확하게 알고 있는 문제를 직접 개선할 수 있는 여지가 커진 것이다.
행안부가 AI 정부 실험실을 운영하는 목적도 여기에 있다. 공무원이 최신 AI 모델을 시험하고 업무용 서비스를 직접 개발할 수 있는 공통환경을 제공한 뒤, 결과물을 공공 GitLab에 공유해 다른 기관에서도 재사용할 수 있도록 하겠다는 구상이다.
이 방식이 정착되면 여러 기관이 비슷한 기능을 각각 발주해 예산을 반복 투입하는 문제도 줄일 수 있다. 한 지자체에서 개발한 서비스가 충분히 검증됐다면 다른 지자체가 이를 다시 처음부터 만드는 대신 공통기반 위에서 개선해 사용할 수 있기 때문이다.
하지만 ‘잘 만든 시제품’과 ‘공공서비스’는 같은 것이 아니다
현장에서 만든 AI 서비스가 유용하다는 사실과 이를 전국 행정에서 사용할 수 있다는 판단은 구분할 필요가 있다. 소규모 시범운영에서는 문제가 발생해도 개발자가 곧바로 수정할 수 있지만 서비스가 여러 기관으로 확산되면 이용자와 데이터, 업무환경이 크게 달라진다.
예를 들어 한 지자체의 민원자료를 기반으로 만든 분류 AI가 다른 지역의 표현이나 행정체계에서도 같은 정확도를 낼 것이라고 단정할 수 없다. 특정 부처 내부 문서를 기반으로 학습한 검색서비스 역시 다른 기관의 업무규정과 결합하면 예상하지 못한 결과가 나올 수 있다.
이 때문에 행안부도 이번 정책에서 공무원이 만든 서비스를 그대로 전국에 배포하는 구조가 아니라 개발·실험 이후 보안과 품질을 검증하고 업무 적용과 확산을 조직이 책임지는 체계를 제시했다. 공무원의 자율적인 실험은 넓히되 실제 행정서비스로 전환되는 순간부터는 기관 차원의 책임을 강화하겠다는 것이다.
결국 공공 AI 확산의 성패는 얼마나 많은 서비스를 만들었느냐보다 시제품에서 공공서비스로 넘어가는 과정에 어떤 검증 절차를 두느냐에 달려 있다.
AI가 어떤 데이터를 보고 답했는지 확인할 수 있어야 한다
공공 AI에서 가장 중요한 기준 가운데 하나는 답변의 근거다. 일반적인 생성형 AI는 자연스러운 문장을 만들어내더라도 사실과 다른 내용을 제시할 수 있기 때문에 행정에서는 답변만 보고 판단하기 어렵다.
정부가 이미 시범운영하고 있는 ‘AI 법령 비서’는 이런 문제를 줄이기 위해 법령과 행정규칙, 판례 등 확인 가능한 자료를 검색해 답변에 활용하는 검색증강생성 방식, 이른바 RAG를 사용한다. 해당 서비스에는 대법원 판례 약 6만 건과 법령·행정규칙 관련 약 24만 건, 일부 자치법규 자료 등이 들어가 있으며, AI 답변은 최종 법적 판단이 아니라 중간 검토자료로 사용하도록 제한했다.
이 원칙은 다른 행정 AI에도 적용할 필요가 있다. AI가 어떤 자료를 근거로 결과를 제시했는지 담당 공무원이 확인할 수 있어야 하고, 오래된 자료나 잘못된 문서를 기반으로 답했다면 이를 추적해 수정할 수 있어야 한다.
단순히 답변 정확도가 몇 퍼센트라는 수치만으로는 충분하지 않다. 행정서비스에서는 틀렸을 때 왜 틀렸는지 확인하고 수정할 수 있는 구조가 중요하다.
민원인을 분류하는 AI와 문서를 요약하는 AI는 위험도가 다르다
공공기관에서 사용하는 AI라고 해서 모두 같은 수준의 위험을 가진 것은 아니다. 내부 회의자료를 요약하거나 문서 초안을 작성하는 AI와, 국민의 민원을 분류하거나 지원 대상 여부를 판단하는 AI는 결과가 미치는 영향이 다르다.
내부 업무보조 도구에서 오류가 발생하면 담당자가 바로 고칠 수 있지만, AI 판단이 행정처분이나 복지지원, 인허가, 과태료 부과 같은 결정에 영향을 미친다면 국민의 권리와 직접 연결될 수 있다.
따라서 공공 AI를 확산할 때는 기능별로 위험도를 구분할 필요가 있다. 단순 검색·요약 기능은 비교적 빠르게 확산할 수 있지만 국민의 권리와 의무에 영향을 주는 서비스는 더 높은 수준의 검증과 인간의 최종 판단이 필요하다.
행안부가 6월 배포한 ‘공공부문 AI 도입·활용 가이드’에서도 범정부 AI 공통기반을 활용한 서비스 구축 전 과정을 표준화하고, 도입 단계부터 보안과 품질을 함께 고려하도록 안내하고 있다.
AI가 틀렸을 때 시민은 누구에게 이의를 제기해야 하나
공공 AI가 민원과 행정업무에 깊숙이 들어갈수록 중요한 질문은 오류가 발생했을 때 책임을 누구에게 물을 것인가다.
AI를 직접 만든 공무원이 책임을 져야 하는지, 서비스를 승인한 기관이 책임져야 하는지, 범정부 공통서비스로 확산시킨 중앙부처가 책임져야 하는지 명확한 기준이 필요하다. 외부 AI 모델이나 클라우드 서비스를 사용했다면 기술 제공자의 책임 범위도 문제가 될 수 있다.
국민 입장에서는 더 단순한 문제가 있다. 행정기관이 AI 결과를 근거로 자신에게 불리한 판단을 내렸다면 이를 어떻게 확인하고 다시 판단받을 수 있느냐다.
공공 AI가 실제 행정결정에 영향을 미친다면 최소한 AI가 사용됐다는 사실과 인간 담당자의 최종 검토 여부, 오류를 제기할 수 있는 창구는 분명해야 한다. AI의 판단을 사람이 다시 검토할 수 있는 절차가 없다면 효율성을 높이는 기술이 오히려 행정의 설명책임을 약화시킬 가능성이 있다.
‘사람이 최종 판단한다’는 원칙을 형식적으로 운영해서는 안 된다
공공 AI 정책에서는 흔히 인간이 최종 판단한다는 원칙이 제시된다. 그러나 실제 현장에서는 AI가 먼저 제시한 결과가 담당자의 판단에 강한 영향을 줄 수 있다.
하루에 수백 건의 민원이나 서류를 처리해야 하는 공무원이 AI의 분류 결과를 매번 처음부터 다시 검토한다면 자동화의 효율성이 크게 줄어든다. 반대로 AI 결과를 대부분 그대로 받아들이면 인간의 최종 판단이 형식적인 승인 절차로 변할 수 있다.
이른바 자동화 편향의 문제다. 사람이 최종 버튼을 누른다고 해서 실질적인 인간 감독이 이뤄졌다고 보기는 어렵다.
따라서 고위험 업무에서는 AI 결과와 함께 근거자료와 불확실성, 반대 가능성을 함께 보여주고 담당자가 판단을 수정할 수 있도록 시스템을 설계해야 한다. 반복적으로 AI 결과를 그대로 승인하는 구조라면 어느 시점부터 실질적인 결정권자는 사람이 아니라 시스템이 될 수 있다.
보안 검증은 서비스가 커질수록 더 까다로워진다
공무원이 AI를 활용할 때 다루는 정보에는 공개자료만 있는 것이 아니다. 민원인의 개인정보와 내부 행정문서, 비공개 정책자료, 기관 내부 업무정보가 포함될 수 있다.
개인용 AI 서비스에 이런 자료를 그대로 입력하면 데이터가 외부로 전송되거나 서비스 제공자의 시스템에 남을 가능성이 있어 공공기관에서는 더 엄격한 통제가 필요하다.
정부가 범정부 AI 공통기반과 AI 정부 실험실을 별도로 구축하는 이유 가운데 하나도 공무원들이 승인되지 않은 외부 AI를 개별적으로 사용하는 이른바 ‘섀도 AI’를 줄이고, 보안이 통제된 환경에서 서비스를 개발하도록 하기 위해서다.
하지만 내부망에서 운영된다는 사실만으로 모든 위험이 사라지는 것은 아니다. 누가 어떤 데이터에 접근했는지, 어떤 프롬프트와 결과가 생성됐는지, 민감정보가 모델 학습에 다시 사용되는지 등을 추적할 수 있어야 한다.
서비스가 여러 기관으로 확대될수록 접근권한과 로그 관리도 더 복잡해진다.
범정부 확산에는 ‘누가 계속 고칠 것인가’라는 문제가 남는다
공무원이 직접 만든 AI 서비스는 처음 개발할 때보다 운영 단계에서 더 큰 과제가 나타날 수 있다.
법령은 바뀌고 조직도 개편되며 행정서식과 업무절차도 계속 달라진다. AI가 참고하는 데이터와 규칙을 지속적으로 업데이트하지 않으면 처음에는 정확했던 서비스도 시간이 지나면서 잘못된 답변을 낼 수 있다.
개발자가 다른 부서로 이동하거나 퇴직했을 때도 문제가 된다. 개인의 역량에 의존해 만들어진 서비스라면 시스템의 구조와 데이터 관리방식을 다른 사람이 충분히 이해하지 못할 가능성이 있다.
따라서 범정부 확산 대상 서비스에는 개발자 개인과 별도로 운영기관과 유지보수 책임자를 지정할 필요가 있다. 오류 신고와 업데이트 주기, 버전관리, 서비스 종료 기준까지 미리 정해야 한다.
AI 서비스가 늘어나는 만큼 사용하지 않게 된 서비스를 언제 폐기할 것인지도 중요한 관리과제가 된다.
770개 프로젝트가 많다는 사실보다 어떤 프로젝트가 살아남는지가 중요하다
9월 3일 기준 공공 GitLab에 등록된 프로젝트는 770개이고 이 가운데 376개가 다른 공무원에게 공개돼 있다. 짧은 시기에 상당한 수의 아이디어가 등장했다는 점은 공직사회의 AI 활용 수요가 크다는 사실을 보여준다.
하지만 프로젝트 수가 곧 행정혁신의 성과를 의미하지는 않는다. 시제품 가운데 실제 업무시간을 줄이고 오류를 낮추며 국민서비스의 품질을 높이는 도구가 얼마나 되는지를 확인해야 한다.
비슷한 기능의 서비스가 기관마다 중복 개발되는지도 살펴야 한다. 공공 GitLab의 목적 가운데 하나가 개발성과를 공유해 중복투자를 줄이는 것이라면 신규 프로젝트 수보다 재사용률과 실제 업무 적용률이 더 중요한 지표가 될 수 있다.
앞으로 범정부 AI 정책의 성과도 개발 공무원 수와 프로젝트 수만으로 평가하기보다 업무시간 절감, 오류 감소, 이용자 만족도, 유지비용, 다른 기관 재사용률 등으로 확장할 필요가 있다.
성과보상과 면책은 혁신을 촉진하지만 기준이 필요하다
정부는 이번 정책에서 우수한 AI 서비스를 개발한 공무원의 성과를 보상하고, 정해진 절차를 지키며 도전한 경우에는 실패하더라도 책임 부담을 줄이는 면책제도를 함께 제시했다.
공무원 입장에서는 새로운 기술을 시도했다가 문제가 생길 경우 감사나 책임 문제를 우려할 수 있기 때문에 일정한 면책장치는 실험을 활성화하는 데 필요하다.
다만 면책은 AI 오류에 대한 책임을 없앤다는 의미가 돼서는 안 된다. 정해진 보안·검증 절차를 지키고 합리적인 수준에서 위험을 관리했음에도 발생한 실패와, 기본적인 검증을 생략하거나 위험을 알고도 무시한 경우를 구분해야 한다.
자율적인 개발문화와 공공서비스의 책임성을 동시에 확보하려면 ‘어떤 절차를 지켜야 면책되는지’가 구체적으로 제시돼야 한다.
공공 AI의 목표는 공무원 숫자를 줄이는 것이 아니라 판단을 돕는 데 있다
AI 도입이 행정효율화를 위한 정책인 만큼 업무시간을 줄이는 효과는 중요하다. 그러나 공공부문에서 AI의 역할을 단순한 인력대체로만 보면 행정서비스의 특성을 놓칠 수 있다.
공무원이 처리하는 업무에는 단순한 문서작업뿐 아니라 법령 해석과 민원인의 사정 파악, 이해관계 조정, 예외 판단처럼 맥락이 중요한 일이 많다.
AI가 반복적인 검색과 분류, 초안작성을 맡으면 공무원이 이런 판단업무에 더 많은 시간을 사용할 수 있다는 것이 직접개발 정책의 실질적인 장점이 될 수 있다.
실제 AI 법령 비서도 법적 결론을 대신 내리는 시스템이 아니라 공무원이 법령과 판례를 찾는 시간을 줄이는 중간 검토도구로 설계됐다.
공공 AI의 효과를 평가할 때도 사람을 얼마나 줄였느냐보다 사람의 판단이 더 정확하고 빨라졌는지를 보는 것이 중요하다.
범정부 확산은 개발보다 ‘책임의 표준화’가 더 어렵다
공무원이 AI 서비스를 직접 만드는 것은 기술 발전으로 점점 쉬워지고 있다. 문제는 좋은 아이디어를 전국 행정에 안전하게 적용하는 단계다.
한 명의 공무원이 만든 서비스가 한 부서에서 사용될 때는 개발자와 이용자가 가까워 오류를 빠르게 발견할 수 있지만, 범정부 공통서비스가 되면 누가 무엇을 책임지는지 미리 정해놓지 않으면 문제가 발생했을 때 책임이 분산될 수 있다.
따라서 공공 AI의 범정부 확산에는 서비스마다 데이터 출처와 모델 버전, 변경이력, 성능평가 결과, 보안검증, 운영책임자, 이의제기 절차를 기록하는 관리체계가 필요하다.
AI가 어떤 결과를 냈는지뿐 아니라 언제 어떤 모델이 어떤 자료를 근거로 그 결과를 만들었는지를 다시 확인할 수 있어야 한다. 행정에서 로그와 기록이 중요한 이유다.
이는 새로운 규제를 만드는 차원의 문제가 아니라 AI를 공적인 의사결정 과정에 포함시키기 위한 최소한의 책임구조에 가깝다.
‘공무원이 만든 AI’의 성공은 많이 만드는 데 있지 않다
행안부의 이번 방안은 공공 AI 정책의 방향을 중앙정부가 대규모 시스템을 만들어 일방적으로 보급하는 방식에서 현장 공무원이 문제를 발견하고 직접 해결책을 시험하는 방식으로 확장했다는 점에서 의미가 있다.
공공 GitLab 가입자가 2000명을 넘고 불과 두 달여 만에 770개의 프로젝트가 등록됐다는 사실도 공직사회 내부에서 AI 활용이 빠르게 확산되고 있음을 보여준다.
그러나 앞으로 더 중요한 단계는 개발 이후다. 어떤 서비스를 실제 업무에 적용할지, 다른 기관으로 확대했을 때 성능이 유지되는지, 잘못된 결과가 발생하면 누가 수정하고 책임질지까지 검증해야 한다.
특히 국민에게 직접 영향을 미치는 행정서비스에서는 AI의 편리함보다 설명가능성과 이의제기 권리, 인간의 실질적인 최종 판단이 우선돼야 한다.
공무원이 만든 작은 AI 도구가 행정현장의 낭비를 줄이고 국민서비스를 개선한다면 직접개발 정책은 큰 효과를 낼 수 있다. 반대로 검증되지 않은 서비스를 빠르게 확산하는 데 집중한다면 한 기관의 작은 오류가 여러 기관에서 동시에 반복되는 새로운 위험을 만들 수도 있다.
공공 AI에서 중요한 것은 개발 속도와 서비스 숫자만이 아니다. 실험은 빠르게 하되 국민에게 적용되는 순간에는 조직이 책임지는 구조를 만드는 것, 그것이 공무원이 만든 AI가 범정부 서비스로 넘어가기 전에 먼저 갖춰야 할 조건이다.