사회 전 분야로 확대되고 있는 인공지능(AI)은 행정에도 예외가 아니다. 2019년 2월 인공지능 국가전략을 마련한 정부는 디지털 정부 혁신을 위하여 국민 체감도가 높은 공공서비스부터 AI를 선도적으로 활용하기로 했다.

예컨대 문화누리카드 사용처 예측·추천, 해외 선행 특허정보의 선제적 제공, 미세먼지 예측 및 지하수 오염 감지 등에 AI를 도입하기로 했다. 이처럼 AI를 활용한 행정은 정책의 입안과 결정 단계에서 효율성과 합리성을 제고할 것으로 예상된다. AI는 방대한 데이터 기반으로 다양한 정보를 연계·분석함으로써 인간이 가지는 인지능력의 한계를 뛰어넘어 정책결정의 과학화를 도모함은 물론 사실기반 정책으로서 정밀 행정을 가능하게 할 것으로 기대된다.

이와 관련 지난달 26일 국회 본회의를 통과해 3월 공포·시행 예정인 행정기본법 제정안 제20조는 행정청은 법령으로 정하는 바에 따라 “완전히 자동화된 시스템”으로 처분을 할 수 있다고 규정하고 있다. 자동화된 시스템에는 “AI 기술을 적용한 시스템”이 포함된다고 명시해 AI가 행정처분을 할 여지를 열어두고 있다. 다만 처분에 재량이 있는 경우에는 제외된다고 규정했다. 카메라를 통한 과속 단속이나 컴퓨터 추첨을 통한 학교 배정 등은 단순한 완전 자동화된 처분으로 볼 수 있고, 교통신호, 시험채점, 세금결정 등은 AI를 활용한 완전 자동화된 처분으로 볼 수 있다. 후자는 특별한 상황을 고려할 여지가 적은 경우로서, 결국 인간의 재량적 판단이 개입할 여지가 없이 일정한 알고리즘에 따라 행하는 자동적인 행정처분이다. 본 조항은 독일 연방행정절차법 제35조a의 완전자동화된 행정행위 조항과 유사하다. 이에 따르면 행정행위는 법령에 의해 허용되고, 재량과 판단여지가 존재하지 않는다면, 완전자동화된 설비를 통하여 발령될 수 있다고 규정하고 있다.

이런 AI에 의한 행정처분 도입에 일부 시민단체는 반대의견을 분명히 하고 있다. 행정처분은 효율성을 중요하게 생각하는 민간분야와 달리 책임성과 공공성이 본질적 요소이며, 시민의 기본권에 직접 영향을 미치기 때문에 공무원(사람)의 개입, 안전장치, 명확한 규정이 필수적이라고 강조했다. 또한 AI 알고리즘에 의한 자동결정은 복잡한 구조적 특성 때문에 결과예측은 물론 결과설명도 어려우며, 따라서 AI 알고리즘의 안전성과 적법성이 확보되지 않은 상태에서 AI의 결정을 도입하는 것은 위법한 AI 처분에 대한 구제, 처분의 사전통지나 이의권 등을 행사의 곤란 등 적법절차 원칙을 침해할 수 있다는 입장이다.

사실 이런 논란은 AI 기술이 가지는 특성으로 인한 논란의 연장선에 있는 것이어서 특별한 것은 아니다. 다만, 행정작용이 공공성, 공익성을 지향하고 투명성, 신뢰성, 법치주의라는 공공적 가치를 추구해야 한다는 것 때문에 생기는 추가적인 문제로 볼 수 있다.

특히 중요한 것이 법치주의의 요청이다. 법치주의는 법을 통해서 행정의 활동을 사전에 예측가능하게 하는 것은 물론 사후에 통제가능하게 만드는 것이다. 즉, 행정이 법률에 구속되어야 한다는 것인데, 이는 개개의 행정결정에 대해서 직접적으로 책임을 질 것을 필요로 한다.

그런데 AI 알고리즘의 특성상 행정에 대한 예측가능성은 제한될 수 밖에 없다. 행정처분을 함에 있어 행정절차법상 처분기준을 사전에 공표하도록 하는 규정, 사전통지 규정, 처분의 이유제시 규정은 AI 기반 완전자동화 행정에 적용되기 어렵다. 또한 AI 기반 완전자동화 행정은 인간의 의사작용이 사실상 배제되어 있다는 점에서 법적 책임을 묻는 것도 어렵다. 결국 행정에 AI의 활용은 법치주의 요청과 충돌한다. 법치주의 요청을 강조하면 AI의 행정에의 활용을 방해하게 되고 AI의 효율성과 합리성을 강조하면 법치주의가 형해화되는 딜레마에 빠지게 된다.

결국 행정문제가 객관적인 사실이나 근거에 기반하여 결정할 수 있는 경우에는 데이터를 기반으로 AI가 행정에 활용될 수 있을 것이나, 행정문제가 많은 이해관계자들의 주장이 복잡하게 얽혀 있는 경우에는 절차적 민주성과 정치적 합의성을 결여한 AI가 데이터만으로 결정을 하는 것은 위험할 수 있다. 따라서 현재로서는 행정에 AI를 활용함에 있어서는 행정의 효율성은 높이면서 AI 도입으로 인한 문제점을 보완하는 것이 필요하다.

따라서 우선 단순·반복적인 업무, 조건과 기준이 명확한 업무에 우선적으로 AI를 도입하는 유형별, 단계적 접근이 필요하다고 할 것이다. 이런 점에서 행정기본법 제정안이 개별적인 법률에 근거를 마련한 후 기속행위에 대해서만 AI 기반 완전자동화 행정을 도입하는 방향은 타당한 것으로 보인다. 물론 기존의 행정절차, 행정소송, 국가배상 등 행정의 적법성, 적정성을 보장하기 위한 절차들을 AI 기반 완전자동화 행정에 어떻게 구현할 것인지에 대한 구체적인 논의가 필요하다. 다만, 보다 중요한 것은 행정에 활용되는 알고리즘을 어떻게 하면 헌법적 가치가 충분히 반영되고 법규의 취지에 따라 설계할 것인지에 대한 논의라고 할 것이다. 알고리즘 설계과정을 투명하고 이해가능한 방법으로 공개하여야 하고 이해관계자, 전문가의 참여를 허용하여야 할 것이다.

결론적으로 행정의 책임성, 공공성을 충분히 실현할 수 있도록 행정 AI는 내용적 정당성과 절차적 정당성을 확보해야 할 것이다. 이런 경우에만 행정 AI는 효율성, 합리성, 객관성 등의 특성을 통해 인간의 의사결정을 보완하는 보조자로서 역할을 충실히 수행하게 될 것이다.

이성엽 고려대 기술경영 전문대학원 교수