[예측행정②] “AI 도입보다 ‘오류 통제 제도’가 먼저…신뢰 구축 필요”

[산업일보]
▶‘[예측행정①] AI로 사후 수습서 선제 대응으로…공공행정 품질 높인다’ 기사에서 이어집니다.

지난 기사에서는 공공행정의 한계를 인공지능(AI) 기술로 극복하려는 정부와 정치권의 노력을 조명했다. 그러나 ‘예측행정 알고리즘의 책임과 제도설계’토론회에 참석한 전문가와 현장 공무원은 AI 알고리즘의 판단 오류와 데이터 편향성, 책임 부재 위험을 경고하며 제도적 통제 장치가 선행돼야 한다고 입을 모았다.

정승 전(前) 식품의약품안전처장은 “AI 알고리즘의 결과는 행정 집행을 위한 참고 단서로만 활용해야지, 직접적인 처분에 쓰여선 안 된다”라며 “처분 단계까지 가려면 이의제기를 포함한 절차적인 정당성이 있어야 하며, 국회에서 관련된 법적 통제 장치를 구체적으로 만들어야 한다”라고 말했다.

그러면서 “아무리 최신형 AI 기술을 도입해도, 쓸모없는 데이터를 넣으면 쓸모없는 결과가 나온다(Garbage In, Garbage Out)”라며 편향되거나 왜곡되지 않은, 객관적인 ‘신뢰 데이터’ 수집·분석의 중요성을 강조했다.

이를 뒷받침하는 신뢰 보장 기술로는 신뢰 장부를 담당하는 블록체인과 고유 식별을 가능하게 하는 NFT를 소개하며 “예측 행정 도입과 신뢰 보장 기술 발전을 동시에 추진해야 한다”라고 덧붙였다.

이충재 전(前) 전국공무원노동조합 위원장은 AI 도입이 공무원 사회와 노동환경에 미칠 부작용을 경계했다.

그는 “권리 구제나 책임성 등을 준비하지 않고 공공행정 분야에 AI를 섣부르게 도입하게 된다면, 공무원을 넘어 국가와 국민 개개인에게 엄청난 피해로 이어지게 될 것”이라고 경고했다.

이어 “한국은 전자정부 시스템을 도입했고 공공 빅데이터를 축적했으나, 국민은 여전히 민원 접수를 위해 여러 서류를 갖춰야 한다”라며 “부처별 칸막이나 법적 제약이 그대로이기 때문”이라고 지적했다.

AI 도입 후 인력 정책에 대해서도 준비가 필요하다고 짚었다. 이 전 위원장은 “영국에서 업무 자동화를 추진하면서 공무원 인력 감축을 얘기하고 있다”라며 “그러나 AI가 사회복지 위기 가구를 발굴하고 면담하더라도 결국 현장에 나가 가구를 돌봐야 하는 인력은 지금도 부족한 실정”이라고 예를 들어 설명했다.

또한 “60년 이상 유지돼 온 공무원 직급·보수 체계가 개편되지 않는다면, 책임을 AI 알고리즘에 전가하는 소극 행정이 심화될 것”이라고 내다봤다.

법무법인 정세의 최정민 파트너 변호사는 행정소송·행정심판이 예측행정의 AI 알고리즘을 통제하는 기준이 되도록 제도를 정비해야 한다고 제언했다.

최 변호사는 “AI 알고리즘이 산출한 결과의 과정과 이유가 명확하지 않는다면 처분의 위법성을 다투는 것을 사실상 불가능하게 만들 수 있다”라며 “‘인공지능기본법’과 ‘행정기본법’ 간의 충돌도 쟁점이 될 수 있다”라고 분석했다.

이를 해결하기 위한 대안으로는 ▲AI 산출물에 대한 공무원의 독립적 판단과 면책 보장 ▲동일 알고리즘 오류로 다수의 국민이 피해를 보는 경우 소송에 미참여한 피해자에게까지 효력울 미치는 집단 소송 규정 신설 ▲AI로 인한 문제 발생 시 행정 기관이 적극적으로 피해를 규제하는 절차 마련 등을 제안했다.