NIA AI법제도센터장 “AI 기본법, 위험 관리·이용자 보호 못 하면 고영향 AI 서비스하지 말라는 것”

[산업일보]
과학기술정보통신부와 한국지능정보사회진흥원(NIA) 관계자가 22일 시행을 앞두고 있는 ‘AI 기본법’에 대한 기업들의 우려에 대해 “일부는 공감”한다면서도, “기업의 리스크가 아니라 국민에 대한 위험을 낮추기 위한 것”이라고 취지를 짚었다.

국회 의원회관 6간담회실에서 6일 열린 ‘AI 기본법 투명성·책임성 라운드테이블’ 행사에는 과기정통부 인공지능안전신뢰지원과 최우석 과장과 NIA 인공지능정책실 AI법제도센터 김형준 센터장이 참석해, 산업계의 우려에 대한 정부 입장을 대변했다.

김형준 센터장은 “현재 기본법 내 규제를 1년 유예하는 것에 우려를 표하시는데, 한국 기업들이 5년을 유예하면 준비할 것으로 보느냐”라며 “안 할 것 같다”라고 단언했다.

‘고영향 AI가 아니라고 정부가 확인하더라도, 행정 해석이기 때문에 사법부에 의해 뒤집힐 수 있어 불명확하다’라는 우려에 대해서는 “그렇지 않은 행정 해석이 있는가?”라고 물으며 “어느 부처도 해결하지 못한 것을, 과기정통부의 확인이 사법부를 구속하게 해야 하는가”라고 말했다.

그러면서 “고영향 AI 때문에 ‘사법적 리스크’가 있다는 우려도 있는데, AI 기본법에는 형사처벌 규정이 없다”라고 덧붙였다.

‘고성능 AI 규제를 모델 또는 시스템 중 어디에 적용해야 하느냐’는 쟁점을 두고는 “정책적 판단의 대상일 것 같다”라며 “맥락과 분야 여러 가지를 고려해야 한다면, 시스템을 규제하는 것이 맞을 것”이라고 진단했다.

김 센터장은 “실현·예측 가능성을 위해 AI 사용이 어느 정도일 때 규제하자는 주장은, 합리적이고 유연한 규제가 아니며 법은 그래서는 안된다”라며 “그렇다면 한국의 모든 기업은 법에서 규제하는 만큼만 AI를 활용하면서 규제를 회피할 것이기 때문에 맥락과 상황을 분명히 확인해야 한다”라고 언급했다.

그는 “‘고영향 AI 판단 기준을 ‘10의 26승 연산량’으로 규정한 것이 모호해 새로운 평가 체계를 만들자는 의견이 있는데, 어느 세월에 하는가? 사람이 죽거나 다치고 나서 할 것인가?”라고 지적하기도 했다.

이어 “고영향 AI와 확인 제도는 국민에 대한 위험을 감소시키기 위함이지, 기업들의 리스크를 줄여주려는 것이 아니다”라며 “책임 주체에 있어서 자료 제출이 모호하다는 의견도 있었는데, 위험 관리 못하고 이용자 보호할 수 없는 기업이면 고영향 AI 서비스하지 말라는 것”이라고 강조했다.

더불어 “고영향 AI 적용 분야가 물, 전기, 원자력, 의료같이 타인의 생명·신체·기본권에 중대한 영향을 주는 서비스기 때문에 충분히 안전장치를 만들라는 제도”라며 “기업이 힘들고 괴롭더라도 보호할 건 보호해야 한다”라고 힘주어 말했다.

김형준 센터장은 “AI 기본법이 성급하다고만 볼 것이 아니라, 그것만이라도 받아들이고 시작하자는 관점에서 바라봤으면 한다”라고 밝혔다.

과기정통부 최우석 과장은 “AI 기본법이 제정됐다는 건 알지만, 정확한 내용은 잘 모르는 사람들이 많을 것”이라며 “적극적으로 알리고 컨설팅해야 하는 시기라고 생각한다”라고 말했다.

이어 “AI 워터마크 표시 방법과 기준에 대해서도 쟁점이 많은데, EU는 부수적 편집 정도의 기능을 사용할 때는 적용하지 않는 것으로 법을 만들었으나 AI 기본법에는 명시돼 있지 않다”라며 “법에 명시돼 있지 않은 것을 행정부가 함부로 완화할 수는 없기 때문에 현명한 운영 방법에 대한 고민이 많다”라고 설명했다.

AI 기본법이 국내 기업의 해외 이주로 이어질 수 있다는 우려에 대해서는 “참고로, 해외로 이전하더라도 한국 국민에게 서비스할 때는 AI 기본법이 적용된다”라며 “국내외 역차별 이슈가 생기지 않도록 제도를 운영하고, EU를 비롯한 외국과 상호운용성을 확보하기 위해 긴밀하게 국제 협력을 해 나가겠다”라고 전했다.

최 과장은 “업계보다 국민이 느끼는 불안이 양적으로 더 클 것”이라며 “과기정통부는 한국이 글로벌 AI 시장에서 의미 있는 국가로 유지해 나갈 수 있도록, 또한 인간 중심의 발전이 이뤄질 수 있도록 노력하겠다”라고 밝혔다.

한편, 이번 행사를 주최한 더불어민주당 황정아 의원은 “이번 자리는 현장의 다양한 목소리를 청취하고자 마련한 것으로, AI 기본법의 향후 방향성을 발전적으로 모색하고 부족한 부분은 어떻게 보완할 것인가에 초점을 맞췄다”라고 취지를 설명했다.

이어 “NIA 김형준 센터장의 의견처럼 하향식으로, 내려꽂는 식의 정책은 이재명 정부의 국정 기조와 맞지 않고 규제 합리화라는 국정 철학과도 다르다”라며 “NIA의 공식 입장이라면 심히 유감스럽다”라고 꼬집었다.

“여러 의견을 다양하게 수렴해 정책을 만드는 것이 정책 입안자의 책무”라고도 덧붙였다.

또한 “업계의 불안함을 말하는데, 국민 불안이 양적으로 크다고 대비할 일은 아니다”라고도 지적하며 “산업계의 우려가 얼마나 절실한지, 더 강하고 빈도 높게 외쳐서 소수의 목소리가 아니라고 공론화하는 자리가 자주 필요하겠다는 생각이 든다”라고 말했다.

황 의원은 “AI 기본법 시행 과정에서 출혈을 최소화하는 방향으로 정책을 다듬어 나가겠다”라고 밝혔다.