[AI의 선택] AI가 매긴 점수로 업무 평가, 책임은 누구에게 있나 AI 업무 평가 알고리즘 설명 요구권 vs 기업 영업비밀 보호…AI가 제시한 해법은 최근 콜센터 현장에는 인공지능(AI) 기술이 도입되고 있다. 챗봇과 보이스봇이 고객의 문의를 처리하고 있으며 생성형 AI는 답변 작성과 내용 요약 등 상담사의 업무를 지원하고 있다. 또한 상담 내용을 분석해 상담 품질과 업무 평가에도 활용되고 있다. 문제는 상담사가 정확한 안내와 어조로 응대했음에도 AI가 ‘오상담’이라고 평가해 성과급에 불이익을 받는 사례가 발생한다는 점이다. 오류에 대해 회사에 이익을 제기해도 명확한 설명이나 구제 절차가 보강돼 있지 않다는 것이 현장의 목소리다. 이렇게 AI 판단이 인사·업무 평가 도구로 자리 잡는 가운데, AI 평가 결과에 대한 노동자의 ‘알고리즘 설명 요구권’과, 기술 자산을 지키려는 기업의 ‘영업비밀(기술적 비밀) 보호’가 대립하면서 적정 범위를 놓고 논쟁이 이어지고 있다. [AI의 선택]은 사회가 쉽게 답하지 못한 질문을 AI에 던져보는 기획이다. AI의 답변을 정답으로 삼자는 뜻은 아니다. 인간이 쌓아온 데이터와 논리가 어떤 판단으로 이어지는지 살피고, 그 답변의 설득력과 한계를 함께 따져보려는 시도다.이달 국회에서 더불어민주당 안호영·최기상, 국민의힘 김형동 의원이 공동으로 주최하고 한국공인노무사회가 주관해 열린 ‘AI 시대 노무사의 사회적 역할’ 토론회에 한국노동조합총연맹의 콜센터노조연대 곽현희 의장이 토론자로 참여했다. 곽 의장은 “최근 1천여 명이 근무하는 콜센터에 AI 평가 시스템이 도입됐는데, 상담사가 규정에 알맞은 톤으로 고객을 응대하고 정확한 안내를 했음에도 오상담했다고 평가받는 경우가 있다”라며 “이의 제기를 하더라도 회사는 ‘초기 단계고 모두 똑같은 시스템이니까 복불복 아니겠냐’라고 하면서 문제 제기를 포기하는 상황이 발생하고 있다”라고 전했다.특히, 평가 결과가 성과급의 형태로 임금에 반영되는 만큼 생계와 직결되는 문제라고 짚었다. 그러나 기업 입장에서는 AI 평가 시스템의 알고리즘을 상세히 공개하게 되면 평가에 활용되는 수집 데이터, 알고리즘 작동 방식, 가중치 산출 로직 등 핵심 비밀이자 기술 자산의 유출 가능성이 있어 이러한 요구에 선뜻 응하기 어려운 실정이다. ‘AI의 판단으로 불이익을 받은 개인이나 기업이 AI 알고리즘의 작동 원리와 판단 근거 공개를 요구할 때, 기업은 영업비밀을 이유로 거부할 수 있는가?’기자는 주요 LLM(거대언어모델) AI 서비스인 챗지피티(ChatGPT, 기본 모델(더 똑똑한 답변 받기)), 제미나이(Gemini, 3.1 Pro 모델(높은 사고 수준)), 클로드(Claude, Sonnet 5.5 모델(중간)), 그록(Grok, 빠른 모델), 딥시크(DeepSeek, 빠른 모델)에 같은 질문을 입력했다.AI들은 모두 기업이 알고리즘의 소스코드나 세부 기술 전체를 공개할 의무는 없지만, 영업비밀을 이유로 평가 근거와 이의제기 절차까지 전부 거부할 수도 없다는 시각을 내놓았다. ‘무엇을 어느 수준까지 설명하느냐’가 쟁점이라고도 강조했다. 기업이 영업비밀을 방어 논리로 내세우고 있지만, 노동자가 요구하는 ‘설명’은 다르다고 지적하기도 했다. 소스코드나 모델 파라미터, 학습 데이터 원본이 아니라 안내 스크립트 누락 여부와 고객 음성 중첩 비율 등 평가지표와 주요 감점 요인을 기술 자산과 분리해 제공할 수 있다는 것이다.ChatGPT는 기업이 AI를 평가에 도입했다면 그 결과에 대한 책임도 부담해야 한다고 답했다. AI를 활용해 인사평가의 효율성을 얻었다면, 그 과정에서 발생한 오류를 확인하고 바로잡을 책임이 있다고 봤다. 특히, 기술을 도입한 주체는 기업인데 기술의 오류를 증명하는 부담은 노동자에게만 지우는 구조라고 설명했다. AI 판단에 대한 이의제기 권한이 실질적으로 보장되지 않으면 책임을 회피하는 수단이 될 수 있다고도 덧붙였다. 또한 영업비밀을 주장하려면 어떤 정보의 공개가 실제로 영업비밀을 침해하는지 구체적으로 구분해야 한다고 했다. 기술적 비밀 보호라는 이유로 판단 근거에 대한 설명까지 차단할 정당성이 생기는 것은 아니라는 분석을 제시했다. AI들은 노사 갈등을 최소화하는 방안으로 ▲평가 기준과 AI 적용 범위에 대한 고지 및 합의 ▲판정의 근거와 관련 기록 제공 ▲이의제기 시 AI 재작동 및 제3자 심사 ▲불이익 결정은 인간에 의해 검수 등을 제안했다.한편, ‘AI 시대 노무사의 사회적 역할’ 토론회에서 한국공인노무사회 박은중 AI 및 플랫폼 대책위원장은 배달 라이더를 비롯한 플랫폼 종사자의 권익 보호 방안을 설명하면서 “근로자가 해고되는 이유를 알고 대응할 수 있는 권리를 보장하기 위해, 근로기준법상 해고 서면 통지가 없으면 절차 위반으로 무효가 된다”라며 같은 취지에서 노동자에게 알고리즘의 판단 이유를 제공해야 한다고 밝혔다. 단, 구체적인 기술 비밀이 아니라 노동자에게 영향을 미치는 범위로 제한해야 한다고 덧붙였다. 이번 기획의 경우 콜센터에 한정해 사례를 다뤘지만, AI를 활용한 인사·업무평가 시스템은 전 산업으로 확산되고 있다. 다양한 현장에서 여러 형태로 노동자의 설명 요구권과 기업의 영업비밀 보호 충돌이 빈번해질 수밖에 없다는 뜻이다. 이러한 흐름 가운데 AI들의 답변은 공통적으로 핵심 기술 원리 전체가 아니라 어떤 평가지표가 불이익의 직접적 원인으로 작용했는지 명확히 설명하고, 이의제기 절차를 보장하는 것이 기술 윤리와 기업 책임을 함께 담보하는 해법이라고 판단했다. 결국 투명성과 신뢰라는 오래된 가치가 AI 시대에서도 변함없이 적용돼야 한다는 진단인 셈이다.

[AI의 선택] AI가 매긴 점수로 업무 평가, 책임은 누구에게 있나

AI 업무 평가 알고리즘 설명 요구권 vs 기업 영업비밀 보호…AI가 제시한 해법은

기사입력 2026-10-27 15:20:24

구글 선호 출처로 추가

이미지=본보 기획 / AI 생성

[산업일보]

최근 콜센터 현장에는 인공지능(AI) 기술이 도입되고 있다. 챗봇과 보이스봇이 고객의 문의를 처리하고 있으며 생성형 AI는 답변 작성과 내용 요약 등 상담사의 업무를 지원하고 있다. 또한 상담 내용을 분석해 상담 품질과 업무 평가에도 활용되고 있다.

문제는 상담사가 정확한 안내와 어조로 응대했음에도 AI가 ‘오상담’이라고 평가해 성과급에 불이익을 받는 사례가 발생한다는 점이다. 오류에 대해 회사에 이익을 제기해도 명확한 설명이나 구제 절차가 보강돼 있지 않다는 것이 현장의 목소리다.

이렇게 AI 판단이 인사·업무 평가 도구로 자리 잡는 가운데, AI 평가 결과에 대한 노동자의 ‘알고리즘 설명 요구권’과, 기술 자산을 지키려는 기업의 ‘영업비밀(기술적 비밀) 보호’가 대립하면서 적정 범위를 놓고 논쟁이 이어지고 있다.

[AI의 선택]은 사회가 쉽게 답하지 못한 질문을 AI에 던져보는 기획이다. AI의 답변을 정답으로 삼자는 뜻은 아니다. 인간이 쌓아온 데이터와 논리가 어떤 판단으로 이어지는지 살피고, 그 답변의 설득력과 한계를 함께 따져보려는 시도다.

이달 국회에서 더불어민주당 안호영·최기상, 국민의힘 김형동 의원이 공동으로 주최하고 한국공인노무사회가 주관해 열린 ‘AI 시대 노무사의 사회적 역할’ 토론회에 한국노동조합총연맹의 콜센터노조연대 곽현희 의장이 토론자로 참여했다.

한국노동조합총연맹 콜센터노조연대 곽현희 의장

곽 의장은 “최근 1천여 명이 근무하는 콜센터에 AI 평가 시스템이 도입됐는데, 상담사가 규정에 알맞은 톤으로 고객을 응대하고 정확한 안내를 했음에도 오상담했다고 평가받는 경우가 있다”라며 “이의 제기를 하더라도 회사는 ‘초기 단계고 모두 똑같은 시스템이니까 복불복 아니겠냐’라고 하면서 문제 제기를 포기하는 상황이 발생하고 있다”라고 전했다.

특히, 평가 결과가 성과급의 형태로 임금에 반영되는 만큼 생계와 직결되는 문제라고 짚었다.

그러나 기업 입장에서는 AI 평가 시스템의 알고리즘을 상세히 공개하게 되면 평가에 활용되는 수집 데이터, 알고리즘 작동 방식, 가중치 산출 로직 등 핵심 비밀이자 기술 자산의 유출 가능성이 있어 이러한 요구에 선뜻 응하기 어려운 실정이다.

‘AI의 판단으로 불이익을 받은 개인이나 기업이 AI 알고리즘의 작동 원리와 판단 근거 공개를 요구할 때, 기업은 영업비밀을 이유로 거부할 수 있는가?’

기자는 주요 LLM(거대언어모델) AI 서비스인 챗지피티(ChatGPT, 기본 모델(더 똑똑한 답변 받기)), 제미나이(Gemini, 3.1 Pro 모델(높은 사고 수준)), 클로드(Claude, Sonnet 5.5 모델(중간)), 그록(Grok, 빠른 모델), 딥시크(DeepSeek, 빠른 모델)에 같은 질문을 입력했다.

이미지=본보 기획 / AI 생성

AI들은 모두 기업이 알고리즘의 소스코드나 세부 기술 전체를 공개할 의무는 없지만, 영업비밀을 이유로 평가 근거와 이의제기 절차까지 전부 거부할 수도 없다는 시각을 내놓았다. ‘무엇을 어느 수준까지 설명하느냐’가 쟁점이라고도 강조했다.

기업이 영업비밀을 방어 논리로 내세우고 있지만, 노동자가 요구하는 ‘설명’은 다르다고 지적하기도 했다. 소스코드나 모델 파라미터, 학습 데이터 원본이 아니라 안내 스크립트 누락 여부와 고객 음성 중첩 비율 등 평가지표와 주요 감점 요인을 기술 자산과 분리해 제공할 수 있다는 것이다.

ChatGPT는 기업이 AI를 평가에 도입했다면 그 결과에 대한 책임도 부담해야 한다고 답했다. AI를 활용해 인사평가의 효율성을 얻었다면, 그 과정에서 발생한 오류를 확인하고 바로잡을 책임이 있다고 봤다. 특히, 기술을 도입한 주체는 기업인데 기술의 오류를 증명하는 부담은 노동자에게만 지우는 구조라고 설명했다. AI 판단에 대한 이의제기 권한이 실질적으로 보장되지 않으면 책임을 회피하는 수단이 될 수 있다고도 덧붙였다.

또한 영업비밀을 주장하려면 어떤 정보의 공개가 실제로 영업비밀을 침해하는지 구체적으로 구분해야 한다고 했다. 기술적 비밀 보호라는 이유로 판단 근거에 대한 설명까지 차단할 정당성이 생기는 것은 아니라는 분석을 제시했다.

이미지=본보 기획 / AI 생성

AI들은 노사 갈등을 최소화하는 방안으로 ▲평가 기준과 AI 적용 범위에 대한 고지 및 합의 ▲판정의 근거와 관련 기록 제공 ▲이의제기 시 AI 재작동 및 제3자 심사 ▲불이익 결정은 인간에 의해 검수 등을 제안했다.

한편, ‘AI 시대 노무사의 사회적 역할’ 토론회에서 한국공인노무사회 박은중 AI 및 플랫폼 대책위원장은 배달 라이더를 비롯한 플랫폼 종사자의 권익 보호 방안을 설명하면서 “근로자가 해고되는 이유를 알고 대응할 수 있는 권리를 보장하기 위해, 근로기준법상 해고 서면 통지가 없으면 절차 위반으로 무효가 된다”라며 같은 취지에서 노동자에게 알고리즘의 판단 이유를 제공해야 한다고 밝혔다. 단, 구체적인 기술 비밀이 아니라 노동자에게 영향을 미치는 범위로 제한해야 한다고 덧붙였다.

이번 기획의 경우 콜센터에 한정해 사례를 다뤘지만, AI를 활용한 인사·업무평가 시스템은 전 산업으로 확산되고 있다. 다양한 현장에서 여러 형태로 노동자의 설명 요구권과 기업의 영업비밀 보호 충돌이 빈번해질 수밖에 없다는 뜻이다.

이러한 흐름 가운데 AI들의 답변은 공통적으로 핵심 기술 원리 전체가 아니라 어떤 평가지표가 불이익의 직접적 원인으로 작용했는지 명확히 설명하고, 이의제기 절차를 보장하는 것이 기술 윤리와 기업 책임을 함께 담보하는 해법이라고 판단했다. 결국 투명성과 신뢰라는 오래된 가치가 AI 시대에서도 변함없이 적용돼야 한다는 진단인 셈이다.

뒤로 기사목록

산업일보 영상뉴스 모아보기

산업일보 페이스북 바로가기

김대은 기자 kde125@kidd.co.kr

이 기자의 다른기사 보기 >