직원 AI 활용 능력이 전체 시스템 수준 가른다…“단순 도입보다 체계적 관리가 먼저”

[산업일보]
기업의 AI 전환(AX)은 단순히 신기술을 도입하는 것을 넘어, 조직의 생존과 일하는 방식을 근본적으로 뒤바꾸는 핵심 전략으로 자리 잡고 있다. 성공적인 AI 도입을 위해서는 명확한 목적 의식과 함께 사내 데이터 연동, 체계적인 관리, 그리고 현업 중심의 주도권 확보가 필수적이라는 조언이 나왔다.

박종천 지란지교소프트 CAIO(최고AI책임자)는 2일 서울 강서구 코엑스 마곡에서 열린 ‘2026 일잘러 페스타’에서 이같이 강조했다.

박 CAIO는 글로벌 커머스 기업 쇼피파이(Shopify)의 사례를 들며 기업 내 AI의 중요성을 환기했다. 쇼피파이 CEO는 전 직원에게 “지원이나 인력을 충원 요청하기 전에 AI 활용을 먼저 하라”고 지시했다. 박 CAIO는 “이 메시지 이후 전 세계적으로 채용 트렌드가 바뀌었다”며 “이제는 당장 사람을 뽑기보다 있는 직원이 AI를 잘 쓰게 만들고, 새로 뽑더라도 AI를 잘 다루는 사람을 채용하는 것이 핵심”이라고 설명했다.

실제 선도 기업들은 발 빠르게 움직이고 있다. 박 CAIO가 소개한 다른 사례로, 한 대형 전자 기업은 매일 쏟아지는 방대한 고객 상담 이력을 AI로 분석하고 분류하는 시스템을 구축해 중국 기업과의 속도 경쟁에서 우위를 점하고 있다. 그는 “이 기업은 중국 회사보다 3배 이상 빠르게 일하기 위해 AI에 사활을 걸었다”고 전했다.

그는 AI 도입의 3단계 프레임워크로 ▲인식(Why) ▲실행(What) ▲확산(How)을 제시했다. 경영진부터 실무진까지 명확한 도입 목적을 공유해야 한다는 것이다. 특히 ‘확산’ 단계에 진입하기 위해서는 챗GPT 등 글로벌 범용 AI를 넘어, 기업 내부 데이터와 완벽히 연동되는 ‘커스텀 GPT’ 또는 ‘한국형 업무용 AI’ 구축이 필수적이라고 강조했다.

박 CAIO는 “글로벌 AI 모델을 전 직원에게 제공하는 것만으로는 단순 인터넷 검색 대용에 불과하다”며 “회사 내부의 메일, 메신저, 문서 등 모든 데이터를 통합하고 연동해야만 AI가 비로소 실질적인 업무를 수행할 수 있다”고 말했다.

실제 업무 현장에서 사내 전용 AI는 흩어진 기업 지식을 하나로 연결하는 역할을 수행한다. 박 CAIO는 자사의 ‘오피스 에이전트’ 적용 사례를 소개하며, 방대한 내부 문서와 업무 산출물을 AI가 학습해 임직원의 질문에 즉각 답하거나 필요한 과거 자료를 찾아주는 등 ‘지식 기반의 업무 자동화’를 구현해야 한다고 설명했다. 개개인의 PC에 갇혀 있던 정보를 전사적 자산으로 통합해 정보 검색과 단순 응대에 소모되는 시간을 줄이기 위해서다.

그는 기술적 완성도를 높이기 위한 5대 요소로 사용자 질문 능력, 데이터, 에이전트 프레임워크, RAG(검색 증강 생성), LLM(거대언어모델)을 꼽았다. 박 CAIO는 “이 5가지 중 가장 성능이 낮은 요소가 전체 시스템의 수준을 결정한다”며 “기술이 아무리 뛰어나도 직원의 활용 능력이 떨어지면 무용지물”이라고 꼬집었다.

따라서 성공적인 AI 확산을 위해서는 조직적인 관리와 협업이 뒷받침돼야 한다. 박 CAIO는 “AI 툴을 사주고 교육하는 데 그쳐서는 안 되며, 사용량을 지속적으로 모니터링하고 평가하는 ‘관리’가 수반돼야 한다”고 강조했다.

이어 “현업 부서가 문제 정의와 시도(PoC) 등 전체 과정의 주도권을 쥐고, AX TF(보안·인프라 지원)와 HR(교육 및 문화 조성)이 측면 지원하는 3자 협업 구조가 필수”라며 “동종 업계의 성공 사례가 나오기를 기다리면 이미 늦는다. 먼저 변화하고 혁신하는 기업만이 살아남을 것”이라고 역설했다.