기업용 에이전트 AI, ‘똑똑함’보다 ‘통제 가능성’이 우선

[산업일보]
인공지능(AI)은 이제 단순히 질문에 답하는 수준을 넘어, 사용자의 명령에 따라 스스로 알맞은 계획을 세우고 필요한 행동을 수행하는 ‘에이전트 AI’로 진화하고 있다. 그러나 기업의 워크플로우에 이를 바로 적용하기엔 한계가 있다는 지적이 나온다, AI의 ‘유능함’은 회사의 규칙 안에서 통제할 수 있어야 한다는 것이다.

AI 스타트업 업스테이지(Upstage)의 김성훈 대표는 20일 서울 코엑스(COEX)에서 열린 ‘AWS 서밋 서울 2026(AWS Summit Seoul 2026)’의 기조연설자로 나서 ‘자율형과 절차형 에이전트 시대에 우리는 무엇을 준비해야 하는가’를 주제로 발표했다.

그는 “에이전트 AI 시대가 도래했지만, 실제 업무 현장에서는 여전히 방대한 양의 일이 수작업으로 진행되고 있다”라며 “문제는 에이전트 AI를 도입할 때 실무 역량 못지않게, 기업 내부의 절차를 반영해 작동하도록 구현하는 것이 중요하다”라고 말했다.

이어 “아무리 똑똑한 직원을 채용했다고 하더라도 알아서 하게 하지 않고, 회사의 프로토콜에 따라 일하는 법을 가르친 뒤 그 안에서 일하게 한다”라며 “어떤 업무든 재현·설명 가능해야 하며, 오류를 수정할 수 있어야 하고, 관리자의 승인 절차가 필요하다”라고 강조했다. 개인들이 사용하는 자율형 에이전트 AI로는 이러한 절차를 구현하기 어렵다는 것이다.

김 대표는 “업스테이지는 절차형 에이전트 AI가 기업의 비즈니스 환경에 빠르게 적용할 수 있다고 보고, ‘업스테이지 스튜디오(Upstage Studio)’를 개발하고 있다”라고 전했다.

이 솔루션은 문서에서 정보를 추출하고 분류해, 재가공할 수 있게 지원한다. 가공된 데이터는 재연 및 설명, 관리자 승인, 자동 개선 등을 쉽게 구현할 수 있다.

솔루션을 의료 현장에 도입한 사례도 함께 소개했다. 다른 병원에서 전원해 온 환자의 자료를 솔루션에 입력하면, 데이터를 자동으로 분류해 중요한 정보를 제시하고 결과를 요약한다. 또 해당 데이터가 문서 내 어느 부분에 있는지 출처를 표시할 수 있다.

그는 “솔루션을 도입한 병원에서는 기존 20분 이상 걸렸던 의무기록 검토 시간이 5분으로 단축됐다”라며 “이외에도 금융·제조·물류·헬스케어 등 다양한 산업에서 솔루션을 활용 중”이라고 덧붙였다.

김성훈 대표는 “에이전트 AI 시장에서 오픈클로(OpenClaw)와 같은 자율형 에이전트 서비스는 더욱 성장할 것”이라며 “그러나 업무적인 영역에서는 절차형 에이전트가 여전히 중요하다”라고 강조했다.

그러면서 “업스테이지는 절차형 에이전트에 집중하면서, 향후 자율형 에이전트까지 통합한 기업 업무용 에이전트 AI 서비스로 점차 발전시켜 나가겠다”

‘아마존웹서비스(Amazon Web Services Korea, AWS)’가 개최한 AWS 서밋 서울 2026은 코엑스에서 21일까지 진행한다.