[아이뉴스24 최효경 기자] 기업의 인공지능(AI) 도입 논의가 '어떤 모델을 쓸 것인가'에서 '기존 업무 체계 안에서 성과를 어떻게 증명하고 통제할 것인가'로 옮겨가고 있다는 진단이 나왔다. 기업 고객의 관심사가 AI 자체의 도입 여부를 넘어 업무별 투자수익률(ROI), 기존 시스템 연동, 보안·거버넌스 체계로 옮겨가고 있다는 것이다.
"기업 고객, 보안·거버넌스 체계 중시"⋯성과 측정 필요성 강조
최영준 AWS 코리아 AI 기술 총괄과 권순일 업스테이지 CSO는 23일 서울 강남구 그랜드 인터컨티넨탈 서울 파르나스에서 열린 'AWS AI WAVE 2026' 기자간담회에서 이같이 논의했다.
과거에는 내부 문서를 읽고 요약·분류하는 자동화 수요가 중심이었다면, 이제는 AI가 실제 업무 시간을 얼마나 줄였는지와 비용 대비 효과를 수치로 증명해야 한다는 것이다. 권순일 CSO는 "기업 고객은 새 AI를 들이기 위해 기존 업무 시스템과 승인 절차를 전면 교체하기보다, 레거시 시스템(기존 업무 시스템)을 유지한 채 AI를 연결하는 방식을 요구하고 있다"고 설명했다.
권 CSO는 보험 문서 처리 사례를 통해 AI 도입의 성과 측정 필요성을 강조했다. 그는 "미국 보험사의 단체보험 인수심사 사례에서는 AI 기반 문서 추출을 적용한 뒤 검토 시간이 80% 이상 줄었다"며 "이전에는 AI 도입부터 논의했다면 최근에는 관련 사례에서 나타난 성과, 즉 수치를 제시하는 것이 논의의 시작점으로 옮겨가고 있다"고 했다.
"AI가 맞아도 못 맡긴다"⋯신뢰·비용이 다음 관문
양사는 AI 성능 향상만으로 기업 활용이 곧바로 늘어나지는 않을 것으로 봤다. 권 CSO는 "금융·공공 등 규제가 강한 산업에서는 AI 답변의 정확도뿐 아니라, 어떤 데이터에 접근했는지와 왜 그런 결과가 나왔는지 확인할 수 있어야 한다"고 말했다.
하지만 AI 특성상 나타나는 '블랙박스(결과 도출 과정을 알 수 없는 것)' 문제를 해결하지 못하면 신뢰도를 입증할 수 없다는 점도 강조했다. 권 CSO는 "AI가 그럴듯한 결과를 내더라도 기존 권한 체계와 업무 절차를 지키지 못하면 현장에 적용하기 어렵다"고 말했다.
이어 "기존 시스템에 있던 규칙을 최대한 활용하는 방식을 사용하되, 무엇을 참조했고 어떤 추론 과정을 거쳤는지 최대한 공개함으로써 기업 고객에 대한 신뢰도를 높이는 것이 중요해질 것"이라고 말했다.
최 총괄은 접근 권한과 데이터 범위를 제한하고, 사용 기록과 비용을 한 곳에서 관리하는 운영 기반을 갖춰야 한다고 설명했다. 그는 "단순 업무에는 상대적으로 가벼운 모델을, 복잡한 추론이 필요한 업무에는 고성능 모델을 연결하는 방식으로 비용을 조절하는 것도 필요하다"며 "업무별로 적합한 모델을 자동 연결하는 '모델 라우팅'이 기업 AI 운영의 핵심 기능으로 부상하고 있는 이유"라고 설명했다.
결국 기업 AI 경쟁은 모델 하나를 빠르게 도입하는 데서 끝나지 않는다는 전망도 이어졌다. 양사는 "명확한 업무 목표와 성과지표를 먼저 정하고, 기존 데이터·권한·보안 체계 안에서 AI를 운영할 수 있는 기반을 갖추는 기업이 실제 성과를 낼 수 있다"고 강조했다.
/최효경 기자(hyomirror@inews24.com)