베스핀글로벌 "AI 성패, 기술 아닌 '라스트마일'에서 갈린다"

[아이뉴스24 윤소진 기자] "인공지능(AI) 도입의 성패는 기술이 아니라 라스트마일에서 갈린다. 고객과 맞닿는 마지막 접점에서 실제 현업이 쓸 수 있는 시스템을 만들지 못하면, 아무리 좋은 기술도 의미가 없다."

한선호 베스핀글로벌 부사장(CAIO)은 31일 오후 서울 양재 엘타워에서 열린 'AI 파트너스 데이 2026'에서 "AI 도입 기업 대부분이 기술 고도화에만 집중한 나머지 실제 현업이 쓸 수 있는 시스템을 만드는 데 실패하고 있다"며 이같이 말했다.

"AI 기술 고도화만으론 부족…현업 중심 설계가 핵심"

이번 행사는 AI 도입 확산으로 생산성이 높아지는 동시에 운영 복잡성·인프라 비용·보안 리스크 등 IT 운영 부담도 함께 증가하는 'AI의 역설'을 해결하기 위한 실질적 전략을 제시하기 위해 마련됐다. 'AI의 역설, 생산성 이면의 IT가 해결해야 할 4가지 전략'을 주제로 열린 이날 행사에는 IT업계 관계자 1000여 명이 몰렸다.

키노트에서 한 부사장은 MIT 리포트를 인용해 "AI 과제를 도입하는 기업 중 실질적인 성과를 내는 곳은 5%에 불과하고, 60%는 아무런 결과를 얻지 못했다"며 실패의 구조적 원인을 세 가지로 진단했다. 기술이 비즈니스 문제를 찾아다니는 역전된 구조, 데이터 복잡성을 무시한 벡터DB 의존, 현업 사용자가 아닌 공급자 중심의 설계다.

한 부사장은 글로벌 물류 기업 사례를 들며 "창고 관리·공급망 최적화에 막대한 AI 투자를 했지만 정작 고객에게 배송되는 마지막 1km 구간에서 고객 경험이 무너졌다"고 했다. 공급자 중심의 비용 절감에만 집중한 시스템이 시장에서 외면받은 전형적인 라스트마일 실패 사례라는 설명이다.

기업들이 NL2SQL·벡터DB 등 최신 기술을 충분한 검증 없이 도입하다 실제 엔터프라이즈 환경에서 기대에 못 미치는 성과에 그치는 것도 같은 맥락이다.

한 부사장은 "정말 필요한 기술을 꼭 필요한 위치에서 활용하고 있는지 돌아봐야 한다"고 했다. 실제 AI 컨택센터 도입을 요청한 한 유통기업의 경우, 현장 진단 결과 진짜 문제는 기술이 아닌 상담사가 활용할 상품 데이터 부재였다.

이에 베스핀글로벌은 왜·어디에 집중할지 발굴하는 디스커버(Discover), 어떻게 풀지 설계하는 디자인(Design), 무엇부터 실행할지 결정하는 디사이드(Decide) 3단계 프레임워크로 고객사의 AI 여정을 지원하는 체계를 구조화했다.

한 부사장은 "AI는 이제 기술의 이슈가 아니라 경영의 이슈"라며 "올바른 과제가 성패를 가른다. 과제가 정말 우리에게 필요한지 다시 한 번 돌아보고, 작게 만들어 검증한 뒤 스케일아웃하는 과정이 중요하다"고 말했다.

"AI 에이전트, 만드는 것보다 책임 있는 운영이 먼저"

이어 최영준 AWS 데이터&AI SA 리더는 4가지 AI 역설을 극복하기 위한 에이전틱 엔지니어링 전략을 제시했다.

데이터 신뢰 문제는 'AI 레디 데이터' 구축으로, 보안 위협은 에이전트가 신뢰할 수 있는 환경에서 작동하도록 제약 조건과 피드백 루프를 설계하는 '하네스 엔지니어링'으로, 운영·비용 문제는 에이전트 행동 이력 추적과 비용·보안을 통합 관리하는 '에이전트옵스'로, 확장성 문제는 클라우드 인프라로 각각 대응한다.

최 리더는 "AI 에이전트를 만드는 게 중요한 게 아니라 어떻게 책임 있게 운영할 수 있느냐가 핵심"이라며 "AI 기술보다 비즈니스 모델과 사용자 가치에 집중하고, 작게 시작해 빠르게 실험하며 발전해 나가야 한다"고 말했다.

김수연 EY 전무는 AI 에이전트가 재무적 효과로 이어지려면 프로세스·인력·데이터 전체의 재설계가 필요하다고 강조했다. 김진유 PwC 전무는 올해 1월 시행된 AI 기본법에 대응하기 위해 AI 기획·거버넌스·심의 기구를 아우르는 3선 방화 체계 구축이 시급하다고 제언했다.

키노트 이후에는 데이터 신뢰의 역설, 보안 위협의 역설, 확장성의 역설, 운영·비용의 역설 등 4개 부문으로 나뉜 세션이 이어졌다. 데이터브릭스·HPE·Okta·클라우드플레어·몽고DB·데이터독·옵스나우 등이 각 영역별 AI 운영 전략을 공유했다.

허양호 베스핀글로벌 대표는 "오늘 행사에는 AI 에이전트 구축에 필요한 데이터·컨설팅·인프라·보안·모니터링까지 모든 파트너가 한 자리에 모였다"며 "베스핀글로벌은 단순히 인공지능(AI) 과제를 구축하고 철수하는 파트너가 아니라, 과제 선정부터 구축·운영까지 엔드투엔드로 함께하는 진정한 파트너가 되겠다"고 말했다.