[아이뉴스24 문영수 기자] 지난해 생성형 AI를 써보지 않은 기업을 찾기가 오히려 어려웠다. 국내외를 막론하고 엔터프라이즈 기업의 약 80%가 생성형 AI 도입을 시도했다. 그런데 올해 경영 회의에서 "그래서 그것이 우리 업무를 무엇을 바꿨는가"라는 질문에 분명히 답할 수 있는 회사는 얼마나 될까. 실제 상용 서비스로 안착한 비율은 5%에도 미치지 못했다. 100곳이 시도해 5곳만 살아남은 셈이다.
이 간극의 이유로 흔히 세 가지가 꼽힌다. 보안과 규제 때문에 폐쇄망 안에서만 움직여야 하는 제약, 회사 안에 쌓인 문서와 자료를 AI가 읽을 수 있는 형태로 정리하지 못한 한계, 그럴듯하지만 틀린 답을 내놓는 할루시네이션 문제다. 모두 사실이다. 그러나 가장 근본적인 원인은 따로 있다. 생성형 AI가 채팅창 안의 '응답'에 머물렀을 뿐, 기업의 실제 업무 프로세스 안으로 들어가지 못했기 때문이다. AI가 써준 초안은 결국 사람이 다시 고치고 확인해야 업무에 반영될 수 있었다. 편리한 보조 도구였지만, 일을 끝내주는 동료는 아니었다.
올해 들어 이 구도가 바뀌고 있다. 변화는 예산에서 가장 먼저 드러난다. 2026년 기업의 AI 지출 증가율은 47%로, 전체 IT 지출 증가율(10.8%)의 네 배를 넘는다. 그동안 검색, 자동화(RPA), 데이터 분석(BI), 콜센터 등으로 나뉘어 있던 예산이 AI를 중심으로 통째로 재편되고 있다는 신호다. 점진적 확산이 아니라 패러다임의 전환이라고 볼 만한 변화다.
이 변화를 한마디로 요약하면 '실험의 시대에서 실행의 시대로의 이동'이다. 실험의 시대의 AI는 답변을 생성했다. 문서를 찾아 요약하고, 이메일 초안을 쓰고, 번역을 도왔다. 유용했지만 개인의 생산성을 보조하는 선에서 멈췄다. 실행의 시대의 AI는 업무를 수행하고 운영한다. 실험 삼아 써보던 도구는 핵심 업무를 상용화하는 프로젝트가 됐고, 답변만 하던 챗봇은 스스로 업무를 완결하는 에이전트로 바뀌었다.
이 변화는 현장에서 네 가지 확장으로 나타난다. 첫째, 데이터의 확장이다. 지금까지 AI는 매뉴얼이나 PDF 같은 문서를 읽고 검색하는 수준에 머물렀다. 이제는 고객 정보와 매출 수치가 담긴 기간계 데이터베이스까지 한 번에 들여다보고 답할 수 있어야 한다. 문서와 숫자, 관계 데이터를 하나의 플랫폼으로 묶어 AI가 자유롭게 넘나들게 하는 'AI를 위한 데이터(Data for AI)' 인프라가 없으면 아무리 좋은 모델도 무용지물이다.
둘째, 서비스의 확장이다. 채팅창이라는 하나의 창에 갇혀 있던 AI가 이제는 업무 시스템 자체를 만들어낸다. "부서별 매출 현황을 한눈에 보는 화면을 만들어 달라"고 말하면, 코딩 한 줄 없이 몇 분 만에 화면 설계부터 서버 구축, 배포까지 끝난 전사 대시보드가 나온다. 더 이상 먼 이야기가 아니다.
셋째, 실행의 확장이다. 답을 주는 데서 그치지 않고 실제로 일을 끝내는 '액셔너블 AI'다. 사람이 하던 것처럼 브라우저와 PC 화면을 읽고, 클릭하고, 입력한다. 여러 종류의 소프트웨어를 오가며 계획부터 실행, 검증까지 하나의 업무를 스스로 마무리하는 에이전트가 이 흐름의 중심에 있다.
넷째, 공간의 확장이다. 앞의 세 가지가 올해 현장에서 이미 확인되고 있는 변화라면, 소프트웨어 안에 머물던 AI가 로봇과 설비 같은 물리 세계로 뻗어나가는 흐름은 그 다음 장을 예고하고 있다.
제논은 지난 1년간 올해를 '생성형 AI 2.0'의 시대로 정의하고, 이 네 가지 확장이 실제 현장에서 작동하는지를 검증해 왔다. 흩어진 데이터를 AI가 바로 쓸 수 있게 묶고, 말로 설명하면 업무 포털이 만들어지고, AI가 직접 화면을 제어해 업무를 끝내는 장면을 고객사 현장에서 하나씩 확인하는 과정이었다. 그 과정에서 분명해진 것이 있다. 성패를 가른 것은 기술의 수준이 아니었다.
정작 중요한 질문은 '도구를 얼마나 갖췄는가'가 아니다. 딜로이트의 최근 조사에서 기업의 64%는 AI를 중심으로 일하는 방식 자체를 재설계하는 단계에 들어섰다고 답했다. 나머지는 여전히 기존 프로세스 위에 AI 기능을 얹는 수준에 머물러 있다. 같은 AI를 쓰더라도 한쪽은 에이전트가 실행을 맡고 사람은 판단에 집중하는 구조로 조직을 바꾸고 있고, 다른 한쪽은 예전 방식 그대로 일하면서 챗봇 하나를 더 얹었을 뿐이다. 맥킨지가 이를 '에이전틱 조직'이라 부른다. 격차는 결국 'AI를 도입했는가'가 아니라 '일하는 방식을 재설계했는가'에서 갈린다.
그래서 기업에 필요한 것은 기술 도입을 넘어선 전향적 자세다. 출발점은 성과를 재는 잣대를 바꾸는 일이다. 시범 도입(PoC)이 성공했는지, 답변 정확도가 몇 퍼센트인지로 AI의 성패를 판단하던 관성에서 벗어나, 처리 시간이 얼마나 줄었는지, 비용과 생산성이 얼마나 달라졌는지 같은 업무 KPI로 눈을 돌려야 한다. 올해 AI 프로젝트 보고서에서 '정확도' 항목을 '줄어든 처리 시간'으로 바꿔 써보는 것만으로도 조직의 질문이 달라진다.
2025년이 생성형 AI의 가능성을 확인한 실험의 시대였다면, 2026년은 그 가능성을 기업의 핵심 업무와 투자 구조 안으로 얼마나 빠르고 과감하게 들여오느냐가 경쟁력을 가르는 실행의 시대다. 실행하는 AI는 기업에게 새로운 선택지가 아니라 이미 시작된 현실이다. 준비된 조직만이 이 전환의 속도를 따라잡을 수 있다.
◇고석태 제논 대표이사
-2017.12 AI 컨설팅 기업 마인즈앤컴퍼니 설립
-前 삼성화재 경영혁신팀
-前 AT Kearney 금융 컨설팅
-KAIST 경영전문대학원(MBA) 석사 졸업
-서울대학교 학사 졸업
※외부 필진 기고는 본지 편집 방향과 다를 수 있습니다.
/문영수 기자(mj@inews24.com)