오케스트로 "AI 인프라 경쟁력, GPU 확보 넘어 운영 효율이 좌우"

[아이뉴스24 최효경 기자] 인공지능(AI) 인프라 소프트웨어 기업 오케스트로 그룹(의장 김민준)은 AI 인프라에 대한 고객 관심이 'GPU 확보'에서 '추론 성능과 운영 효율'로 이동하고 있다고 7일 밝혔다.

오케스트로는 지난 7월 28일 서울 코엑스 오디토리움에서 열린 테크 콘퍼런스 'OPUS 2026'를 통해 이같은 분위기를 확인했다고 설명했다. 오케스트로는 현장 수요를 종합한 결과, AI 인프라 경쟁력을 판단하는 기준이 GPU 확보 자체에서 실제 운영 성과로 옮겨가고 있다고 분석했다. 응답 속도와 처리 성능을 높이는 동시에 운영 비용과 복잡성을 관리할 수 있는지가 핵심 기준으로 떠오르고 있다는 것이다.

실제 최근 기업·공공기관 IT 종사자 1703명을 대상으로 진행한 조사 결과, AI 인프라 또는 추론 환경을 운영할 때 가장 큰 부담으로 GPU 서버 비용(36.9%)과 AI 인프라 전문 인력 부족(36.5%)이 꼽혔다. AI 인프라 구축·운영 경험이 부족하다는 응답도 22.2%를 차지했다.

AI 추론 플랫폼을 선택할 때는 추론 성능과 응답 속도(20.2%), GPU 활용률과 비용 효율(19.2%), 기존 인프라 및 클라우드 환경과의 연계성(16.7%)을 중요하게 고려하는 것으로 나타났다.

오케스트로는 이번에 확인한 현장 수요와 조사 결과를 바탕으로 기업과 공공기관의 AI 인프라 운영 과제에 대응해 나갈 계획이다.