[아이뉴스24 최효경 기자] 프렌들리AI와 올라마(Ollama)는 서울에서 국내 기업 경영진과 개발자를 대상으로 오픈 인공지능(AI) 모델의 도입·운영 전략을 논의하는 공동 행사를 열었다고 17일 밝혔다.

양사는 지난 4일 기업 경영진 대상 프라이빗 디너와 5일 개발자 밋업을 각각 개최했다. 경영진 행사에서는 모델·데이터·인프라에 대한 통제권과 오픈 모델 활용 전략 논의가 이어졌다.
프렌들리AI는 긴 맥락을 반복 활용하는 AI 에이전트 환경에서 키-값(KV) 캐시 재사용, 그래픽처리장치(GPU) 자원 활용, 추론 요청 분산 방식 등을 소개했다. 올라마는 오픈 모델을 개발 도구와 업무 흐름에 연동하는 방법을 공유했다.
양사는 지난달 15일 국내 기업의 오픈 모델 도입 확대를 위한 파트너십을 발표한 뒤 약 3주 만에 서울 행사를 열었다. 당시 양사는 올라마가 개발자의 모델 탐색·실행을 맡고, 프렌들리AI가 실제 서비스 환경의 추론 성능과 비용 효율을 담당하는 역할 분담을 제시했다.
전병곤 프렌들리AI 대표는 "이제 중요한 것은 우수한 모델을 선택하는 것뿐 아니라 실제 서비스 환경에서 얼마나 빠르고 안정적이며 비용 효율적으로 운영하는가"라고 말했다.
/최효경 기자(hyomirror@inews24.com)