[아이뉴스24 최효경 기자] 아마존웹서비스(AWS)는 파이토치(PyTorch)로 작성한 AI 모델 코드를 다시 손보지 않고 자체 AI 칩 '트레이니움'에서 실행할 수 있게 하는 '토치뉴런(TorchNeuron)'을 아파치 2.0 라이선스 기반 오픈소스로 공개했다고 27일 밝혔다.
개발자는 코드가 실행될 칩을 지정하는 설정만 바꾸면 기존 파이토치 코드를 트레이니움2와 트레이니움3에서 네이티브 방식으로 실행할 수 있다.
AI 모델 개발자가 새로운 칩을 활용하려면 기존 코드를 해당 하드웨어 환경에 맞게 재작성하고 검증해야 하는 경우가 많다. AWS는 토치뉴런으로 이 같은 소프트웨어 전환 부담을 줄여, 자체 AI 칩 도입 장벽을 낮추겠다는 전략이다.
토치뉴런은 파이토치에 내장된 하드웨어 등록 메커니즘과 연동하는 방식으로 작동한다. 개발자는 기존에 쓰던 모델 테스트, 디버깅, 분산 학습 도구를 트레이니움 환경에서도 활용할 수 있다. AWS는 음성 AI 기업 카르테시아와 리버 뇌발달연구소 등을 비롯해 로보틱스, 영상, 월드 모델, 자율주행, 신약 개발, 금융 분야 기업이 토치뉴런 기반 개발을 진행한다.
토치뉴런은 파이토치의 분산 학습 프레임워크 '토치타이탄(TorchTitan)'과도 통합됐다. 하나의 모델을 여러 칩에 나눠 학습하는 완전 샤딩 데이터 병렬 처리(FSDP) 방식으로 다수의 트레이니움 인스턴스에 학습 작업을 확장할 수 있다.
/최효경 기자(hyomirror@inews24.com)