최신 AI 칩 소식 - Zerogrid의 분산 추론 그리드(Distributed Inference Grid)로 AI 인프라 발전

제로 레이턴시(Zero Latency)가 분산형 AI 추론 그리드인 제로그리드(Zerogrid)의 클로즈드 베타 버전을 출시했습니다. 이는 엣지 컴퓨팅(edge computing) 용량을 최적화해 AI 워크로드의 라우팅을 개선하기 위한 것입니다. 이 새로운 인프라는 지연 시간(latency) 및 규제 요건과 같은 AI 추론의 고유한 과제를 해결하기 위해, 특정 운영 제약 조건에 맞춰 워크로드를 효율적으로 분배합니다. 제로그리드는 분산형 가상 발전소(virtual power plant)에서 영감을 받아, 컴퓨팅 용량을 관리하는 데 유사한 아키텍처 접근 방식을 활용합니다.

원문 보기 · Yahoo Finance