AMD는 지난 화요일 인공지능을 위한 가장 진보된 GPU인 MI300X 칩이 올해 말에 고객에게 배송을 시작할 것이라고 발표했습니다.
분석가들에 따르면 AMD의 발표는 현재 80% 이상의 시장 점유율로 AI 칩 시장을 장악하고 있는 엔비디아에 대한 가장 강력한 도전입니다.
“GPU는 채팅 GPT와 같은 최첨단 AI 프로그램을 구축하기 위해 OpenAI와 같은 회사에서 사용하는 칩입니다.“
가속기라고 부르는 AMD의 AI 칩이 개발자들과 서버 제조업체들에게 엔비디아 제품의 대체품으로 받아들여진다면, 기존 CPU로 가장 잘 알려진 AMD에게는 큰 미개척 시장의 첫 발을 디디게 될 것으로 예상됩니다.
AMD의 CEO 리사 수는 화요일 샌프란시스코에서 투자자와 분석가들에게 AI가 회사의 “가장 크고 전략적인 장기 성장 기회이며, 데이터 센터 AI 가속기 시장에서 올해 약 300억 달러에서 연간 50% 이상의 복합 성장률로 2027년에는 1,500억 달러 이상으로 성장할 것으로 생각합니다.”라고 Su는 말했습니다.
AMD는 가격을 공개하지 않았지만 30,000달러 이상으로 예상되는 H100과 같은 엔비디아의 GPU에 가격 압박을 가할 수 있습니다. GPU 가격을 낮추면 생성 AI 애플리케이션을 서비스하는 데 드는 높은 비용을 줄일 수 있습니다.
엔비디아의 독주를 막을 새로운 AI 칩 MI300X
AMD는 새로운 MI300X 칩과 CDNA 아키텍처가 대형 언어 모델과 다른 최첨단 AI 모델을 위해 설계되었다고 말했습니다.
MI300X는 최대 192GB의 메모리를 사용할 수 있는데, 이것은 다른 칩보다 훨씬 큰 AI 모델에 장착할 수 있다는 것을 의미합니다. 예를 들어 엔비디아의 경쟁 제품인 H100은 120GB의 메모리만 지원합니다.
생성 AI 애플리케이션을 위한 대형 언어 모델은 점점 더 많은 계산을 실행하기 때문에 많은 메모리를 사용합니다. AMD는 Falcon이라고 불리는 400억 파라미터 모델을 실행하는 MI300X를 시연했습니다. 오픈 AI의 GPT-3 모델은 1,750억 개의 매개변수를 가지고 있습니다.
“AMD 칩에 메모리가 추가되면 개발자들이 GPU만큼 필요하지 않을 것이라고 언급하면서 모델 크기가 훨씬 커지고 있으며 최신 대형 언어 모델을 실행하려면 실제로 여러 개의 GPU가 필요합니다.”라고 AMD CEO 리사 수가 말했습니다.
AMD는 또한 8개의 M1300X 가속기를 하나의 시스템에 결합한 인피니티 아키텍처를 제공할 것이라고 말했습니다. 엔비디아와 구글은 AI 애플리케이션을 위해 8개 이상의 GPU를 하나의 박스에 결합하는 유사한 시스템을 개발했습니다. AI 개발자들이 역사적으로 엔비디아 칩을 선호하는 한 가지 이유는 칩의 핵심 하드웨어 기능에 액세스할 수 있는 CUDA라는 잘 개발된 소프트웨어 패키지를 가지고 있기 때문입니다.
AMD는 화요일에 ROCM이라고 부르는 AI 칩을 위한 자체 소프트웨어를 보유하고 있다고 말했습니다. AMD의 Victor Peng 사장은 “이 여정이 시작되는 동안 우리는 모델, 라이브러리, 프레임워크 및 도구의 개방형 에코 시스템과 함께 작동하는 강력한 소프트웨어 스택을 구축하는 데 큰 진전을 이루었습니다.”라고 말했습니다.
< 참고 : AMD reveals new A.I. chip to challenge Nvidia’s dominance >