최근 AI 산업 성장으로 인해서 일상생활에서 우리가 보는 텍스트, 이미지, 동영상 등에서도 인공지능 기술이 접목된 서비스를 쉽게 볼 수 있습니다.
AI 성장과 함께 인공지능 개발에 필수적인 핵심적인 부품들이 관심을 받고 있으며, 그중 AI의 핵심이라 볼 수 있는 NPU 개발에 빅테크 반도체 업계뿐 아니라 스타트 업계에서도 힘을 쏟고 있습니다.
오늘은 AI 성장에 핵심인 NPU를 중심으로 CPU와 GPU와 비교해서 알아보겠습니다.
NPU란?
NPU는 Neural Processing Unit의 약자로 인공지능 작업을 위해 특별히 설계된 하드웨어입니다. 주로 AI 설계에 사용되는 만큼 CPU(중앙 처리 장치), GPU(그래픽 처리 장치)보다 한 단계 진화한 프로세서로 인공지능 딥 러닝이나 AI 알고리즘에 사용되는 연산에 활용되고 있습니다. 인공 신경망을 효율적으로 처리해 빠르고 효율적으로 작업을 수행할 수 있습니다.
CPU
컴퓨터 구성의 중심이 되는 중앙처리장치로 데이터를 처리하는 주요 장치입니다. 기본적으로 이진법의 개념인 0과 1로 구성된 명령어를 받아들여 0과 1의 조합으로 된 계산을 출력해 냅니다. 가상 메모리를 관리하고 알고리즘에 따라 작업들을 순위를 지정하는 등 컴퓨터의 두뇌 역할을 수행합니다.
복잡한 단일 연산 처리에는 뛰어난 장점을 가지고 있지만, 명령을 하나씩 순서대로 처리하기 때문에 다중처리에 효율이 떨어지는 단점이 있습니다.
GPU
컴퓨터가 고사양화되면서 3D 그래픽이 도입되었고 CPU 만으로 작업을 하기에는 부족했습니다. GPU는 CPU의 그래픽 작업이나 픽셀로 이루어진 영상을 처리하는 용도로 존재하게 되었으며 이뿐만 아니라 과학 계산, 인공지능, 딥러닝을 할 때 사용됩니다.
순서에 상관없이 한 번에 여러 가지 작업을 동시에 할 수 있는 병렬형 구조라 계산과 연산에 장점이 있습니다.
CPU와 GPU의 차이점
CPU와 GPU는 서로 공통점이 많고 중요한 부품이지만 차이점도 많습니다. CPU는 여러 명령어를 입력되는 순서대로 데이터를 처리하는 직렬 처리 방식을 이용하지만, GPU는 여러 명령어를 동시에 처리하는 병렬 처리 방식을 가지고 있습니다. 또한 GPU는 CPU보다 기본적인 사칙연산이 빠릅니다.
NPU는 왜 AI에 활용되는가?
현재는 AI 기술 개발의 많은 부분에서 GPU 기반으로 진행되고 있으며, 그와 함께 GPU를 제조하는 엔비디아의 기술력이 부각 받고 있습니다.
그러나 GPU의 개발 목적이 그래픽 처리이기 때문에 AI 처리에는 한계가 있습니다. GPU로 빅데이터 인공지능을 처리하기 위해서는 두뇌(CPU) 역할을 하는 코어의 수를 늘려야 하기 때문에 그만큼 전력 소비가 많아지게 되는 구조와 많은 GPU가 필요하게 되어 비용적인 부담이 문제가 되고 있습니다.
NPU는 사람의 뇌를 모방해 만들었기 때문에 효율로 보면 GPU의 10배, CPU의 40배에 달하는 성능을 가지고 있습니다. 따라서 AI 처리에서는 제일 적합한 반도체로 GPU와 대비해 높은 효율을 낼 수 있으며 비용적 측면에서 가장 큰 장점을 가지고 있습니다.
현재 AI에 사용되고 있는 대표적인 NPU는 아래와 같습니다.
* 애플 A14 Bionic
* 엔비디아 Tesla T4
* AMD Instinct MI100
* 인텔 Nervana Neural Network Processor
* 마이크로소프트 Azure Neural Processing Unit
마치며
AI 기술 열풍과 함께 엔비디아의 성장세가 눈에 띄는 한 해가 되고 있습니다.
엔비디아 투자자로써 투자하고 있는 기업의 제품과 한계 그리고 대안에 대해 공부해 보고 그 내용을 간단하게 포스팅해 봤습니다. 전공자가 아니기에 부족한 부분이 있을 수 있으니 잘못된 부분이 있으면 지적 부탁드리겠습니다.
감사합니다.
