나무모에 미러 (일반/밝은 화면)
최근 수정 시각 : 2022-08-03 09:40:59

IPU

이 문서는 토막글입니다.

토막글 규정을 유의하시기 바랍니다.


[include(틀:다른 뜻1, other1=Invisible Pink Unicorn, rd1=보이지 않는 분홍 유니콘,
other2=Wanna One의 곡, rd2=0+1=1 (I PROMISE YOU), paragraph2=2.2)]

IPU는 Intelligence Processing Unit의 약자로 프로세서에 직접 메모리를 배치해 연산 속도를 빠르게 개선시킨 프로세서를 의미한다. IPU는 메모리가 프로세서에 내장되어 CPU(중앙처리장치)와 GPU(그래픽스 처리장치)에 비해 빠른 연산 속도를 제공하고 저전력으로 운영이 가능하다는 장점이 있다. CPU, GPU 대비 데이터 처리 속도가 10배에서 최대 100배까지 빠르고, GPU보다 전력 사용량이 2배 이상 낮다.
AI 부문에서 IPU는 학습 및 추론 모델을 메모리에 적재한 후 즉각적으로 연산할 수 있어 대응이 빠르다. GPU의 경우에는 메모리가 밖에 위치해 CPU와 D램간 데이터 전송 시간이 소요되어 지연(Latency) 문제가 발생된다.