KBS 다큐멘터리 [미래기획 대전환]을 시청하다가 국산 NPU 제품이 나와서 GPU와의 차이가 좀 궁금했다. 주제와 어울리도록 챗GPT에게 물어봤고, 요약하자면- NPU(Neural Processing Unit)는 GPU에서 특정 기능(AI 모델 추론)만 하도록 설계되었기 때문에 효율적이다(저전력, 소형, 저비용). 그렇기 때문에 이미 학습된 AI 모델을 소비자가 사용하는 기기에 적합하다 -정도로 받아들이면 될 것 같다. 더욱 효율적일 수 있는 이유에 대해서는 어려운 부분이 많았는데, 데이터 캐싱을 통해서 외부 메모리와의 통신을 최소화하고, 부동소수점 대신 정수를 사용하여 정밀함보다 속도와 효율성을 우선시하는 설계 때문이라는 정도는 어렴풋이 이해를 할 수 있을것 같다. 아래는 챗지피티의 답변 전문이다. ..
