최근 출시되는 최신 스마트폰을 보면 참 신기한 기능이 많습니다.비행기 모드를 켜서 인터넷을 완전히 끊어도상대방의 외국어를 내 한국어로 실시간 통역해 주고,사진 속 배경에 찍힌 행인을 손가락으로 쓱 문지르면 감쪽같이 지워줍니다. 과거에는 거대한 데이터 센터의 컴퓨터들이 대신 계산해 주어야 했던복잡한 인공지능(AI) 기능들이,이제는 어떻게 내 손바닥만 한 기기 안에서 곧바로 구동되는 걸까요? 이것을 테크 용어로 ‘온디바이스 AI(On-Device AI)’라고 부릅니다.그리고 이 혁신을 가능하게 만든 두 가지 숨은 공신이바로 하드웨어의 NPU와 소프트웨어의 양자화(Quantization) 기술입니다. 1. NPU(신경망처리장치)란 무엇인가?컴퓨터나 스마트폰 안에는 계산을 담당하는 여러 두뇌(반도체)가 들어있습..
