이번 삼성의 갤럭시 S24에 탑재된 AI 모델은 ‘삼성 가우스(Gauss)’라 부릅니다. 가우스의 특징으로 실시간 통역, AI 사진 편집 등이 꼽히는데요. 클라우드 서버를 활용해 대용량의 모델로 처리하여 원하는 정보를 얻어와야 했던 기존과 달리, 이제는 스마트폰 하나에서도 처리할 수 있을 만큼 모델을 경량화했습니다. 무선 인터넷 연결 없이도 통역이나 AI 사진 생성 및 편집의 기능을 이용할 수 있죠.

온디바이스 AI를 개발할 수 있었던 이유로 삼성전자는 ‘비트 양자화(Bit Quantization)’를 꼽았습니다. 비트 양자화란 데이터를 표현하는 데 사용되는 비트의 수를 줄이는 과정을 말합니다. 이때 비트(Bit)는 'Binary Digit'의 줄임말로 0과 1로 이루어진, 컴퓨터에서 데이터를 표현하는 가장 기본적인 단위입니다.

‘가우스’의 경우, 스마트폰의 신경망처리장치(NPU)에서 구동이 가능하도록 32비트의 AI 모델을 4비트로 경량화했습니다. 일반적인 경우, 컴퓨터에서 데이터를 처리할 때 32비트 부동 소수점 형식으로 나타냅니다. 즉, 이진법에서 2^32가지의 다른 값을 표현할 수 있습니다. 반면, 4비트의 경우 2^4가지밖에 표현할 수 없습니다. 32비트 시스템을 활용한다면 더 정밀하게 값을 나타낼 수 있어 모델의 정확도가 훨씬 개선됩니다. 반면 4비트의 경우 훨씬 표현력이 줄어들 수밖에 없습니다.

이렇게 32비트 부동 소수점으로 표현된 정보를 4비트나 8비트 등 더 낮은 비트 시스템으로 매핑시키는 기술을 비트 양자화라고 합니다. 단순히 숫자를 매핑시키는 것보다 중요한 것은 모델의 성능을 유지하는 것입니다. 더 낮은 비트값으로 매핑하는 과정에서 반드시 정보는 손실될 수밖에 없습니다.

Learning to Quantize Deep Networks by Optimizing Quantization Intervals with Task Loss (Jung et al., 2019)

학습 가능한 양자화 간격(Learnable Quantization Intervals)을 사용한다는 것은 신경망의 가중치나 활성화 값을 양자화할 때 적용되는 간격을 고정된 값이 아닌 학습을 통해 최적화할 수 있다는 의미입니다. 일반적인 양자화 방법에서 사전에 정의된 균일한 간격(예를 들어, 모든 값을 동일한 크기의 구간으로 나누는 방법)을 사용합니다.

하지만 학습 가능한 양자화 간격을 사용하는 경우, 이 간격들이 네트워크 학습 과정에서 최적화되어 각 값이 양자화되는 정도가 데이터의 특성과 학습 목표에 더 잘 맞게 조정됩니다. 이를 Pruning과 Clipping으로 표현하는데요. 결과적으로 상한값과 하한값을 가질 수 있도록 결정합니다.

일반적으로 하나의 함수로 매핑하는 것과 달리, 해당 모델은 성능을 유지할 수 있도록 네트워크의 가중치마다 가변적으로 매핑합니다. 위의 양자화 예시에서 살펴본 것처럼, 이 간격 범위를 잘 조정한다면 손실을 줄이고 성능을 유지할 수 있습니다.

이렇게 온디바이스 AI를 구현하기 위한 비트 양자화에 대해서 알아보았습니다. 온디바이스 AI가 대중화된 시대가 온다면 우리는 모두 핸드폰이 아닌 AI 기기를 들고 다닐지도 모릅니다. 이를 위해서는 AI 반도체와 관련된 하드웨어뿐만 아니라 모델 경량화와 같은 소프트웨어의 발전도 필요합니다.

해당 연구는 2019년에 진행된 만큼 그 사이에 양자화와 관련된 더 많은 연구들이 쏟아졌습니다. 앞서 소개한 연구는 컴퓨터 비전 모델인 ImageNet에 대해서 실험을 진행했는데요. 최근 주목받고 있는 언어 모델에 대해서도 양자화 연구가 활발하게 이뤄지고 있습니다.

갤럭시 S24의 등장으로 본격적인 온디바이스AI 시대의 서막이 열렸습니다. 앞으로는 모두가 ‘내 손 안의 AI’를 들고다닐 날이 머지 않은 것 같습니다.