MAVİ ÇEKİRDEK EKOSİSTEMİ // INTELLIGENCE BEYOND BORDERS
%100 Yerli Ar-Ge & Teknoloji • Teknopark İstanbul, Teknoloji Geliştirme Bölgesi, Pendik / İstanbul • iletisim@ukbilig.com.tr
Uçta Yapay Zekâ

TinyML: Mikroişlemcilerde 4-Bit Ağırlık Kuantizasyonu (INT4) ile %85 Enerji Tasarrufu

TinyML: Mikroişlemcilerde 4-Bit Ağırlık Kuantizasyonu (INT4) ile %85 Enerji Tasarrufu

Bulut sunucularındaki gigawatt tüketen yapay zekâ modellerinin aksine; tarlada ve cihaz içinde bir düğme pille yıllarca çalışabilen TinyML derin öğrenme modellerinin matematiği ve silikon optimizasyonları.

1. Uçta Enerji Bütçesi Çıkmazı

Saha sensörleri ve endüstriyel uç cihazlar çoğu zaman şebeke elektriğine erişimi olmayan, pil veya küçük güneş panelleriyle çalışan sistemlerdir. Tipik bir 32-bit kayan noktalı (FP32) sinir ağı çıkarımı, her bir matris çarpımında onlarca nanojoule enerji tüketir. Bu durum pilli bir cihazın ömrünü haftalara düşürmektedir.

2. 4-Bit Simetrik Kuantizasyon ve Look-Up Aritmetiği

UKBİLİG donanım mühendisleri, derin sinir ağı ağırlıklarını 4-bitlik işaretli tamsayı (INT4) formatına indirgeyen özgün bir kuantizasyon şeması geliştirmiştir. Ağırlık aralıkları dinamik blok ölçekleme ile korunmuş; aktivasyon fonksiyonları ise çip üzerinde doğrudan arama tabloları (LUT) ile donanımsal olarak hızlandırılmıştır.

3. Doğruluk Kaybı Olmadan %85 Tüketim Düşüşü

Görüntü ve titreşim anomali tespiti modellerinde INT4 sıkıştırması sonucunda model boyutu %75 küçülmüş, RAM ayak izi 64 KB sınırının altına inmiş ve döngü başına enerji tüketimi %85.3 oranında azalmıştır. Model doğruluk kaybı ise %0.4 seviyesinde kalmıştır.

UKBİLİG Ar-Ge Temel Çıkarımı: Pilli sensör düğümlerinde derin sinir ağlarının doğruluktan ödün vermeden mikro-amper seviyesinde çalıştırılmasını sağlayan tamsayı kuantizasyon algoritmaları.
#TinyML #INT4 Kuantizasyon #NPU #Uç YZ #Düşük Güç

Diğer Araştırma Yazıları