Bulut sunucularındaki gigawatt tüketen yapay zekâ modellerinin aksine; tarlada ve cihaz içinde bir düğme pille yıllarca çalışabilen TinyML derin öğrenme modellerinin matematiği ve silikon optimizasyonları.
1. Uçta Enerji Bütçesi Çıkmazı
Saha sensörleri ve endüstriyel uç cihazlar çoğu zaman şebeke elektriğine erişimi olmayan, pil veya küçük güneş panelleriyle çalışan sistemlerdir. Tipik bir 32-bit kayan noktalı (FP32) sinir ağı çıkarımı, her bir matris çarpımında onlarca nanojoule enerji tüketir. Bu durum pilli bir cihazın ömrünü haftalara düşürmektedir.
2. 4-Bit Simetrik Kuantizasyon ve Look-Up Aritmetiği
UKBİLİG donanım mühendisleri, derin sinir ağı ağırlıklarını 4-bitlik işaretli tamsayı (INT4) formatına indirgeyen özgün bir kuantizasyon şeması geliştirmiştir. Ağırlık aralıkları dinamik blok ölçekleme ile korunmuş; aktivasyon fonksiyonları ise çip üzerinde doğrudan arama tabloları (LUT) ile donanımsal olarak hızlandırılmıştır.
3. Doğruluk Kaybı Olmadan %85 Tüketim Düşüşü
Görüntü ve titreşim anomali tespiti modellerinde INT4 sıkıştırması sonucunda model boyutu %75 küçülmüş, RAM ayak izi 64 KB sınırının altına inmiş ve döngü başına enerji tüketimi %85.3 oranında azalmıştır. Model doğruluk kaybı ise %0.4 seviyesinde kalmıştır.