Yeni çip mimarisi yapay zekâyı buluttan cihaza taşıyor
Bellek ile işlemciyi aynı katmanda birleştiren tasarım, dil modellerini telefonda çalıştırırken enerji tüketimini yarıya indiriyor.
Yarı iletken sektöründe uzun süredir beklenen bir adım nihayet laboratuvardan çıktı. Bellek hücrelerini işlem birimleriyle aynı katmanda birleştiren yeni mimari, verinin çip içinde taşınması için harcanan enerjiyi büyük ölçüde ortadan kaldırıyor.
Üretici firmanın açıkladığı test sonuçlarına göre, orta ölçekli bir dil modeli bu çip üzerinde çalışırken önceki nesle kıyasla yaklaşık yarı yarıya daha az enerji tüketiyor. Bu, akıllı telefonlarda ve dizüstü bilgisayarlarda internet bağlantısı gerektirmeyen yapay zekâ özelliklerinin önünü açıyor.
Neden önemli?
Bugün yapay zekâ özelliklerinin büyük bölümü uzak veri merkezlerinde çalışıyor. Cihaz üzerinde çalışabilen modeller hem gecikmeyi azaltıyor hem de kişisel verilerin cihazdan çıkmamasını sağlıyor.