▁Une▁nouvelle architecture de▁puce▁apporte l'IA du cloud à▁votre▁appareil
La▁combinaison de la▁mémoire et du▁traitement dans la▁même▁couche▁réduit de▁moitié la▁consommation d'énergie▁lors de l'exécution de▁modèles de langue sur les▁téléphones.
▁Une▁étape▁tant▁attendue dans l'industrie des semi-conducteurs a▁finalement▁quitté le▁laboratoire.▁Une▁nouvelle architecture combine des▁cellules▁mémoire et des▁unités de▁traitement dans la▁même▁couche,▁réduisant considérablement l'énergie▁dépensée pour▁déplacer les▁données dans la▁puce.
▁Selon les tests du▁fabricant, un▁modèle de langue de▁taille▁moyenne▁utilise environ la▁moitié▁autant d'énergie sur▁cette▁puce que sur la▁génération▁précédente.▁Cela▁ouvre la▁voie aux▁fonctionnalités d'IA▁hors▁ligne sur les▁téléphones et les▁ordinateurs▁portables.
▁Pourquoi est-ce important ?
La▁plupart des▁fonctionnalités d'IA▁fonctionnent▁aujourd'hui dans des centres de▁données distants. Les▁modèles sur les▁appareils▁réduisent la latence et▁conservent les▁données▁personnelles sur l'appareil.