Il Apple Neural Engine sui M5 Pro e M5 Max ha finalmente superato il suo più grande limite storico! In precedenza, su iPhone, iPad e Mac di fascia bassa, l'ANE era già la migliore opzione hardware per l'inferenza (basso consumo energetico, alta efficienza), coprendo la stragrande maggioranza dei dispositivi Apple. Tuttavia, sui Mac di fascia alta (serie Pro/Max), la larghezza di banda della memoria dell'ANE è sempre stata molto inferiore a quella della GPU, rendendo difficile l'espansione a modelli più grandi/carichi di lavoro con batch più grandi → questo è diventato il principale "handicap" dell'ANE. Ora, M5 Pro / M5 Max ha risolto questo problema (probabilmente aumentando notevolmente la larghezza di banda della memoria dell'ANE, permettendogli di competere in modo più equo con la GPU). L'ANE potrà finalmente esprimere il suo potenziale sui Mac di fascia alta, e in futuro l'AI locale (soprattutto l'inferenza efficiente e a basso consumo) subirà un'impennata.

Apple ha appena lanciato il nuovo MacBook Pro con M5 Pro e M5 Max La cosa interessante è che è progettato con un chip piccolo! La CPU sia dell'M5 Pro che dell'M5 Max è la stessa CPU a 18 core, che include 6 core super e 12 core di prestazioni, ma la GPU è rispettivamente di 20 core per la versione Pro e 40 core per la versione Max.

Un ingegnere di ricerca full-stack/ML, che si occupa principalmente di AI, LLM e MLX. @JohnMai_Dev ha realizzato con successo l'inferenza del modello Qwen3.5-0.8B sul chip Apple M1 Pro il 3 marzo 2026, utilizzando direttamente l'Apple Neural Engine (ANE). Basato su un progetto open source: un lavoro innovativo che chiama direttamente l'Apple Neural Engine per l'addestramento e l'inferenza, prima molti pensavano che Apple non aprisse l'ANE per un addestramento/inferenza completo. In passato, l'ANE era principalmente utilizzato per l'inferenza di CoreML integrato nel sistema, ed era difficile per i terzi chiamarlo in modo diretto ed efficiente. Ora, grazie a maderix/ANE, è possibile utilizzare direttamente l'ANE per l'inferenza in avanti di moderni grandi modelli (alcuni stanno già facendo addestramento backprop). E basato sul modello piccolo 0.8B lanciato da Qwen + ANE = consumo energetico estremamente basso, velocità abbastanza buona, privacy completamente locale. L'M1 Pro può eseguirlo, il che significa che un gran numero di vecchi utenti Mac (serie M1/M2) ha improvvisamente un'opzione di accelerazione AI molto efficiente, più economica in termini di energia e più veloce rispetto all'uso solo di GPU/CPU. La combinazione di ANE trasforma completamente il Mac in una stazione di lavoro AI locale economica; anche le vecchie macchine Apple possono eseguire l'inferenza di moderni grandi modelli cinesi (Qwen3.5 0.8B), aprendo la porta a nuove modalità di AI locale e efficiente su Mac.