Der Apple Neural Engine hat endlich seine größte historische Einschränkung auf dem M5 Pro und M5 Max überwunden! Früher war der ANE auf iPhone, iPad und Low-End Macs die beste Hardware-Option für Inferenz (geringer Stromverbrauch, hohe Effizienz) und deckte den Großteil der Apple-Geräte ab. Aber auf High-End Macs (Pro/Max-Serie) war die Speichermedienbandbreite des ANE immer viel niedriger als die der GPU, was dazu führte, dass er sich nicht gut auf größere Modelle / größere Batch-Arbeitslasten skalieren ließ → das wurde zur Haupt"Behinderung" des ANE. Jetzt haben M5 Pro / M5 Max dieses Problem gelöst (sehr wahrscheinlich die Speichermedienbandbreite des ANE erheblich erhöht, sodass er fairer mit der GPU konkurrieren kann). Der ANE wird auf High-End Macs endlich sein volles Potenzial entfalten können, und in Zukunft wird die lokale KI (insbesondere effiziente, energiearme Inferenz) einen explosionsartigen Anstieg erleben.