Apple Neural EngineはついにM5 ProとM5 Maxにおける最大の制限から解放されました! 以前はiPhone、iPad、低価格帯のMacでは、ANEはすでに最良の推論ハードウェア(低消費電力・高効率)であり、Appleの大多数のデバイスをカバーしていました。 しかし、ハイエンドMac(Pro/Maxシリーズ)では、ANEのメモリ帯域幅は常にGPUに比べてかなり低く、より大きなモデルや大量のワークロードへのスケーリングが難しくなっています→これがANEの主な「弱点」となっています。 しかし、M5 Pro / M5 Maxはこの問題を解決しています(これによりANEのメモリ帯域幅が大幅に増加し、GPUとより公平に競争できるようになっています)。 ANEはついにハイエンドMacでその潜在能力を真に発揮できるようになり、特に高効率で低消費電力の推論において、ローカルAIの爆発的な進歩が期待されます。