Apple ha appena lanciato il MacBook Pro M5 Max ed è una potenza di AI. 4 volte più veloce nel calcolo AI rispetto all'M4 Max. Queste specifiche sono pazzesche: - CPU a 18 core con 6 "super core" = il core CPU più veloce al mondo - GPU a 40 core = rivale di una RTX 4070 in un laptop - 128GB di memoria unificata = più della maggior parte dei server - 614 GB/s di larghezza di banda = 4 volte ciò che ottiene un DGX Spark - 24 ore di durata della batteria Ora puoi eseguire Llama 70B, un modello che richiedeva un cluster GPU da $40.000 18 mesi fa, su un laptop nel tuo bar locale. A ~20-30 token/sec è abbastanza veloce da essere effettivamente utilizzabile. La rivoluzione dell'"AI locale" è appena stata lanciata per $3.499.