A Apple acabou de lançar o MacBook Pro M5 Max e ele é uma potência de IA. Computação de IA 4x mais rápida do que M4 Max. Essas especificações são insanas: - CPU de 18 núcleos com 6 "super cores" = núcleo de CPU mais rápido do mundo - GPU de 40 núcleos = rivaliza com uma RTX 4070 em um laptop - 128GB de memória unificada = mais do que a maioria dos servidores - 614 GB/s de largura de banda = 4x o que um DGX Spark recebe - Duração da bateria de 24 horas Agora você pode rodar o Llama 70B, um modelo que exigiu um cluster de GPU de $40.000 há 18 meses, em um laptop na sua cafeteria local. Com ~20-30 tokens/seg, é rápido o suficiente para realmente usar. A revolução da "IA local" acabou de ser lançada por $3.499.