Apple właśnie zaprezentowało MacBooka Pro M5 Max, który jest potęgą AI. 4x szybsze obliczenia AI w porównaniu do M4 Max. Te specyfikacje są szalone: - 18-rdzeniowy CPU z 6 "super rdzeniami" = najszybszy rdzeń CPU na świecie - 40-rdzeniowy GPU = dorównuje RTX 4070 w laptopie - 128 GB pamięci unifikowanej = więcej niż w większości serwerów - 614 GB/s przepustowości = 4x więcej niż uzyskuje DGX Spark - 24 godziny życia baterii Teraz możesz uruchomić Llama 70B, model, który 18 miesięcy temu wymagał klastra GPU za 40 000 dolarów, na laptopie w lokalnej kawiarni. Przy ~20-30 tokenach/sek jest wystarczająco szybki, aby go faktycznie używać. Rewolucja "lokalnej AI" właśnie się rozpoczęła za 3 499 dolarów.