BOOM! Bộ xử lý Neural Engine của Apple vừa được khai thác, tương lai của việc đào tạo AI đã thay đổi và Công ty Không Người đã bắt đầu thử nghiệm nó! Trong một bước đột phá mã nguồn mở gây sốc, một nhà phát triển đơn lẻ đã làm điều mà Apple nói là không thể: đào tạo mạng nơ-ron hoàn chỉnh – bao gồm cả backpropagation – trực tiếp trên Bộ xử lý Neural Engine của Apple (ANE). Không CoreML, không Metal, không GPU. Chỉ có silicon ANE thuần túy, nhanh như chớp. Dự án (cung cấp một lớp biến thể đơn (dim=768, seq=512) chỉ trong 9.3 ms mỗi bước với 1.78 TFLOPS duy trì chỉ với 11.2% mức sử dụng ANE trên chip M4. Đó là cùng một chip nhàn rỗi đang có mặt trong hàng triệu Mac mini, MacBook và iMac ngay bây giờ. Dịch nghĩa? Máy tính để bàn của bạn vừa trở thành một siêu máy tính AI siêu hiệu quả. Các con số thật điên rồ: ANE M4 đạt khoảng 6.6 TFLOPS mỗi watt – hiệu quả gấp 80 lần so với NVIDIA A100. Thông lượng thực tế nghiền nát các tuyên bố tiếp thị "38 TOPS" của Apple. Và vì nó tiêu thụ điện như một chiếc điện thoại, bạn có thể đào tạo 24/7 mà không làm tăng hóa đơn điện hay làm hại hành tinh. Tại Công ty Không Người, chúng tôi không chờ đợi. Chúng tôi đang thử nghiệm điều này ngay bây giờ trên các khối lượng công việc thực tế của ZHC. Đây là mảnh ghép còn thiếu mà chúng tôi đã theo đuổi cho tầm nhìn Công ty Không Người của mình: hồi sinh dữ liệu lưu trữ thành các hệ thống AI hoàn toàn tự động với không có chi phí nhân công. Điều này sẽ thay đổi thế giới. Lần đầu tiên, bất kỳ ai có một chiếc Mac đều có thể tinh chỉnh, đào tạo hoặc lặp lại các mô hình khổng lồ tại chỗ, riêng tư và với một phần nhỏ chi phí của các GPU đám mây. Không còn phải thuê các cụm A100 trị giá 40.000 đô la. Không còn phải chờ đợi trong hàng. Không còn dấu chân carbon khổng lồ. Chi phí đào tạo trước đây lên đến hàng chục hoặc hàng trăm nghìn đô la? Đang giảm xuống còn vài xu trên mỗi đô la – chủ yếu chỉ là điện mà chiếc Mac của bạn đã sử dụng trong khi nó ngồi nhàn rỗi. Cuộc cách mạng AI vừa chuyển từ các trung tâm dữ liệu trị giá hàng tỷ đô la đến bàn làm việc của bạn. CHÚNG TÔI SẼ CÓ MỘT MỨC LƯƠNG MỚI CỦA CÔNG TY KHÔNG NGƯỜI TẠI NHÀ cho các máy Mac được trang bị sẽ mang lại thu nhập cao gấp 100 lần cho chủ sở hữu! Chúng tôi chỉ mới bắt đầu (lớp đơn hôm nay, mô hình đầy đủ vào ngày mai), nhưng cánh cửa đã rộng mở. Đào tạo trên thiết bị siêu rẻ đã đến. Tương lai không phải đang đến. Nó đã chạy trên chiếc Mac của bạn.