我今年的目標：讓本地 AI 在你的手機、筆記型電腦、編碼代理、Discord、瀏覽器甚至 ESP 上變得簡單且愉快使用。 你將能夠與 Apple Watch 交談，運行本地模型進行通話，讓它為你編碼等等。 Kimi 在 150GB VRAM 上 GLM-5 在 150GB VRAM 上 MiniMax-M2.5 在 48GB VRAM 上 QuantForge 讓你可以在任何硬體上使用任何模型。選擇目標大小和校準數據集，然後進行修剪和量化。 在我的 MacBook 上工作，我正在收穫和量化一些小模型。 到年底，我將使我和任何人都能讓任何模型適應任何硬體。目前它使用本地硬體，但我將與 Prime Intellect 整合。 將添加一些共享數據集的功能，並從許多獨立組件中構建一個。