Актуальні теми
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Інженер з досліджень fullstack/ML, переважно займаюся AI, LLM, MLX-справами
@JohnMai_Dev 3 березня 2026 року висновок моделі Qwen3.5-0.8B був успішно реалізований на чипі Apple M1 Pro, і він запускався безпосередньо за допомогою Apple Neural Engine (ANE).
Базуючись на проєкті з відкритим кодом: Безпосередньо звертайтеся до Apple Neural Engine для проривної роботи в навчанні та виведенні, багато хто вважав, що Apple не відкриє ANE для повного навчання/інференції
Раніше ANE використовувався переважно лише для інференції CoreML, вбудованого в систему, і стороннім особам було важко викликати їх напряму та ефективно, але тепер через maderix/ane можна безпосередньо використовувати ANE для запуску переднього виведення сучасних великих моделей (деякі навіть проходять навчання backprop).
І на основі невеликої моделі 0.8B, запущеної Qwen + ANE = надзвичайно низьке енергоспоживання, хороша швидкість і повна локальна приватність
M1 Pro може працювати, що означає, що багато старих користувачів Mac (серії M1/M2) раптово мають дуже ефективну опцію AI-акселератора, який є енергоефективнішим і швидшим, ніж просто використання GPU/CPU
Співпраця Ane повністю перетворила Mac на дешеву локальну AI-робочу станцію, і старі машини Apple можна порозуміти сучасною китайською великою моделлю (Qwen3.5 0.8B), відкриваючи двері для нових способів локальної та ефективної гри Mac з AI.

Найкращі
Рейтинг
Вибране
