Hackster.io· Nick Bild·· 3 hsélectionAI Score58
Jim Bruges fait tourner GLM-5.3 à 744 milliards de paramètres sur un Arduino VENTUNO Q avec 16 Go de RAM
16 GB Ought to Be Enough for Anybody
AI Introduction
Jim Bruges a fait tourner localement Qwen3.6-35B-A3B et GLM-5.3, un modèle de 744 milliards de paramètres.
Raison de la recommandation
Le projet montre comment faire tourner un modèle de 744 milliards de paramètres sur 16 Go de RAM, avec les débits mesurés et le rôle du cache d'experts.
Source :Hackster.io · hackster.io