Diffusers intègre Nunchaku Lite pour l'inférence de diffusion en 4 bits
Diffusers prend désormais en charge nativement les checkpoints Nunchaku Lite : il suffit d'appeler from_pretrained() pour charger un modèle quantifié en 4 bits.
Motif de la recommandation :L'intégration native de Nunchaku Lite dans Diffusers permet de charger des checkpoints 4 bits avec from_pretrained() et de quantifier de nouvelles architectures via diffuse-compressor.