Aller au contenu
Voir seulementtutoriel#open source/dépôt
  1. Raspberry Pi Blog62

    Transformer la saisie de texte en actions avec Needle, un LLM de function calling de 14 Mo

    Cactus Compute présente Needle 2, un modèle de function calling de 14 Mo qui transforme des instructions en anglais en actions locales sur un Raspberry Pi 5.

    Motif de la recommandation :Un exemple concret de modèle de function calling de 14 Mo exécuté en local sur Raspberry Pi 5, avec latences et consommation mémoire mesurées.

  1. Hugging Face Blog62

    Async GRPO avec LoRA sur HF Jobs : un bucket, un proxy, sans NCCL

    TRL v1.14 prend en charge l'entraînement d'un adaptateur LoRA dans AsyncGRPOTrainer et ne synchronise que cet adaptateur vers vLLM。

    Motif de la recommandation :L'article détaille une architecture concrète pour entraîner un adaptateur LoRA avec Async GRPO sur des Jobs séparés, avec des chiffres de bout en bout et un diagnostic du goulot d'étranglement.

Fin de la liste