Raspberry Pi Blog· Ashley·· 11 jsélectionAI Score62
Transformer la saisie de texte en actions avec Needle, un LLM de function calling de 14 Mo
Turn text input into actions with Needle, a 14MB function-calling LLM
AI Introduction
Cactus Compute présente Needle 2, un modèle de function calling de 14 Mo qui transforme des instructions en anglais en actions locales sur un Raspberry Pi 5.
Raison de la recommandation
Un exemple concret de modèle de function calling de 14 Mo exécuté en local sur Raspberry Pi 5, avec latences et consommation mémoire mesurées.
Source :Raspberry Pi Blog · raspberrypi.com