Tether AI Research publie BotPsy, un modèle d'agent de 0,8B pour l'assistant personnel embarqué
BotPsy: On-Device Personal Assistant with a Sub-Billion-Parameter Agentic Language Model
Tether AI Research publie BotPsy, un modèle de 0,8B paramètres construit sur Qwen3.5-0.8B et destiné à l'appel de fonctions et aux workflows agentiques sur appareil. Il devance les modèles testés de 1,2B paramètres ou moins sur cinq des six benchmarks d'outils et d'agent, avec par exemple BFCL v4 à 44,0 contre 23,4 pour son modèle de base et τ-bench à 51,5 contre 23,2. Les poids seront diffusés sous licence Apache 2.0 en bf16, Q8 et Q4, en safetensors et GGUF pour le SDK QVAC et llama.cpp, pour un usage de recherche et d'éducation.
Un modèle de 0,8B atteint des performances d'appel d'outils proches de modèles 2,5 fois plus grands, avec les recettes d'entraînement détaillées.
Source :Hugging Face Blog · huggingface.co