Hackaday· Al Williams·· 2 hsélectionAI Score62
Strata exécute un LLM de 125 milliards de paramètres sur un PC de jeu
AI on Your Gaming PC
AI Introduction
Le projet Strata de Niko1221 permet d'exécuter un LLM de 125 milliards de paramètres sur du matériel de jeu.
Raison de la recommandation
L'auteur a testé en conditions réelles l'exécution d'un LLM de 125 milliards de paramètres sur un PC de jeu, avec des chiffres de débit et des limites matérielles concrètes.
Source :Hackaday · hackaday.com