Initial commit: LocalAI P2P addons
Some checks failed
Builder / Build addons (localai-p2p-master, amd64) (push) Failing after 1m49s
Builder / Build addons (localai-p2p-worker, amd64) (push) Failing after 9s
Validate / validate (push) Failing after 2s
Builder / Create release (push) Has been skipped

This commit is contained in:
2025-05-30 11:20:00 +02:00
commit 367b814058
14 changed files with 321 additions and 0 deletions

29
DOCS.md Normal file
View File

@@ -0,0 +1,29 @@
# Configuration
## Options
### gpu_layers
Nombre de couches à décharger sur le GPU (0 = CPU uniquement).
### debug
Active les logs de débogage.
### models_path
Chemin vers le dossier des modèles.
## Réseau P2P
Cet add-on crée automatiquement un réseau P2P pour distribuer la charge.
1. Démarrez d'abord l'instance master
2. Récupérez le token dans les logs ou l'interface web
3. Configurez les workers avec ce token
## Modèles supportés
- GGUF (llama.cpp)
- Formats compatibles LocalAI
## Dépannage
Consultez les logs de l'add-on pour identifier les problèmes.