Procédure de Configuration de Nœuds pour le Déploiement de Paradigm

Cette section explique comment configurer les nœuds pour un déploiement de l'application Paradigm, en utilisant Kubernetes.

Configuration pour un Déploiement sur un Seul Nœud

• Si vous préférez déployer tous les composants de Paradigm sur un seul nœud (LLM, Paradigm, Redis, Celery, PostgreSQL), cochez la case Paradigm Single Node Deployment.
  • Cette option simplifie la configuration en appliquant le même nom de nœud à tous les composants.

Configuration pour un Déploiement sur Plusieurs Nœuds

• Si vous utilisez plusieurs nœuds, vous devrez spécifier le nom de chaque nœud pour les composants suivants :
  • Nom du nœud pour LLM-serving : Entrez le nom du nœud Kubernetes pour le service LLM.
  • Nom du nœud pour Redis : Spécifiez le nœud pour Redis.
  • Nom du nœud pour Paradigm : Indiquez le nœud sur lequel s'exécutera Paradigm.
  • Nom du nœud pour Celery : Définissez le nœud pour Celery.
  • Nom du nœud pour Postgres : Nommez le nœud dédié à PostgreSQL.

Conseils et Remarques Importants

• Le nom des nœuds doit correspondre à l'attribut kubernetes.io/hostname utilisé dans Kubernetes.
• Cette configuration déterminera l'affinité des pods, c'est-à-dire comment les pods sont répartis entre les nœuds.

Enregistrement et Application des Paramètres

• Après avoir entré les noms de nœuds, assurez-vous que toutes les informations sont exactes.
• Enregistrez les paramètres pour mettre en place l'affinité des nœuds et la distribution des pods pour votre déploiement Paradigm.