Process Model
  • 13 Nov 2023
  • 2 Minutes to read
  • Dark
    Light
  • PDF

Process Model

  • Dark
    Light
  • PDF

Article summary

Update

13/11/2023 : initialisation du Document (OpsTeam)

Model Process

Model Process

  1. Trigger via Replicated :

Utilisation de Replicated pour l'orchestration d'installation, s'appuyant sur ses capacités de packaging et de distribution d'applications containerisées.

  1. Kubernetes Job (job.yaml) :

Déploiement d'un Job Kubernetes configuré via job.yaml pour le provisioning des modèles LLM dans un PV, avec des spécifications détaillées pour la version et le stockage.

3.Authentification avec GCP Service Account (SA) :
Authentification via un SA de GCP pour permettre un téléchargement sécurisé et authentifié des modèles LLM, en utilisant les IAM & permissions appropriées.

4.Persistent Volume Storage in Kubernetes :
Allocation de PVs pour stocker les modèles LLM, en utilisant des claims définis pour garantir la persistance et la redondance des données.

5.Model Download Workflow :
Le Job Kubernetes gère le téléchargement des modèles LLM dans le PV, en s'assurant de la cohérence des données et de la gestion efficace de la bande passante.

6.Ephemeral Container Utilization :
Mise en place d'un conteneur éphémère pour le téléchargement, réduisant l'empreinte et garantissant que les ressources sont libérées post-exécution.

7.Secure Access on Port 443 :
Configuration pour un accès sécurisé aux modèles via HTTPS, en utilisant le port 443 pour toutes les communications entrantes et sortantes liées au modèle.

8.Persistent Volume Claim (PVC) YAML (pvc.yaml) :
Création de PVCs par pvc.yaml pour réserver dynamiquement le stockage nécessaire dans le cluster, aligné avec les best practices de storage class et de provisioning dynamique.


Model Process expliqué à mon enfant

Imagine que nous ayons une boîte de LEGO très spéciale (Kubernetes) où nous pouvons construire des modèles très complexes. Pour construire un modèle, nous suivons les instructions (job.yaml) qui nous disent comment assembler les LEGO pour créer notre modèle.

1.Commencer le Jeu avec Replicated :
C'est comme appuyer sur le bouton de démarrage pour dire à notre boîte de LEGO de commencer à construire un nouveau modèle.

2.Suivre les Instructions LEGO (job.yaml) :
Nous avons un livre d'instructions spécial qui nous montre comment ajouter notre nouveau modèle LEGO à la boîte.

3.Clé Magique Google (SA) :
Nous avons une clé magique qui prouve que nous sommes autorisés à utiliser les pièces LEGO que nous téléchargeons.

4.Garder les Modèles LEGO (PV) :
Les modèles que nous construisons sont gardés en sécurité dans un endroit spécial de la boîte pour que nous puissions y jouer encore et encore, même après avoir rangé et sorti d'autres LEGO.

5.Télécharger les Pièces LEGO (Modèles LLM) :
Nous choisissons les pièces LEGO spéciales que nous voulons (comme Alfred V1 et Alfred V2) et les téléchargeons dans notre boîte.

6.Boîte Temporaire pour les Pièces (Conteneur éphémère) :
Parfois, nous utilisons une petite boîte temporaire pour tenir les pièces pendant que nous travaillons sur le modèle. Lorsque nous avons terminé, nous pouvons jeter cette petite boîte.

7.Porte Secrète (Port 443) :
Il y a une porte secrète et sécurisée pour que seulement nous et personne d'autre puisse voir ou jouer avec nos modèles LEGO spéciaux.

8.Réserver l'Espace pour les LEGO (PVC) :
Avant de commencer, nous nous assurons d'avoir suffisamment d'espace pour notre modèle dans la boîte de LEGO, donc nous réservons l'espace nécessaire.

Et voilà ! En utilisant notre boîte de LEGO spéciale et en suivant ces étapes, nous pouvons construire de super modèles et nous amuser avec eux autant que nous le voulons.


Was this article helpful?

What's Next