Appeler un LLM en Python
Les grands fournisseurs de LLM proposent tous une API : on envoie un message depuis un script Python, on reçoit la réponse du modèle. C'est le point de départ de toute application d'IA générative.
Ce qu'il vous faut
- Python 3 et la bibliothèque du fournisseur, ici
openai(pip install openai). - Une clé d'API, stockée dans une variable d'environnement plutôt que dans le code.
- Le nom du modèle, indiqué dans la documentation du fournisseur.
Comment se construit une requête
Une requête contient une liste de messages, chacun avec un rôle : system fixe le comportement du modèle, user porte la demande, assistant contient les réponses précédentes. Le modèle ne garde aucun souvenir entre deux appels : pour une conversation suivie, il faut renvoyer l'historique à chaque fois, ce qui augmente le coût en tokens.
L'exemple ci-dessous
Le script classe des avis clients en positif, négatif ou neutre. La température est à 0 pour obtenir une réponse stable, et le message système impose un format de sortie court, facile à exploiter ensuite dans un DataFrame pandas.
Le principe est le même chez les autres fournisseurs : seuls la bibliothèque et le nom du modèle changent.