Qu'est-ce que le Prompt engineering : définition, applications et limites

Il existe plusieurs façons d’aborder le prompt engineering en fonction du résultat recherché. Voici les trois grands types de prompt engineering :

• Le prompt engineering pour l’entraînement des modèles : il consiste à fournir au modèle NLP des prompts spécifiquement conçus pour l’entraîner sur une tâche donnée. Par exemple, lui donner des milliers de prompts illustrant la génération de textes publicitaires.
• Le prompt engineering pour l’inférence en production : une fois le modèle déployé, il est alimenté avec des prompts optimisés pour les cas d’usage visés. Cette méthode est utilisée pour les prompts de modération de contenu, de réponse aux questions clients, etc.
• Le prompt engineering adaptatif : le modèle NLP est entraîné à générer lui-même les meilleurs prompts en fonction du contexte. Cette approche a pour but de rendre le modèle capable d’un prompt engineering autonome.

Chacune de ces variantes présente des spécificités en termes de méthodologie. Le prompt engineering pour l’entraînement met l’accent sur la diversité et la quantité de données. Celui pour l’inférence se concentre sur la qualité des prompts en contexte réel. L’approche adaptative cherche à donner au modèle la capacité d’apprendre à faire un prompt engineering efficace par lui-même.
Les chercheurs combinent souvent ces différents types de prompt engineering de manière complémentaire pour obtenir les meilleures performances. Cette diversité des techniques de prompt engineering est une force pour cette discipline encore émergente.

Réussir dans le prompt engineering, sans pour autant être un prompt engineer (ingénieur de requête), requiert de solides compétences pluridisciplinaires.
Tout d’abord, une connaissance approfondie des modèles de traitement du langage naturel est indispensable pour créer des prompts adaptés à leurs forces et à leurs limites.
La rédaction est également cruciale, car le prompt se doit d’être un texte concis, précis et cohérent. De bonnes capacités rédactionnelles sont donc essentielles.
La maîtrise de techniques d’apprentissage automatique comme le transfer learning est aussi un atout, celles-ci étant souvent employées conjointement au prompt engineering.
De même, une expertise en linguistique computationnelle permet de mieux appréhender les mécanismes d’interprétation du langage par les modèles.
Côté technique, la programmation et la data science sont nécessaires pour intégrer et évaluer les performances des prompts. La rigueur dans les tests et les expérimentations permet d’identifier les prompts les plus efficaces.
Enfin, la créativité et un esprit critique sont des qualités essentielles pour le prompt engineering.

L’utilisation du prompt engineering présente plusieurs avantages. Tout d’abord, cette technique permet d’obtenir des réponses plus précises et pertinentes de la part des modèles NLP. Avec un prompt bien conçu, le modèle va générer une réponse correspondant exactement à la tâche demandée, et non pas quelque chose de vague ou d’approximatif.
Le prompt engineering assure également une meilleure adéquation entre la réponse du modèle et les besoins spécifiques de l’utilisateur, en cadrant la génération de texte en fonction du cas d’usage visé et des instructions fournies. Par ailleurs, un prompt détaillé va limiter les contresens et mauvaises interprétations du modèle NLP, réduisant ainsi les biais et les erreurs. Le prompt engineering favorise aussi une plus grande cohérence des réponses du modèle, même face à des inputs différents.
À terme, cette technique améliore les performances globales des modèles NLP en renforçant leur capacité à comprendre des demandes complexes. Enfin, le prompt engineering offre une meilleure contrôlabilité de ces modèles, en permettant à leurs concepteurs d’orienter finement leur comportement via les consignes fournies.

Bien que présentant des avantages certains, l’utilisation du prompt engineering comporte également des limites qu’il faut garder à l’esprit. Tout d’abord, il s’agit d’une technique qui nécessite un investissement temps important ainsi que de solides compétences en conception de prompts pour élaborer des instructions optimales. Sans une expertise approfondie, il est assez facile de rédiger de mauvais prompts qui vont en réalité dégrader les performances du modèle NLP au lieu de les améliorer.
De plus, le prompt engineering est fortement dépendant du cas d’usage : des prompts spécifiques à une tâche devront être entièrement réécrits en cas de changement d’objectif ou de contexte. Par ailleurs, des prompts trop directifs ou détaillés peuvent réduire la créativité et l’autonomie des modèles NLP en les enfermant dans des schémas de réponse prédéfinis et stéréotypés. L’équilibre subtil entre guidage et liberté accordée au modèle est difficile à trouver.
Le processus de conception de prompts efficaces s’appuie également sur de nombreux essais-erreurs, des ajustements progressifs et de fins réglages : un prompt optimal ne peut être obtenu immédiatement.
Enfin, la complexité des prompts tend à croître à mesure qu’on cherche à les optimiser, jusqu’à potentiellement devenir contre-productifs s’ils sont surchargés d’instructions. Malgré son potentiel prometteur, le prompt engineering ne constitue donc pas une solution magique aux limitations des modèles NLP actuels.

Même s’il s’agit d’une technologie déjà mature, le prompt engineering devrait encore progresser à l’avenir, notamment grâce aux avancées dans les domaines connexes du transfer learning et du few-shot learning.
Plusieurs évolutions sont à anticiper :

• L’émergence de nouvelles méthodes pour générer des prompts plus efficaces, via l’utilisation d’algorithmes d’optimisation par exemple ;

• Le développement de bibliothèques de prompts pré-écrits, réutilisables d’un modèle NLP à l’autre ;

• La possibilité pour les modèles d’auto-générer les prompts les plus adaptés en fonction de la tâche demandée;

• L’utilisation du prompt engineering pour entraîner des modèles NLP toujours plus puissants, atteignant des niveaux de compétence linguistique proches de l’humain ;

• L’écriture de prompts par les utilisateurs finaux eux-mêmes, permettant de guider les modèles NLP en langage naturel ;

• Une intégration accrue entre prompt engineering et techniques de search.

Grâce à ces avancées, le prompt engineering a le potentiel de devenir une technique incontournable pour exploiter au maximum les capacités des modèles de traitement du langage naturel sur une grande diversité de cas d’usage.