Les embeddings, comment une machine mesure le sens

Le mécanisme

Deux idées voisines deviennent deux points voisins.

Un embedding transforme un texte en une suite de nombres, autrement dit en un point dans un espace. La règle est simple : deux textes qui parlent de la même chose se retrouvent proches l’un de l’autre, deux textes sans rapport se retrouvent loin. « Résilier mon contrat » et « mettre fin à mon abonnement » n’ont aucun mot en commun, et pourtant leurs deux points sont presque au même endroit.

C’est ce qui permet de chercher par le sens et non par le mot exact. Une recherche classique ne remonte que ce qui contient les termes tapés. Une recherche par embeddings remonte les passages qui parlent du sujet, même formulés autrement, dans le jargon maison de votre métier ou avec une faute de frappe.

C’est aussi la pièce qui fait fonctionner le RAG : pour retrouver les bons extraits dans vos documents, il faut d’abord savoir mesurer lesquels ressemblent à la question posée. La même mécanique sert à classer automatiquement des demandes entrantes, à repérer des fiches clients en double ou à proposer un contenu voisin de celui qu’on vient de consulter.