Résumé IA
JEV : la hype est-elle justifiée ?
Résumé complet
Citations clés
« C'est presque 200 fois plus rapide et 400 fois moins cher. »
Mike Codeur présente les avantages de Gev par rapport aux modèles précédents.
« Avant et bien les modèles y répondaient en fait sous forme de texte. Donc c'est souvent déjà coûteux parce que en fait un LM ça fonctionne comment ? Ça génère le prochain mot et puis le le mot d'après et cetera. Donc du coup ça passe son temps à calculer. Là l'idée c'est d'avoir une réponse à une question en quasiment un coup. »
Mike Codeur explique la différence fondamentale entre les LLM classiques et Gev en termes de fonctionnement et de coût.
« Et en terme d'hallucination et bien on est quasiment proche de zéro. Eux, ils disent 0,0. Ça veut dire qu'en fait le modèle n'hallucine pas. »
Mike Codeur souligne l'un des avantages majeurs de Gev : sa quasi-absence d'hallucinations.
« Là où j've et bien en fait à partir d'un input comme ça, mon paiement a été débité deux fois, il va tout simplement te retourner une catégorie par exemple billing et il va te donner un score de 91 %. »
Mike Codeur illustre la capacité de Gev à structurer une réponse avec une catégorie et un score, contrairement à un LLM classique.
« Et donc du coup, le contrat te garantit la forme. Et je te rassure, on va voir ça avec un exemple concret. »
Mike Codeur met en avant la fiabilité du format de sortie de Gev.
Ressources mentionnées dans la vidéo
other
Gev
Un nouveau modèle d'IA développé par Typesave, conçu pour répondre à des questions fermées avec des décisions structurées et des probabilités.
other
Typesave
La compagnie qui a développé Gev, fondée par Diogo Almeda.
person
Diogo Almeda
CEO de Typesave et ancien employé d'OpenAI et Google, impliqué dans le développement de RLHF et GPT.
other
System One
Concept de Daniel Kahneman auquel Gev fait référence, concernant la classification, la notation et le choix d'une option.
app
Agent Mail
Le SAS d'email marketing de Mike Codeur, sur lequel il a implémenté Gev pour prédire la probabilité de spam des emails.
website
Gvable
Un site web qui présente de nombreux cas d'utilisation de Gev, permettant aux utilisateurs d'expérimenter avec l'outil.
website
GitHub
Plateforme de développement où les issues peuvent être triées et gérées plus efficacement grâce à Gev.
Glossaire
Gev
Un modèle d'IA qui ne fonctionne pas comme un chatbot mais retourne des données typées et structurées avec des probabilités, conçu pour des interactions logicielles.
System One
Une approche de classification et de décision rapide inspirée par Daniel Kahneman, où l'on identifie une intention, évalue un niveau, puis choisit une option.
Hallucination (IA)
Dans le contexte de l'IA, une hallucination se produit lorsqu'un modèle génère des informations fausses ou non fondées. Gev est conçu pour minimiser ce phénomène.
Données typées
Données organisées selon des types prédéfinis (ex: catégories, scores, booléens), permettant un traitement plus fiable et structuré par les logiciels.
Prompt Engineering
L'art de concevoir des instructions (prompts) pour obtenir les meilleurs résultats possibles d'un modèle d'IA. Dans le cas de Gev, il s'agit de définir le 'state' et les 'questions'.
Avis de la communauté
Merci pour ton avis !
Questions fréquentes
Gev n'est pas un chatbot. C'est un modèle d'IA qui répond à des questions fermées avec des données structurées et des probabilités, destiné à être utilisé par des logiciels plutôt que par des humains directement.
Gev est beaucoup plus rapide (environ 200x) et moins cher (environ 400x) que les modèles traditionnels. Il réduit considérablement les hallucinations et fournit des sorties structurées, ce qui le rend idéal pour l'intégration logicielle.
Il fonctionne sur un principe de 'state', 'question' et 'output'. Le 'state' fournit le contexte, la 'question' est formulée pour obtenir une réponse spécifique, et l''output' est une donnée typée avec un score de probabilité.
Gev est très utile pour des tâches comme la classification d'erreurs, le routage de tickets, la notation de risques, ou l'analyse de contenu pour éviter le spam dans les emails, grâce à sa capacité à fournir des résultats structurés et fiables.
Non, Gev ne remplace pas les LLM pour le développement logiciel général. Il est plutôt un outil complémentaire pour des tâches spécifiques nécessitant des sorties structurées et prédictives, tandis que les LLM restent utiles pour la génération de texte et le codage.
