Innovation en IA : focus sur LangChain, Chainlit, et le Secure GPT de Veolia !

Début décembre, un événement majeur a eu lieu à Paris : le très attendu Meetup LangChain et LLM, organisé dans les locaux de SFEIR. Cette soirée a brillamment mis en lumière les avancées notables dans le domaine de l'intelligence artificielle, avec un accent particulier sur LangChain, un framework révolutionnaire pour les applications en IA.

LangChain, un framework polyvalent :

Malgré une météo capricieuse, Ravidhu Dissanayake, de WEnvision, a captivé une salle comble en présentant LangChain. Il a souligné l'importance vitale de ce framework dans la création de prompts complexes, intégrant documents et historiques d'interactions, pour orchestrer des raisonnements basés sur les grands modèles de langage (LLM). LangChain ne se cantonne pas à l'usage de ses propres LLM mais offre plutôt une interface unifiée pour interagir avec divers LLM disponibles sur le marché. Les bibliothèques LangChain, disponibles en Python et JavaScript, fournissent des interfaces et des intégrations pour de nombreux composants, ainsi qu'un moteur d'assemblage pour ces composants en chaînes et agents.

Innovation avec LangServe et LangSmith :

LangServe simplifie le déploiement et l'accès aux chaînes et agents LangChain via une API REST, tandis que LangSmith est un service SaaS permettant de surveiller les interactions entre les applications et les LLM, offrant une visibilité complète sur les appels, chaînes, agents et modules de récupération.

OpenGPTs – Une Initiative Open Source :

OpenGPTs est une initiative visant à reproduire l'expérience des GPTs d'OpenAI, s'appuyant sur LangChain, LangServe et LangSmith. Lors d'une session de questions-réponses, il a été clarifié que, bien que les agents n'apprennent pas de manière autonome, ils utilisent des outils pour prendre des décisions et planifier des actions. Les utilisateurs doivent construire les prompts et y associer les règles souhaitées, ce qui permet un contrôle accru et une confidentialité renforcée par rapport à d'autres solutions comme celles d'OpenAI.

Le défi de la scalabilité et de la gestion des quotas :

Les questions du public ont également porté sur la scalabilité et la gestion des quotas. LangServe est capable de gérer des milliers d'interactions, dépendant de l'infrastructure. Quant aux quotas, ils sont principalement gérés sur les API, mais avec une flexibilité notable si l'on développe sa propre solution.

Veolia : un Cas d’étude inspirant :

Fouad Maach, Head of Architecture and Industrialization for Veolia Group IS&T et Directeur Technique de Veolia Secure GPT est venu partager son expérience. Les défis rencontrés et les avantages obtenus sont nombreux, et la salle déborde de questions. 

L'objectif était de créer un GPT interne pour éviter les fuites de données. Le projet a été lancé en mai, avec l'application créée en juin et juillet, et un lancement officiel en septembre. Un aspect clé a été l'acculturation des collaborateurs aux nouvelles technologies, avec une attention particulière à la sécurité et aux compétences.

Architecture et Feedback Utilisateur :
Veolia utilise LangChain pour interroger de manière sécurisée toutes ses bases de données. L'architecture s'appuie sur RAG (Retrieval Augmented Generation) pour une efficacité maximale. Les retours des collaborateurs sont intégrés à Veolia Secure GPT pour améliorer continuellement le service.

Sécurité et Responsabilité Légale :
Veolia, avec ses 213 000 employés, opère principalement sur Azure, s'assurant que tout contenu généré appartient à Veolia. En cas de fuite de données, la responsabilité légale incomberait à Microsoft.

Chainlit – La clé de l'innovation :
Chainlit vient compléter Langchain en permettant de créer des interfaces utilisateur robustes qui rivalisent avec ChatGPT, le célèbre modèle de langage développé par OpenAI. Les développeurs peuvent intégrer l'API Chainlit dans leur code Python existant, ouvrant le champ des possibles.

Conclusion

En conclusion, le Meetup LangChain et LLM à Paris a non seulement confirmé le statut de LangChain en tant que catalyseur d'innovation dans le domaine de l'IA générative, mais a aussi souligné l'importance croissante de technologie comme Chainlit. L'exemple de Veolia illustre l'efficacité de LangChain dans un contexte professionnel complexe, démontrant qu'avec les bons outils, une vision claire et des partenariats solides comme les experts du groupe SFEIR, les entreprises peuvent non seulement mettre en place des solutions d'IA personnalisées et sécurisées rapidement, mais également gérer efficacement la scalabilité et la confidentialité des données.

Replay du meetup : https://www.youtube.com/watch?v=2T478zb0eOU