[NEXT'24] Étape à mi-parcours

L'objectif ? Découvrir les nouvelles tendances de la tech, se familiariser avec les dernières avancées de Google Cloud et se connecter avec d'autres professionnels du secteur. Avec une keynote qui a des allures de concert de rock, Google Next promet d'être une expérience inoubliable pour notre équipe, une occasion unique de se tenir à la pointe de la technologie.

Introduction to Vertex AI and Vertex AI AutoML

De Trainer à Trainee : mon expérience à Google Next.

Pour cette première session, j'ai troqué mon rôle habituel de formateur pour celui d'apprenant, une expérience à la fois stimulante et enrichissante.

La session a commencé par une introduction de 30 minutes sur VertexAI, la solution d'intelligence artificielle de Google pour les entreprises. Cette plateforme unifiée pour l'IA et le Machine Learning est conçue pour accélérer le développement et le déploiement de modèles d'IA à grande échelle. L'aperçu détaillé de ses fonctionnalités et de ses applications potentielles a été une excellente introduction à la puissance de cette technologie.

La seconde partie de la session a été consacrée à un lab géant. Nous avons eu l'occasion de créer un modèle d'IA et de l'entraîner sur un dataset. C'était une expérience pratique qui a vraiment mis en évidence la facilité d'utilisation et la flexibilité de VertexAI.

Build production AI applications in Go

Une alternative à Python pour les développement en IA

Go est à la fois un langage de programmation et une plateforme, offrant une solution end-to-end pour les développeurs. Alors que Python est souvent le premier choix pour l'IA, Go a son mot à dire. Il se présente comme une alternative crédible pour déployer des applications d'IA à grande échelle et hautement performantes. 

C’est ce qui nous a été démontré en prenant l'exemple de l'implémentation de la fonctionnalité "find similar packages" à partir des données de pkg.go.dev. Cette fonctionnalité utilise l'IA pour analyser et comparer les packages Go, offrant aux développeurs une manière efficace de trouver des packages similaires à ceux qu'ils utilisent déjà. 

Ici, Go est utilisé avec VertexAI Vector Search pour d’abord alimenter la base et par la suite l’interroger.

Go offre une alternative puissante à Python pour le développement d'IA, offrant performance, flexibilité et une intégration étroite avec les outils et plateformes de Google mais l’utilisation du fameux framework LLM Langchain avec Go a également été évoquée.

Snap, Inc. on the journey from a monolith to micro-services

Comment évolue l’application préférée de nos ados ?

Dans une session d'interview, Drew de Google et Pere de Snapchat ont discuté de la transformation de Snapchat. De son origine en 2011 comme une application monolithique sur AppEngine, Snapchat est devenu une application microservices sur GKE, desservant 400 millions d'utilisateurs. Les défis posés par l'architecture monolithique ont conduit à l'adoption de l'ingénierie de plateforme, jusqu’au portail développeur avec Backstage. La familiarité des développeurs avec l'écosystème Google a facilité la migration. Cette transition a non seulement amélioré GKE, mais a également contribué à l'évolution de Kubernetes, avec des améliorations reversées à la communauté.

From images to text, understand how Google can help build trustworthy AI

Le mantra de Google: pas d’IA possible sans confiance

Pour ma dernière session de la journée, trois experts, Madeleine, Neama et Vishal, ont partagé leur vision de l'IA responsable. Ils ont souligné que la confiance dans l'IA est essentielle à son adoption. Pour gagner cette confiance, Google met en place plusieurs solutions, dont la gouvernance du cloud, des revues régulières et le cadre de sécurité Google Secure AI Framework (SAIF).

La sécurité est au cœur de ces efforts. Les données d'entraînement, qui restent la propriété des clients, sont entièrement sécurisées et Google ne les utilise pas. De plus, une analyse des risques est effectuée en continu pour identifier, évaluer et atténuer les risques potentiels.

Un autre aspect important de l'IA responsable est la modération du contenu. Google s'efforce de bloquer les prompts inappropriés, tels que les contenus explicites ou interdits. Par exemple, il n'est pas possible de demander à générer une image d'une personne spécifique.

Pour éviter le plagiat, les citations sont identifiées et la source est citée. Le contenu généré par l'IA doit être original. De plus, un filigrane numérique est utilisé pour marquer les images générées par l'IA, permettant une identification infaillible.

Google s'engage à promouvoir une IA responsable, sécurisée et respectueuse des données des utilisateurs. Mais il est aussi rappelé que les entreprises utilisant les solutions IA de Google comme Vertex AI sont également parties prenantes de l’IA responsable, et se doivent aussi d’adopter cette démarche de responsabilité.

Build an internal dev platform on GKE

Comment GKE Entreprise peut aider les équipes de développement et les ingénieurs plateforme à gagner en efficacité et en sécurité ?

Second jour déjà, le temps passe vite à Vegas et pas seulement dans les casinos !

Lors de la première conf de la journée, Nick et Al de Google ont dévoilé les fonctions avancées de GKE Entreprise. Ils ont introduit "Fleet", permettant de gérer plusieurs clusters à partir d'un seul endroit, offrant une vue d'ensemble claire, le "single pane of glass".

La sécurité est un aspect crucial de GKE Entreprise. Le contrôleur de sécurité "Gatekeeper" est désormais géré, tout comme le service mesh, offrant une sécurité renforcée. De plus, la posture de sécurité comprend un audit de configuration et un scan de vulnérabilité avec un tableau de bord dédié.

GKE Entreprise intègre également le GitOps avec Flux, ArgoCD ou Config Sync, facilitant la gestion des déploiements. La nouvelle fonction "Teams" permet de gérer les clusters en mode multi-tenant, associant un namespace à une équipe pour un accès sécurisé des développeurs.

Pour illustrer ces fonctionnalités, une démonstration a été réalisée montrant l'accès à un cluster en utilisant un fournisseur d'identité externe, Okta. Toutes ces fonctionnalités permettent facilement de construire une plateforme pour les développeurs à la fois fiable et sécurisée.

Building GenAI on Google Cloud with LangChain

L'Oréal, CloudRun et LangChain sont dans un bateau…

Parce qu’on le vaut bien, Harrison Chase en personne, le fondateur de LangChain, est venu sur la scène pour une introduction à son fameux framework d’IA. Fort d’une communauté de 2000 contributeurs, il occupe désormais une place de choix pour l’implémentation de vos solutions d’IA, quel que soit le modèle choisi.

CloudRun est la solution idéale pour exécuter des applications basées sur LangChain à grande échelle. Cette solution se distingue par ses jobs, utiles pour charger la base de données vectorielle ou évaluer périodiquement la qualité du modèle d'IA.

Thomas (AI lead à l’Oréal) a partagé comment L'Oréal a utilisé LangChain sur CloudRun pour développer une solution nommée L'OréalGPT, dont l'objectif est de fournir de l'IA en tant que service à tous les employés de l’entreprise. Les fonctionnalités comprennent des prompts avec choix du modèle, y compris le tout nouveau modèle Gemini 1.5 de Google capable de gérer 1 million de tokens, l'analyse d'image et le text to image, utilisé par exemple pour le marketing.

Wieste et Steren de Google ont conclu avec une démonstration convaincante de Gemini 1.5. Ils ont analysé un document PDF et utilisé Gemini avec le prompt "Summarize this document". Un résumé complet du PDF a été généré avec toutes les informations pertinentes.

La dernière partie a été une démonstration de déploiement d'une application d'IA en utilisant, devinez quoi ? ... l'IA ! Avec le simple prompt "Agent API application with a vector database", l'architecture et les ressources associées dans GCP ont été générées après validation. Ensuite, une présentation du code déployé a suivi. Une talk riche en innovations et en démonstrations de la puissance de l'IA.

AI for telecommunications: transform customer interactions and network operations

Fascinante interview de 2 acteurs majeurs des télécommunications

L'intelligence artificielle (IA) évolue à une vitesse vertigineuse, transformant de nombreux secteurs, y compris celui des télécommunications. Cependant, il est souvent reproché à ce dernier d'être lent à s'adapter aux nouvelles technologies. Pendant cette session, trois acteurs clés du secteur ont été interviewés sur la scène: Steve d’Orange, Kamran de Verizon et Ankur de Google. Ils nous ont partagé leur vision de l'utilisation de l'IA dans le monde des télécommunications.

Une adaptation plus rapide qu'il n'y paraît !

Contrairement à ce que l'on pourrait penser, le monde des télécommunications n'a pas attendu pour s'emparer de l'IA. Comme le souligne Steve de Orange, il est crucial d'utiliser le bon outil pour le bon problème. Dans ce contexte, l'IA a déjà été mise en place pour des tâches telles que la détection d'anomalies et l'analyse des causes profondes. De plus, l'utilisation des produits Google permet d'accélérer ce processus.

Pour Verizon, Kamran nous explique que la stratégie de l'entreprise est de réaliser des preuves de concept (POC) et de tester en permanence de nouveaux produits. Ainsi, aucune solution n'est définitivement écartée. Au contraire, si une technologie ne répond pas aux attentes actuelles, elle peut être mise de côté pour être éventuellement réévaluée plus tard, d'où le mantra : "Maybe see you later".

Les défis de l'IA dans le secteur des télécommunications

L'IA présente néanmoins des défis, en particulier pour Orange qui opère dans 26 pays. La conformité aux exigences réglementaires est un enjeu majeur pour l'entreprise. Pour y faire face, Orange a opté pour une architecture hybride, qui est rendue possible grâce à la compatibilité de Google avec des produits Open Source déployés sur site.

Il est fascinant de voir comment ces grands acteurs des télécommunications s'emparent de ces sujets et comment ils naviguent dans les contraintes qui leur sont propres. L'IA dans le monde des télécommunications est un domaine en constante évolution, et il est clair que ces entreprises sont déterminées à rester à la pointe de cette révolution technologique.

When AI meets data: Stack Overflow and Gemini

Stack Overflow et Google : une collaboration gagnante pour l'IA et la communauté des développeurs

La dernière session de la journée a été marquée par une présentation conjointe de Ryan de Stack Overflow et Chang de Google. Ils ont expliqué comment leurs deux entreprises ont collaboré pour tirer parti des 58 millions de questions et réponses disponibles sur Stack Overflow dans Gemini, le modèle d’IA de Google.

L'humain au cœur de l'IA

Ryan a commencé par rappeler un principe fondamental : l'humain est la base de tout. En effet, qu'est-ce qui fait qu'on a confiance en une réponse ? C'est la question "comment tu le sais" qui est au cœur de cette confiance. C'est dans cette optique que s'inscrit le mouvement de l'IA socialement responsable, un mouvement qui traverse toute l'industrie.

Améliorer la qualité des réponses de l'IA avec la communauté Stack Overflow

L'idée derrière cette collaboration est d'aider à améliorer la qualité des réponses de l'IA à l'aide de la communauté Stack Overflow. En effet, on peut désormais utiliser Gemini depuis Stack Overflow pour obtenir des réponses rapides, générées par l'IA et validées par la communauté.

Google intègre les données de Stack Overflow dans Gemini

De son côté, Google a intégré toutes les réponses données sur Stack Overflow dans Gemini. Fidèle à sa démarche d'IA responsable, les résultats remontés par Gemini qui sont des extraits de Stack Overflow sont bien identifiés par l'icône Stack Overflow. C'est une manière pour Google de garantir la transparence et de renforcer la confiance des utilisateurs dans les réponses générées par l'IA.

Cette collaboration entre Stack Overflow et Google est un exemple parfait de collaboration gagnant-gagnant, pour Google qui a pu améliorer son modèle Gemini avec une somme considérable de données de qualité, Stack Overflow qui peut fournir depuis son site un accès à une IA particulièrement performante, et au final nous, la communauté des développeurs.

Cette collaboration illustre parfaitement comment l'IA, lorsqu'elle est utilisée de manière responsable et centrée sur l'humain, peut être un outil puissant pour améliorer l'accès à l'information et la qualité des réponses fournies aux utilisateurs.