5 min de lecture
Projets Hackathon #1: Créer un assistant IA avec des MCP, RAG & OpenSearch®
Découvrez comment notre équipe a utilisé Scalingo et l'IA pour créer un projet lors de notre hackathon interne : le Scalingo Companion.
Nous vous avions raconté comment Scalingo avait organisé son premier hackathon en remote et les défis et apprentissages que celui-ci nous avait apporté. Passons maintenant au coeur du sujet : les projets produits par ce hackathon. Commençons par le premier, et gagnant de notre hackathon interne, le Scalingo Companion.
❗Petite précision avant de commencer : les projets présentés ici ont été réalisés dans un cadre interne. Ils n’ont pas fonction à devenir de nouvelles fonctionnalités officielles sur notre plateforme. Cependant, ces articles et applications peuvent servir d’inspiration si vous souhaitez déployer des projets similaires sur Scalingo.
Hackathon IA : L'équipe
L’idée derrière le Scalingo Companion est née d’un problème rencontré par certains de nos utilisateurs : il n’est pas toujours simple de diagnostiquer ce qui cause des problèmes de fonctionnement dans une application. Si notre support est toujours présent pour vous aider à résoudre vos problèmes, l’équipe composée de Pierre, Étienne et Mathéo a réfléchi à une alternative, le Scalingo Companion, un chatbot capable de vous épauler en cas de souci sur votre app. Mais avant de détailler plus en avant ce projet, revenons un peu en arrière.
Pour le hackathon, les équipes étaient libres de se composer comme elles le souhaitaient. Étienne nous a indiqué comment celle-ci s’était formée :
“Avant le hackathon, j’ai contacté Pierre car nous sommes dans la même équipe mais on ne bosse pas souvent sur les mêmes sujets. Puis on a contacté Mathéo car il est dans une autre équipe donc on ne travaille jamais ensemble.”
Comme indiqué dans notre premier article, l’une des idées au centre de ce hackathon était la possibilité de travailler avec des collègues d’autres équipes, dont les projets se croisent peu au quotidien. Chez Scalingo, Étienne est R&D Engineer dans l’Infrastructure Services Team (IST), Pierre est Senior Software Engineer dans l'équipe IST également et Mathéo est Infrastructure Engineer dans l’Infrastructure Engineering Team (IET).
Pour deux d’entre eux, l’exercice du hackathon était nouveau, tandis que Pierre avait déjà eu l’occasion de s’essayer à des défis similaires dans les domaines du jeu vidéo et lors du Hacking Industry Camp, organisé par Alsace Digitale pour répondre à une problématique liée à l’industrie. Un nouvel exercice donc pour une partie de l’équipe, suivi par un autre : le sujet de l’intelligence artificielle, et plus précisément tout ce qui concerne les RAG et les MCP.
RAG et MCP : Comprendre avant de construire
Car avant de se lancer dans la conception, il y avait déjà un premier défi à résoudre : comprendre exactement ce sujet nouveau pour nos équipes. Même s’ils utilisent l’IA au quotidien et connaissent une partie du sujet lié à leur travail, ils ne sont pas forcément au fait de tout ce qui est possible avec la technologie. Mais c’est d’ailleurs pour cette raison que le hackathon les a intéressés :
“La première difficulté [du hackathon] a été de comprendre le sujet (l’IA). C’est ce pourquoi nous souhaitions tous les trois participer.”
La première demi-journée a donc été consacrée à se renseigner sur le sujet. Il leur était notamment indispensable de se renseigner sur les MCP et les RAG, briques désormais incontournables de l’IA, afin de pouvoir déterminer au mieux un projet à réaliser.
Après quelques recherches et lectures de documentations qui leur ont permis d’être plus familiers avec le sujet, il était temps de se lancer dans la création du Scalingo Companion.
💡 Le protocole MCP, introduit par Anthropic en 2024, a permis de régler l’un des plus gros problèmes des LLM : ils étaient “figés” au moment de leur entraînement et ne pouvaient pas ingérer de connaissances supplémentaires ou communiquer avec des applications extérieures pour accéder aux données en temps réel et effectuer des actions. Le protocole MCP sert de passerelle et permet aux IA de se nourrir de données actuelles et de devenir un agent, capable de réaliser des actions automatisées sur plusieurs applications.
Une architecture basée sur deux serveurs MCP et un RAG
Pour réaliser ce projet, il a été nécessaire pour l’équipe de développer deux MCP, un RAG et une application pour pouvoir interagir avec l’assistant.
Le RAG est utilisé en tant que base de connaissances, pour intégrer la documentation Scalingo et la documentation développeurs. La documentation a été vectorisée paragraphe par paragraphe, avant d’être indexée dans OpenSearch.
Quant aux deux MCP, l’un d’entre eux sert à l’interaction avec l’API de Scalingo tandis que l’autre fait le pont avec la base de connaissances.
Pour créer cela, l’équipe s’est appuyée sur plusieurs technologies : Go et Python côté langages de programmation, tandis qu’OpenSearch® a été la base de données de choix pour la partie RAG, le tout évidemment hébergé sur Scalingo. OpenSearch® s’est révélé être l’outil idéal pour ce projet : en quelques minutes, les développeurs avaient ingéré la documentation et pouvaient réaliser une recherche vectorielle. Une facilité d’utilisation qui leur a permis de passer plus de temps sur le développement des autres outils.
Un assistant dédié à votre application
L’idée derrière ce projet ? Créer un chatbot capable de comprendre le contexte d’un projet déployé sur Scalingo et capable d’aider à identifier les problèmes et améliorations possibles. Pour aller plus loin et permettre directement la résolution de certains problèmes, Scalingo Companion a été pensé pour pouvoir également appliquer des opérations de scale sur l’application.
L’application se présente sous la forme d’un chatbot classique, auquel l’utilisateur peut poser des questions. Lorsque l’utilisateur fait une requête, celle-ci va être envoyé à un LLM, qui va pouvoir interroger les MCP Scalingo et Knowledge Base. Ainsi, le Scalingo Companion peut utiliser le MCP Knowledge Base pour trouver des solutions dans les documents ingérés dans la base de données OpenSearch. Il peut également aller plus loin, en utilisant le MCP Scalingo pour récupérer des informations sur l’application (métriques, logs, problème mémoire, consommation) ou agir directement sur celle-ci via l’API Scalingo.
De cette manière, l’application est capable d’apporter une réponse personnalisée, en se basant sur les données concrètes issues du projet client. Une capacité vérifiée durant la démonstration réalisée par l’équipe.
Cette dernière avait créé une application volontairement défaillante, avec une consommation mémoire excessive et de nombreuses erreurs. Ils ont donc demandé au Scalingo Companion de diagnostiquer les problèmes. Après analyse, celui-ci a été capable de faire une corrélation entre une des requêtes reçues sur l’application et une augmentation subite de mémoire. De cette façon, il a pu trouver quel endpoint HTTP précis était responsable de la fuite de mémoire. Il a proposé de scale up à une taille supérieure de conteneur pour garder l’application en ligne, en attendant de résoudre les problèmes les plus profonds.
L’opération est directement réalisée au sein de la fenêtre de l’assistant, qui confirme lorsque celle-ci a été mise en place. Pour prouver plus en avant le diagnostic de leur Companion, l’équipe s’est connectée sur le tableau de bord de l’application pour montrer que les logs de l’application correspondaient bien à ceux indiqués par l’assistant.
Les capacités du projet ont été mises par la suite à rude épreuve, en poussant jusqu’à une analyse du code, directement fourni au Scalingo Companion, pour qu’il puisse indiquer ce qui lui semblait anormal. Un exercice pour lequel il n’était pas forcément conçu mais qu’il a réalisé avec brio, en soulignant les variables et paramètres anormaux et les allocations mémoires excessives.
Bilan
Pour Étienne, Pierre et Mathéo, l’expérience du hackathon fut très positive :
“Nous sommes contents d’avoir travaillé ensemble, d’avoir appris des choses sur un domaine que nous ne connaissions pas du tout. C’était agréable et motivant d’avoir quelques jours en dehors de nos projets habituels, avec d’autres personnes.”
Si tout n’a pas été facile durant le développement, il leur a notamment été nécessaire de changer de fournisseur LLM en cours car celui sélectionné ne prenait pas en charge les serveurs MCP, l’équipe ressort globalement satisfaite de son projet :
“Nous sommes satisfaits d’avoir pu livrer à la fin un projet fonctionnel. Nous avons pu faire tout ce qu’on voulait donc pas trop de compromis.”
Même s’ils n’ont pas de plan pour continuer à travailler sur leur projet ou l’affiner par la suite, ils ont apprécié l’expérience qui leur a permis de creuser un sujet qu’ils n’avaient pas encore eu l’occasion de rencontrer au quotidien.
Scalingo, l’hébergeur pour tous vos projets IA
Si vous aussi, vous souhaitez créer un projet IA à héberger sur Scalingo, nous avons de nombreux tutoriels et ressources pour vous guider :
Building a RAG with OpenSearch® (texte)
Build your own RAG in 12 minutes with OpenSearch® and Scalingo (vidéo)
N’hésitez plus ! Testez Scalingo dès maintenant en vous inscrivant pour profiter de 30 jours gratuits ou contactez nos équipes pour plus d’informations.
Fanny Dufour
Fanny a débuté sa carrière dans les médias par le jeu vidéo, avant de s'orienter vers le développement web et de se passionner pour les enjeux plus larges qui affectent notre vie numérique. Elle est particulièrement engagée dans les domaines de la vie privée, des outils open-source, de la sécurité numérique, et d’une utilisation responsable des technologies.
Restez informé
Recevez des articles et des mises à jour de la plateforme dans votre boîte de réception.
Prêt à déployer en toute confiance ?
Découvrez des déploiements sans temps d'arrêt, une mise à l'échelle automatique intelligente et une infrastructure entièrement gérée. Commencez à déployer vos applications sur Scalingo dès aujourd'hui.
Aucune carte de crédit requise • Déployez en quelques minutes • Annulez à tout moment
