Podlet c'est quoi?
Vous avez probablement déjà utilisé ChatGPT, Claude ou un autre chat IA. Podlet est un projet open-source qui est une alternative simple aux chats populaires. L'application tourne complètement sur votre machine. Vous choisissez vos modèles , c'est compatible avec la plupart des modèles y compris les modèles locaux via ollama. Vous pouvez créer vos propres agents via l'interface , combiner les agents. Ils peuvent par défaut exécuter des commandes et editer/créer des fichiers. Chaque agent peut-être équipé de mcp, skills et system prompt personnalisé .
L'utilisation se veut simple et similaire à celle des chats que vous utilisez déjà.
Pourquoi utiliser Podlet plutôt que ChatGPT par exemple
Si vous utilisez chatgpt ou n'importe quel autre chat et vous êtes frustré par certaines limitations.
Que ce soit les limites d'utilisation gratuites ou encore les prix exorbitant des abonnements aux chat IA.
Ou même si vous avez un abonnement mais que c'est frustrant de ne pas vraiment pouvoir utiliser les nouveaux modèles des concurrents qui sont parfois meilleurs en fonction des sortis.
Si comme moi vous vous retrouvez dans une de ces situations, alors Podlet est aussi pour vous. Car vous pouvez utiliser des modèles locaux , des clés d'API de divers providers ou des abonnements qui proposes plusieurs modèles open-source à la pointe. Comme Open-code go, qui propose un très bon rapport prix/limites d'utilisation et une belle palette de modèles.
Donc une interface familière, une grande flexibilité dans l'utilisation et le choix des modèles et vous gardez toutes les créations sur votre machine.
La stack et technologies utilisées
- BUN – Fast JavaScript runtime
- Tailwind CSS – Framework CSS utilitaire, rapide et souple
- DaisyUI – Bibliothèque de composants construite sur Tailwind
- Elysia – Framework de backend pour le serveur API
- SolidJS – Framework de Frontend pour l'interface
- FASTAPI – Petit server api qui gère le routing vers le provider
- litellm – permet de gérer différents providers et modèles
En plus de ces technologies, j'ai également suivi des standards qui permettent aux agents d'utiliser les protocoles suivant:
- MCP - Un standard qui permet aux agents d'utiliser des outils extérieurs
- SKILLS - Un standard pour ajouter dynamiquement des instructions aux agents
Donc l'application utilise 3 serveurs : Elysia backend, fastapi+litellm backend et frontend dev serveur. Et seulement 2 pour la version docker car dans ce cas le serveur Elysia sert l'export statique du frontend.
Les features
- Utilisation d'outils
- Utilisation des mcps
- Utilisation des SKILLS
- Création d'agents
- Utilisation d'agents comme sous agents (outils ici)
- Conversation en mémoire avec des optimisations basiques
- Utilisation de fichiers dans directement dans le chat
- Système de dossiers pour stocker les créations des agents directement sur votre machine
- Confirmation manuelle d'utilisation des outils (human in the loop)
De plus, j'ai mis en place des contre-mesures pour réduire le risque d'injection de prompt malicieux via les outils, les skills ou mcps.
Ces mesures sont centrées autour d'un système de fichiers virtuel qui empêche les agents d'accéder au système de fichiers de la machine en dehors des dossiers artifacts/ et workspace/.
Il est également recommandé de faire tourner l'application via docker (docker-compose). Comme celà, les agents sont presque totalement séparés de la machine.
J'ai également implémenté une configuration pour activer le mode human in the loop qui va demander confirmation à l'utilisateur avant d'effectuer une opération potentiellement dangereuse. (Toujours expérimental)
Le README détaille l'ensemble de ces mesures de sécurité (VFS, isolation Docker, CORS, gestion des clés API) dans sa section dédiée.
D'autres fonctionnalités à venir: une seconde interface intégrée au terminal , des options pour l'optimisation et la gestion de la mémoire, l'affichage et la gestion de l'utilisation des tokens , et surement plus ...
Installation
Le détail de l'installation (Docker ou native, configuration des ports, premier lancement) se trouve directement dans le README du projet.
En résumé, deux options manuelles:
Avec Docker (recommandé):
git clone https://github.com/HellKaiser45/Podlet.git
cd Podlet
docker compose run --rm gateway bun run init --docker
docker compose up -d
En natif (Bun 1.0+ et Python 3.12+ requis):
git clone https://github.com/HellKaiser45/Podlet.git
cd Podlet
bun install
bun run init
bun run start
Mon utilisation de l'outil
J'utilise personnellement cette application avec l'abonnement Open-code go et je teste aussi pas mal de modèles avec openrouter en pay-as-you-go. Mes utilisations:
- Agentic coding (exploration de repositories, setup de nouveaux projets, écriture/modification de scripts)
- Prototyping et création d'assets visuels via des mcps
- Compilation des news et de datas pour assister des décisions de trading ou d'investissement.
- Recommender des recettes basées sur certains ingrédients , des conditions comme un total calorique ou une diet spécifique.
Comme vous pouvez créer de zéro vos propres agents, ajouter des mcps et skills et utiliser des agents et sous agents , les possibilités sont pratiquement illimités et je suis même loin d'utiliser ma propre application a son plein potentiel.
comment va évoluer le projet par la suite?
Je considère que dans l'état actuel le projet est dans un état satisfaisant et fonctionne comme je voulais et même mieux que prévu. J'ai diverses idées d'amélioration et d´évolution mais je n'ai pas de road map fixe dans le temps.
Je fais les modifications en fonction des retours ou de ma propre utilisation. Si vous avez des idées d'amélioration ou si vous rencontrez un bug, n'hésitez pas à me contacter via github ou laisser un commentaire sur ma vidéo.