Agents IA

Agents IA#

Un parcours expérimental pour comprendre comment associer un modèle, des outils et des garde-fous afin de construire un agent capable d’agir de manière contrôlée.

Parcours#

Un modèle produit une réponse à partir de son entrée. Pour devenir un agent, il doit aussi pouvoir observer un environnement, choisir une action, utiliser un outil et rendre compte du résultat.

Cette capacité d’action introduit de nouvelles questions : quelle identité utiliser ? Quelles permissions accorder ? Comment protéger les secrets, limiter l’autonomie, conserver une trace et arrêter l’agent si nécessaire ?

Nous partirons d’expériences réelles et bornées pour introduire progressivement :

  • la différence entre un modèle, un script et un agent ;
  • les outils et les actions autorisées ;
  • l’identité technique et l’authentification ;
  • le principe de moindre privilège ;
  • l’état, la mémoire et la traçabilité ;
  • les garde-fous et la validation humaine ;
  • l’arrêt, la révocation et le retour arrière.

La première étape consistera à comprendre comment donner à un agent un accès sécurisé et limité à GitHub. Une étape ultérieure étudiera son autonomie sur un système local, après définition et validation des protections nécessaires.

Les leçons seront ajoutées à ce plan après leur expérimentation, leur rédaction et leur validation.

Sur cette page:
Categories
IA