C’est probablement l’une des questions les plus importantes.
Un agent IA ne doit pas nécessairement disposer d’une autonomie totale.
Vos données restent au cœur du projet
Un agent IA peut potentiellement accéder à des informations importantes pour votre entreprise.
Sa conception doit donc intégrer dès le départ les questions de confidentialité, de sécurité et de droits d’accès.
Un collaborateur qui n’a pas accès à une information ne doit pas pouvoir utiliser l’agent pour contourner cette restriction.
Nous réfléchissons donc aux sources accessibles, aux droits utilisateurs, aux informations transmises aux modèles d’intelligence artificielle et aux actions que l’agent est autorisé à réaliser.
Un agent utile doit aussi être un agent maîtrisé.
L’humain reste dans la boucle
Donner davantage d’autonomie à l’intelligence artificielle ne signifie pas supprimer l’intervention humaine. Au contraire.
Plus les capacités d’un agent augmentent, plus il devient important de définir précisément quand il peut agir seul et quand il doit demander une validation.
L’agent traite ce qui peut être traité. Le collaborateur intervient lorsque son expertise, son jugement ou sa responsabilité sont nécessaires.
L’IA prend en charge une partie du processus. L’humain conserve la maîtrise de la décision