«Quand l’IA conclut des contrats» – ce qui attend les commerces et la clientèle

L’intelligence artificielle va bien au-delà des fonctions d’assistance. Les agents passent des commandes, lancent des processus ou communiquent avec la clientèle. Mais que se passe-t-il lorsqu’un agent IA conclut un contrat? Qui est responsable en cas de problème? Et à quoi les entreprises tentées par cette solution doivent-elles veiller? Julia Herz, COO de dreamleap et experte en IA générative, expose les défis juridiques, ses expériences pratiques et ses recommandations pour les entreprises.

Interview: L’Agentic AI du point de vue légal – ce que les commerces doivent savoir

Yannick Küffer: Julia, tu accompagnes les entreprises depuis plusieurs années dans la mise en place d’une IA générative. Qu’est-ce qui change concernant les agents?

Julia Herz: L’Agentic AI – on entend par là des systèmes qui exécutent des tâches et prennent des décisions en toute autonomie – est actuellement un domaine en pleine ébullition. Contrairement aux chatbots classiques ou aux automatisations simples, ces agents peuvent planifier, déclencher des actions et interagir avec les systèmes de manière autonome. Ils sont très efficaces, mais cela ouvre un nouveau débat sur le plan juridique. Lorsqu’un agent commande ou conclut automatiquement des contrats, la question de la responsabilité se pose.

D’un point de vue juridique, quel est le principal problème avec les agents IA?

En Suisse, comme dans de nombreux pays, il manque actuellement une base juridique claire. Les contrats générés par de tels systèmes se trouvent dans une zone floue. En principe, les entreprises sont responsables de ce qu’elles mandatent, même si cela se fait par le biais de l’IA. Or, en cas de mauvaises décisions ou de malentendus, la situation se complexifie, en particulier lorsque la clientèle est concernée.

Quels risques concrets vois-tu, p. ex. dans l’e-commerce ou le service à la clientèle?

Dans la pratique, on peut identifier trois risques majeurs:

1. L’erreur contractuelle – les agents interprètent mal ou ignorent les CG.
2. Les prix et les affirmations erronés – en raison de sources de données obsolètes ou incomplètes.
3. Les problèmes liés à la protection des données – par exemple en cas de stockage ambigu ou de communication automatisée.

C’est précisément dans le commerce que cette pratique donne rapidement lieu à des actions juridiquement contraignantes – que ce soit lors du paiement, des commandes de réapprovisionnement ou des modifications de contrat en self-service.

Et qu’en est-il de la réglementation, par exemple au niveau de la loi européenne sur l’IA?

La loi européenne sur l’IA impose pour la première fois des exigences concrètes aux systèmes d’IA. De nombreuses applications basées sur les agents dans le commerce, p. ex. les chatbots avec préparation de contrat, entrent dans la catégorie à haut risque. En d’autres termes, les prestataires doivent garantir la transparence, la traçabilité, l’évaluation des risques, la documentation technique et les mécanismes de contrôle humains. Les entreprises devraient dès à présent examiner leurs systèmes, même si elles ne sont pas (encore) soumises à la législation européenne.

À quoi les entreprises doivent-elles impérativement veiller lors de l’introduction de tels systèmes?

Pour bien démarrer avec l’Agentic AI, nous recommandons de:

1. définir clairement le cas d’application: l’agent doit-il agir de manière autonome ou l’assistance suffit-elle?
2. déterminer la responsabilité: qui est responsable sur le plan technique et professionnel?
3. documenter et journaliser: les décisions et les procédures doivent être enregistrées de façon à être traçables.
4. choisir un fournisseur de manière ciblée: bon nombre de prestataires ne fournissent pas de cadres juridiques clairs.

La protection des données est un point souvent négligé: les outils tels que «Memory» ou les Custom GPT augmentent certes l’efficacité, mais entraînent rapidement des fuites de données lors du traitement de contenus confidentiels. La prudence est de mise, notamment dans les secteurs réglementés. Plus d’informations sur notre blog.

Pour une entrée en matière structurée, nous recommandons notre check-list des «10 Essentials» pour l’introduction des agents IA dans le commerce.

As-tu un exemple pratique à nous donner, qui a été particulièrement instructif?

Oui, nous y sommes régulièrement confrontés dans nos projets: sur le papier, les agents entièrement autonomes sont ultraperformants, mais dans les faits, ils sont souvent peu fiables et difficilement contrôlables. Ils trouvent des solutions créatives – ce qui peut sembler impressionnant, mais on constate un manque de transparence et des risques.

C’est pourquoi dreamleap mise sur des workflows clairement définis: les agents agissent selon des procédures fixées, de manière transparente et sûre. Par exemple, dans le cadre d’un projet dans le domaine financier, nous avons créé une FAQ automatisée qui sert de base vérifiée pour le chatbot. Les contenus sont générés par l’IA, mais la procédure est structurée.

Notre enseignement: les solutions purement basées sur des agents sont encore trop sujettes aux erreurs aujourd’hui. Mais en posant des workflows clairs, elles apportent une réelle valeur ajoutée, évolutive et adaptée à la pratique.

De plus en plus de consommatrices et de consommateurs, mais aussi de clients commerciaux, font appel à des agents pour effectuer automatiquement leurs achats. Qu’est-ce que cela signifie pour les commerces?

C’est un sujet d’actualité brûlant. Les premiers bots et agents font déjà leurs preuves: ils recherchent, comparent ou passent des commandes de manière automatisée dans les boutiques en ligne, p. ex. dans le cadre d’un processus d’achat pour une entreprise. Les commerces sont confrontés à plusieurs défis:

1. Sur le plan technique – les agents peuvent surcharger les systèmes ou déclencher des transactions erronées.
2. Sur le plan juridique – l’agent est-il apte à agir? Qui est responsable en cas d’erreurs?
3. Sur le plan stratégique – souhaite-on vraiment autoriser de tels agents ou les exclure de manière ciblée?

Les bonnes pratiques actuelles sont les suivantes:

• Transparence des CG: définir si les agents sont autorisés à passer commande.
• Gestion des bots: faire le tri entre ceux qui sont utiles et les autres.
• API: miser sur des interfaces structurées et sécurisées plutôt que sur des hacks de boutique.

Au final, il en résultera un équilibre: les commerces ouverts à l’Agentic Commerce peuvent acquérir des avantages concurrentiels, mais doivent définir des règles du jeu claires.

Que recommandes-tu aux commerces qui souhaitent se lancer dans l’Agentic AI?

Démarrer en douceur et de manière contrôlée. Ne jamais réaliser de tests en conditions d’exploitation réelles. Veiller également à la qualité des données, à la journalisation et à la compliance. Et surtout: choisir ses prestataires de manière judicieuse. Une bonne solution d’agent doit non seulement offrir des possibilités techniques, mais aussi garantir la sécurité et être en conformité avec la loi.

Dernière question: se dirige-t-on vers une règlementation complète des agents?

Je pense que oui, et c’est une bonne chose. À l’avenir, les agents piloteront des processus entiers. Pour que la confiance dans l’IA soit maintenue, des règles claires sont indispensables. Prendre ses responsabilités dès aujourd’hui sera bénéfique à long terme.