L’intelligence artificielle transforme la commande publique en profondeur, mais elle y introduit trois risques structurants que tout acheteur doit maîtriser avant de déployer le moindre outil automatisé : les biais algorithmiques, les obligations issues du RGPD et les exigences de transparence. Mal gouvernés, ces trois facteurs suffisent à fragiliser une procédure entière.
Ce qu’il faut retenir d’emblée : l’IA dans les marchés publics désigne l’ensemble des outils automatisés appliqués à l’évaluation des offres, à la sélection des candidats ou à la gestion des données de consultation. Son usage est légitime à condition de garantir l’équité de traitement, la protection des données personnelles et la lisibilité des décisions prises.
Quels sont les principaux risques liés à l’IA dans les marchés publics ?
- Les biais algorithmiques peuvent fausser l’évaluation des offres et rompre l’égalité de traitement.
- Le RGPD impose des obligations précises sur la collecte, le traitement et la sécurisation des données des soumissionnaires.
- L’opacité des algorithmes érode la confiance des opérateurs économiques et expose l’acheteur à des recours.
- L’absence de contrôle humain dans la chaîne de décision constitue un vice de procédure potentiel.
- L’IA doit rester un outil d’aide à la décision, jamais un décideur autonome.
Points clés
- Les biais algorithmiques compromettent l’équité des procédures de marché.
- La conformité au RGPD conditionne la légalité de tout traitement automatisé en commande publique.
- La transparence des algorithmes renforce la sécurité juridique et la confiance des candidats.
Quels sont les risques des biais algorithmiques en marchés publics ?
Les algorithmes reproduisent les biais de leurs données d’entraînement : ils peuvent favoriser les grandes entreprises, pénaliser certaines régions ou certains secteurs. En commande publique, ces biais violent le principe d’égalité de traitement et exposent l’acheteur à l’annulation de la procédure.
Un algorithme construit sur des données partielles ou mal représentatives produit des discriminations involontaires. Dans les appels d’offres, cela se traduit par des notations faussées, des exclusions indirectes ou une préférence structurelle pour certains profils de candidats. Identifier ces mécanismes avant le lancement de la procédure est la seule manière d’en neutraliser les effets.
Définition et origines des biais dans les systèmes d’IA
Un biais algorithmique se manifeste lorsque les résultats produits par un algorithme ne reflètent pas une impartialité réelle. Il peut naître de données historiques biaisées, de critères d’analyse inadéquats ou d’une insuffisante diversité dans les jeux de données d’entraînement.
Ces biais sont souvent inconscients : ils reproduisent des discriminations sociales ou économiques préexistantes, héritées des corpus utilisés pour entraîner les modèles. Un déficit de supervision humaine aggrave leur persistance.
L’absence d’explicabilité des algorithmes complique la détection et la correction de ces déformations, ce qui renforce le risque d’atteinte à l’équité dans les décisions automatisées.
Exemples concrets dans les marchés publics (appels d’offres, évaluation)
Lors de l’évaluation des candidatures, un algorithme mal paramétré peut surévaluer des critères non pertinents ou négliger la diversité géographique et sectorielle. Résultat : certains profils sont systématiquement avantagés, sans que la commission de marché en soit consciente.
Les grandes structures disposant de davantage de données historiques bénéficient d’un avantage structurel dans les systèmes entraînés sur ces mêmes données. Les PME innovantes, moins représentées dans les corpus, sont ainsi pénalisées sans motif légitime.
Le traitement automatisé des données servant à noter les offres peut également introduire des distorsions directes sur la transparence de la procédure et sur le respect du principe d’égalité entre candidats.
Conséquences juridiques et discrimination involontaire
L’usage d’une IA dont les biais ne sont pas maîtrisés expose l’autorité contractante à une violation des principes d’égalité et de non-discrimination, qui sont fondamentaux en droit de la commande publique.
La responsabilité de l’acheteur peut être engagée dès lors qu’une décision automatisée aboutit à exclure ou défavoriser injustement un candidat en raison de critères biaisés ou mal interprétés, quand bien même l’intention initiale était neutre.
Le RGPD ajoute une obligation de transparence et de justification des traitements automatisés. En cas de recours, les impacts discriminatoires doivent pouvoir être expliqués et corrigés devant le juge administratif.
Le non-respect de ces règles ouvre la voie à des contestations devant les tribunaux administratifs, fragilise la confiance des opérateurs et peut conduire à l’annulation de la procédure dans son intégralité.
Comment assurer la conformité au RGPD lors de l’utilisation de l’IA ?
L’acheteur doit informer les candidats du recours à l’IA, définir une base légale pour le traitement, limiter les données collectées au strict nécessaire et réaliser une analyse d’impact préalable. Le droit d’opposition et l’intervention humaine doivent être garantis à chaque étape.
L’intégration de l’IA dans les marchés publics engage des obligations strictes en matière de protection des données personnelles. Le RGPD impose une gestion précise du cycle de vie des données : minimisation de la collecte, anonymisation, information des personnes concernées et anticipation des risques liés aux traitements automatisés.
Statut des modèles d’IA sous le RGPD (anonymat et mémorisation de données)
Les modèles d’IA traitant des données personnelles doivent respecter le principe de minimisation : limiter la collecte au strict nécessaire et supprimer les données devenues inutiles. L’anonymisation constitue un levier clé pour sortir certaines données du champ du RGPD, à condition qu’elle soit irréversible afin d’écarter tout risque de réidentification.
Il faut également vérifier si les systèmes mémorisent des données personnelles pendant la phase d’apprentissage ou d’inférence. Les modèles fondés sur un apprentissage supervisé ne peuvent conserver des informations sensibles sans base légale explicite. À défaut, des mesures techniques de sécurisation et de pseudonymisation doivent être mises en place.
Obligations de transparence et d’information des personnes concernées
Le RGPD impose une information claire et accessible envers les individus dont les données sont traitées. L’utilisation de l’IA en commande publique doit s’accompagner d’une communication sur les finalités du traitement, les catégories de données utilisées et les droits d’accès, de rectification et d’opposition.
Les organismes publics doivent mentionner explicitement le recours à des algorithmes, leurs impacts potentiels et les critères de décision automatisée retenus. Cette transparence renforce la confiance et facilite l’exercice des droits. Les modalités d’information peuvent prendre la forme de notices dédiées, intégrées aux documents de consultation ou diffusées via les plateformes concernées.
Analyse d’impact et notification des violations
Lorsqu’un traitement d’IA est susceptible d’engendrer un risque élevé pour les droits et libertés des individus, une analyse d’impact relative à la protection des données (AIPD) est obligatoire. Cette évaluation identifie, mesure et atténue les risques liés à la discrimination, aux automatismes non conformes ou à la fuite de données personnelles sensibles.
En cas de violation de données, la notification à la CNIL et aux personnes concernées doit intervenir sans délai excessif dès lors que le risque est majeur. Les systèmes d’IA déployés en commande publique doivent donc intégrer des mécanismes de détection rapide des incidents pour limiter les conséquences sur les données personnelles et satisfaire aux prescriptions réglementaires.
Quelles sont les exigences de transparence pour l’IA dans les marchés publics ?
L’acheteur public doit informer les candidats de l’utilisation d’un algorithme, expliquer son fonctionnement et ses critères, et justifier chaque décision d’attribution. Le règlement de consultation doit mentionner le recours à l’IA. L’absence de transparence constitue un vice de procédure.
La transparence encadre l’ensemble des usages de l’IA en marchés publics. Elle se traduit par des règles précises sur la responsabilité des acheteurs, la traçabilité des algorithmes et la conformité aux réglementations européennes, notamment l’AI Act.
Règles spécifiques aux achats publics et IA (responsabilité des acheteurs)
Les acheteurs publics portent la responsabilité de la transparence tout au long du processus d’achat impliquant des systèmes d’IA. Ils sélectionnent des outils conformes aux principes d’équité et dépourvus de biais identifiés.
Cette responsabilité impose une vigilance renforcée sur les données d’entraînement des algorithmes et sur les effets potentiels des décisions automatisées. Les critères utilisés pour évaluer les offres doivent être documentés clairement et de façon opposable.
Les acheteurs ont également l’obligation d’informer les parties prenantes sur les risques propres à l’IA déployée, ce qui contribue à la confiance et à la bonne gouvernance des marchés.
Auditabilité des algorithmes et documentation requise
L’auditabilité constitue le fondement de la transparence dans l’usage de l’IA. Les algorithmes doivent être accompagnés d’une documentation complète et accessible, détaillant leur fonctionnement, leurs données d’entrée et leurs critères de décision.
Cette documentation doit couvrir :
- Les méthodologies de conception des modèles
- Les mécanismes de détection et de correction des biais
- Les protocoles de test et de validation
Ces éléments permettent aux autorités de contrôle et aux acheteurs d’évaluer la conformité et l’intégrité des systèmes, et d’en assurer une revue rigoureuse en cas de contestation.
Interaction avec l’AI Act pour les systèmes à haut risque
L’AI Act soumet les systèmes d’IA qualifiés de « haut risque » à des obligations renforcées de transparence et de responsabilité. Cette qualification concerne fréquemment les outils déployés en commande publique.
Concrètement, les obligations comprennent :
- La fourniture d’informations claires sur la finalité et le fonctionnement des systèmes
- Un suivi continu pour détecter les défaillances éventuelles
- La garantie d’un contrôle humain effectif à chaque étape décisionnelle
Ce cadre européen renforce le droit national en garantissant que les systèmes d’IA intégrés aux marchés publics ne compromettent pas les principes fondamentaux de transparence et d’égalité de traitement.
Quelles mesures de mitigation et bonnes pratiques adopter ?
Auditez régulièrement les algorithmes pour détecter les biais, documentez chaque usage de l’IA dans le dossier de consultation, formez les agents à l’interprétation critique des résultats et prévoyez une procédure de recours humain. La combinaison de ces mesures sécurise juridiquement la procédure.
Pour contenir les risques liés à l’IA en commande publique, trois axes s’imposent : des méthodes rigoureuses de contrôle des biais, une conformité au RGPD intégrée dès la conception, et des critères explicites partagés entre acheteurs et fournisseurs. Ces approches garantissent conjointement la sécurité juridique, la transparence et le respect des principes éthiques.
Stratégies pour détecter et corriger les biais
La détection des biais commence par une analyse fine des données d’entraînement des modèles. Ces données doivent être représentatives et non discriminatoires. Des audits réguliers et pluridisciplinaires, associant experts en données et spécialistes de l’éthique algorithmique, permettent d’identifier les anomalies avant qu’elles n’affectent la procédure.
La correction repose sur des techniques éprouvées : rééquilibrage des jeux de données, ajustement des algorithmes et validation continue des résultats en conditions réelles. Les systèmes doivent intégrer des mécanismes de retour d’information pour corriger en permanence les défaillances détectées. La production d’explications accessibles renforce également la confiance des parties prenantes dans les décisions produites.
Mise en œuvre du RGPD dans les projets IA publics
Le RGPD encadre strictement la collecte et le traitement des données personnelles dans les projets d’IA publics. Les acheteurs doivent s’assurer que les données utilisées reposent sur une base légale clairement définie, qu’il s’agisse du consentement ou de l’intérêt public.
Les mesures techniques et organisationnelles doivent garantir la sécurité des données par le chiffrement et l’anonymisation. L’évaluation d’impact relative à la protection des données (DPIA) est obligatoire pour les systèmes présentant un risque élevé. Cette démarche permet d’anticiper les risques pour les droits des personnes concernées avant tout déploiement.
La CNIL recommande également d’informer clairement les citoyens sur le traitement automatisé de leurs données et de faciliter l’exercice de leurs droits d’accès, de rectification et d’opposition. Un usage responsable et conforme aux exigences légales en découle.
Recommandations pour les acheteurs et fournisseurs
Les acheteurs publics doivent intégrer des critères précis de transparence et de responsabilité dans leurs documents de consultation. Cela inclut des exigences portant sur la traçabilité des décisions produites par l’IA et leur explicabilité. Privilégier les solutions respectueuses des principes éthiques et intégrant la sécurité dès la conception reste la règle.
Les fournisseurs doivent, de leur côté, démontrer la robustesse et la conformité de leurs systèmes aux normes en vigueur. Une documentation détaillée sur la gestion des biais, la protection des données et la maintenance sécurisée constitue un prérequis. Un dialogue structuré entre acheteurs et fournisseurs facilite l’achat responsable et améliore la performance globale des projets.
Points clés :
| Aspect | Action recommandée |
|---|---|
| Biais | Audit régulier, correction algorithmique, mécanismes de retour d’information |
| RGPD | Base légale définie, DPIA, chiffrement et anonymisation des données |
| Acheteurs et fournisseurs | Critères transparents, respect des principes éthiques, documentation complète |
Questions fréquentes
L’utilisation de l’IA dans les marchés publics soulève des enjeux précis autour des biais algorithmiques, du respect du RGPD et de la transparence des systèmes. Ces défis engagent autant des cadres réglementaires que des pratiques opérationnelles à mettre en œuvre pour garantir l’équité et la sécurité juridique des procédures.
Quelles sont les régulations en place pour limiter les biais dans l’IA concernant les marchés publics ?
Les recommandations de la CNIL insistent sur une approche éthique et responsable de l’usage de l’IA. Le cadre européen sur la gouvernance de l’IA vise à prévenir les discriminations et à garantir l’équité, ce qui s’applique directement aux procédures de commande publique.
La commande publique doit respecter ces règles pour que les algorithmes ne reproduisent ni n’amplifient les biais existants. La transparence des modèles et les audits réguliers constituent les mécanismes opérationnels pour contenir ces risques.
Comment le RGPD affecte-t-il l’utilisation de l’IA dans la passation des marchés publics ?
Le RGPD encadre strictement le traitement des données personnelles utilisées par les systèmes d’IA en commande publique. Toute collecte ou utilisation de données doit respecter les principes de minimisation, de finalité et de base légale définie.
Le RGPD impose également des obligations sur la sécurité des données et reconnaît des droits aux personnes concernées, notamment en matière d’accès et de rectification. Ces contraintes doivent être intégrées dès la conception des projets d’IA liés à la passation des marchés.
De quelle manière peut-on assurer la transparence des algorithmes d’IA utilisés dans les marchés publics ?
La transparence passe par une documentation précise des modèles algorithmiques, de leur logique de décision et de leur impact potentiel sur les résultats de la procédure. Les audits externes et les rapports réguliers permettent de vérifier la conformité et l’équité des systèmes déployés.
Des outils d’explicabilité permettent aux parties prenantes, y compris aux soumissionnaires, de comprendre les critères mobilisés par l’IA pour noter les offres ou classer les candidats.
Quels sont les risques principaux associés à l’utilisation de l’IA dans les marchés publics ?
Les risques majeurs comprennent la discrimination indirecte liée aux biais algorithmiques et la non-conformité réglementaire en matière de données personnelles. Le défaut de transparence peut bafouer les principes d’équité et de non-discrimination qui fondent la commande publique.
Une mauvaise gouvernance des données ou un déficit de contrôle humain peut conduire à des failles de sécurité, suscitant des enjeux éthiques et juridiques considérables pour l’autorité contractante.
Comment les données personnelles sont-elles protégées lors de l’emploi de systèmes IA dans les marchés publics ?
La protection des données repose sur des mesures techniques et organisationnelles renforcées : chiffrement, anonymisation et pseudonymisation. La CNIL recommande un contrôle strict des accès et une gouvernance clairement définie pour ces systèmes.
Le respect des procédures d’évaluation d’impact sur la vie privée est obligatoire avant le déploiement de toute technologie d’IA impliquant des données sensibles.
Quelles bonnes pratiques existent pour prévenir les biais dans l’IA au sein des marchés publics ?
La diversité des jeux de données, la revue régulière des algorithmes par des experts indépendants et l’intégration d’équipes pluridisciplinaires dès la conception constituent les pratiques fondamentales. L’adoption d’indicateurs spécifiques pour mesurer l’équité des résultats produits est également recommandée.
Un suivi continu des effets de l’IA sur les procédures permet d’anticiper et de corriger rapidement toute dérive, avant qu’elle n’atteigne le stade du recours contentieux.
Conclusion
L’intelligence artificielle apporte des gains réels d’efficacité à la commande publique, mais elle y introduit des risques structurants que l’acheteur ne peut ignorer. Les biais algorithmiques, les obligations issues du RGPD et les exigences de transparence forment aujourd’hui les trois principaux points de vigilance. Mal maîtrisés, ces risques fragilisent l’égalité de traitement, la sécurité juridique des procédures et la confiance des opérateurs économiques.
Les biais algorithmiques sont particulièrement redoutables parce qu’ils sont souvent invisibles et hérités des données d’apprentissage ou des choix de conception des modèles. En commande publique, un biais peut conduire à des discriminations indirectes, à l’exclusion de certaines catégories d’entreprises ou à des notations faussées. Juridiquement, ces dérives exposent l’acheteur à des recours fondés sur la rupture d’égalité ou le favoritisme, même lorsque l’intention initiale était parfaitement neutre.
Le respect du RGPD ajoute une exigence supplémentaire. L’utilisation de l’IA implique fréquemment le traitement de données personnelles, parfois sensibles, ce qui impose des obligations strictes de minimisation, de transparence et de sécurisation. Analyses d’impact, information des personnes concernées, contrôle des mécanismes de mémorisation et supervision humaine deviennent incontournables. Une non-conformité sur ces aspects peut entraîner des sanctions administratives et fragiliser la légalité globale de la procédure.
La transparence reste le socle sur lequel repose l’acceptabilité de l’IA en marchés publics. L’acheteur doit pouvoir expliquer le rôle de l’algorithme, les critères mobilisés et la place du jugement humain dans la décision finale. L’IA ne peut être ni une boîte noire ni un décideur autonome. Correctement gouvernée, auditée et encadrée, elle devient un outil d’aide puissant. Déployée sans maîtrise, elle se transforme en risque juridique et éthique majeur pour la commande publique.
Ne passez plus à côté des appels d’offres !
Augmentez dès maintenant votre taux de réussite sur les marchés publics en contactant un expert !
En savoir plus
AO Conquête s’engage à accompagner le développement de votre entreprise en la positionnant efficacement sur le secteur public.
Ne passez plus à côté des appels d’offres et contactez-nous dès maintenant :
📍 Preuves AO Conquête — marchés remportés, documentés, vérifiables
Voici les attributions documentées publiquement par leurs courriers de notification officiels, biffés pour préserver la confidentialité de nos clients :
- Sciences Po — plateforme LMS
- HCERES — mobilier de bureau
- CTS Strasbourg — signalétique
- OPCommerce — prestation intellectuelle
- OPCommerce — Click & Form IA
- SORGEM — reprographie
- Partenord — commissaires de justice
- CPRN — travaux électricité
- Commune de Chaneins — peinture
- Ville de Saint-Gratien — impression
📍 Et sur l’UGAP spécifiquement : AO Conquête, cabinet de référence
AO Conquête est expert du référencement UGAP et intervient sur les trois volets clés :
- Marché UGAP remporté avec succès — Dronotec, attributaire de rang 1 sur le lot 9 drones de l’accord-cadre national 23U052 (ordre de service 15 mai 2025).
- Cabinet inclus dans la démarche Croissance PME de l’UGAP — accompagnement des PME sur leur entrée en centrale d’achat, en cohérence avec les priorités UGAP d’ouverture aux PME françaises.
- Pillar éditorial UGAP — articles de fond couvrant SiNoÉ, BPU, mémoire technique, RGPD, RSE, qualité de service, système de rang.
À propos de l’auteur (Philippe COURTOIS)
Après une première partie de carrière dédiée au commerce et à la vente (Banque LCL, Unilever, groupe Seloger.com) je me suis spécialisé dès 2010 dans la réponse aux appels d’offres, d’abord au sein de grands groupes (Essity, Bureau Veritas, groupe Sonepar) puis en tant que Consultant Marchés Publics dans un cabinet de conseil, avant de participer enfin au lancement des marchés publics pour la Société du Grand Paris dans le cadre du plus grand projet d’infrastructure d’Europe (Grand Paris Express).
C’est fort de cette expertise concrète et issue du terrain que j’ai décidé en 2022 de lancer mon activité et d’accompagner les entreprises souhaitant augmenter leur part de marché sur le secteur public.
À propos d’AO Conquête
AO Conquête accompagne les PME souhaitant se positionner efficacement sur les marchés publics afin de gagner en croissance.
Détection des appels d’offres, analyse du dossier de consultation, construction du dossier de réponse, rédaction ou refonte de votre mémoire technique : quel que soit votre secteur d’activité, c’est toute une gamme de solutions clé-en-main que nous proposons pour accompagner votre développement commercial.