Avocat en Droit de l'Intelligence Artificielle (IA) et IA Publique

Vis-à-vis de l'usager, la responsabilité reste celle de l'administration : elle ne peut pas s'abriter derrière le dysfonctionnement de son prestataire pour justifier une décision illégale, et le juge administratif appréciera la légalité de l'acte, non la qualité du logiciel. En interne, la répartition dépend du contrat et de la qualification des parties au sens de l'IA Act : l'administration qui diffuse le système sous son propre nom, ou qui le modifie substantiellement, peut basculer du statut de déployeur à celui de fournisseur et endosser les obligations correspondantes. D'où l'importance de clauses de garantie de conformité, d'indemnisation et de plafonds de responsabilité négociés, ainsi que d'une réserve de recours en cas de sanction administrative. Sur le calendrier : les interdictions et l'obligation de littératie en IA s'appliquent depuis février 2025 et les obligations de transparence depuis août 2026, tandis que le règlement omnibus numérique adopté en juin 2026 a reporté les obligations relatives aux systèmes à haut risque au 2 décembre 2027 (annexe III) et au 2 août 2028 (annexe I). Attention, ce report est un délai de préparation, non une dispense.

Oui, mais...sous réserve que l'exigence soit justifiée par l'objet du marché et proportionnée. L'article 31 de la loi SREN impose le recours à des solutions de cloud qualifiées lorsque les données traitées sont sensibles et que leur compromission serait susceptible de porter atteinte à l'ordre ou à la sécurité publics. La circulaire du Premier ministre n° 6519/SG du 5 février 2026 relative à la commande publique numérique va plus loin en imposant aux acheteurs de l'État une grille de neuf critères de décision, incluant explicitement la souveraineté numérique et la sécurité. En pratique, ces exigences se traduisent au stade de la candidature (qualification SecNumCloud 3.2 ou mesures équivalentes, absence de contrôle extra-européen), du jugement des offres (critères de sécurité et de localisation des données) et du contrat (audit, réversibilité, résiliation en cas de changement de contrôle). La rédaction doit rester compatible avec le droit européen de la concurrence et le principe de non-discrimination : attention, c'est ici que se joue la sécurité juridique du marché.

Rien ne l'interdit par principe, mais trois limites s'imposent. La confidentialité d'abord : l'article L. 2132-1 du code de la commande publique interdit à l'acheteur de divulguer les informations confidentielles transmises par les candidats. Dès lors, déposer des mémoires techniques dans une IA générative grand public, dont les conditions d'utilisation autorisent la réutilisation des saisies, expose donc l'acheteur à une violation caractérisée du secret des affaires : c'est le risque central du shadow AI dans les services achats. Les principes de la commande publique ensuite : liberté d'accès, égalité de traitement et transparence supposent que l'acheteur conserve la maîtrise et la compréhension de l'outil qu'il utilise, et qu'un pré-tri algorithmique ne défavorise pas systématiquement certains profils d'opérateurs. La décision, enfin, doit rester humaine : l'analyse assistée par IA ne peut pas constituer à elle seule le choix de l'attributaire, et le rejet d'une offre doit demeurer motivé et explicable devant le juge. La rédaction d'une doctrine interne d'usage de l'IA peut être ici le premier réflexe de sécurisation.

C'est l'un des angles morts les plus fréquents des marchés d'IA. À défaut de stipulation expresse, l'éditeur peut soutenir qu'il reste titulaire du modèle réentraîné avec les données de l'administration, et réutiliser librement les gains de performance obtenus grâce au service public, au bénéfice de ses autres clients, parfois concurrents de la collectivité. Le CCAP doit donc traiter distinctement trois objets : les données transmises par l'acheteur, les données produites en cours d'exécution (annotations, corrections, retours des agents) et les paramètres du modèle issus de l'entraînement. Le CCAG prévoit d'ailleurs des clauses en ce sens. Il convient d'interdire ou d'encadrer strictement la réutilisation des données publiques à d'autres fins, de prévoir le sort des jeux d'entraînement en fin de marché et d'articuler ces stipulations avec les obligations de publication des données essentielles, le secret des affaires et le RGPD.

En pratique, les CCAG, y compris le CCAG-TIC, n'ont pas été conçus pour les systèmes d'IA : ils doivent impérativement être complétés dans le CCAP. Six familles de clauses méritent une attention particulière. La répartition des rôles au sens de l'IA Act d'abord : le titulaire doit être contractuellement identifié comme fournisseur et s'engager à remettre la documentation technique, la notice d'utilisation et les informations permettant au déployeur public de remplir ses propres obligations. La performance ensuite, avec des indicateurs mesurables (taux d'erreur, taux de faux positifs, exigences de robustesse) et non de simples engagements de moyens. Viennent ensuite le contrôle humain et la traçabilité (journalisation, explicabilité des résultats), le régime des données et de la propriété intellectuelle, la gestion des évolutions du modèle (une mise à jour substantielle ne doit pas dégrader silencieusement le service ni modifier la qualification juridique du système) et enfin la réversibilité : restitution des données, des paramétrages et des jeux d'annotation, et plan de sortie opposable.

Acheter un système d'IA suppose d'anticiper dès la définition du besoin ce qu'aucun cahier des charges logiciel classique ne prévoit : la qualification du système au regard de l'IA Act, la nature et la provenance des données d'entraînement, le niveau de performance attendu et sa mesure, ainsi que le partage des rôles entre fournisseur et déployeur. Le choix de la procédure est également structurant : le sourcing préalable, le partenariat d'innovation, le marché public de recherche et développement ou l'achat innovant de gré à gré, dont le seuil a été porté à 140 000 euros HT par la loi de simplification de la vie économique du 26 mai 2026, ne répondent pas aux mêmes besoins ni aux mêmes risques. La Direction des achats de l'État et la DINUM ont par ailleurs publié une fiche dédiée à l'achat responsable de solutions d'IA, qui propose des questions de sourcing et des exemples de clauses. Notre cabinet intervient en AMO juridique sur l'ensemble de cette chaîne, de la définition du besoin à la notification du marché.

Oui, c'est légalement possible, mais strictement encadré. Une décision administrative individuelle peut être prise sur le fondement exclusif d'un algorithme, sauf si cette décision porte sur l'appréciation du comportement d'une personne (interdiction du profilage aveugle). De plus, l'administration doit garantir qu'un agent humain maîtrise le fonctionnement du système algorithmique et peut l'expliquer à l'usager.

Oui, c'est une obligation légale absolue (Code des relations entre le public et l'administration). L'administration doit informer explicitement l'usager lorsqu'une décision individuelle (comme l'octroi d'une aide ou une affectation) est fondée sur un traitement algorithmique. L'usager a le droit de demander l'explication des critères et de la pondération utilisés par l'IA. L'absence de cette mention rend la décision illégale.

L'IA Act impose plusieurs obligations de transparence : informer les utilisateurs qu'ils interagissent avec un système d'IA (notamment pour les chatbots) ; labelliser les contenus générés par IA (deepfakes, textes synthétiques) ; documenter les données d'entraînement et les performances des systèmes à haut risque. Les fournisseurs de modèles d'IA à usage général (comme les LLM) sont tenus de publier des résumés des données d'entraînement et de respecter le droit d'auteur.

Les sanctions prévues par l'IA Act sont graduées selon la gravité du manquement : jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires mondial annuel pour l'utilisation de systèmes d'IA à risque inacceptable ; jusqu'à 15 millions d'euros ou 3 % du chiffre d'affaires pour d'autres violations ; jusqu'à 7,5 millions d'euros ou 1,5 % du chiffre d'affaires pour la fourniture d'informations incorrectes. Ces plafonds sont réduits de moitié pour les PME et les start-ups.

L'IA Act est le règlement européen sur l'intelligence artificielle entré en vigueur en 2024. Il établit un cadre réglementaire basé sur le niveau de risque des systèmes d'IA : les systèmes à risque inacceptable sont interdits (manipulation, notation sociale) ; les systèmes à haut risque (santé, justice, RH, éducation) sont soumis à des obligations strictes de transparence, de documentation et de contrôle humain ; les autres systèmes sont soumis à des obligations plus légères. Toute entreprise développant ou déployant des systèmes d'IA au sein de l'Union européenne est concernée.

Ce sont des systèmes d'IA dont l'utilisation peut avoir un impact significatif sur la santé, la sécurité ou les droits fondamentaux. Dans le secteur public, cela concerne notamment les IA utilisées pour la gestion des migrations, l'accès à l'éducation, l'évaluation pour l'octroi d'aides sociales, ou l'utilisation d'IA par les forces de l'ordre (reconnaissance biométrique).