Avocat en Droit de l'Intelligence Artificielle (IA) et IA Publique
L'Intelligence Artificielle (IA) n'est plus un simple sujet de recherche : elle bouleverse l'économie, transforme les métiers et s'intègre massivement dans les services publics. Face à cette révolution, le cadre juridique se structure, notamment avec l'entrée en vigueur de la réglementation européenne (IA Act) et les exigences strictes du droit administratif français.
L’expertise du cabinet NOVLAW Avocats s’adresse aux concepteurs d'IA ainsi qu’aux entités qui la déploient (État, collectivités territoriales, hôpitaux, entreprises privées) dans la sécurisation juridique de leurs Systèmes d'Intelligence Artificielle (SIA).
Les 4 défis juridiques de l'IA dans le secteur public
L'intégration d'une IA dans vos processus nécessite un audit multidimensionnel :
- La Conformité (IA Act) : Classification du risque de votre IA et respect des obligations de transparence.
- L'IA publique : Achat d'IA (AMO juridique) et légalité des décisions administratives algorithmiques.
- La propriété intellectuelle : Protection des algorithmes, gestion des données d'entraînement et droits sur les contenus générés.
- Les Données : la disponibilité des données, le traitement et la protection des données, notamment les données personnelles face aux capacités d'analyse et de traitement massif de l'IA.
Mise en conformité avec le Règlement Européen sur l'IA (IA Act)
L'IA Act impose des obligations graduées selon le niveau de risque que le système fait peser sur les droits fondamentaux.
Que vous soyez "fournisseur" ou "déployeur" d'IA, le cabinet NOVLAW Avocats vous accompagne dans la mise en conformité de vos outils, notamment en matière de qualification et de cartographie des risques : Analyse de vos systèmes pour déterminer s'ils relèvent d'un risque "inacceptable" (interdits), "haut risque" (soumis à des contraintes strictes), ou d'un "risque limité" (obligations de transparence).
IA Publique : L'Intelligence Artificielle au service de l'Administration
L'administration utilise de plus en plus l'IA pour détecter les fraudes, calculer des droits, ou orienter les usagers (chatbots, systèmes d'affectation comme Parcoursup). Ce recours à l'IA par la puissance publique est ultra-réglementé :
- AMO juridique pour l'achat de solutions et de systèmes d'IA : Acheter un SIA, ce n'est pas comme acheter un logiciel classique. Nous agissons en tant qu'Assistant à Maîtrise d'Ouvrage (AMO) juridique dans vos marchés publics.
- Décisions administratives algorithmiques : Le Code des relations entre le public et l'administration (CRPA) impose que l’usager soit informé lorsqu’une décision est prise sur la base d'un algorithme. Nous auditons vos SIA publics pour garantir leur légalité et adaptons vos contrats.
- Lutte contre le "Shadow AI" : Face à l'utilisation spontanée d'IA génératives commerciales par les agents publics, nous réfléchissons avec vous à une doctrine interne pour encadrer ces pratiques, protéger le secret professionnel, la souveraineté des données publiques, ou encore le secret des affaires (notamment dans le cadre de l’analyse des offres).
Propriété Intellectuelle et Données d'entraînement
L'Intelligence Artificielle bouscule les fondements du droit de la propriété intellectuelle et du droit des données :
- Licéité des bases de données et des données d'entraînement : Pour les concepteurs d'IA, nous auditons les sources utilisées pour entraîner vos modèles afin de prévenir le risque d’utilisation de données à caractère personnel notamment.
- Statut des contenus générés : À qui appartient un contenu, une image ou un code informatique généré par une IA ? Nous vous conseillons sur la qualification juridique de ces "créations" et sur la rédaction des contrats en conséquence.
IA et Protection des Données (RGPD)
Une IA performante est souvent une IA "gourmande" en données. Or, l'utilisation de données personnelles pour entraîner ou alimenter un algorithme doit respecter le RGPD.
Nous proposons un accompagnement juridique pour purger les données de leur caractère identifiant avant l'entraînement des modèles. (Découvrir notre expertise en Données Publiques et RGPD)
Questions fréquentes en IA publique
Une administration peut-elle laisser une IA prendre une décision seule ?
Oui, c'est légalement possible, mais strictement encadré. Une décision administrative individuelle peut être prise sur le fondement exclusif d'un algorithme, sauf si cette décision porte sur l'appréciation du comportement d'une personne (interdiction du profilage aveugle). De plus, l'administration doit garantir qu'un agent humain maîtrise le fonctionnement du système algorithmique et peut l'expliquer à l'usager.
Un usager doit-il être informé que la décision administrative a été prise par un SIA ?
Oui, c'est une obligation légale absolue (Code des relations entre le public et l'administration). L'administration doit informer explicitement l'usager lorsqu'une décision individuelle (comme l'octroi d'une aide ou une affectation) est fondée sur un traitement algorithmique. L'usager a le droit de demander l'explication des critères et de la pondération utilisés par l'IA. L'absence de cette mention rend la décision illégale.
Quelles sont les obligations de transparence imposées par l'IA Act ?
L'IA Act impose plusieurs obligations de transparence : informer les utilisateurs qu'ils interagissent avec un système d'IA (notamment pour les chatbots) ; labelliser les contenus générés par IA (deepfakes, textes synthétiques) ; documenter les données d'entraînement et les performances des systèmes à haut risque. Les fournisseurs de modèles d'IA à usage général (comme les LLM) sont tenus de publier des résumés des données d'entraînement et de respecter le droit d'auteur.
Quelles sanctions sont prévues en cas de non-conformité à l'IA Act ?
Les sanctions prévues par l'IA Act sont graduées selon la gravité du manquement : jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires mondial annuel pour l'utilisation de systèmes d'IA à risque inacceptable ; jusqu'à 15 millions d'euros ou 3 % du chiffre d'affaires pour d'autres violations ; jusqu'à 7,5 millions d'euros ou 1,5 % du chiffre d'affaires pour la fourniture d'informations incorrectes. Ces plafonds sont réduits de moitié pour les PME et les start-ups.
Qu'est-ce que l'IA Act et quelles entreprises sont concernées ?
L'IA Act est le règlement européen sur l'intelligence artificielle entré en vigueur en 2024. Il établit un cadre réglementaire basé sur le niveau de risque des systèmes d'IA : les systèmes à risque inacceptable sont interdits (manipulation, notation sociale) ; les systèmes à haut risque (santé, justice, RH, éducation) sont soumis à des obligations strictes de transparence, de documentation et de contrôle humain ; les autres systèmes sont soumis à des obligations plus légères. Toute entreprise développant ou déployant des systèmes d'IA au sein de l'Union européenne est concernée.
Qu'est-ce qu'une IA "à haut risque" selon l'IA Act européen ?
Ce sont des systèmes d'IA dont l'utilisation peut avoir un impact significatif sur la santé, la sécurité ou les droits fondamentaux. Dans le secteur public, cela concerne notamment les IA utilisées pour la gestion des migrations, l'accès à l'éducation, l'évaluation pour l'octroi d'aides sociales, ou l'utilisation d'IA par les forces de l'ordre (reconnaissance biométrique).
Contactez nos experts en Droit de l'Intelligence Artificielle
Que vous soyez une startup développant une solution algorithmique innovante, ou une collectivité souhaitant sécuriser l'achat et le déploiement d'une IA dans ses services, NOVLAW est votre partenaire stratégique