L’AI Act touchera toutes les entreprises

Vendredi dernier, les ambassadeurs des États membres de l’Union européenne ont approuvé à l’unanimité l’AI Act, premier texte européen destiné à réglementer l’usage de l’intelligence artificielle. Son parcours législatif n’est pas tout à fait terminé, mais il faudrait un dérapage majeur pour que le Parlement et le Conseil ne l’approuvent pas d’ici à l’été. Les dispositions du règlement commenceront donc à s’appliquer entre la fin 2024 et la mi-2025.

Du client…

Doté de sanctions plus sévères que celles du Règlement Général sur la Protection des Données (RGPD), l’AI Act se profile déjà comme un catalyseur majeur pour la transformation de la gouvernance de l’intelligence artificielle au sein des entreprises. Il cible principalement les acteurs qui déploient ou fournissent des outils d’IA, mais tous leurs clients potentiels doivent en tenir compte. La discussion sur l’AI Act ouvre ainsi une porte vers un débat plus large : la gouvernance de l’IA dans le milieu professionnel.

L’utilisation de l’IA par les collaborateurs et le phénomène du « shadow AI », où des outils personnels d’IA sont employés à des fins professionnelles sans garanties claires sur la confidentialité des données, mettent en lumière les risques associés à une gestion laxiste de l’IA. Ces pratiques peuvent conduire à l’utilisation non intentionnelle de données sensibles pour l’entraînement des modèles d’IA, avec des conséquences potentiellement graves pour la confidentialité et la sécurité des informations d’entreprise.

Il est notamment essentiel d’auditer les relations contractuelles avec les fournisseurs d’outils d’IA, afin de s’assurer que les contrats incluent des clauses garantissant la conformité avec l’AI Act. Cette démarche limite les risques liés à l’utilisation de l’IA et protège les données personnelles et professionnelles. Les services en charge des achats technologiques doivent être particulièrement vigilants quant au respect des normes établies par l’AI Act.

… au fournisseur

Les entreprises engagées dans la création ou la mise sur le marché d’outils d’IA seront tenues de respecter des obligations de conformité, d’information des utilisateurs et de transparence, dont l’ampleur variera en fonction de l’évaluation du niveau de risque de leurs outils d’IA selon la classification de l’AI Act. Cette approche réglementaire, en imposant des standards de gouvernance et de conformité stricts, vise à instaurer un cadre sécurisé et éthique pour l’utilisation de l’IA dans le secteur professionnel.

Du côté de la French Tech, plusieurs voies se sont élevées pour se plaindre d’un texte qui soit trop discriminant pour les start-ups d’IA de petite taille. Le texte de l’AI Act propose en effet une classification des IA entre IA interdites, IA à haut risque, IA à risque faible et IA à risque minime. Proposer les premières – des systèmes de notation sociale à la chinoise, par exemple – encourt des sanctions allant jusqu’à 7% du chiffre d’affaires mondial ou 35 millions d’euros.

Le cœur de la question, toutefois, concerne les IA à haut risque. L’AI Act les soumet à des contraintes de transparence et de conformité lourdes à mettre en œuvre. L’important est alors de comprendre ce que comprend cette catégorie, comme l’explique dans Qant Gilles Rouvier, associé du cabinet Lawways et président du réseau Cyberlex : « Les systèmes d’IA à haut risque répondent à des conditions cumulatives définies par le texte de l’AI Act. Notamment, une liste de SIA à haut risque figure en annexe III (ex. SIA de recrutement, SIA d’évaluation de la solvabilité des personnes. Cette liste est très large. Il va y avoir un travail important de précision des aspects techniques par l’AI Office européen et l’autorité française, qui n’est pas encore désignée. »

Le « haut risque » ne concerne donc pas seulement les modèles de fondation, réservés à des start-up ayant levé plusieurs centaines de millions d’euros. Sa définition la plus vaste pourrait inclure toute sorte de services d’IA générative, et toutes les entreprises qui les utilisent.

J.R, M. de R.

 

Retrouvez l’interview de Gilles Rouvier (Lawways) et toute l’actualité de l’intelligence artificielle en vous abonnant à Qant: Révolution cognitive et Avenir du numérique