Ci-dessous, un article publié dans Milano Finanza, un quotidien économique et financier italien, dans lequel Sandro Gozi, Secrétaire Général du Parti Démocrate Européen, s'exprime sur les progrès de l'Europe dans la poursuite d'un leadership mondial dans le secteur de l'Intelligence Artificielle fiable.
Il est toujours difficile de créer de bonnes lois. Créer des lois efficaces pour des activités qui n'existent pas encore, conformément à notre modèle de société, devient encore plus difficile. C'est le défi que nous avons décidé de relever en Europe avec la nouvelle loi sur l'intelligence artificielle que nous avons adoptée à Strasbourg. Nous avons cherché un bon équilibre entre deux exigences fondamentales de notre stratégie. D'une part, nous voulons promouvoir et encourager la recherche, l'innovation, le développement de modèles, la promotion des logiciels libres et combler notre énorme écart de compétitivité avec les États-Unis ou la Chine. D'autre part, nous ne voulons pas innover au détriment de nos valeurs et libertés fondamentales, qui doivent être pleinement respectées. L'Europe représente une troisième voie entre le laissez-faire américain et le contrôle totalitaire chinois.
Après notre vote, nous entamerons des négociations avec le Conseil de l'UE en vue de parvenir à un accord final d'ici la fin de l'année. Notre objectif est d'établir des règles harmonisées sur l'IA, afin de garantir le bon fonctionnement du marché intérieur et la libre circulation transfrontalière des biens et services basés sur l'IA. En ce qui concerne l'innovation, je pense que nous devrons travailler davantage dans la phase de négociation pour favoriser des règles encore plus flexibles pour nos opérateurs et nos entreprises que le texte du Parlement, qui est le résultat d'un compromis difficile et qui doit évoluer. L'Europe aspire à devenir une référence mondiale en matière d'intelligence artificielle fiable. Avec cette loi, nous soulignons la nécessité de veiller à ce que l'IA soit éthiquement responsable, techniquement robuste et conforme aux valeurs démocratiques et aux droits fondamentaux de l'Union européenne.
Cela passe avant tout par une définition précise de l'intelligence artificielle applicable aux systèmes actuels et futurs. Les développeurs d'IA doivent respecter des principes tels que l'intervention et la supervision humaines, la robustesse technique, la protection de la vie privée et la gouvernance des données, la transparence, la diversité, la non-discrimination, l'équité et le bien-être social et environnemental. Cependant, nous devrons faire une plus grande distinction entre les développeurs de modèles, qui doivent bénéficier d'une plus grande marge de manœuvre, et les développeurs d'applications. Ce sera sans doute l'une des priorités des négociations ultérieures. Nous avons également développé différentes catégories de risques : avec une approche ciblée pour identifier les systèmes à haut risque, tout en réduisant la bureaucratie pour les systèmes à faible risque. Seuls les systèmes qui présentent un risque significatif pour la santé, la sécurité ou les droits fondamentaux feront partie de la première catégorie. Nous insistons sur une définition claire des rôles des différents acteurs de la chaîne de valeur de l'IA, en mettant l'accent sur les besoins des PME. Par exemple, nous nous opposons aux clauses contractuelles injustes imposées unilatéralement. Et surtout, nous voulons promouvoir l'innovation, par exemple en exemptant les activités de recherche et les composants d'IA sous licence libre.
De nouvelles dispositions sur ce que nous avons appelé les "bacs à sable" permettent aux fournisseurs de tester leurs systèmes d'IA sans avoir à se conformer immédiatement au cadre réglementaire. Toutefois, même la loi la plus parfaite ne sert pas à grand-chose si elle n'est pas assortie d'un mécanisme d'application efficace. Nous appelons donc au renforcement du Bureau européen d'évaluation de l'impact sur l'environnement, qui sera chargé de faire respecter les règles. Mais cela ne peut se faire au prix d'un affaiblissement de nos valeurs et de nos libertés. C'est pourquoi nous interdisons les utilisations invasives et discriminatoires. Il s'agit de pratiques telles que les techniques subliminales ou manipulatrices délibérées, l'exploitation des vulnérabilités des personnes et l'utilisation à des fins d'évaluation sociale.
L'interdiction s'étend également aux systèmes d'identification biométrique à distance, à la catégorisation biométrique basée sur des caractéristiques sensibles, aux systèmes de police prédictive, à la reconnaissance des émotions dans divers contextes et à l'extraction indiscriminée de données biométriques pour la reconnaissance faciale. Bien que la plupart de ces interdictions soient largement soutenues, l'interdiction absolue des systèmes d'identification biométrique à distance en temps réel dans les espaces publics reste controversée. Certains pensent qu'il peut y avoir des cas légitimes d'utilisation de ces systèmes, par exemple dans le cadre de l'application de la loi, à condition que des garanties proportionnées et justifiées soient mises en place. C'est également mon avis, et je pense que nous devrons travailler davantage sur ces aspects, qui seront sans aucun doute au centre des prochaines négociations avec les États membres.
Enfin, l'utilisation de l'IA en politique soulève des inquiétudes croissantes, notamment en ce qui concerne la diffusion rapide de contenus négatifs et de "fake-news". Alors que le cerveau humain peut mettre des heures à générer un millier de tweets de critiques politiques et d'insultes, une IA peut le faire en moins de 10 minutes. Cette facilité avec laquelle les PIA peuvent diffuser des contenus négatifs soulève des questions sur la responsabilité des plateformes en ligne. Facebook, en particulier, a connu des changements majeurs au cours des derniers mois, en grande partie grâce à l'avènement de l'IA. Cependant, il reste à voir si les autres plateformes se sont équipées de manière adéquate pour faire face à ce problème, pour préserver la liberté d'expression tout en se protégeant des abus. Tout cela nécessite la création d'un environnement dans lequel les utilisateurs humains, identifiables et en chair et en os, sont libres de s'exprimer, plutôt que d'être submergés par des trolls ou des logiciels d'IA. Nous faisons un pas important vers la création d'un cadre réglementaire solide pour l'EIP en Europe et vers le développement d'un modèle unique. Mais nous devons aussi travailler simultanément sur des outils permettant d'investir dans l'innovation. Il est important d'avoir de bonnes règles, mais il est encore mieux de pouvoir financer de bons investissements. Voilà l'Europe que nous voulons : un multiplicateur d'opportunités, de libertés et de protections.
Sandro
Gozi
Secrétaire général
France
