- 23.11.2024, samedi
- 09:46
Les assistants conversationnels sont notamment dans le viseur de l'UE dans le cadre des négociations pour réguler l'intelligence artificielle (IA).
L'Union européenne a annoncé jeudi une pause jusqu'à vendredi matin dans les négociations sur un texte historique pour réguler l'intelligence artificielle (IA), après une journée de discussions difficiles entre les Etats membres et le Parlement européen.
Un accord ferait de l'UE la première au monde à se doter d'un cadre juridique complet. L'ambition est de limiter les dérives de l'IA tout en sécurisant l'innovation.
Les négociateurs s'étaient réunis à Bruxelles vers 15H20 (14H20 GMT) mercredi pour une négociation qui s'est poursuivie toute la nuit et jeudi matin.
"De nombreux progrès ont été réalisés au cours des 22 dernières heures. Reprise des travaux demain à 9h00"
, a annoncé sur X le commissaire européen au Numérique, Thierry Breton, à l'origine de la proposition législative présentée en avril 2021.
Depuis cette date, les discussions ont traîné en longueur et le processus a été percuté en fin d'année dernière par l'apparition de ChatGPT, le générateur de textes de la société californienne OpenAI, capable de rédiger des dissertations, des poèmes ou des traductions en quelques secondes. D'autres applications sont capables de créer des sons ou des images.
Ces systèmes ont révélé au grand public le potentiel immense de l'IA. Mais aussi certains risques. La diffusion sur les réseaux sociaux de fausses images, plus vraies que nature, a par exemple alerté sur le danger de manipulation de l'opinion.
Besoin de transparence
Besoin de transparence
Ce phénomène des IA génératives a été intégré dans les négociations en cours, à la demande des eurodéputés qui insistent sur un encadrement spécifique pour ces technologies. Ils réclament notamment plus de transparence sur les algorithmes et les bases de données géantes au coeur de ces systèmes.
Les Etats membres craignent qu'une régulation excessive tue dans l'oeuf leurs champions naissants, comme Aleph Alpha en Allemagne et Mistal AI en France, en rendant prohibitifs les coûts de développement.
Le texte reprend les principe des réglementations européennes existantes en matière de sécurité des produits qui imposent des contrôles reposant d'abord sur les entreprises.
Outre des mesures spécifiques pour les IA génératives, le cœur du projet consiste en une liste de règles imposées aux seuls systèmes jugés à
"haut risque"
, essentiellement ceux utilisés dans des domaines sensibles comme les infrastructures critiques, l'éducation, les ressources humaines, le maintien de l'ordre...
Ces systèmes seraient soumis à une série d'obligations comme celles de prévoir un contrôle humain sur la machine, l'établissement d'une documentation technique, ou encore la mise en place d'un système de gestion du risque.
La législation prévoit un encadrement particulier des systèmes d'IA qui interagissent avec les humains. Elle les obligera à informer l'utilisateur qu'il est en relation avec une machine.
Les interdictions seront rares. Elles concerneront les applications contraires aux valeurs européennes comme les systèmes de notation citoyenne ou de surveillance de masse utilisés en Chine. Mais les eurodéputés veulent supprimer les dérogations autorisant l'identification biométrique à distance des personnes dans les lieux publics par les forces de l'ordre, un autre point de friction avec les Etats membres.
À lire également:
#Intelligence Artificielle
#Union Européenne
#AI
#Réglementation
#Régulation
