L'UE à la pointe de l'encadrement de l'IA

Vers une IA "plus sûre et respectueuse des droits fondamentaux" ?

par

Crédit photo : Unsplash

Vers une IA « plus sûre et respectueuse des droits fondamentaux » ?

Crédit photo : Unsplash

Chat GPT, Dall-E ou Midjourney, ce sont des noms qui reviennent beaucoup dans l’espace public dernièrement. Les IA, autrement dit les intelligences artificielles, se multiplient et prennent une place de plus en plus importante dans la vie des citoyens, notamment en matière culturelle. La question était à l’ordre du jour d’un Conseil des ministres européens de la Culture, organisé le 14 avril dernier sous présidence belge. Le débat a mené à une conclusion simple : l’IA comporte un grand potentiel, mais une réglementation pour encadrer ces intelligences artificielles est nécessaire.

Invité à s’exprimer en ouverture des discussions, Marnix Verduyn, dessinateur de BD et chercheur sur les intelligences artificielles à la KULeuven, a d’ailleurs plaidé en ce sens. Il a souligné le potentiel de l’IA, mais surtout l’importance pour l’Union européenne de ne pas attendre et d’établir un cadre réglementaire, afin d’éviter de devenir dépendante d’acteurs externes, qu’il s’agisse de super-puissances comme la Chine ou les États-Unis, ou de grandes entreprises telles OpenAI, qui détient Chat GPT.

« Il faut trouver un équilibre entre les chances à saisir qui sont offertes par l’IA, tout en protégeant et préservant la créativité artistique« , a résumé le ministre-président flamand Jan Jambon, qui présidait les débats Si l’intelligence artificielle offre en effet de nouvelles possibilités, par exemple en termes de gestion de données ou en ce qui concerne la découverte de nouveaux publics, elle met aussi le monde culturel face à de nouveaux défis liés au droit d’auteur et à la diversité culturelle, notamment en raison de l’utilisation d’œuvres artistiques dans les entraînements d’IA, qui pose la question de la rémunération équitable des auteurs. Par ailleurs, la propagation des fake news générées par des IA, comme les deepfakes, doit également d’être encadrée.

« Il faut trouver un équilibre entre les chances à saisir qui sont offertes par l’IA, tout en protégeant et préservant la créativité artistique. »

Jan Jambon

Pour la commissaire européenne en charge de la culture, Iliana Ivanova, une coopération entre les acteurs de l’IA et le secteur culturel est essentielle. « 100 millions d’euros pour créer une infrastructure numérique pour connecter les professionnels de la recherche, afin de développer des instruments de collaboration novateurs, en lien avec divers secteurs« , a-t-elle affirmé.

Somme toute, l’Union Européenne souhaite encourager le développement de l’IA auprès du secteur culturel, et même encourager la création d’outils spécifiques pour le secteur culturel. Cependnat, elle n’en entend pas moins réguler strictement le développement de l’IA, notamment à travers le fameux IA Act .

L’UE à la pointe de l’encadrement de l’IA

Avec l’AI Act, l’Europe veut se positionner à l’avant-garde mondiale de l’encadrement de l’intelligence artificielle. Adopté en mars dernier, le texte encadre les risques liés à l’intelligence artificielle et interdit un certain nombre de pratiques. Il interdit notamment les applications qui portent atteinte à la dignité humaine, la démocratie ou l’État de droit (dont celles de reconnaissance faciale et biométrique, d’identification des émotions au travail, et autres). Les IA manipulant le comportement humain et celles qui permettent un score social, comme celles utilisées en Chine, sont aussi sur la liste des applications prohibées.

Un point important de cet AI Act est l’obligation de transparence. Les systèmes d’intelligence artificielle conçus pour des applications diverses doivent désormais se conformer aux lois européennes sur le droit d’auteur et fournir des résumés détaillés des données utilisées pour leur entraînement. Quant aux images et contenus audio et vidéo artificiels ou manipulés, les deepfakes notamment, ils doivent être clairement signalés comme tels.

« Cet ‘AI Act’ est une étape marquante, établissant les premières règles de la planète visant l’intelligence artificielle, pour la rendre plus sûre et respectueuse des droits fondamentaux de l’UE« , avait déclaré la présidence belge, à nos collègues de « Le Soir », au moment de son adoption. Première à se légiférer sur l’intelligence artificielle, l’Europe espère inspirer d’autres pays à suivre cette voie.

On a interviewé ChatGPT !

Faut-il réguler l’intelligence artificielle au sein de l’Union européenne ?

Absolument, la régulation de l’intelligence artificielle au sein de l’Union européenne est essentielle pour encadrer son développement de manière éthique, sécurisée et conforme aux valeurs européennes. Une réglementation claire aidera à prévenir les abus, à protéger la vie privée des individus et à promouvoir la transparence et la responsabilité des systèmes d’IA. Cela favorisera également la confiance du public et encouragera l’innovation dans le respect des normes éthiques et légales.

Quels sont les risques de l’IA selon toi ?

Les risques de l’IA incluent la perte d’emplois due à l’automatisation, la propagation de biais et de discriminations dans les systèmes d’IA, ainsi que les menaces liées à la sécurité et à la vie privée des données si elles sont mal utilisées ou piratées. Le développement de l’IA soulève aussi des questions complexes en matière de droit d’auteur, notamment en ce qui concerne la création d’œuvres générées par des algorithmes. En ce qui concerne les fake news, l’IA peut être utilisée à la fois pour détecter et pour créer des contenus trompeurs, ce qui souligne la nécessité de développer des solutions technologiques et réglementaires pour lutter contre la désinformation en ligne.

Quels sont les avantages de l’IA pour le monde culturel ?

L’IA offre de nombreux avantages pour le monde culturel, notamment en permettant une analyse plus approfondie des données culturelles, en facilitant la création artistique et la personnalisation des expériences culturelles pour les utilisateurs, ainsi qu’en aidant à préserver et à restaurer des œuvres d’art historiques grâce à des techniques de numérisation avancées.

Nouveau sur Mammouth

Daniel Bernard, des tonnes de sciure
De l'élevage au sanctuaire
Vivre pour l'autre
Guerre d'exil