L’IA doit reposer sur l’inclusion, la responsabilité et des règles, estime Volker Türk
Le Haut -Commissaire des Nations unies aux droits de l’homme, Volker Türk, a prévenu vendredi que, sans garde-fous urgents, l’intelligence artificielle (IA) risque d’aggraver les inégalités, d’amplifier les préjugés et d’alimenter les préjudices dans le monde réel.
S’exprimant en marge du Sommet sur l’impact de l’IA à New Delhi, M. Türk a déclaré à « ONU Info » que cette technologie devait être encadrée par un cadre de droits humains garantissant transparence, responsabilité et inclusion.
Selon le chef des droits de l’homme des Nations unies, les droits humains constituent un cadre pour le développement, la conception et l’utilisation sûrs de l’IA.
Il a estimé que l’impact de l’IA est fondamentalement lié au pouvoir et à la manière dont il est exercé, soulignant que les inégalités, les biais et la discrimination représentent le principal risque pour les droits humains lié à l’expansion rapide de l’IA. M. Türk a jugé « nécessaire » la réalisation des évaluations d’impact sur les droits humains lors de la conception, du développement et du déploiement de l’IA.
Il a affirmé, à ce titre, que les entreprises technologiques doivent respecter les principes des Nations unies relatifs aux entreprises et aux droits humains, mettant l’accent sur l’importance pour les développeurs d’IA de comprendre suffisamment les principes sociaux et éthiques fondamentaux au risque de créer un « monstre de Frankenstein ».
« J’ai eu l’occasion de discuter avec des personnes qui produisent, développent et conçoivent ces produits. Ce qui me frappe, c’est que leur connaissance des principes fondamentaux est souvent très superficielle lorsqu’elles entament la phase de développement. Cela me fait un peu penser au monstre de Frankenstein : on crée quelque chose qu’on ne maîtrise plus. On libère le génie de sa lampe. Si l’on ne prend pas conscience des dangers et des risques, on peut causer des ravages », a-t-il averti.
(APS)
