IA & Ethique – Blockchain

Il existe de nombreuses définitions. L’une d’elle est la suivante : « L’IA désigne les systèmes qui font preuve d’un comportement intelligent qui se traduit par l’analyse de leur environnement et la prise de décisions avec un certain degré d’autonomie – pour atteindre des objectifs spécifiques. Les systèmes basés sur l’IA peuvent être purement logiciels, agissant dans le monde virtuel (par exemple, assistants vocaux, logiciels d’analyse d’images, moteurs de recherche, systèmes de reconnaissance de la parole et des visages) ou l’IA peut être intégrée dans des dispositifs matériels (ex. robots avancés, voitures autonomes, drones ou applications de l’IoT). »

(Source : Groupe d’experts de haut niveau sur l’intelligence artificielle).​

Un logiciel qui est développé au moyen d’une ou plusieurs des techniques et approches énumérées (fondées sur l’apprentissage automatique, ou sur la logique et les connaissances, ou sur les statistiques) et qui peut, pour un ensemble donné d’objectifs définis par l’homme, générer des résultats tels que des contenus, des prédictions, des recommandations ou des décisions influençant les environnements avec lesquels il interagit (source Draft AI Act). L’OCDE le définit comme un système basé sur une machine qui est capable d’influencer l’environnement en produisant un résultat (prédictions, recommandations ou décisions) pour un ensemble donné d’objectifs. Il utilise des données et des Inputs basés sur la machine et/ou sur l’homme, et bénéficie de degrés d’autonomie variés.

Un domaine de l’IA qui utilise des modèles d’apprentissage automatique formés sur de grands ensembles de données pour créer de nouveaux contenus, tels que du texte écrit, du code, des images, de la musique, des simulations et des vidéos. Ces modèles sont capables de générer de nouveaux résultats à partir de données d’entrée ou de texte formulé par l’utilisateur (pompt).

Un modèle pré-entraîné à grande échelle pour les capacités de l’IA, telles que le language (LLM), la vision, la robotique, le raisonnement, la recherche ou l’interaction humaine, qui peut servir de base à d’autres applications. Le modèle est entraîné sur des ensembles de données étendus et diversifiés.

Les LLM constituent une classe de « foundation model ». Les LLM sont des réseaux neuronaux qui peuvent traiter des quantités massives de texte non structuré et apprendre les relations entre les mots ou les parties de mots, connues sous le nom de tokens. Cela permet aux LLM de générer des textes en langue naturelle et d’effectuer des tâches telles que le résumé ou l’extraction de connaissances. Ex. LaMDA est le LLM qui se cache derrière Bard.

Les lois de protection des données encadrent les traitements de données personnelles réalisés à l’aide de systèmes d’IA. En Europe, le Règlement Général sur la Protection des données (« RGPD ») encadre les traitements automatisés de données personnelles, dont le profilage (article 22).​

Un projet de règlement européen sur l’intelligence artificielle (« AI Act ») porte sur les règles applicables aux systèmes d’IA utilisé sur le marché européen à partir de leur classification fondée sur leur niveau de risques (minimal, limité, élevé, inacceptable). Le règlement prévoit des sanctions pouvant atteindre 6% du CA global de l’organisation ou 30 M€.​

De par le monde, il existe de plus en plus de législations visant à encadrer l’usage responsable et éthique des systèmes d’Ia.

Tous les systèmes d’IA considérés comme une menace manifeste pour la sécurité, les moyens de subsistance et les droits des personnes seront interdits, qu’il s’agisse du marquage social par les gouvernements ou des jouets utilisant une assistance vocale qui encourage les comportements dangereux.

• Les infrastructures critiques (par exemple, les transports) ​
• L’enseignement ou la formation professionnelle (par exemple, la notation des examens) ​
• Les composants de sécurité des produits (par exemple, l’application de l’IA dans la chirurgie assistée par robot) ​
• L’emploi, la gestion des travailleurs et l’accès au travail indépendant (par exemple, les logiciels de tri des CV pour les procédures de recrutement) ​
• Les services privés et publics essentiels (par exemple, l’évaluation du crédit refusant aux citoyens la possibilité d’obtenir un prêt)​
• La gestion des migrations, des demandes d’asile et des contrôles aux frontières (par exemple, vérification de l’authenticité des documents de voyage)​
• Identification biométrique à distance et catégorisation des individus ​

Les systèmes d’IA à haut risque seront soumis à des obligations strictes avant de pouvoir être commercialisés sur le marché européen. ​

Les systèmes d’IA à haut risque seront soumis à des obligations strictes avant de pouvoir être mis sur le marché : Evaluation des risques et mesures d’atténuation des risques, haute qualité des ensembles de données alimentant le système pour minimiser les risques et les résultats discriminatoires , mesures de traçabilité des résultats, documentation détaillée fournissant toutes les informations nécessaires sur le système et son objectif pour que les autorités puissent évaluer sa conformité, une information claire et adéquate des utilisateurs, des mesures de surveillance humaine appropriées pour minimiser les risques et un niveau élevé de robustesse, de sécurité et de précision.

Outre le respect des législations sur la protection des données (cf. #2) , l’ « AI Act » prévoit une obligation de transparence renforcée pour la mise sur le marché de solutions telles que les Chatbot par exemple.

Il n’existe pas de cadre commun à une IA digne de confiance. L’OCDE a été la première en 2019 à définir des principes pour une IA digne de confiance, à un niveau intergouvernemental. En Europe, le groupe des experts de haut niveau a proposé que sur la base des droits fondamentaux et des principes éthiques, les systèmes d’IA devraient répondre à certaines exigences clés pour être dignes de confiance à savoir (liste non exhaustive) :

• L’action et le contrôle de l’homme y compris le respect des droits fondamentaux
• Robustesse technique et sécurité y compris l’exactitude, la fiabilité et la reproductibilité
• Protection de la vie privée et gouvernance des données
• Transparence y compris la traçabilité, l’explicabilité et la communication
• Diversité, non-discrimination et équité
• Bien-être sociétal et environnemental y compris la durabilité et le respect de l’environnement, l’impact social, la société et la démocratie
• Responsabilité y compris l’auditabilité, la minimisation et la notification de l’impact négatif

Oui il en existe plusieurs. Citons l’ISO/CEI 23894 qui propose des orientations stratégiques pour la gestion des risques liés au développement et à l’utilisation de l’IA et sur la manière dont les organisations peuvent intégrer la gestion des risques dans leurs activités basées sur l’IA. Cette norme fournit une cartographie fonctionnelle des processus de gestion des risques tout au long du cycle de vie du système d’IA. Le NIST a également publié l’AI RFM, un cadre conçu pour doter les organisations et les individus – les acteurs de l’IA – d’approches permettant d’accroître la fiabilité des systèmes d’IA et de favoriser la conception, le développement, le déploiement et l’utilisation responsables des systèmes d’IA au fil du temps.