Les notions essentielles à connaître
💡 Comprenez les termes que vous rencontrerez en travaillant avec des assistants IA, expliqués simplement, sans jargon technique.
Confidentialité
La confidentialité désigne le principe selon lequel vos données ne peuvent être lues, copiées ou transmises que par les personnes explicitement autorisées. Dans le contexte d'un assistant IA, elle garantit que ce que vous lui communiquez ne sort pas du périmètre défini.
Données personnelles
Une donnée personnelle est toute information qui permet d'identifier une personne physique, directement ou indirectement : un nom, une adresse email, un numéro de téléphone, mais aussi une adresse IP ou un identifiant interne. Dès que vous transmettez ce type d'information à un assistant IA, le cadre légal du RGPD s'applique.
Hébergement
L'hébergement désigne l'endroit physique où sont stockées les données traitées par l'assistant. Une donnée hébergée hors de l'Union européenne n'est pas soumise aux mêmes règles de protection que dans l'espace européen.
Contrôle des accès
Le contrôle des accès définit qui peut faire quoi dans un assistant ou un système. Il fonctionne généralement par rôles : un utilisateur standard peut interroger l'assistant, un administrateur peut le reconfigurer, et seul un responsable peut modifier les droits d'accès.
Traçabilité
La traçabilité est la capacité à reconstituer qui a fait quoi, à quel moment, dans un système. Un assistant IA traçable enregistre chaque interaction dans un journal d'audit: quelle question a été posée, quelle réponse a été générée, par quel utilisateur et à quelle heure.
IA responsable : quels principes retenir ?
🏛️ Les 6 piliers de l’IA responsable
.png?width=670&height=377&name=Sh%C3%A9mas%20centre%20daide%20(1).png)
1. Transparence
Pourquoi ? Éviter les "boîtes noires" et renforcer la confiance.
Comment ? Informer qu’une IA est utilisée, à quoi elle sert, sur quelles données elle repose et quelles sont ses limites.
2. Supervision Humaine
Pourquoi ? L’IA ne doit pas décider seule dans les domaines critiques (santé, justice).
Comment ? Garder un contrôle humain, surtout pour les décisions importantes ; l’humain doit pouvoir vérifier, corriger ou arrêter le système.
3. Protection des Données
Pourquoi ? Respecter la vie privée et éviter les abus.
Comment ? Collecter le minimum de données, les sécuriser, respecter la vie privée et les règles comme le RGPD.
4. Équité
Pourquoi ? Éviter les discriminations (genre, ethnie, âge).
Comment ? Éviter les discriminations et les biais envers certains groupes ; tester le système pour vérifier qu’il traite les personnes de manière juste.
5. Robustesse
Pourquoi ? Garantir la fiabilité et la sécurité.
Comment ? S’assurer que l’IA fonctionne de façon fiable, même en cas d’erreur, de données inhabituelles ou d’attaque.
6. Explicabilité
Pourquoi ? Rendre les décisions compréhensibles.
Comment ? Pouvoir expliquer, au moins en partie, pourquoi l’IA a produit un résultat ou une recommandation.
👉 En résumé Une IA responsable doit être transparente, c’est-à-dire claire sur son fonctionnement et ses limites. Elle doit rester sous supervision humaine, surtout pour les décisions sensibles, assurer la protection des données et respecter la vie privée, se doit d’être équitable, en limitant les biais et les discriminations et enfin, elle doit être robuste et explicable, donc fiable et capable de justifier ses résultats.
AI Act et RGPD : c’est quoi ?
Le rôle de l’AI Act
Le 13 mars 2024 l’Union européenne adopte le règlement AI Act. Celui-ci est dédié spécifiquement à l’intelligence artificielle. Son objectif est d’assurer que les systèmes d’IA mis sur le marché ou utilisés dans l’Union européenne soient sûrs, fiables et respectueux des droits fondamentaux.
Il repose sur une approche par niveaux de risque :
-
Risque inacceptable : certains usages sont interdits ;
-
Haut risque : obligations strictes (documentation, contrôle humain, qualité des données, ...) ;
-
Risque limité : obligations de transparence ;
-
Risque minimal : peu ou pas d’obligations spécifiques.
👉 En résumé, l’AI Act s’intéresse avant tout à la sécurité et à l’encadrement des systèmes d’IA selon leur niveau de risque.
Le rôle du RGPD
Le 25 mai 2018 rentre en application le RGPD (Règlement Général sur la Protection des Données). Celui-ci protège les données personnelles des individus en imposant à tous les professionnels un périmètre d’encadrement des données exploitées. Son objectif principal est de garantir que toute collecte ou utilisation de données respecte la vie privée, le consentement, la sécurité et les droits des personnes.
Il impose notamment :
-
De collecter seulement les données nécessaires ;
-
D’informer clairement les personnes concernées ;
-
De sécuriser les données ;
-
De permettre l’accès, la rectification ou la suppression des données ;
-
D’encadrer les décisions automatisées lorsqu’elles produisent des effets importants sur une personne.
👉 En résumé, le RGPD s’intéresse avant tout à la protection des personnes à travers leurs données.
Conclusion
Le RGPD protège la vie privée et les droits liés aux données personnelles, tandis que l’AI Act encadre les usages et les risques de l’intelligence artificielle. Ensemble, ils visent à promouvoir une innovation numérique responsable, éthique et respectueuse des droits fondamentaux en garantissant une évolution de la protection des données individuelles évoluant dans un cadre favorable aux IA responsables.