Éthique et limites de l'IA

L'IA pose des questions éthiques sérieuses. Les comprendre est aussi important que la technique.

1. Les biais algorithmiques

Un modèle apprend des données du passé. Si ces données contiennent des biais (sexisme, racisme, inégalités), le modèle les reproduit voire amplifie.

Ex célèbres :

• Amazon a abandonné un outil de tri de CV qui discriminait les femmes (entraîné sur 10 ans de CV majoritairement masculins).
• Reconnaissance faciale moins précise sur les peaux foncées.

2. Les hallucinations

Un LLM peut inventer des informations avec un ton très assuré. C'est la cause n°1 d'erreurs en production.

Mitigations :

• RAG (Retrieval Augmented Generation) : forcer le modèle à s'appuyer sur des sources réelles
• Citations obligatoires
• Validation humaine sur les sujets critiques

3. Vie privée & RGPD

• Les modèles peuvent mémoriser des données sensibles vues à l'entraînement.
• Le RGPD s'applique : droit à l'oubli, consentement, finalité.
• Ne jamais envoyer de données personnelles non anonymisées à un LLM tiers sans contrat adapté.

4. Droits d'auteur

Les LLMs ont été entraînés sur du contenu protégé. Plusieurs procès en cours (artistes, médias, écrivains). À surveiller : les sorties peuvent involontairement reproduire du contenu protégé.

5. Sécurité

• Prompt injection : un utilisateur malveillant tente de détourner les instructions d'un agent
• Data leakage : un LLM révèle des infos confidentielles via le contexte
• Modèle compromis : modèles open-source piégés

6. Réglementation

• AI Act européen (entré en vigueur 2024-2026) : classe les usages par niveau de risque, interdit certains usages (notation sociale, manipulation cognitive).
• RGPD : reste applicable.
• Initiatives sectorielles : santé, finance, éducation ont leurs propres règles.

7. Bonnes pratiques

• Transparence : indiquer quand un contenu est généré par IA
• Human-in-the-loop sur les décisions à enjeu
• Audit des biais avant déploiement
• Monitoring continu en production
• Documenter les limites du système