Il est aujourd'hui presque impossible de passer une journée sans entendre parler d'Intelligence Artificielle (IA). Cet outil devient une réponse incontournable pour les entreprises cherchant à innover, améliorer leurs processus, résoudre des problématiques organisationnelles complexes ou plus généralement engager une démarche de transformation.

En effet, l'IA offre une meilleure compréhension des données, nous permettant d'approfondir la connaissance client, d'optimiser l'expérience produit et d'automatiser des tâches répétitives par l'apprentissage. Les exemples sont nombreux, mais ce n'est pas le sujet principal de cet article.

L’IA est aujourd'hui un outil incontournable pour la transformation, mais elle évolue à une vitesse telle que nous devons nous poser une question : avons-nous créé uniquement de l'Intelligence Artificielle, ou aussi de la "bêtise artificielle" ?

Question volontairement provocatrice mais pour moi la frontière entre les 2 n’est pas toujours si lointaine.

Je prendrai pour exemple une entreprise anonymisée qui avait développé un outil d'IA pour automatiser le tri des CV et sélectionner les meilleurs candidats pour ses postes. Le système devait analyser les candidatures et identifier les candidats les plus prometteurs, en s'appuyant sur des données historiques de recrutement.

Ce qui s'est passé :

• L'algorithme de l’outil a appris en étudiant des centaines de milliers de CV soumis à l'entreprise au fil des ans. Le problème est que ces données reflétaient un historique biaisé, où la majorité des recrues étaient des hommes, surtout dans les postes techniques.
• En conséquence, l'algorithme a commencé à dévaloriser les candidatures féminines. Par exemple, si un CV contenait le mot "femme" (comme "présidente du club de football féminin"), l'IA abaissait automatiquement la note du candidat.
• Biais inconscients : L'IA, en se basant sur des données passées, a reproduit et amplifié les biais sexistes de l'entreprise, sans intention consciente bien sûr, mais par simple apprentissage statistique.

Pourquoi cela ressemble à de la "bêtise artificielle" ?

• Absence de compréhension : L'IA ne comprenait pas la discrimination ou les nuances sociales. Elle ne faisait qu'appliquer des règles issues des données historiques.
• Répétition des erreurs : Plutôt que de corriger les biais, l'algorithme les a renforcés. Cela montre comment une IA, si elle n'est pas bien conçue ou supervisée, peut en fait produire des résultats contraires aux objectifs humains.

Le système a bien évidemment été abandonné mais ce n’est pas le fond du sujet.

Je vous invite à visionner le replay de notre web-conférence « Lean Digital : L'IA au service de votre transformation” pour découvrir l’intérêt mais également les limites de l’IA.

Nous verrons que derrière un seul mot « Intelligence Artificielle » se cache beaucoup d’algorithmes différents avec leurs propres avantages et limites.

Ces notions nouvelles questionnent en profondeur nos organisations mais nous devons nous poser les bonnes questions avant de rechercher des outils et des algorithmes adaptés (algorithmes de réseaux de neurones profonds, d’apprentissage supervisés ou non, par renforcement…).

Car finalement l’IA, c’est l’art de celui qui questionne…