5 risques liés à l'IA auxquels les entreprises doivent faire face

Les entreprises ont toujours dû gérer les risques liés aux technologies qu'elles adoptent pour développer leurs activités. Elles doivent faire de même lorsqu'il s'agit de mettre en œuvre l'intelligence artificielle.

Les risques associés à l'IA ressemblent à ceux liés à l'adoption de n'importe quelle nouvelle technologie : il y a des risques liés à un mauvais alignement stratégique sur les objectifs commerciaux, un manque de compétences pour soutenir les initiatives et l'échec d'obtenir un engagement à tous les niveaux de l'organisation.

Cependant, les dirigeants constatent que l'IA dans l'entreprise comporte également des risques uniques qui doivent être reconnus et pris en compte.

Le manque de confiance des employés freine l'adoption de l'IA

L'IA ne fonctionne pas indépendamment de l'interaction humaine ; à un moment donné du processus opérationnel, les humains doivent intervenir pour prendre des mesures basées sur les conseils des systèmes d'IA.

Selon le rapport « AI and Empathy » de juillet 2019 du fabricant de logiciels Pegasystems, "35 % des 6 000 personnes interrogées ont déclaré qu'elles craignaient que les machines ne prennent leurs emplois et 27 % qu'elles s'inquiétaient de la montée en puissance des robots."

Les dirigeants d'entreprise doivent établir la confiance des employés dans l'IA. Sans cette confiance, la mise en œuvre sera improductive.

Fournir la bonne formation pour s'assurer que vos utilisateurs sont ouverts à l'utilisation de l'IA, en se concentrant vraiment sur l'adoption, est un facteur important.

Les biais et les erreurs sont amplifiés par le volume des transactions d'IA

L'IA utilise des algorithmes pour analyser des grands volumes de données et apprendre à partir des modèles qu'elle détecte. Cependant, si les données sont biaisées ou incorrectes, les résultats peuvent en être affectés.

L'IA n'a pas une connaissance innée des produits, des processus et des clients d'une entreprise. C'est pourquoi il est important de former l'IA en lui fournissant les informations nécessaires pour bien fonctionner.

Les erreurs humaines sont inévitables, mais les conséquences de ces erreurs sont généralement limitées. En revanche, les erreurs dans les systèmes opérationnels d'IA peuvent avoir des conséquences exponentielles, car un robot peut traiter des millions de transactions en un jour.

Des données de qualité sont donc essentielles pour minimiser les risques associés à l'IA. En fin de compte, c'est la qualité des données qui est la clé de la réussite de l'IA.

L'IA peut avoir des conséquences inattendues, automatiser des pratiques contraires à l'éthique

L'IA peut avoir des conséquences involontaires et automatiser des pratiques peu éthiques. Une chaîne de supermarchés utilisant l'IA pour déterminer les prix pourrait constater que le système génère des prix significativement plus élevés pour les produits alimentaires dans les quartiers défavorisés où il n'y a pas de concurrence.

Des experts ont soulevé des préoccupations éthiques similaires quant à l'utilisation de l'IA dans de nombreuses autres fonctions d'entreprise, en soulignant, par exemple, que les systèmes d'IA utilisés pour trier les curriculums vitæ ont appris à privilégier certains types de candidats à d'autres de manières que beaucoup considèrent peu éthiques.

Les entreprises doivent avoir des cadres pour garantir que leurs systèmes d'IA contiennent les politiques et les garde-fous pour créer des résultats éthiques, transparents, équitables et impartiaux. Il est également important d'avoir des employés humains surveillant les systèmes pour confirmer que les résultats répondent aux normes établies par l'organisation.

Les compétences clés risquent d'être perdues par l'IA

Après deux accidents d'avion impliquant des avions Boeing 737 Max, certains experts ont exprimé leur inquiétude quant à la perte des compétences de base des pilotes à mesure qu'ils se reposaient de plus en plus sur l'automatisation.

Chris Brahm (associé et directeur, Bain & Co.) a déclaré que "l'IA pourrait éroder d'autres compétences clés que les entreprises souhaitent préserver chez leur personnel humain."

Il a déclaré que les dirigeants de tous les secteurs devraient réfléchir à quelles compétences quotidiennes existent actuellement et pourraient être perdues, et s'il est nécessaire de les préserver d'une certaine manière.

Un entraînement insuffisant et un manque de surveillance peuvent saboter les systèmes d'IA

Microsoft a lancé un chatbot nommé Tay sur Twitter en 2016. Les ingénieurs avaient conçu le bot pour interagir en ligne et apprendre les modèles de langage.

Au lieu de cela, les trolls ont appris à Tay un langage raciste, misogyne et antisémite, son langage devenant si hostile et offensant en quelques heures que Microsoft a suspendu le compte.

Cette expérience met en évidence un grand risque lié à la construction et à l'utilisation de l'IA : elle doit être bien formée pour fonctionner correctement.

Pour éviter que les bots apprennent de mauvais comportements, les ingénieurs doivent incorporer des garde-fous dans la conception pour empêcher les bots de mimer certains mots et phrases.

En avançant avec les programmes d'IA, les organisations doivent non seulement créer de tels garde-fous dès le départ, mais également surveiller ce que leur IA apprend au fil du temps pour s'assurer qu'elle a des informations appropriées et complètes.

Par exemple, la pandémie de COVID-19 a entraîné une pénurie de papier toilette en magasin. La demande agrégée était probablement à peu près la même qu'avant la pandémie, mais la pandémie a déplacé l'emplacement de la demande. Les fournisseurs qui utilisaient des systèmes basés sur l'IA pour prévoir la demande devaient ajuster ces systèmes pour prendre en compte ces circonstances très inhabituelles.