L’AI débarque en entreprise avec ses défis et ses risques

Les entreprises doivent considérer dès maintenant l’intelligence artificielle, selon un expert mauricien. Mais cela doit se faire prudemment, car en plus d’opportunités, l’AI comporte aussi des risques.

L’intelligence artificielle (AI) envahit nos entreprises, c’est un fait avéré. C’est notamment le cas à Maurice, selon Dev Hurkoo, Managing Director chez Rogers Capital Technology (RCT). Il intervenait, le mardi 11 avril 2023, dans le cadre d’une session des Expert Series organisée par le Mauritius Institute of Directors (MIoD) à l’hôtel Hennessy Park, à Ébène. Il a notamment souligné l’importance pour les entreprises de considérer dès maintenant l’AI dans leurs opérations, afin de ne pas « être prises de court » par ses évolutions et ses capacités. L’expert précise que l’AI a un impact sur la charge de travail et la productivité, notamment en atténuant l’impact des départs à la retraite. Mais il prévient également contre le revers de la médaille. Dev Hurkoo met en garde en indiquant qu’avec une mauvaise utilisation, l’AI comporte des risques liés, entre autres, à la cybersécurité et à la désinformation. 

« C’est important que le MIoD offre cette opportunité à ses membres. L’AI est une technologie révolutionnaire qui transforme les entreprises et les organisations. Elle permet d’identifier des opportunités d’innovation et d’accroître leur efficacité opérationnelle. Nos membres doivent comprendre comment cette technologie peut être utilisée pour améliorer la gouvernance de leur organisation », a déclaré Dev Hurkoo lors de sa présentation.

Selon le MIoD, l’arrivée de l’AI dans les entreprises, et notamment de ChatGPT, soulève bon nombre de questions liées à la transparence, la responsabilité, la bonne gouvernance et l’éthique. L’Unesco relève que l’un des problèmes d’éthique les plus fréquents liés à l’AI est la représentation stéréotypée des recherches en ligne. L’organisme international propose aux internautes d’effectuer deux simples recherches sur internet : « écolier » puis « écolière ». Le résultat est frappant. Lorsqu’on tape « écolier » sur un moteur de recherche, on obtient des images de petits garçons avec des cartables sur le dos ou assis en classe, rien d’anormal. Par contre, en tapant « écolière », on obtient une majorité d’images de femmes habillées en tenue sexualisée. L’AI, qui se base sur les préférences des utilisateurs, reflète donc les stéréotypes de la société. L’Unesco juge même qu’elle les enracine. L’AI peut également fabriquer de toutes pièces des photos et vidéos représentant des personnes bien réelles, mais dans des situations qui n’ont jamais eu lieu. Cela peut donc conduire à de la désinformation. Récemment, une fausse mais réaliste photo du pape François portant une doudoune de luxe a fait le buzz sur internet. 

Le MIoD souhaite que ses membres comprennent les opportunités de l’AI, tout en étant sensibilisés à sa complexité. « La gouvernance d’entreprise et l’intelligence artificielle sont étroitement liées, car les technologies de l’AI sont de plus en plus intégrées dans nos entreprises. Il est important de former nos membres à une meilleure compréhension et à une gestion responsable des systèmes d’intelligence artificielle. Il est vital que nos organisations disposent de structures de gouvernance adéquates qui garantissent l’utilisation éthique de ces technologies », a commenté Sheila Ujoodha, Chief Executive Officer (CEO) du MIoD.