Quatre risques liés à l'IA générative que chaque entreprise doit connaître

Selon un récent rapport de McKinsey, « L'IA générative a le potentiel de changer l'anatomie du travail » et d'« augmenter de manière significative la productivité du travail dans l'ensemble des secteurs de l'économie ». Au moment de la rédaction, ils ont identifié 63 cas d'utilisation de l'IA générative couvrant 16 fonctions commerciales, ce qui donne une idée du niveau de transformation potentielle. Bien entendu, la productivité et l'efficacité sont essentielles pour les entreprises qui souhaitent réussir à long terme dans un monde en constante évolution. Cette nouvelle a donc été accueillie avec beaucoup d'enthousiasme.

Cependant, malgré l'engouement, un terme revient encore et encore : le risque. Après tout, l'IA générative en est encore qu'à ses débuts. Ainsi, les entreprises doivent réfléchir attentivement à la façon dont elles la déploient ainsi qu'aux résultats potentiels. « Cela dépend de la tolérance au risque et de l'appétit pour le risque », explique Quentyn Taylor, Directeur principal, Sécurité de l'information et réponse à l'échelle internationale chez Canon EMEA. « Par exemple, sommes-nous prêts à accepter qu'une IA réponde aux questions des clients, alors qu'elle se trompera très occasionnellement ? » Il ne s'agit là que d'un des moyens d'utiliser l'IA générative pour accroître l'efficacité, mais comme le souligne Quentyn, quel est le risque d'atteinte à la réputation lorsqu'un client reçoit des informations incorrectes ? Cela dépend beaucoup du produit et du client, et c'est le principal défi pour les entreprises : déterminer clairement les domaines dans lesquels l'IA générative peut apporter une véritable valeur ajoutée, et ceux pour lesquels un tel niveau de risque n'est pas acceptable. Avant toute chose, il est donc essentiel de comprendre quels sont les risques potentiels.

Protection de la propriété intellectuelle et des informations commercialement sensibles

C'est la question qui a été traitée en premier lieu par la plupart des organisations, certaines interdisant l'utilisation d'outils et de services d'IA générative pour protéger et préserver la confidentialité de leur entreprise. En fait, toutes les données entrées dans un modèle d'IA générative deviennent des données d'entraînement. Ainsi, si vous lui demandez de rédiger un discours pour le lancement d'un tout nouveau produit, en fournissant tous les détails de ce produit dans la demande, vous téléchargez, en somme, des informations stratégiques et soumises à un embargo sur un outil utilisé dans le monde entier. Si votre entreprise dépend entièrement de sa propriété intellectuelle, il s'agit d'un niveau de risque inacceptable. « D'un autre côté, si vous avez utilisé l'IA générative pour écrire 300 descriptions légèrement différentes pour des produits existants, est-ce un problème ? Probablement pas », ajoute Quentyn. Un autre point de vue à prendre en compte est le rapport entre l'effort à fournir pour réglementer le sujet et le résultat que l'on obtiendra : « Freiner l'utilisation de l'IA générative est-elle une utilisation efficace de notre temps ? Pouvons-nous en bloquer complètement l'accès lorsque des milliers de nouveaux outils arrivent sur le marché chaque jour ? », demande-t-il.

Prise de décision, préjugés et communication

Qui est responsable ? Bien sûr, la prise de décision commence au sommet, mais lorsque le conseil d'administration tire des conclusions à l'aide d'outils d'IA générative, le processus doit être clair. De même, il est essentiel que les préjugés soient pris en compte lors de l'utilisation de l'IA générative comme un outil permettant d'analyser les options pour augmenter la productivité et la rentabilité. Il est largement admis qu'un modèle d'IA doit être entraîné sur un vaste ensemble de données pour être un tant soit peu juste, mais il existe tout de même des préjugés. C'est pourquoi de nombreuses entreprises choisissent de ne pas utiliser ces outils dans des domaines de prise de décision clé. Le recrutement est souvent cité comme un domaine problématique. « Il faut tenir compte du contexte dans lequel les décisions assistées par l'IA sont prises », souligne Quentyn. « Et cela doit être clairement communiqué au reste de l'entreprise, sinon vous risquez de créer une confusion généralisée et une méfiance envers la direction. » Cela est particulièrement important si l'on considère la fréquence à laquelle les décisions organisationnelles doivent être « décortiquées », afin de comprendre la base souvent très nuancée sur laquelle les actions sont imposées.

Violation des droits d'auteur

Aujourd'hui, des procès très médiatisés sont en cours, dans lesquels les parties estiment que leur travail créatif a été utilisé pour former une IA sans leur consentement. Il y a peu de craintes aussi importantes concernant l'IA générative que celles relatives à la légalité du contenu qu'elle crée. Bien sûr, il existe de nouveaux outils (tels qu'Adobe Firefly) qui ne sont formés qu'à partir de données détenues en toute légalité. Pour d'autres outils, il est difficile de dire, à l'heure actuelle, quel est le niveau de sécurité d'utilisation, pour, par exemple, créer une série d'images pour une campagne sur les réseaux sociaux ou concevoir une nouvelle identité de marque. Lorsqu'il travaille avec des tiers sur de tels projets, Quentyn estime qu'il est important « d'adapter ou de mettre à jour les contrats pour atténuer le risque, et de s'assurer que des directives et une politique claires sont en place en interne ».

Quand l'IA générative ment

Il est probable que vous ayez fréquemment entendu parler d'« hallucinations » en ce qui concerne l'IA générative. Pour simplifier, on parle d'hallucination lorsqu'un modèle d'IA produit une réponse fausse ou irréaliste. Il peut s'agir d'un mot loufoque, comme un mot inventé ou une phrase qui n'a pas de sens. Il pourrait également fournir en toute confiance une fausse information. C'est ce qui est arrivé à deux avocats qui ont présenté six citations au tribunal dans le cadre d'une affaire, lesquelles se sont avérées totalement inventées. Il a été révélé, par la suite, qu'elles avaient été générées par ChatGPT. Les avocats ont dû payer une amende de 5000 $. Les experts en IA reconnaissent l'existence du problème et « font des progrès », mais en attendant, il s'agit d'un risque important pour les organisations et leurs dirigeants. « Vérification des faits, vérification des faits, vérification des faits », insiste Quentyn. « C'est l'un des rôles clés des humains qui utilisent l'IA pour générer du contenu sous-jacent. Il s'agit d'être des éditeurs efficaces et rigoureux. » Il met également en garde contre les risques liés à l'utilisation de robots d'IA générative pour surveiller les réseaux sociaux et y répondre à des messages. « Votre robot pourrait commencer à donner des réponses qui, en théorie, peuvent être correctes, mais ne correspondent pas au contexte de la question qui leur a été posée. »

Dans l'ensemble, Quentyn est convaincu que de nombreuses organisations adopteront l'IA comme une « aide d'arrière-plan », intégrée aux services et aux outils qu'ils utilisent déjà. À cet égard, une grande partie du risque est déjà atténuée par le biais de contrats avec des tiers et par le déploiement de solutions provenant de partenaires connus, respectés et éprouvés. « Une entreprise pourrait avoir recours à l'IA pour vérifier des e-mails, à la recherche d'escroqueries par hameçonnage », explique-t-il. « Ce n'est pas quelque chose qu'ils sont susceptibles de coder ou de développer eux-mêmes, mais ils tireront profit de l'utilisation d'outils qui incluent ce service. » En fin de compte, toute entreprise implique une gestion importante des risques, et les nouvelles opportunités offertes par l'IA générative ne sont pas différentes à cet égard.