ChatGPT, le célèbre chatbot fascine les uns et inquiète les autres. Ce qui est certain c’est que l’innovation d’OpenAI ne laisse pas indifférent. L’outil a fait trembler les professeurs ces dernières semaines, suite aux fraudes de certains étudiants qui ont fait appel à l’assistant virtuel. L’IA générative crée de l’inquiétude dans de nombreux domaines d’activité. Quels sont les risques de ChatGPT ? Quelles sont ses implications éthiques et sociétales ? Comment utiliser cette puissance technologique pour qu’elle produise une valeur uniquement positive ?
LES RISQUES ÉTHIQUES ET SOCIÉTAUX DE CHATGPT
- Algiarism : nouveau terme pour définir le plagiat par chatbot qui représente une menace pour les auteurs et pour de nombreux secteurs d’activité.
- Les biais ou les discriminations : le chatbot, même s’il est pré-entrainé et supervisé, n’est pas infaillible. Il est possible que passent à travers les mailles de son réseau de neurones, des propos offensants ou dangereux.
- La véracité des données : internet contient de nombreuses bêtises techniques, conceptuelles, scientifiques… ChatGPT récolte des informations qui peuvent être fausses et nous les livre dans ses contenus.
- Le remplacement de plusieurs métiers : contrairement à ce que l’on pouvait croire, les métiers à forte valeur ajoutée pourraient eux-aussi être menacés. C’est le cas des journalistes et des graphistes qui se divisent sur le sujet de ChatGPT ces dernières semaines.
- La création de chatbot orientés : si ChatGPT avait été créé par des experts aux vertus contestables, l’outil le serait tout autant. On peut citer l’exemple de ChatCGT, chatbot conçu par Vincent Flibustier et son frère, qui l’ont doté d’opinions de gauche.
- La cybercriminalité : faire entièrement confiance à un chatbot peut constituer un gros risque, si l’agent virtuel a été créé dans un but préjudiciable (arnaque financière par exemple).
Les réponses aux risques éthiques et sociétaux soulevés par ChatGPT
« La contrainte suscite l’imagination. »
Cette célèbre phrase de Georges Brassens peut être appliquée au sujet de l’intelligence artificielle et en particulier au remarquable chatbot d’OpenAI.
ChatGPT en apportant son lot de risques, de failles et d’inquiétudes nous pousse aussi à remettre nos modèles en question et à chercher des solutions pour contourner et affronter ses problématiques. A cause du risque de plagiat (algiarism), certaines écoles ont déjà bloqué le chatbot, pendant qu’OpenAI dévoile son nouvel outil AI Text Classifier , permettant d’identifier un texte issu de ChatGPT.
De nombreux articles ont évoqué le phénomène de remplacement professionnel que pourrait provoquer le déploiement de l’IA. Bien que les entreprises aient déjà lancé leur révolution technologique, la question de l’avenir des métiers restait abstraite, à cause de la difficulté à comprendre ce qui changerait réellement dans le quotidien. Pourtant, la réflexion sur ce sujet est incontournable pour garantir l’équilibre économique. ChatGPT a donné à cette perspective une réalité foudroyante.
Le risque de chômage qui plane sur certains métiers existe, mais n’oublions jamais que l’IA est une production humaine et qu’elle nécessite des experts capables de la superviser et de la faire évoluer. Comme l’explique très bien Pascal de Lima, économiste, les professions vont muter : « Les métiers ne vont pas tous nécessairement disparaître mais se transformer et s’enrichir dans les années à venir. D’autres au contraire vont éclore… Ce sont surtout les métiers de l’analyse et de l’interprétation qui vont être préservés. »
La technologie aussi puissante soit-elle, a encore besoin de se doter d’empathie, de justesse, d’esprit critique, de valeurs d’égalité et d’équité, ou encore d’humour… Seuls les humains peuvent lui apprendre ces principes et superviser son évolution.
Quant aux autres menaces (cybercriminalité, détournement malfaisant, fausses informations, discriminations…), elles nécessitent réflexion et action. Des experts pour les traiter et les contrer seront indispensables, mais pas seulement. Une IA règlementée, éthique, responsable et surveillée s’impose. Concernant la véracité des informations fournies par les chatbots par exemple, on peut se demander si des comités seront créés pour valider ou non les productions. Qui décidera de ce qui est vrai ou faux dans les réponses des assistants virtuels ? Tout reste encore à faire et à inventer avant de sauter à pieds joints dans le grand bain technologique. Un nouvel écosystème émerge. Avant de s’emparer des systèmes intelligents tous azimuts, il est important d’en comprendre les limites et les menaces. La CNIL, Commission nationale de l’informatique et des libertés a annoncé le 23 janvier, la création d’un service de l’intelligence artificielle . Des initiatives du même ordre devraient suivre dans les mois qui viennent dans d’autres organisations. Une chose est certaine, l’IA pourra produire de la valeur positive à condition que tous les acteurs de la société collaborent sur le sujet. L’objectif est donc de créer une réflexion commune et un encadrement fructueux, à travers les différentes sphères de notre société (économique, technologique, juridique, politique…).
Le déploiement de la technologie déclenche des questions sociétales et éthiques. Les algorithmes se développent plus vite que notre réflexion. Ce n’est pas un drame à condition d’en prendre conscience, d’évaluer et d’anticiper les prochaines évolutions. La réticence au changement ou la techno-phobie n’ont plus lieu d’être. L’IA a fait une entrée sidérante dans nos vies avec ChatGPT. A nous de lui apprendre à frapper doucement et à demander la permission d’entrer.