Fiche métier : Responsable de l’éthique en intelligence artificielle

L’intelligence artificielle et ses algorithmes qui permettent de grandes avancées, doivent rester des outils au service de l’homme et servir ses intérêts. Le responsable éthique en intelligence artificielle est le garant des valeurs des entreprises et de l’intérêt des utilisateurs, en tant que consommateurs ou citoyens. Il supervise et encadre le travail autour de la data et de l’IA pour en faire une formidable opportunité sociétale et économique.

Présentation et missions

Également appelé éthicien en intelligence artificielle, sa mission est d’examiner les technologies sous l’angle des valeurs humaines. La délégation de certaines tâches aux systèmes d’intelligence artificielle ne doit pas gommer les devoirs des hommes. Le responsable éthique veille à ce que le développement de l’IA et de la data inclue les principes fondamentaux de nos sociétés et des libertés humaines. Il conçoit avec les experts, les règles algorithmiques, les rend compréhensibles, suit les systèmes d’apprentissage (machine et deep learning) pour qu’ils évoluent en préservant l’homme et l’environnement. Il organise un questionnement régulier sur les sujets data et IA comme le respect de la vie privée, l’équité, la neutralité, l’inclusion de la diversité, la transparence, la responsabilité et la supervision humaine. Le responsable éthique en intelligence artificielle a pour règle de ne jamais accorder une confiance excessive aux systèmes intelligents, pourtant de plus en plus autonomes. Il fait en sorte que les nouveaux outils progressent, que les compétences des collaborateurs grandissent avec transparence et responsabilité. Il définit avec la direction une politique de l’éthique et forme les équipes sur ces sujets. Son rôle est de déterminer quelle est la valeur la plus importante dans une situation donnée, et de prendre la meilleure décision en fonction du contexte. Sa vision est globale et son rôle transversal.

Pour donner un exemple concret, le responsable éthique peut travailler sur l’explicabilité, c’est-à-dire donner la possibilité de comprendre pourquoi un système d’intelligence artificielle obtient tel résultat. Il s’agit des critères qui définissent le « raisonnement » d’un système algorithmique : un accord ou un refus de prêt dans le domaine bancaire ou encore la sélection d’un profil dans le secteur du recrutement.

Implications business

La question éthique est partout où l’intelligence artificielle est présente : cybersécurité, banque-assurance, santé, transports, industrie automobile, grande distribution, services en ligne, environnement… Son champ d’application est large. De chaque domaine d’activité émergent de nombreuses questions éthiques. Si elles n’étaient pas traitées avec soin, les déploiements techniques des entreprises et des organisations ne seraient pas pérennes et entacheraient leur réputation. Le responsable éthique joue donc un rôle clé dans le développement des entreprises et de leurs technologies.

Implications éthiques

Liberté, sécurité, responsabilité confidentialité, égalité, parité, écologie… sont les enjeux d’une intelligence artificielle responsable. L’éthique de l’IA a pour vocation de transformer le monde de façon positive en y appliquant les valeurs humaines.

Les programmes d’aivancity intègrent dans leurs apprentissages toutes les composantes de l’intelligence artificielle et ses enjeux, qu’ils soient techniques, technologiques, commerciaux, éthiques ou légaux. Ce sont des formations globales et hybrides qui permettent aux futurs ingénieurs de bénéficier d’un niveau de connaissances maximal et d’un large savoir-faire.

Compétences clés

Doté de grandes connaissances juridiques et philosophiques, le responsable éthique en IA est aussi très à l’aise sur les sujets technologiques. Il milite pour une IA qui s’aligne sur les valeurs humaines. Il est visionnaire et anticipe les progrès technologiques et leurs bouleversements sociétaux. Sa réflexion, à la fois philosophique et pragmatique, lui permet de déceler les paradoxes entre technologie et déontologie. Son relationnel est excellent. Ses interlocuteurs sont variés, il connaît les expertises de chacun et leur périmètre de responsabilité. La pédagogie est nécessaire à sa fonction : expliquer le contexte, faire prendre conscience des enjeux, former sur les questions éthiques. Il justifie ses choix rationnels en évoquant l’intérêt du client, la qualité de l’environnement, la sécurité du public, la politique éthique de l’entreprise. Capable d’analyser toutes les situations, il anticipe la croissance technologique de l’IA et les évolutions sociétales en cherchant les compromis entre progrès et éthique. L’anticipation et l’amélioration continue sont ses automatismes.

Tendances et facteurs d’évolution

Embauché en entreprise ou par un cabinet spécialisé, il s’adapte à divers secteurs d’activité. Il peut également exercer sa fonction en tant que consultant indépendant.

Le responsable de l’éthique en intelligence artificielle est une ressource capitale pour les entreprises, les organisations et les institutions. Grâce à son travail, le potentiel de l’intelligence artificielle grandit en cultivant les valeurs humaines essentielles.