Toggle master download
Rechercher
Toggle location

En matière d’IA, la question de l’éthique est sur toutes les lèvres, nourrie par des récits sur la toute-puissance des IA et le mythe de la Singularité technologique. Comment accompagner cet engouement pour l’IA et lever les peurs liées aux dérives possibles ?

Pour répondre à ce paradoxe, la question de la construction d’un cadre de gouvernance de la donnée à toutes les étapes clés de son cycle de vie, apporte des pistes concrètes de réponses.

Appliqué à l’IA, le principe de précaution, sans être trop contraignant, vise à réduire les risques et prévenir des dommages irréversibles. Cette pédagogie n’est pas nouvelle pour l’entreprise mais, dans le cadre de l’intelligence artificielle, elle nécessite un effort de projection de nature différente. Quels seront les risques majeurs générés par l’IA et liés à la stratégie des entreprises, aux opérations et à leurs fonctions transverses ? Mettre en regard des risques, les enjeux pour l’entreprise c’est aborder la délicate question de la construction d’une entreprise « data driven » où la documentation de la donnée, sa qualité, l’interprétabilité des traitements et l’explicabilité des algorithmes deviennent des actions clés dans le cadre de la valorisation et la protection des données. Elles sont aussi un facteur de transparence nécessaire pour gagner la confiance des utilisateurs.

Au-delà de ce principe général, l’IA se heurte, dans sa mise en œuvre, à l’absence d’applications concrètes utilisées par différents secteurs d’activité. Cette absence de communauté d’intérêt se retrouve, très en amont, au niveau des développeurs. Il n’existe pas de vision partagée au sein de la communauté des développeurs en matière, par exemple, de méthodologie d’interprétabilité et de restitution des résultats algorithmiques. Il n’existe pas non plus d’exigences éthiques comme cela peut être le cas dans l’univers de la santé.
Pour être efficace, les défis éthiques de l’IA doivent devenir une préoccupation constante des entreprises qui s’appuieront en premier lieu sur l’intelligibilité de l’IA c’est-à-dire la compréhension des raisons pour lesquelles la machine recommande une action, la recherche de dénominateurs communs entre les applications déployées par plusieurs entreprises et le partage d’algorithmes documentés et explicables. C’est à partir de ces chantiers que des pratiques professionnelles (langage, méthodes et outils) et un cadre normatif seront construits.

En amont de la formalisation des algorithmes, la documentation de la donnée et l’encadrement des conditions d’accès à cette dernière, restent un socle de bonnes pratiques à appliquer en priorité. C’est tout l’enjeu de la gouvernance. Cette dernière s’attache à comprendre les usages de la donnée afin d’en définir des contrats de service adaptés aux besoins des parties et d’instituer des règles claires en matière de responsabilité. La gouvernance identifie les données et notamment les données de référence, réconcilie la vision métier et sa traduction dans le SI en définissant chaque Business data object et en constituant un dictionnaire partagé et un modèle commun dans l’entreprise. Elle veille à établir des processus et des règles qui garantissent la qualité des données et leur disponibilité.

Ce sont les premières pierres d’un édifice plus grand qui intègrera probablement, à terme, la compréhension des mécanismes en jeu dans l’IA et la production de rapports de justification qui permettront d’auditer ces algorithmes.