En matière d’IA, la question de l’éthique est sur toutes les lèvres, nourrie par des récits sur la toute-puissance des IA et le mythe de la Singularité technologique. Comment accompagner cet engouement pour l’IA et lever les peurs liées aux dérives possibles ?

Pour répondre à ce paradoxe, la question de la construction d’un cadre de gouvernance de la donnée à toutes les étapes clés de son cycle de vie, apporte des pistes concrètes de réponses.

 

Appliqué à l’IA, le principe de précaution, sans être trop contraignant, vise à réduire les risques et prévenir des dommages irréversibles. Cette pédagogie n’est pas nouvelle pour l’entreprise mais, dans le cadre de l’intelligence artificielle, elle nécessite un effort de projection de nature différente. Quels seront les risques majeurs générés par l’IA et liés à la stratégie des entreprises, aux opérations et à leurs fonctions transverses ? Mettre en regard des risques, les enjeux pour l’entreprise c’est aborder la délicate question de la construction d’une entreprise « data driven » où la documentation de la donnée, sa qualité, l’interprétabilité des traitements et l’explicabilité des algorithmes deviennent des actions clés dans le cadre de la valorisation et la protection des données. Elles sont aussi un facteur de transparence nécessaire pour gagner la confiance des utilisateurs.

 

Au-delà de ce principe général, l’IA se heurte, dans sa mise en œuvre, à l’absence d’applications concrètes utilisées par différents secteurs d’activité. Pour pallier l’absence de communauté d’intérêt, les entreprises peuvent s’appuyer sur 3 piliers :

  • L’intelligibilité de l’IA c’est-à-dire la compréhension des raisons pour lesquelles la machine recommande une action,
  • La recherche de dénominateurs communs entre les applications déployées par plusieurs entreprises
  • Le partage d’algorithmes documentés et explicables.

C’est à partir de ces chantiers que des pratiques professionnelles (langage, méthodes et outils) et un cadre normatif seront construits.

 

En amont de la formalisation des algorithmes, la documentation de la donnée et l’encadrement des conditions d’accès à cette dernière, restent un socle de bonnes pratiques à appliquer en priorité. C’est tout l’enjeu de la gouvernance. Cette dernière s’attache à :

  • Comprendre les usages de la donnée afin d’en définir des contrats de service adaptés aux besoins des parties
  • Identifier les données et notamment les données de référence et déployer une gouvernance adaptée aux référentiels
  • Réconcilier la vision métier et sa traduction dans le SI.
  • Veiller à établir des processus et des règles qui garantissent la qualité des données et leur disponibilité.

Ce sont les premières pierres d’un édifice plus grand qui intègrera probablement, à terme, la compréhension des mécanismes en jeu dans l’IA et la production de rapports de justification qui permettront d’auditer ces algorithmes.

Pour aller plus loin, vous pouvez consulter l’intégralité de ce livre blanc : Governance is law

Rechercher
Toggle location