Sélectionner la page

Comprendre les risques du Machine Learning

Galvanize

Le Machine Learning joue désormais un rôle énorme en aidant les organisations à analyser leurs données structurées et non structurées, à identifier de nouveaux risques, à automatiser les tâches manuelles en fonction de déclencheurs définis et à prendre des décisions fondées sur les données. Dans le meilleur des cas, il peut remplacer d'énormes quantités de travail manuel par l'automatisation et fournir des informations qui permettent de prendre de meilleures décisions en matière d'évaluation, de surveillance et d'atténuation des risques.

Si le Machine Learning est un outil de gestion des risques, il présente aussi lui-même de nombreux risques. Alors que 49 % des entreprises explorent ou prévoient d'utiliser le Machine Learning, seule une petite minorité reconnaît les risques que cela pose. Par ailleurs, selon une enquête mondiale menée par McKinsey, seulement 41 % des organisations disent pouvoir identifier et hiérarchiser de manière exhaustive leurs risques en matière de Machine Learning.

C'est pourquoi nous avons voulu présenter certains des risques du Machine Learning et la façon dont ils peuvent être évalués et gérés de manière adéquate.

Quels sont les risques liés aux données du Machine Learning ?

Données de mauvaise qualité
Votre modèle de Machine Learning ne peut pas comprendre le contexte des tâches qu'il effectue. Pour fonctionner, il s'appuie sur des données d'entraînement fournies par l'homme. (L'expression « Garbage in, garbage out » est souvent utilisée pour décrire ce problème.) Parmi les exemples de données dites « sales », citons les erreurs dans les données, les valeurs aberrantes (par exemple, un chiffre dont la valeur est très différente de celle d'autres chiffres, ce qui peut fausser les moyennes) et les données non structurées qui ne peuvent pas être interprétées correctement par le modèle (« bruit »).

Surajustement
Dans le cas d'un surajustement, vos données d'apprentissage correspondent si parfaitement au modèle qu'il n'y a pas assez de variabilité pour que l'algorithme puisse apprendre. Cela signifie qu'il ne sera pas en mesure de généraliser lorsqu'il s'agira de tester des données réelles.

Données biaisées
Des données biaisées signifient que des préjugés humains peuvent se glisser dans vos jeux de données et gâcher les résultats. Par exemple, la célèbre application d'édition de selfies FaceApp a été initialement « entraînée » par inadvertance à rendre les visages « plus sexys » en éclaircissant le teint de la peau, après avoir été nourri d'une quantité beaucoup plus importante de photos de personnes au teint plus clair. Si la diversité et l'inclusion ne sont pas prises en compte dans vos données de formation initiales, il est probable que des préjugés apparaissent dans les résultats des tests.

Autres types de risques liés au Machine Learning

Au-delà des problèmes liés à l'algorithme lui-même en raison d'ensembles d'entraînement inappropriés, de nombreuses organisations sont confrontées à d'autres problèmes lors de la mise en œuvre de la technologie de Machine Learning. Il peut s'agir de :

  • Manque de stratégie et d'expérience
    Chaque fois que vous introduisez une nouvelle technologie, vous êtes obligé d'apprendre. Mais lorsqu'il s'agit de Machine Learning, l'un des plus grands risques est lié à l'expérience de l'utilisateur - ou plutôt à son manque d'expérience. Une enquête menée auprès de plus de 2 000 personnes dans un large éventail de secteurs a révélé que l'absence d'une stratégie claire (43 %), suivie par le manque de talents possédant les compétences appropriées (42 %), étaient les plus grands obstacles à l'adoption du Machine Learning. Sans la stratégie ni les compétences appropriées, vous perdrez du temps et des ressources pour trouver une solution qui pourrait fonctionner ou non, mais d'une manière qui pourrait nuire à votre organisation.
  • Vulnérabilités de sécurité
    Si une source de données obsolète est incluse dans votre modèle, elle peut introduire des vulnérabilités de sécurité dans votre organisation en fournissant des renseignements de mauvaise qualité.
  • Défis réglementaires
    Si votre équipe ne comprend pas exactement comment un algorithme a pris une décision, elle peut manquer de connaissances pour justifier les décisions auprès des régulateurs.
  • Risques liés aux tiers
    L'un de vos fournisseurs tiers peut échouer à gérer correctement une solution de Machine Learning, ce qui entraîne une violation des données.

Comment évaluer les risques liés au Machine Learning

Cela dit, aucun de ces risques ne rend imprudent l'intégration du Machine Learning dans votre organisation. Cela signifie simplement qu'il est important d'être méthodique dans la mise en œuvre de cette technologie et de veiller à développer un cadre de gestion de la solution qui est mis en pratique dans toute l'organisation.

Pour évaluer et gérer les risques auxquels votre organisation peut être confrontée lors de la mise en œuvre d'une solution de Machine Learning, procédez comme suit :

  • Mettre en œuvre un cadre de gestion des risques propre au Machine Learning plutôt que de s'appuyer sur un cadre de gestion des risques standard qui pourrait ne pas englober les scénarios auxquels vous serez confrontés
  • Enseigner à l'ensemble de l'organisation comment suivre les protocoles pour une gestion efficace des risques dans le Machine Learning
  • Développer des critères d'évaluation pour vous aider à prioriser les risques dans l'entreprise
  • Réévaluer régulièrement vos profils de risque et votre appétence pour le risque, sur la base du feedback des parties prenantes dans toute l'organisation

En adoptant des protocoles solides et en déployant les bons talents, la bonne stratégie et les bonnes compétences, vous serez en mesure d'identifier et de hiérarchiser les risques liés au Machine Learning et vous serez en position de tirer pleinement parti de cette technologie étonnante.

En savoir plus

Le Machine Learning offre un potentiel infini pour votre organisation, mais sa mise en œuvre et sa gestion doivent être soigneusement contrôlées pour s'assurer qu'il n'introduit pas de nouveaux risques. Découvrez comment gérer et atténuer correctement les risques du Machine Learning dans notre nouvel eBook.

eBook :

Une approche basée sur les risques dans le Machine Learning

Découvrez le rôle de l'identification, de l'évaluation et de la gestion des risques dans les applications de Machine Learning et apprenez à :

  • Identifier, évaluer et gérer les risques courants du Machine Learning
  • Recourir au Machine Learning dans l'accompagnement de l'évaluation des risques
  • Détecter la fraude grâce au Machine Learning

Télécharger l'eBook

Articles liés

lang="en-US"
X

Galvanize utilise des cookies pour en savoir plus sur l'utilisation de nos sites Web et pour améliorer votre expérience. De plus amples informations sur les cookies que nous utilisons sont disponibles dans notre Politique relative aux cookies.

En continuant à naviguer sur les sites Web de Galvanize ou à les utiliser, vous donnez à Galvanize votre consentement pour utiliser des cookies. Si vous ne consentez pas à ce que nous utilisions des cookies, vous pouvez les désactiver ou les gérer au moyen des paramètres et options de votre navigateur. Veuillez noter que si les cookies sont désactivés, toutes les fonctions de nos sites Web peuvent ne pas fonctionner comme prévu.