La CEO d'IBM Virginia Rometty inquiète de l'effet boite noire de l'IA

Dans un article publié dans le cadre du Forum économique mondial de Davos, la CEO d’IBM, Virginia Rometty, a appelé à « une nouvelle ère de responsabilité des données » caractérisées par la transparence autour de l’IA. « S’agissant des nouvelles capacités de l’intelligence artificielle, nous devons être transparents sur quand et comment elle est appliquée, sur qui l’a mise en place, avec quelles données et de quelle manières » écrit-elle. Et de questionner : « L’IA reflète-t-elle l’expertise professionnelle ? Les biais involontaires sont-ils intégrés ? Nous devons expliquer pourquoi ses algorithmes prennent telle ou telle décision. Si une entreprise ne peut pas le faire, ses produits ne devraient pas être sur le marché. » Les systèmes d’IA peuvent effectivement être très opaques quand il s’agit de devoir expliquer comment ils appliquent les réseaux neuronaux au deep learning, des algorithmes complexes, etc.

D’autres comme Oracle ou AWS cherchent à rendre leurs offres en IA plus « explicables ». Mais d’autres fournisseurs, comme Google, remettent en cause cette volonté d’expliquer les initiatives prises par l’IA. L’argument : les humains non plus ne sont pas très bons pour expliquer pourquoi ils prennent des décisions…

La transparence des données personnelles pour gagner la confiance

« Les données et l'économie de l'IA ouvrent la voie à de nouvelles innovations, élargissent l'accès aux opportunités et à des solutions aux problèmes les plus urgents de la société. C'est pourquoi j'exhorte tous mes collègues leaders du monde des affaires et les gouvernements à adopter des principes de gérance des données et de transparence, comme ceux que j'ai mentionnés. IBM vit avec eux et nous pensons qu'ils sont essentiels pour gagner la confiance du public », a ajouté la PDG de big blue.

Virginia Rometty a également incité ses pairs à être transparents dans leur utilisation des données auprès des clients. « Nous devons savoir clairement à qui appartiennent ces données et les informations uniques qu’elles génèrent. Les entreprises doivent être claires avec leurs clients, les gouvernements avec leurs citoyens, quand ils leurs demandent d’abandonner la propriété de leurs données » a-t-elle ajouté avant de glisser furtivement qu’« IBM, par exemple, ne fournit ses données clients à aucun programme de surveillance gouvernementale ».