Bien qu'il s'agisse d'une fonction relativement récente, le directeur de l'intelligence artificielle (aka chief IA officer ou CIAO) gagne en importance dans les entreprises - qu'elles avancent délibérément ou qu'elles progressent rapidement - déployant la GenAI. En octobre dernier, 11 % des moyennes et grandes entreprises avaient déjà un CIAO, selon le cabinet d'études IDC, et 21 % en recherchaient un activement. Un peu plus de la moitié des 97 DSI interrogés l'automne dernier ont déclaré que leur société prévoyait de nommer un responsable de l'IA et environ la moitié de ces DSI s'attendent à ce que cette personne fasse partie de la direction de l'entreprise, selon le cabinet d'études. Les directeurs IA nouvellement embauchés ou nommés "ne font pas seulement partie de la direction d'une entreprise, mais on attend d'eux qu'ils soient l'un des membres les plus stratégiques de l'entreprise", a déclaré IDC dans son rapport.
Le directeur de l'IA est le plus souvent rattaché au DSI et au directeur général de l'entreprise.
Directeur de l'IA et de la data main dans la main
Selon Zeid Khater, analyste chez Forrester Research, la fonction de directeur de l'IA devrait apparaître sur LinkedIn et sur d'autres réseaux sociaux à mesure que les entreprises recherchent l'efficacité et la promesse de productivité de l'IA. En fait, ce métier pourrait bientôt apparaître dans une équipe de direction sur huit. Dans une récente enquête de Forrester, 12 % des entreprises ont déclaré que leur directeur IA était le principal responsable de la stratégie globale de l'entreprise en matière d'IA ; seulement 2 % ont attribué cette responsabilité au directeur de la data (chief data officer ou CDO). "Cela ne signifie pas que les CDO sont en voie d'extinction", indique Zeid Khater dans un billet de blog. "Les données restent une ressource vitale et souvent inexploitée au sein des entreprises en raison des défis liés à la qualité, à la gouvernance et à l'accès. "Il a exhorté les entreprises à "s'assurer que les responsables de l'IA et des données sont en phase pour transformer la paille des données en or de la connaissance". Le CAIO apporte ses connaissances techniques, tandis que le CDO fournit des données de qualité. Il s'agit d'un partenariat puissant pour la réussite de l'IA".
Le déploiement de modèles d'IA est coûteux car les fournisseurs cloud et les cas d'usage en GenAI requièrent beaucoup de puissance de calcul, le plus souvent haut de gamme et coûteuse. Et les puces qui alimentent les processus d'apprentissage et d'inférence dans les grands modèles de langage peuvent coûter des milliers de dollars. N'oublions pas que Nvidia fabrique la plupart des GPU pour l'industrie de l'IA et que sa principale puce pour datacenter coûte 10 000 $, bien que sa mainmise sur le marché des puces d'IA soit toutefois remise en question par d'autres qui espèrent la concurrencer en baissant le prix de leurs puces.
Toutes les agences fédérales bientôt dotées d'un directeur IA
Les entreprises privées ne sont pas les seules à chercher à embaucher. En mars, le président américain Joseph R. Biden Jr. a donné deux mois à toutes les agences fédérales pour nommer des directeurs data chargés de promouvoir l'innovation en matière d'IA, de coordonner les activités avec d'autres agences et de gérer les risques associés à la technologie. Le délai de 60 jours a mis en évidence le besoin urgent de gouvernance alors que l'IA poursuit son adoption fulgurante. "Alors que l'IA améliore les opérations et la prestation de services dans l'ensemble du gouvernement fédéral, les agences doivent gérer efficacement son utilisation", indique la note de Joseph R. Biden Jr. "Les risques (...) résultent de la dépendance à l'égard des résultats de l'IA pour informer, influencer, décider ou exécuter les décisions ou les actions des agences, ce qui pourrait compromettre l'efficacité, la sécurité, l'équité, la transparence, la responsabilité, l'adéquation ou la légalité de ces décisions ou actions".
Vingt-quatre agences fédérales avaient ainsi nommé des directeurs IA à la date limite du 30 mai. Au total, l'administration américaine prévoit d'embaucher 100 professionnels de l'IA d'ici l'été et demande à toutes les agences fédérales de mettre en place des conseils de gouvernance de l'IA afin de coordonner les efforts d'adoption et d'établir des règles pour l'utilisation de l'IA et de la GenAI. "La décision d'institutionnaliser le rôle des CAIO témoigne d'une reconnaissance claire de l'importance stratégique de l'IA", a déclaré Joel Meyer, ancien secrétaire adjoint du ministère américain de la sécurité intérieure, dans un récent article de Fedscoop. Le lieutenant-général John Shanahan, coauteur de cet article et premier directeur du Joint Artificial Intelligence Center du ministère de la défense, a déclaré quant à lui que l'une des responsabilités du directeur data était "d'identifier les fruits les plus faciles à cueillir". Les projets pilotes d'IA peuvent être choisis de manière réfléchie pour démontrer des hypothèses qui peuvent ensuite être confirmées dans la stratégie d'IA de chaque ministère. Ces succès rapides peuvent donner l'impulsion nécessaire à la mise en œuvre d'une stratégie d'IA plus large".
Étant donné que les agences fédérales ont eu toute latitude pour définir leur organisation sous l'égide des directeurs data, il existe une grande diversité entre elles en termes d'autorité, de budgets et de modalités d'exécution du rôle, selon Amy Jones, responsable du marché de l'IA dans le secteur public aux États-Unis chez Ernst & Young. "Les responsabilités quotidiennes sont très variées", a-t-elle déclaré. "Je pense que le succès d'un directeur data réside dans sa connaissance des agences. Nous utilisons tous Internet et le courrier électronique tous les jours, et cela nécessite des connaissances sur la manière de les utiliser en toute sécurité et de manière optimale. Il en va de même pour la technologie de GenAI.
Les postes recrutés dans les entreprises engagés dans la GenAI. (crédit : IDG)
Chercher à créer une culture de la collaboration
L'un des obstacles connus au déploiement de la GenAI est la qualité des données utilisées pour former les LLM. Comme le dit le proverbe : les chiens ne font pas des chats car de mauvaises données en entrée produiront des mauvaises données en sortie. Il est à la fois difficile et coûteux d'obtenir des données de haute qualité, impartiales et représentatives, selon Andrew Rabinovich, qui a récemment pris le poste de responsable de l'IA sur la plateforme d'emplois freelance Upwork. Selon lui, les principaux éléments à prendre en compte par les nouveaux DPI qui souhaitent déployer l'IA sont les suivants :
- Une planification minutieuse et la prise en compte de la manière dont la technologie aura un impact réel sur les clients, plutôt que d'aller de l'avant juste pour le plaisir ou pour suivre le cycle de l'engouement ;
- Une compréhension claire des objectifs de l'entreprise et des problèmes spécifiques des clients à résoudre grâce à l'IA avant le lancement ;
- Évaluer et garantir la qualité et la fiabilité des modèles d'IA créés, que ce soit par l'entreprise elle-même ou par un fournisseur tiers ;
- Veiller à ce que les LLM soient formés sur des ensembles de données diversifiés et représentatifs afin d'éviter les biais, tout en assurant un suivi constant des améliorations itératives.
"Garantir la propreté et l'exactitude des données nécessite souvent un prétraitement approfondi, qui prend du temps et nécessite des ressources importantes et ce, même si vous avez accès aux bons ensembles de données", prévient Andrew Rabinovich. Les directeurs data et les autres personnes chargées de superviser les déploiements de l'IA jouent un rôle essentiel dans "l'utilisation stratégique, éclairée et responsable de l'IA au sein d'une organisation", poursuit le responsable IA d'Upwork. "Cette fonction comporte de nombreuses responsabilités, mais il s'agit avant tout d'orienter les initiatives et les innovations en matière d'IA en fonction des objectifs de l'entreprise. Les responsables IA doivent également créer une culture de la collaboration et de l'apprentissage continu. "Toutes les équipes de toutes les fonctions d'une entreprise doivent réfléchir à la manière dont elles peuvent collaborer à des projets d'IA, expérimenter la technologie et étudier comment doter leurs équipes des connaissances, des compétences et des outils adéquats pour exploiter l'IA", ajoute Andrew Rabinovich.
Un peu plus de la moitié des DSI déclarent que leur entreprise a, ou prévoit d'avoir, un responsable indépendant de l'IA et près de la moitié que ce dernier fasse partie de l'équipe de direction de l'entreprise. (crédit : IDC)
Chez Upwork, Andrew Rabinovich supervise l'utilisation par l'entreprise de GPT-4 pour créer une plateforme alimentée par l'IA, Best Match insights, une fonction qui aide les entreprises à trouver la meilleure personne potentielle pour leur poste en identifiant des informations pertinentes telles que les meilleures propositions, les évaluations des clients et l'alignement des compétences avec l'offre d'emploi. Pour que la GenAI fonctionne de manière fiable, les directeurs data devront déterminer comment utiliser l'IA et les techniques d'optimisation des données pour améliorer l'efficacité, la qualité des données et les considérations éthiques. "Sur le papier, [il faut] une conformité de base - s'assurer qu'ils [les LLM et la GenAI] sont conformes à la réglementation et aux politiques, créer [votre] propre politique au sein de l'agence qui est spécifique à la mission, [et] identifier l'inventaire des cas d'utilisation", explique Amy Jones. Andrew Rabinovich est aussi du même avis : la qualité des données utilisées pour former les modèles d'IA est un aspect important du processus de développement, même s'il peut être difficile d'obtenir des données de haute qualité, impartiales et représentatives. "Garantir la propreté et l'exactitude des données nécessite souvent un prétraitement approfondi, qui prend du temps et nécessite des ressources importantes - et ce, même si vous avez accès aux bons ensembles de données", fait remarquer Andrew Rabinovich.
Un directeur data dédié ou à cheval sur les enjeux IA
Jenn Kosar, associée chez PricewaterhouseCoopers (PwC), a déclaré que si la plupart des entreprises n'ont pas encore désigné les directeurs data comme une fonction et un titre officiel au sein de l'équipe de direction, d'un point de vue fonctionnel, un nombre important d'organisations remplissent aujourd'hui ce rôle sans en avoir le titre. Le plus souvent, le poste se situe un cran en dessous de celui de DSI. "Aujourd'hui, nous voyons souvent des CTO et des CISO assumer cette [responsabilité de la GenAI]", fait savoir Jenn Kosar. "Et c'est peut-être une bonne chose dans la situation où nous nous trouvons aujourd'hui. Mais la [planification] stratégique, la gestion du changement, l'innovation, la capacité à mener une entreprise à travers une transformation - ce sont vraiment des compétences critiques pour le succès de cette fonction. "Malheureusement, nous constatons que dans la plupart des cas, il ne s'agit pas d'un travail à temps plein. En d'autres termes, ils [les directeurs data] ont d'autres fonctions. Nous pensons qu'il devrait s'agir d'un rôle dédié. Ils sont tenus responsables de la manière dont une socéité progresse en matière d'IA".
Même si les directeurs data ne sont pas toujours assis à la table du président, ils demeurent très attentifs à la GenAI et à son potentiel d'amélioration en termes d'efficacité et de bénéfices. Sans un cadre dirigeant pour guider ces déploiements, il sera difficile d'atteindre les performances et le retour sur investissement recherchés par les organisations, poursuit Jenn Kosar. "Il est difficile d'imaginer comment les pièces s'assemblent et comment vous réunissez autant d'acteurs". Et ce dans un contexte où PwC a plus d'une douzaine d'outils soutenus par le LLM fonctionnant en interne pour alimenter les outils et les produits d'IA dans pratiquement toutes les unités commerciales. "Vous devez avoir la capacité de planifier à court et à long terme, d'équilibrer les deux et de rester concentré sur l'innovation [...] En même temps, il faut savoir reconnaître le rythme du changement sans se laisser distraire par le dernier objet qui brille. Selon Andrew Rabinovich, il est important de bien maîtriser l'IA, car elle fera partie intégrante de la vie quotidienne d'ici à la fin de la décennie. D'ici à 2030, il pense que pratiquement tout le monde interagira avec l'IA et que la technologie jouera des rôles allant de l'assistant personnel au tuteur, en passant par le thérapeute, le comptable et même l'avocat. "L'IA aidera les humains à s'élever et à améliorer les sociétés, car elle leur permettra de se concentrer sur la résolution de problèmes de plus en plus complexes", conclut le responsable IA d'Upwork.