L’heure est à la spécialisation des LLM et le domaine de la santé n’échappe pas à cette tendance. Preuve en est, la présentation de Meditron, un modèle « entraîné sur des sources de données médicales de haute qualité et soigneusement sélectionnées », explique Meta dans un blog. Il a été développé conjointement par des chercheurs de l'École polytechnique fédérale de Lausanne (EPFL) et de la Yale School of Medicine, et soutenu par le Comité international de la Croix-Rouge (CICR). Le LLM est construit sur la plateforme Meta Llama2 et affiné avec « l'apport continu de cliniciens et d'experts en réponse humanitaire », selon la firme américaine. Ce LLM médical devrait aider les professionnels de santé à « prendre des décisions cliniques et à établir des diagnostics ».
Combler le fossé de l'IA médicale
« Les modèles de fondation sont devenus des biens intellectuels et culturels modernes », a expliqué Mary-Anne Hartley, professeur à Yale et codirectrice du projet, dans le blog. « Lorsqu'ils sont appliqués au domaine médical, ils ont la capacité de délivrer des conseils et des orientations qui peuvent sauver des vies. Pourtant, les milieux aux ressources les plus limitées, qui auraient le plus à gagner, restent les moins représentés ». Meditron s'attaque de front à ce défi. Basée sur le Llama 2 de Meta, la suite est affinée sur un ensemble de données massives d'informations médicales, y compris des directives cliniques, des revues médicales et des données réelles provenant d'organisations humanitaires comme le CICR. « La formation de cette IA garantit que les informations fournies par Meditron sont conformes aux pratiques fondées sur des données probantes et répondent aux normes professionnelles », explique encore le blog.
« Meditron peut répondre à des besoins cruciaux dans des contextes divers, y compris des scénarios d'urgence nécessitant une réponse médicale rapide et précise, où il faut apporter une aide aux soignants pour diagnostiquer et traiter les patients dans les zones mal desservies », ajoute Meta. « Le modèle représente une avancée significative dans la démocratisation de l'accès à de puissants outils d'IA pour les soins de santé », a déclaré Pradeepta Mishra, cofondateur et architecte en chef de Data Safeguard, une entreprise spécialisée dans la protection des données sensibles. « Le modèle de langage formé sur des données textuelles générales peut être affiné pour des tâches médicales spécifiques pour fournir une réponse à des questions médicales, de la documentation clinique ou aider au diagnostic des patients ».
Succès rapide et accès libre
Selon Meta, Meditron a été téléchargé plus de 30 000 fois depuis sa sortie et « comble une lacune importante en matière d'innovation dans les environnements médicaux à faibles ressources ». Les chercheurs n'ont toutefois pas cessé d'innover et le LLM Meditron a déjà été mis à jour avec les dernières fonctionnalités de Llama 3. « Suite à la publication de Meta Llama 3 la semaine dernière, l'équipe a peaufiné le nouveau modèle 8B en 24 heures pour livrer le Llama-3[8B]-MeditronV1.0, qui surpasse tous les modèles ouverts de pointe dans sa classe de paramètres sur des critères de référence standard tels que MedQA et MedMCQA », affirme le blog.
« L'accès libre est peut-être l'aspect le plus important de Meditron », estime pour sa part Mary-Anne Hartley. L'ensemble de la suite - données, poids des modèles et documentation complète - est disponible gratuitement. Mme Hartley espère que cela pourra « favoriser l'innovation dans des contextes où les ressources sont limitées, afin de mieux garantir la représentation et de créer un accès équitable aux connaissances médicales ». Elle estime que « les milieux à faibles ressources ne devraient pas être obligés de « réinventer la roue » pour que leurs populations et leurs besoins soient représentés dans cette technologie essentielle ».
Aller au-delà des critères de référence
Même si Meditron est actuellement en tête du peloton des LLM open source pour la médecine sur la base de critères de référence standard, les chercheurs de ces universités ont reconnu que ces critères ne reflétaient pas nécessairement les défis cliniques du monde réel. « Pour résoudre ce problème, les chercheurs ont lancé l'initiative Meditron MOOVE (Massive Online Open Validation and Evaluation), qui invite les professionnels de la santé du monde entier à évaluer les performances du modèle dans des scénarios réels, en particulier dans des environnements à faibles ressources », ajoute le blog. « Le fait que ces professionnels, soumis à des contraintes de temps, se portent volontaires au sein de notre communauté open source pour valider Meditron de manière indépendante est une reconnaissance de sa valeur », a aussi déclaré Mme Hartley.
Meta n’est pas le seul acteur dans le domaine du LLM médical. Google a présenté depuis quelques temps son modèle nommé Med-PaLM. Basé sur PaLM 2, il propose de répondre à des questions posées par les professionnels de santé ou de réaliser une évaluation des examens médicaux.