Le syndrome de l’apprenti sorcier a-t-il touché le monde de l’IA ? Une lettre ouverte, signée par plus de 1 100 personnes (à date) lance un appel à mettre en pause pendant 6 mois les recherches sur l’IA générative et plus exactement « l’entraînement des modèles plus puissants que GPT-4 ». Parmi les signataires, on retrouve Elon Musk qui a participé au développement d’OpenAI ou Steve Wozniak, co-fondateur d’Apple et le co-fondateur de StableAI, mais également beaucoup d’universitaires spécialisés en IA.
Cette pause semestrielle est rendue nécessaire car ces systèmes d’IA « peuvent présenter des risques profonds pour la société et l'humanité », expliquent les signataires. Des projections sur les emplois supprimés, les images détournées, les droits d’auteurs, les risques en cybersécurité sont autant de problèmes soulevés par les IA génératives. Au point de s’interroger, « Devons-nous risquer de perdre le contrôle de notre civilisation ? » Or selon eux, les laboratoires ont mené ces derniers temps « une course incontrôlée pour développer et déployer des compétences numériques toujours plus puissantes que personne - pas même leurs créateurs - ne peut comprendre, prédire ou contrôler de manière fiable ». Par exemple OpenAI est déjà en train de plancher sur GPT-5.
Les Etats appelés à la rescousse
A défaut d’obtenir un arrêt temporaire vérifiable et public des travaux sur les IA génératives, la lettre ouverte se tourne vers les gouvernements pour mettre en place un moratoire sur le sujet. L’objectif est d’instaurer des règles de sécurité et de bonnes pratiques en termes de précision, de transparence, d’explicabilité. Par exemple, l’Union européenne est en pleine discussions pour l’élaboration d’un IA Act.
Reste à savoir quelle sera la portée d’un tel appel ? Si la révolution des IA génératives est en marche, elle sera bien difficile à arrêter. Les éditeurs, dont Microsoft ont bien compris que cette puissance pouvait être un différenciateur dans leurs solutions (moteur de recherche, suite collaborative, CRM, cybersécurité). Ils multiplient les annonces d’intégration et elles devraient s’accélérer dans les prochains mois.