- MS-DOS 4.0 lâché sur Github. La semaine dernière, Microsoft a annoncé le passage en open source (sous licence MIT) de son célèbre système d’exploitation MS-DOS 4.0 sur Github. Codéveloppé avec IBM à l’origine et écrit en assembleur 8086 il y a près de 45 ans, MS-DOS 4.0 est curieusement arrivé entre les versions 3 et 3.1 de (Microsoft Disk Operating System). Précisons toutefois que certaines sources expliquent - après inspection du code - que ce ne serait pas vraiment le code source de MS-DOS 4.0, mais plutôt de 4.01 ou PC-DOS 4.01. Présenté en 1986, MS-DOS 4.0 était disponible dans plusieurs versions dont la très intéressante Multitasking DOS, similaire au clone Wendin-DOS. Malheureusement, la partie publiée par Microsoft ne contient pas le code pour cette version multitâche. Les plus curieux pourront faire un come-back très instructif en utilisant un émulateur libre comme PCem et 86box. Ce n’est pas la première fois que Microsoft libère le code d’un des systèmes d’exploitation : il a 10 ans, l’éditeur avait déjà transmis et partagé avec le Computer History Museum les sources de MS-DOS 1.25 et 2.0.  

- Encore une plainte RGPD contre OpenAI. Le groupe Noyb, dirigé par Max Schrems, a déposé plainte auprès de la Cnil autrichienne contre OpenAI alléguant que le service ChatGPT viole les règles du règlement européen. L’association estime que les informations ne peuvent pas être corrigées si elles sont jugées inexactes. Elle fait la démonstration dans sa plainte d’une hallucination sur la date de naissance de Max Schrems sans avoir la possibilité de la modifier ou de la supprimer. L’opération étant jugée impossible par OpenAI qui a enfoncé le clou en refusant l’accès aux données le concernant et aux sources d’information. Or le RGPD précise dans son article 5 du principe d’exactitude des données « complètes et mises à jour » et si les données personnelles sont inexactes, elles doivent être effacées ou rectifier sans tarder.

- L’Anssi se penche sur la sécurité de l’IA générative. Les équipes de Vincent Strubel viennent de publier un guide de « recommandations de sécurité pour un système d’IA générative ». Une attention spécifique sera portée sur les trois phases du cycle de vie de la GenAI : entraînement, déploiement et production. Elle constate plusieurs types d’attaques : manipulation, infection, exfiltration,… Pour l’agence, il est impératif de réaliser une analyse de risque sur les systèmes d’IA avant la phase d’entraînement autour de différents points comme l’évaluation le niveau de confiance des bibliothèques et des sources de données externes. Dans les préconisations, l’Anssi rejoint la Cnil (qui a édité récemment des fiches pratiques) sur la confidentialité des données à prendre en compte dès la conception du système IA. Enfin, le gardien de la cybersécurité attire une attention particulière sur le cas de la génération de code (avec le risque d’insertion de backdoor), les services d’IA grand public exposés sur Internet et l’utilisation d’IA génératives tierces.

Exemple des attaques potentielles sur les systèmes d'IA générative. (Crédit Photo : Anssi)