L’actualité juridique numérique de la semaine – 8 juin 2026

Actualité 1 – Anthropic alerte sur la menace d’« IA capables de se fabriquer elles-mêmes » et appelle à une pause dans la course à l’intelligence artificielle

Le Monde présente les inquiétudes d’Anthropic tout en rappelant les critiques adressées aux discours jugés alarmistes sur l’IA.

Contexte

L’article revient sur la publication d’un nouvel essai d’Anthropic, entreprise américaine dirigée par Dario Amodei, qui remet dans le débat public l’idée d’une pause ou d’un ralentissement temporaire du développement des IA de pointe. Cette prise de position intervient dans un contexte de forte accélération des capacités des modèles d’intelligence artificielle, notamment dans l’écriture de code, l’automatisation de tâches complexes et la cybersécurité.

Résumé des faits –

• Anthropic appelle à envisager un ralentissement ou une suspension temporaire du développement de l’IA de pointe, afin de laisser le temps à la recherche sur l’alignement et aux institutions de suivre le rythme des progrès technologiques.
• L’entreprise alerte sur la possibilité, à terme, de modèles capables de participer à leur propre amélioration, voire de concevoir et développer leur successeur de manière autonome.
• Le cœur de l’inquiétude porte sur l’« auto-amélioration récursive », c’est-à-dire l’hypothèse selon laquelle une IA pourrait contribuer directement à la création de générations d’IA plus puissantes.
• Anthropic s’appuie notamment sur les progrès des assistants d’IA dans l’écriture de code : selon l’entreprise, une part très importante du code produit en interne est désormais générée avec leur aide.
• La société estime que la place de l’humain se réduit progressivement dans certaines étapes du développement de l’IA, ce qui augmenterait le risque de perte de contrôle.
• Anthropic appelle à discuter d’un mécanisme de coordination mondiale, tout en reconnaissant qu’une pause globale serait difficile à mettre en œuvre et à vérifier.
• L’article rappelle que d’autres acteurs, dont OpenAI, évoquent également les premiers signes d’auto-amélioration récursive, ce qui renforce les débats sur la gouvernance des modèles les plus avancés.
• Le Monde souligne aussi les critiques visant Anthropic : certains concurrents ou experts y voient un discours trop alarmiste, voire une stratégie susceptible de favoriser les grands acteurs établis au détriment des plus petits ou de l’open source.

Impact juridique

Cette actualité résonne directement avec les débats réglementaires autour de l’AI Act européen, en particulier les obligations applicables aux modèles d’IA à usage général présentant un risque systémique. Les préoccupations soulevées par Anthropic rejoignent les exigences de documentation technique, d’évaluation des modèles, de tests adversariaux, de gestion des risques systémiques, de cybersécurité et de signalement des incidents graves. Elle pose aussi la question d’une gouvernance internationale de l’IA de pointe : si une pause mondiale paraît difficile à imposer juridiquement, le sujet pourrait nourrir de futures obligations de transparence, d’audit, de contrôle des capacités dangereuses et de coopération entre autorités publiques, laboratoires privés et organismes de régulation.

Lien vers l’actualité : Le Monde

Actualité 2 – La DGCCRF sanctionne SHEIN pour de nouveaux manquements

La DGCCRF rappelle les obligations des plateformes de commerce en ligne en matière de protection du consommateur, de droit de rétractation et de transparence environnementale.

Contexte

La Direction générale de la concurrence, de la consommation et de la répression des fraudes a mené, au cours de l’année 2025, plusieurs enquêtes sur le site français de SHEIN. Ces contrôles visaient notamment à vérifier le respect des règles applicables à la vente à distance, au droit de rétractation et aux informations obligatoires relatives aux caractéristiques environnementales des produits textiles.

Résumé des faits –

• La DGCCRF a sanctionné deux sociétés liées à l’activité de SHEIN en France : Infinite Styles Ecommerce Co Limited, vendeur des produits de la marque, et Infinite Styles Services Co Limited, exploitant du site français.
• Infinite Styles Ecommerce Co Limited a reçu une amende administrative de 5 764 500 euros pour plusieurs manquements relatifs au droit de rétractation et à l’information environnementale des consommateurs.
• L’enquête a relevé une impossibilité, pour les consommateurs, d’annuler leur achat dans les conditions prévues par la loi afin de protéger leur droit de rétractation.
• La DGCCRF a également constaté l’absence d’informations relatives à la traçabilité des produits et à la présence de microfibres plastiques dans certains textiles.
• Pour les produits contenant plus de 50 % de fibres synthétiques, l’information selon laquelle le produit « rejette des microfibres plastiques dans l’environnement lors du lavage » doit être mise à disposition du consommateur.
• Infinite Styles Services Co Limited a reçu une amende administrative de 16 733 190 euros pour des confirmations de commande non conformes aux règles de la vente à distance.
• La DGCCRF a constaté que les confirmations de commande adressées aux consommateurs ne comportaient pas plusieurs mentions obligatoires, notamment le prix du bien, le délai de livraison, l’identité et les coordonnées du vendeur, les garanties légales, la possibilité de recourir à un médiateur, ainsi que le formulaire et les informations relatives au droit de rétractation.
• Au total, les sanctions administratives prononcées atteignent 22 497 690 euros.

Impact juridique

Cette sanction illustre le renforcement du contrôle des plateformes de e-commerce, en particulier dans le secteur de la mode en ligne et de l’ultra-fast fashion. Elle rappelle que les opérateurs ne peuvent pas se limiter à vendre des produits en ligne : ils doivent garantir une information précontractuelle complète, confirmer les commandes sur un support durable et permettre l’exercice effectif du droit de rétractation. L’affaire souligne également l’importance croissante des obligations d’information environnementale, notamment sur la traçabilité des produits et la présence de microfibres plastiques. Pour les entreprises, le risque juridique est donc double : une sanction au titre du droit de la consommation, mais aussi une exposition accrue en matière de transparence environnementale et de loyauté de l’information délivrée au consommateur.

Lien vers l’actualité : Economie.gouv

Actualité 3 – « C’est effrayant de voir à quel point les gens font confiance » : ces développeurs de chatbots qui profitent de l’« économie de l’intimité »

Le Monde montre comment certains développeurs exploitent l’attachement émotionnel des utilisateurs tout en négligeant la protection des données et des mineurs.

Contexte

L’article s’inscrit dans un contexte de développement rapide des chatbots conversationnels à vocation romantique, sexuelle ou affective. Alors que les grandes plateformes commencent à renforcer leurs garde-fous, notamment en matière d’âge et de contenus sensibles, de plus petits acteurs apparaissent avec des services moins encadrés, parfois présentés comme « non censurés ». Ces plateformes attirent des utilisateurs jeunes ou vulnérables, qui peuvent confier à ces IA des informations très intimes sans toujours mesurer les risques de dépendance, de manipulation ou d’accès à leurs conversations.

Résumé des faits –

• Le Monde décrit l’essor de plateformes de « compagnons IA » permettant des conversations romantiques, sexuelles ou affectives avec des chatbots.
• L’enquête montre que certains développeurs peuvent accéder aux échanges privés des utilisateurs, y compris à des messages intimes, des secrets personnels ou des images envoyées aux chatbots.
• L’article cite le cas de Seewa AI, une plateforme développée rapidement par un jeune programmeur français, dont les promesses de chiffrement et de protection des conversations ne correspondaient pas à la réalité technique.
• Plusieurs plateformes affirment disposer de mesures de sécurité robustes, mais l’enquête souligne que les contrôles d’âge restent souvent insuffisants, parfois limités à une simple case à cocher.
• Le phénomène s’est accéléré après le durcissement des règles de certaines grandes plateformes comme Character.AI, ce qui a poussé une partie des utilisateurs vers des services moins restrictifs.
• Certains chatbots mis en avant reposent sur des scénarios très problématiques, incluant des contenus misogynes, incestueux, violents, liés à l’automutilation ou au suicide.
• L’article met en évidence une logique économique fondée sur l’engagement : plus l’utilisateur s’attache au chatbot et interagit avec lui, plus la plateforme peut générer des revenus.
• Les modèles économiques reposent notamment sur des abonnements, des limites de messages gratuits, des fonctionnalités payantes ou des relances automatisées conçues pour faire revenir l’utilisateur.
• Des experts et avocats dénoncent une « économie de l’intimité », dans laquelle les plateformes ne monétisent plus seulement l’attention, comme les réseaux sociaux, mais l’attachement émotionnel de l’utilisateur à une IA.
• L’enquête pointe un risque particulier pour les mineurs et les personnes vulnérables, notamment en cas de dépendance affective, de perte de sommeil, d’isolement, d’interactions sexualisées ou d’encouragement indirect à des comportements dangereux.

Impact juridique

Cette actualité soulève plusieurs enjeux juridiques majeurs. D’abord, elle interroge la conformité de ces plateformes au RGPD, en particulier lorsque des conversations intimes, des images ou des données sensibles sont collectées, accessibles aux développeurs ou insuffisamment sécurisées. Elle pose également la question de la loyauté de l’information donnée aux utilisateurs, notamment lorsque des promesses de chiffrement ou de confidentialité ne correspondent pas à la réalité. Ensuite, l’article renvoie aux obligations issues de l’AI Act, qui encadre les systèmes susceptibles d’exploiter les vulnérabilités des personnes ou d’utiliser des techniques de manipulation. Enfin, la présence de contenus sexuels ou dangereux rend centrale la question de la protection des mineurs : les plateformes concernées pourraient être tenues de mettre en place des mécanismes sérieux de vérification de l’âge et, en cas de manquement, s’exposer à des mesures de blocage ou à des sanctions de la part des autorités compétentes.

Lien vers l’actualité : Le Monde

Actualité 4 – Après les révélations du Canard enchaîné, Doctolib peut-elle garantir que nos données de santé ne sont pas captées par Google, Microsoft et Anthropic, dont elle utilise les IA?

BFM TV questionne la capacité de Doctolib à garantir que les données de santé de ses utilisateurs ne puissent pas être captées par des prestataires américains d’intelligence artificielle.

Contexte

L’article fait suite aux révélations du Canard Enchaîné concernant l’usage, par Doctolib, de technologies d’intelligence artificielle fournies notamment par Google, Microsoft et Anthropic. Depuis 2024, la plateforme propose aux professionnels de santé un assistant de consultation capable d’écouter, transcrire et synthétiser les échanges entre un médecin et son patient. Cette fonctionnalité soulève des interrogations importantes, car elle intervient dans un secteur où les données traitées sont particulièrement sensibles.

Résumé des faits –

• Doctolib propose aux praticiens un assistant de consultation fondé sur l’intelligence artificielle, destiné à faciliter la rédaction de comptes rendus, de notes médicales ou de documents de suivi.
• Cet outil peut analyser les échanges entre le professionnel de santé et le patient, sous réserve du consentement du patient au moment de la consultation.
• La controverse est née de révélations affirmant que des données issues de ces consultations pourraient être transmises ou utilisées dans le cadre de modèles d’IA développés par des acteurs américains comme Google, Microsoft et Anthropic.
• Doctolib conteste l’idée selon laquelle les données de santé de ses utilisateurs seraient livrées à ces entreprises pour entraîner leurs propres modèles d’intelligence artificielle.
• La plateforme reconnaît cependant s’appuyer sur plusieurs modèles fondationnels d’IA, notamment Gemini et Claude, pour certaines fonctionnalités.
• Doctolib affirme que les données sont protégées par des mesures de sécurité, de pseudonymisation et de chiffrement, et que les clés de déchiffrement sont détenues en France.
• Le débat porte notamment sur la différence entre anonymisation et pseudonymisation : une donnée pseudonymisée reste une donnée personnelle si elle peut être rattachée indirectement à une personne.
• La localisation européenne des serveurs et l’existence de garanties contractuelles ne suffisent pas nécessairement à écarter tout risque, en particulier lorsque des prestataires soumis à un droit extra-européen interviennent dans la chaîne technique.
• Le sujet relance plus largement la question de la dépendance du secteur de la santé à des infrastructures ou modèles d’IA développés par des entreprises américaines.
• L’affaire intervient alors que Doctolib occupe une place centrale dans le parcours de soins numérique en France, ce qui renforce les attentes en matière de transparence, de sécurité et de souveraineté des données.

Impact juridique

Cette actualité soulève des enjeux majeurs au regard du RGPD, car les données de santé constituent une catégorie particulière de données personnelles bénéficiant d’une protection renforcée. Doctolib et les professionnels de santé doivent pouvoir justifier d’une base légale appropriée, d’une information claire des patients, d’un consentement valable lorsque celui-ci est requis, ainsi que de garanties effectives de sécurité, de confidentialité et de limitation des finalités. L’affaire pose également la question du recours à des sous-traitants et sous-traitants ultérieurs, notamment lorsque ceux-ci sont liés à des groupes soumis à des législations étrangères comme le Cloud Act. Au-delà du RGPD, le débat rejoint les préoccupations de souveraineté numérique en santé et les exigences croissantes applicables aux systèmes d’IA, notamment en matière de transparence, de maîtrise des risques, de traçabilité et de contrôle humain.

Lien vers l’actualité : BFM

Actualité 5 – Stratégie open source européenne : la Commission change de niveau d’ambition

Le CNLL présente la nouvelle approche de la Commission européenne comme un changement d’échelle en matière de souveraineté technologique.

Contexte

La publication du CNLL intervient à la suite de la présentation d’un projet de communication de la Commission européenne consacré à la souveraineté technologique, accompagné d’une stratégie open source de l’Union européenne. Contrairement à la précédente stratégie « Think Open » 2020-2023, centrée sur l’usage interne du logiciel libre par les services de la Commission, ce nouveau projet inscrit l’open source dans une logique de politique industrielle européenne, au même titre que le cloud, l’intelligence artificielle, les semi-conducteurs ou l’énergie.

Résumé des faits –

• Le CNLL considère que la Commission européenne change de niveau d’ambition en faisant du logiciel libre un instrument de souveraineté technologique et industrielle.
• La nouvelle stratégie dépasse le simple usage interne du logiciel libre par l’administration européenne pour intégrer des objectifs de filière, de financement, de compétences et de commande publique.
• Le projet s’inscrit dans un paquet plus large de souveraineté technologique, incluant notamment un futur règlement sur le cloud et l’intelligence artificielle, un Chips Act 2.0 et une feuille de route numérique et énergétique.
• Le CNLL souligne que l’Union européenne dépense chaque année des montants très importants en logiciels et services propriétaires, principalement américains, alors même qu’elle dispose d’une communauté open source particulièrement développée.
• Le texte met en avant plusieurs avancées attendues, dont une priorité donnée au logiciel libre dans la commande publique de cloud et d’intelligence artificielle.
• Le projet introduit le principe selon lequel tout logiciel acheté avec de l’argent public devrait pouvoir être mis à disposition pour réutilisation, dans une logique de « public money, public code ».
• Le CNLL se félicite également de la volonté de lutter contre le « sovereignty washing », c’est-à-dire les offres présentées comme souveraines alors qu’elles reposent encore sur une dépendance technologique réelle.
• La stratégie prévoit aussi la mise en place de niveaux de souveraineté du cloud, d’un instrument européen de maintenance du logiciel libre, de dispositifs de sécurité pour le code source critique et d’un cadre commun pour les fondations open source.
• Le CNLL estime toutefois que cette ambition devra être consolidée par des moyens financiers suffisants, des objectifs chiffrés et des critères juridiques clairs.
• L’organisation appelle notamment à définir précisément ce qu’est un logiciel libre européen, afin que la commande publique ne profite pas principalement à des projets contrôlés par de grands acteurs extra-européens.
• Le CNLL demande également une trajectoire de substitution progressive vers davantage de logiciels libres européens dans la commande publique, ainsi que la reconnaissance des cadres juridiques nationaux déjà existants.

Impact juridique

Cette actualité soulève des enjeux importants en matière de droit de la commande publique, de souveraineté numérique et de régulation du cloud. Si les orientations présentées sont confirmées, elles pourraient conduire à intégrer un principe d’« open source first » dans les achats publics européens, à renforcer les obligations de réutilisation des logiciels financés par l’argent public et à clarifier les critères de souveraineté applicables aux offres cloud et IA. Le sujet pose également la question de la définition juridique du logiciel libre européen : selon les critères retenus, les futures règles pourraient soit soutenir directement la filière européenne du libre, soit bénéficier à des projets open source contrôlés par de grandes plateformes étrangères. L’enjeu est donc de transformer une orientation politique en obligations opposables, dotées de critères précis, de financements adaptés et de mécanismes de contrôle effectifs.

Lien vers l’actualité : CNLL