Votre téléphone sonne. Au bout du fil, vous reconnaissez immédiatement la voix d’un proche. Il semble paniqué, affirme avoir eu un accident et vous demande de lui envoyer rapidement de l’argent. Tout paraît crédible. La voix, les intonations, les hésitations… Pourtant, cette personne ne vous a jamais appelé. Ce scénario ressemble encore à une mauvaise série télévisée. Il est pourtant devenu techniquement possible grâce au clonage vocal par intelligence artificielle. Quelques extraits publiés sur les réseaux sociaux, dans une vidéo ou dans un message vocal peuvent suffire à fabriquer une imitation troublante. Pendant des décennies, nous avons appris à nous méfier des courriels douteux, des faux sites bancaires et des messages remplis de fautes. Une voix familière restait, elle, une forme de preuve. Cette certitude est aujourd’hui en train de disparaître. Dans cet article Qu’est-ce que le clonage vocal par IA ? L’arnaque au proche en détresse Comment les fraudeurs récupèrent-ils une voix ? Peut-on reconnaître une voix artificielle ? Les bons réflexes pour ne pas se faire piéger Le mot secret familial Les artistes et les musiciens sont-ils plus exposés ? Peut-on protéger sa voix ? La fin de la confiance automatique   Qu’est-ce que le clonage vocal par IA ? Le clonage vocal consiste à analyser les caractéristiques d’une voix humaine pour pouvoir ensuite la reproduire artificiellement. Le système étudie notamment le timbre, le rythme, la prononciation, l’accent et les intonations. Une fois le modèle créé, il devient possible de faire prononcer à cette voix des phrases que la personne réelle n’a jamais dites. Il suffit de saisir un texte ou, avec certains systèmes, de parler soi-même pour que sa propre voix soit transformée en celle de la personne imitée. Cette technologie n’est pas mauvaise en elle-même. Elle possède des usages parfaitement légitimes. Elle peut aider une personne qui perd l’usage de la parole, doubler un film dans une autre langue, corriger une prise de son ou créer une voix de synthèse personnalisée. Elle peut aussi servir à reconstituer une voix historique, à produire des livres audio ou à faciliter le travail des comédiens et des créateurs. Mais comme souvent, un outil utile peut également devenir une arme lorsqu’il est utilisé pour tromper. La CNIL classe d’ailleurs les contenus audio créés ou modifiés par intelligence artificielle parmi les hypertrucages, plus connus sous le nom anglais de deepfakes. Leur réalisme croissant les rend de plus en plus difficiles à distinguer d’un enregistrement authentique. L’arnaque au proche en détresse L’arnaque la plus redoutable repose sur une mécanique très simple : provoquer une émotion forte pour empêcher la victime de réfléchir. Un parent reçoit l’appel de son fils, de sa fille ou de son petit-enfant. La personne explique qu’elle vient d’avoir un accident, qu’elle a perdu son téléphone, qu’elle se trouve au commissariat ou qu’elle doit régler une dépense urgente. La communication peut être mauvaise. La voix semble étouffée, l’appel très court et la personne particulièrement agitée. Ces défauts ne rendent pas nécessairement l’appel moins crédible. Ils peuvent au contraire justifier les imperfections de la voix artificielle. Le fraudeur demande ensuite un virement immédiat, l’achat de cartes prépayées, un paiement en cryptomonnaie ou la transmission d’informations bancaires. La Federal Trade Commission américaine avertit depuis plusieurs années qu’un escroc peut récupérer un court extrait vocal publié en ligne, cloner la voix d’un proche et l’utiliser dans une fausse situation d’urgence. Son principal conseil est très clair : ne jamais considérer la voix entendue comme une preuve suffisante et rappeler directement la personne sur son numéro habituel. En France, le ministère de l’Intérieur cite désormais explicitement le clonage vocal parmi les arnaques utilisant l’intelligence artificielle. Il explique que des enregistrements récupérés sur les réseaux sociaux peuvent servir à créer des messages semblant provenir d’un ami ou d’un membre de la famille. Lire à ce sujet sur le site du Ministère de l’Intérieur Comment les fraudeurs récupèrent-ils une voix ? Nous publions beaucoup plus souvent notre voix que nous ne l’imaginons. Elle peut apparaître dans une vidéo Facebook, un entretien, un podcast, un message partagé sur WhatsApp, une story Instagram, une chaîne YouTube ou une simple vidéo d’anniversaire. Les artistes, enseignants, responsables associatifs, commerçants, élus, dirigeants d’entreprise et créateurs de contenus disposent souvent de dizaines d’enregistrements publics. Un fraudeur n’a donc pas forcément besoin de pirater un téléphone ou un ordinateur. Il peut simplement exploiter ce qui est déjà librement accessible. La voix seule n’est cependant qu’un élément du scénario. Pour rendre l’arnaque convaincante, les escrocs recueillent aussi des informations personnelles : noms des proches, profession, lieu de résidence, habitudes, vacances, événements familiaux ou relations professionnelles. Une personne qui publie une photo depuis l’étranger peut par exemple fournir involontairement un excellent prétexte à un faux appel d’urgence. Il faut enfin ajouter l’usurpation du numéro de téléphone. Une technique appelée spoofing permet de faire apparaître un numéro falsifié sur l’écran du destinataire. Le simple fait que le numéro semble connu ou officiel ne garantit donc pas que l’appel provient réellement de son propriétaire. Europol alerte régulièrement sur cette manipulation de l’identité de l’appelant. Peut-on reconnaître une voix artificielle ? On aimerait pouvoir répondre oui. Les voix artificielles ont parfois des défauts : respiration irrégulière, émotion mal placée, rythme mécanique, hésitations étranges ou prononciation trop parfaite. Mais compter uniquement sur son oreille devient dangereux. La qualité des générateurs progresse rapidement. Le son médiocre d’un téléphone, une mauvaise connexion, un bruit de fond ou une voix volontairement affolée peuvent masquer les anomalies. La question à se poser n’est donc plus seulement : « Cette voix semble-t-elle vraie ? » Il faut plutôt se demander : Pourquoi cette personne m’appelle-t-elle depuis un numéro inhabituel ? Pourquoi exige-t-elle une réponse immédiate ? Pourquoi refuse-t-elle que je rappelle ? Pourquoi demande-t-elle un moyen de paiement inhabituel ? Pourquoi me demande-t-elle de garder le secret ? La pression, l’urgence et la peur sont souvent des signaux plus révélateurs que les défauts techniques de l’enregistrement. Europol recommande précisément de se méfier des communications qui provoquent une détresse émotionnelle et poussent à agir sans laisser le temps de vérifier. Les bons réflexes pour ne pas se faire piéger Face à un appel inquiétant, la meilleure protection reste une procédure très simple. Raccrocher et rappeler Il faut interrompre l’appel, même si la personne demande de ne surtout pas le faire. Rappelez ensuite votre proche en utilisant le numéro déjà enregistré dans vos contacts. N’utilisez jamais un numéro dicté pendant la conversation ou envoyé immédiatement après par SMS. Passer par un autre canal Si la personne ne répond pas, contactez un autre membre de la famille, un ami, un collègue ou l’établissement dans lequel elle affirme se trouver. Une vérification de quelques minutes peut éviter une perte financière importante. Poser une question personnelle Demandez une information que peu de personnes connaissent et qui ne figure pas sur les réseaux sociaux. Évitez les questions faciles à deviner, comme une date de naissance, le nom d’un animal ou une adresse. Ces renseignements sont souvent déjà disponibles en ligne. Refuser l’urgence financière Un appel qui exige immédiatement des cartes cadeaux, des coupons prépayés, des cryptomonnaies ou un virement vers un nouveau compte doit éveiller les soupçons. Aucune situation sérieuse ne devrait interdire une vérification préalable. Ne transmettre aucun code Une banque, une administration ou un service de police ne vous demandera pas de communiquer par téléphone un mot de passe, un code reçu par SMS ou les identifiants complets d’un compte. Conserver les preuves En cas de tentative d’arnaque, conservez le numéro, les messages, les coordonnées bancaires, les captures d’écran et l’heure des appels. Ces éléments pourront être utiles pour effectuer un signalement ou déposer plainte. Le mot secret familial L’une des protections les plus simples consiste à choisir un mot secret connu uniquement des membres de la famille. Ce mot peut être demandé lorsqu’un proche appelle depuis un numéro inhabituel ou réclame une aide urgente. Il ne doit pas correspondre au nom d’un animal, à une date de naissance ou à une information visible sur Internet. Il peut s’agir d’un mot absurde, d’une expression inventée ou d’un souvenir familial qui n’a jamais été publié. Cette précaution peut sembler excessive. Pourtant, elle ne coûte rien et peut devenir aussi naturelle que le code d’une carte bancaire. Il faut également convenir d’une règle commune : aucune demande d’argent urgente ne doit être exécutée sans une seconde vérification. Les artistes et les musiciens sont-ils plus exposés ? Les musiciens, chanteurs, comédiens, conférenciers et créateurs de contenus sont particulièrement concernés parce qu’ils diffusent beaucoup d’enregistrements de leur voix. Un chanteur peut posséder des heures d’interviews, de concerts, de répétitions filmées et de publications sur les réseaux sociaux. Un musicien qui présente ses concerts en vidéo laisse lui aussi suffisamment de matière pour entraîner un système d’imitation. Le risque ne se limite pas à l’arnaque familiale. Une fausse voix peut servir à : annoncer un concert qui n’existe pas ; solliciter de l’argent auprès d’un organisateur ; demander un changement de coordonnées bancaires ; faire croire à une déclaration embarrassante ; valider une fausse collaboration ; imiter un dirigeant pour ordonner un paiement ; faire chanter artificiellement un artiste sur un morceau qu’il n’a jamais interprété. Les entreprises sont elles aussi visées. Une voix imitant un dirigeant peut demander à un salarié de régler une facture confidentielle ou d’effectuer un virement présenté comme exceptionnel. La FTC cite le clonage vocal de dirigeants parmi les usages frauduleux les plus préoccupants. Pour les professionnels de la musique, une nouvelle question apparaît : une voix enregistrée est-elle seulement un son, ou constitue-t-elle une part de l’identité de l’interprète ? Peut-on protéger sa voix ? Il est presque impossible de supprimer toute trace vocale d’Internet, surtout pour une personne dont l’activité repose sur la communication ou la création artistique. Se taire en ligne n’est donc pas une solution réaliste. Il faut plutôt limiter les informations qui permettent de construire un scénario crédible autour de la voix. Quelques précautions peuvent réduire les risques : éviter de publier publiquement des informations trop précises sur ses déplacements ; limiter l’accès aux contenus familiaux ; vérifier les paramètres de confidentialité des réseaux sociaux ; sensibiliser ses proches et ses collaborateurs ; mettre en place une procédure pour tout changement de coordonnées bancaires ; confirmer les demandes financières par un second moyen de communication ; surveiller les faux comptes utilisant son nom ou son image. La voix est considérée comme une donnée personnelle lorsqu’elle permet d’identifier une personne. Elle peut révéler bien davantage que les mots prononcés : l’identité, l’âge approximatif, l’état émotionnel, l’accent ou parfois certaines informations sensibles. La CNIL rappelle depuis plusieurs années cette dimension personnelle de la voix. Le règlement européen sur l’intelligence artificielle prévoit également des obligations de transparence pour certains contenus audio, vidéo, image ou texte générés artificiellement. Mais un fraudeur n’a évidemment aucune raison de respecter une obligation d’étiquetage. La réglementation est indispensable, mais elle ne remplacera jamais la vigilance. La fin de la confiance automatique Le clonage vocal ne signifie pas que nous devons soupçonner chacun de nos proches à chaque appel. Il nous oblige simplement à abandonner une vieille habitude : considérer qu’une voix familière suffit à prouver une identité. Nous avons déjà appris à ne plus croire automatiquement une photographie. Nous commençons à nous méfier des vidéos spectaculaires et des captures d’écran. Il faudra désormais appliquer la même prudence aux enregistrements sonores. La conséquence est plus profonde qu’un simple problème technique. La voix possède une dimension intime. Nous la reconnaissons parfois avant même de comprendre les mots. Elle nous rassure, nous émeut et nous relie aux autres. C’est précisément cette confiance que les fraudeurs cherchent à exploiter. La meilleure défense ne consiste donc pas à devenir expert en intelligence artificielle. Elle tient en trois gestes simples : interrompre l’appel, vérifier par un autre moyen et ne jamais envoyer d’argent sous la pression. Demain, entendre la voix d’un proche ne signifiera plus nécessairement que ce proche est au bout du fil. La question ne sera plus seulement « Est-ce bien sa voix ? », mais « Comment puis-je vérifier que c’est bien lui ? »

The postClonage vocal par IA : peut-on encore croire une voix ? first appeared on Jipiblog.

Le 9 juillet 2026 restera peut-être comme l’une des dates les plus inquiétantes de l’histoire récente des libertés numériques européennes. Ce jour-là, le Parlement européen a permis le rétablissement d’une dérogation autorisant des entreprises privées à analyser automatiquement les communications de leurs utilisateurs afin d’y rechercher des contenus liés aux abus sexuels sur mineurs. L’objectif affiché est évidemment incontestable. Il faut combattre l’exploitation sexuelle des enfants, poursuivre les criminels et secourir les victimes. Mais aucun objectif, aussi légitime soit-il, ne devrait servir de passe-partout pour installer une surveillance générale des conversations privées. Car derrière l’expression administrative « dérogation au règlement ePrivacy » se cache une réalité beaucoup plus brutale : des courriels, des photographies, des vidéos et certains messages privés peuvent être inspectés par des systèmes automatisés, alors même que leur auteur n’est soupçonné d’aucune infraction. On ne parle plus ici de surveiller un individu identifié dans le cadre d’une enquête judiciaire. On accepte que les communications de millions de personnes innocentes puissent être examinées préventivement, dans l’espoir qu’une machine y découvre quelque chose de suspect. C’est un renversement fondamental de notre conception de la justice. La surveillance ne découle plus du soupçon. Elle précède le soupçon et doit précisément le fabriquer. Sommaire Qu’est-ce que Chat Control ? De la mesure temporaire au projet permanent Le Parlement avait pourtant limité le projet en 2023 Le vote très contestable du 9 juillet 2026 Ce que cela change pour nos communications Le chiffrement est-il vraiment protégé ? Les faux positifs vont mettre des innocents en danger Journalistes, avocats, médecins et artistes concernés Protéger les enfants sans surveiller toute la population La bataille de Chat Control 2.0 continue Qu’est-ce que Chat Control ? « Chat Control » n’est pas le nom officiel d’une loi européenne. C’est le surnom donné par ses opposants à plusieurs textes autorisant ou imposant l’analyse automatisée de communications électroniques privées. Deux dispositifs sont régulièrement confondus. Le premier, souvent appelé Chat Control 1.0, est une dérogation temporaire aux règles européennes protégeant la confidentialité des communications électroniques. Il autorise certains fournisseurs à rechercher volontairement des contenus pédocriminels dans les messages de leurs utilisateurs. Le second, appelé Chat Control 2.0, est un projet de règlement permanent présenté par la Commission européenne en mai 2022. Celui-ci prévoit un dispositif beaucoup plus structuré comprenant des évaluations de risques, des obligations imposées aux plateformes, des ordres de détection et la création d’un Centre européen chargé de lutter contre les abus sexuels sur mineurs. Le règlement permanent n’est pas encore définitivement adopté. Il fait toujours l’objet de négociations entre le Parlement européen, le Conseil de l’Union européenne et la Commission. Mais Chat Control 1.0 est loin d’être une simple formalité technique. Il habitue les citoyens, les entreprises et les institutions à une idée particulièrement dangereuse : la confidentialité des communications pourrait devenir une règle assortie d’exceptions toujours plus larges. De la mesure temporaire au projet permanent L’histoire commence véritablement en 2021. L’Union européenne adopte alors le règlement 2021/1232, une dérogation temporaire à certaines dispositions de la directive ePrivacy. Cette dernière protège en principe la confidentialité des communications électroniques. La dérogation permet aux fournisseurs de services de messagerie d’utiliser volontairement des technologies automatisées afin de détecter et de signaler des contenus pédocriminels. La mesure est présentée comme provisoire. Mais, comme souvent en matière de surveillance, le temporaire s’installe. Le 11 mai 2022, la Commission européenne présente un projet permanent intitulé « règlement établissant des règles en vue de prévenir et de combattre les abus sexuels sur enfants ». Le texte ne se contente plus d’autoriser certaines pratiques. Il organise un système dans lequel les services numériques devraient évaluer les risques, prendre des mesures de prévention et, dans certaines circonstances, appliquer des ordres de détection. Les contenus recherchés ne se limiteraient pas nécessairement aux images déjà identifiées et répertoriées. Les outils pourraient également tenter de repérer de nouveaux contenus ou des comportements assimilés à des sollicitations d’enfants. C’est là que le projet change radicalement de nature. Comparer une image avec l’empreinte numérique d’un fichier criminel déjà connu est une opération relativement déterministe. Demander à une intelligence artificielle de comprendre une conversation, d’interpréter une photographie inconnue ou de détecter une intention de manipulation est infiniment plus incertain. Une plaisanterie, une conversation familiale, une photographie médicale ou un échange entre adolescents peuvent alors être interprétés hors contexte par une machine. Le Parlement avait pourtant limité le projet en 2023 Face aux critiques, la commission des libertés civiles, de la justice et des affaires intérieures du Parlement européen a profondément modifié la proposition initiale. En novembre 2023, le Parlement a adopté son mandat de négociation. Cette position comportait plusieurs garanties importantes. Les communications protégées par un chiffrement de bout en bout devaient être exclues des ordres de détection. Le texte parlementaire voulait également éviter une surveillance sans distinction de tous les utilisateurs et privilégier des mesures ciblées sur des personnes ou groupes raisonnablement soupçonnés. Le Parlement supprimait également certaines possibilités d’analyse généralisée des communications écrites et audio. Cette position était loin d’être parfaite. Le Comité européen de la protection des données reconnaissait lui-même les améliorations apportées, tout en estimant que le risque d’une surveillance générale et indifférenciée n’avait pas complètement disparu. L’autorité européenne s’inquiétait notamment du maintien de technologies cherchant à détecter de nouveaux contenus pédocriminels. Ces systèmes probabilistes présentent des taux d’erreur difficilement compatibles avec l’examen de communications personnelles à grande échelle. Mais le mandat de 2023 avait au moins posé une ligne rouge : la lutte contre la criminalité ne devait pas justifier la lecture automatique et indiscriminée des conversations de toute la population. Le vote très contestable du 9 juillet 2026 La dérogation temporaire devait expirer le 3 avril 2026. En mars 2026, le Parlement européen avait soutenu une prolongation plus limitée, assortie de garanties : exclusion des communications chiffrées de bout en bout, limitation aux contenus déjà identifiés et ciblage de personnes soupçonnées sous le contrôle d’une autorité judiciaire. Mais les négociations institutionnelles n’ont pas abouti avant l’expiration du dispositif. Après plusieurs tentatives infructueuses, la question est revenue devant le Parlement en juillet 2026 selon une procédure accélérée. Celle-ci a réduit le temps de discussion et contourné une partie du travail habituellement réalisé en commission parlementaire. Le résultat est politiquement sidérant. Lors du vote du 9 juillet, 314 députés ont voté pour rejeter le texte, 276 ont voté contre son rejet et 17 se sont abstenus. Autrement dit, parmi les députés ayant exprimé un choix, davantage de parlementaires voulaient empêcher le rétablissement de la dérogation que l’accepter. Mais il ne suffisait pas d’obtenir la majorité des suffrages exprimés. La procédure exigeait une majorité absolue de 361 députés pour bloquer le texte. La motion de rejet a donc échoué. Le dispositif a été considéré comme adopté par le Parlement alors qu’une majorité des votants venait de se prononcer contre lui. Cette situation est peut-être conforme au règlement parlementaire. Elle n’en est pas moins démocratiquement détestable. Lorsque 314 élus disent non et 276 disent oui, présenter le résultat comme une approbation parlementaire relève d’une acrobatie institutionnelle qui ne peut qu’alimenter la défiance envers l’Union européenne. Une question aussi fondamentale que la confidentialité des correspondances aurait mérité un débat public approfondi, un examen complet en commission et un vote politique parfaitement lisible. Elle a été traitée par une procédure d’urgence dont le fonctionnement a transformé une majorité de refus en défaite juridique. Ce que cela change pour nos communications Les défenseurs du dispositif insistent sur son caractère volontaire. Les entreprises seraient autorisées à analyser les communications, mais elles n’y seraient pas toutes obligées. Cet argument ne devrait rassurer personne. Le caractère volontaire signifie surtout que la décision d’inspecter ou non nos messages est confiée à des sociétés privées. Ce sont leurs politiques internes, leurs outils techniques et leur appréciation des risques qui déterminent le niveau réel de confidentialité accordé aux utilisateurs. Or un message privé n’est pas moins privé parce qu’il transite par les serveurs d’une multinationale. Une lettre confiée à La Poste ne devient pas un document public. Nous n’accepterions pas qu’une entreprise ouvre automatiquement toutes les enveloppes, photographie leur contenu et transmette aux autorités celles qu’un logiciel juge suspectes. C’est pourtant la logique que l’on cherche à normaliser dans le monde numérique. Le mot « analyse » adoucit artificiellement la réalité. Pour déterminer si une photographie, une vidéo ou un texte est suspect, un système doit accéder au contenu, le comparer, le classifier ou l’interpréter. Qu’un humain ne lise pas immédiatement le message ne supprime pas l’atteinte à la confidentialité. La surveillance automatisée reste une surveillance. Le chiffrement est-il vraiment protégé ? Le texte adopté en juillet 2026 prévoit que les communications protégées par un chiffrement de bout en bout restent exclues du dispositif. C’est une garantie importante. WhatsApp, Signal et les autres services réellement chiffrés ne sont donc pas directement assimilables aux messageries dont les serveurs peuvent accéder au contenu. Mais cette protection demeure fragile. Le chiffrement de bout en bout garantit que seuls l’expéditeur et le destinataire peuvent normalement lire le message. Pour analyser le contenu sans casser officiellement le chiffrement, certains proposent un contrôle directement sur le téléphone avant l’envoi ou après la réception. Cette technique est appelée « client-side scanning ». Le message resterait chiffré pendant son transport, mais il aurait déjà été inspecté sur l’appareil. Prétendre que le chiffrement reste intact dans un tel système revient à dire qu’un coffre-fort est sécurisé parce que personne ne le force, alors qu’un appareil photographie chaque document avant qu’il soit placé à l’intérieur. Pour le moment, les garanties obtenues au Parlement limitent ce danger. Mais le règlement permanent reste en négociation et les formulations finales seront décisives. Une obligation d’analyser les communications avant leur chiffrement détruirait la confidentialité tout aussi sûrement qu’une porte dérobée classique. Les faux positifs vont mettre des innocents en danger Les technologies de détection ne sont pas infaillibles. Pour les images déjà connues, les systèmes peuvent utiliser des empreintes numériques. Même dans ce cas, les procédures de vérification, la qualité des bases de données et les risques de détournement doivent être surveillés. Pour les contenus inconnus et les conversations supposées suspectes, le problème devient beaucoup plus grave. Une intelligence artificielle ne comprend pas une relation familiale, une consultation médicale, un contexte pédagogique, une œuvre artistique ou une plaisanterie comme le ferait un enquêteur humain. Elle calcule une probabilité. Appliquée à des centaines de millions de conversations, même une marge d’erreur minuscule produit un nombre considérable de signalements injustifiés. Des parents pourraient être signalés pour des photos de leurs enfants. Des adolescents pourraient voir des échanges intimes et consentis transmis à des organismes de contrôle. Des médecins, des associations, des enseignants ou des chercheurs pourraient être inquiétés en raison de contenus parfaitement légitimes. Les conséquences ne sont pas abstraites. Un faux signalement peut entraîner le blocage d’un compte, la conservation de données sensibles, la transmission d’informations aux autorités, une enquête policière ou une suspicion durable. Une photographie familiale sortie de son contexte peut devenir une donnée de police. Et une fois l’information transmise, il est extrêmement difficile de savoir qui y a accédé, combien de temps elle sera conservée et comment elle pourra être rectifiée. Journalistes, avocats, médecins et artistes concernés La confidentialité des communications n’est pas un luxe réservé à ceux qui auraient quelque chose à cacher. Elle protège le secret médical, les échanges entre un avocat et son client, les sources des journalistes, les victimes qui contactent une association, les opposants politiques, les lanceurs d’alerte et les citoyens vivant sous la menace d’un conjoint violent. Elle protège aussi les créateurs et les professionnels de la culture. Un compositeur envoie des œuvres inédites. Un éditeur échange des contrats, des manuscrits et des coordonnées personnelles. Des musiciens partagent des enregistrements de travail. Un photographe transmet des images non publiées. Un journaliste culturel protège une source. La confidentialité est la condition normale de ces échanges. Lorsqu’une infrastructure d’inspection est installée, rien ne garantit que son usage restera éternellement limité à l’objectif initial. Une technologie conçue pour rechercher un type de contenu peut techniquement être adaptée à d’autres catégories : terrorisme, stupéfiants, atteintes au droit d’auteur, discours interdits ou documents considérés comme sensibles. Le précédent juridique et technique est donc aussi important que la mesure elle-même. Le danger ne réside pas seulement dans ce que Chat Control recherche aujourd’hui, mais dans ce qu’une infrastructure comparable pourra rechercher demain. Protéger les enfants sans surveiller toute la population Critiquer Chat Control ne revient pas à minimiser les violences sexuelles commises contre les enfants. C’est précisément parce que ces crimes sont atroces qu’ils méritent des politiques efficaces plutôt que des solutions technologiques spectaculaires et potentiellement contre-productives. Les moyens devraient être concentrés sur les enquêtes ciblées, les unités spécialisées, la coopération judiciaire, l’identification des victimes, le retrait rapide des contenus signalés, la prévention, l’éducation et l’accompagnement des familles. Les autorités pourraient également mieux exploiter les signalements existants. Accumuler des millions de rapports automatisés de qualité inégale risque d’engloutir les enquêteurs sous un volume gigantesque de données et de ralentir le traitement des dossiers réellement urgents. La surveillance massive n’est pas nécessairement l’outil le plus efficace contre des criminels organisés. Ceux-ci peuvent déplacer leurs échanges vers des réseaux fermés, utiliser leurs propres systèmes de chiffrement ou abandonner les plateformes grand public. Pendant ce temps, les citoyens ordinaires restent les plus faciles à inspecter. On obtient alors le pire des deux mondes : une population surveillée et des criminels qui s’adaptent. La protection des enfants ne devrait jamais être utilisée comme argument émotionnel pour empêcher toute discussion sur la proportionnalité d’une loi. Dans une démocratie, poser des limites au pouvoir de surveillance ne protège pas les criminels. Cela protège l’ensemble de la société contre des dispositifs excessifs, faillibles et susceptibles d’être détournés. La bataille de Chat Control 2.0 continue Le vote du 9 juillet 2026 ne clôt pas le dossier. Le règlement permanent proposé en 2022 reste en négociation. Le Parlement européen avait arrêté sa position en novembre 2023. Le Conseil de l’Union européenne a adopté son propre mandat de négociation en novembre 2025. Les institutions doivent maintenant parvenir à un compromis. Le texte final pourrait différer sensiblement des versions actuellement connues. Il faudra surveiller de très près la définition des services concernés, les obligations de réduction des risques, les ordres de détection, l’analyse de contenus inconnus, la vérification de l’âge et la protection réelle du chiffrement. La prudence est d’autant plus nécessaire que le vocabulaire juridique peut dissimuler des mécanismes extrêmement intrusifs. Une « mesure d’atténuation des risques » peut devenir une pression indirecte pour analyser les contenus. Une « détection volontaire » peut devenir une pratique imposée de fait par la responsabilité juridique ou commerciale. Une « vérification de l’âge » peut conduire à l’identification systématique des internautes. Il faudra donc juger le règlement non sur ses intentions affichées, mais sur les capacités techniques et les pouvoirs qu’il créera. Une frontière que l’Europe ne devrait jamais franchir L’Union européenne s’est longtemps présentée comme un espace particulièrement protecteur de la vie privée. Le RGPD est même devenu une référence mondiale. Chat Control révèle aujourd’hui une contradiction inquiétante. D’un côté, l’Europe impose aux sites Internet d’obtenir un consentement pour déposer certains cookies. De l’autre, elle envisage des mécanismes permettant d’inspecter des correspondances privées à une échelle sans précédent. La confidentialité des communications est pourtant bien plus fondamentale qu’une bannière publicitaire ou qu’un outil de mesure d’audience. Le vote du 9 juillet 2026 est d’autant plus choquant qu’il ne traduit même pas clairement la volonté de la majorité des députés ayant voté. La motion de rejet a obtenu davantage de voix favorables que défavorables, mais elle a échoué en raison du seuil exceptionnel qui lui était imposé. Une décision aussi lourde pour les libertés publiques ne devrait jamais entrer en vigueur par défaut, à la faveur d’une procédure où l’abstention et l’absence contribuent indirectement à l’adoption. Les citoyens européens ont le droit de communiquer sans que leurs conversations soient systématiquement examinées par des algorithmes privés. Ils ont le droit d’écrire à leurs proches, à leur médecin, à leur avocat ou à un journaliste sans être traités comme des suspects potentiels. La lutte contre les abus sexuels sur mineurs est une obligation absolue. Mais une démocratie digne de ce nom doit savoir protéger les enfants sans ouvrir le courrier de toute la population. Lorsque la surveillance générale devient acceptable au nom d’une cause unanimement reconnue, la question suivante n’est plus de savoir si le dispositif sera étendu. La seule question est de savoir quand, par qui et au nom de quelle nouvelle urgence. Sources et documents complémentaires Textes officiels et procédure européenne Règlement européen 2021/1232 du 14 juillet 2021 : texte instituant la première dérogation temporaire aux règles de confidentialité des communications électroniques. Proposition de règlement COM(2022) 209 du 11 mai 2022 : projet de cadre permanent présenté par la Commission européenne pour prévenir et combattre les abus sexuels sur enfants. Règlement européen 2024/1307 du 29 avril 2024 : première prolongation de la dérogation temporaire au règlement ePrivacy. Dossier législatif 2025/0429(COD) : suivi officiel de la nouvelle prolongation de la dérogation temporaire. État d’avancement du règlement permanent sur le site du Parlement européen. Positions et votes du Parlement européen Position adoptée par la commission LIBE en novembre 2023 : le Parlement affirmait vouloir combattre les abus sans instaurer de surveillance généralisée et exclure les communications chiffrées de bout en bout des ordres de détection. Vote du Parlement européen du 11 mars 2026 : soutien à une prolongation limitée et ciblée de la dérogation, avec 458 voix pour, 103 contre et 63 abstentions. Vote du Parlement européen du 9 juillet 2026 : compte rendu officiel détaillant les 314 voix favorables au rejet, les 276 voix opposées et les 17 abstentions. Avis des autorités européennes de protection des données Avis conjoint 4/2022 du CEPD et du Contrôleur européen de la protection des données : analyse des risques du projet pour la vie privée, la protection des données et la confidentialité des communications. Communiqué du CEPD du 29 juillet 2022 : les autorités européennes y dénoncent de sérieux risques pour les droits fondamentaux. Déclaration 1/2024 du Comité européen de la protection des données : le CEPD estime que le risque de surveillance générale et indifférenciée des communications privées n’est pas entièrement écarté. Version PDF de la déclaration 1/2024 , notamment consacrée aux taux d’erreur des technologies de détection et aux risques pesant sur le chiffrement. Position du Conseil de l’Union européenne Mandat de négociation adopté par le Conseil en novembre 2025 : présentation de la position des États membres sur le règlement permanent. Dossier général du Conseil sur la lutte contre les abus sexuels sur enfants en ligne : chronologie, textes en discussion et état des négociations européennes. Texte complet du mandat de négociation du Conseil adopté en novembre 2025. Les expressions « Chat Control 1.0 » et « Chat Control 2.0 » ne sont pas les intitulés officiels des textes européens. Elles sont principalement employées par leurs opposants pour désigner respectivement la dérogation temporaire au règlement ePrivacy et le projet de règlement permanent.

The postChat Control : l’Europe ouvre nos messages privés first appeared on Jipiblog.

Un pendentif qui écoute tout et se présente comme votre ami. Friend promet une présence rassurante, mais à quel prix pour votre vie privée et vos relations humaines ? Friend, le pendentif IA qui prétend devenir votre ami Il y a des objets technologiques qui amusent. D’autres qui intriguent. Et puis il y a ceux qui mettent franchement mal à l’aise. Friend appartient clairement à cette troisième catégorie. Derrière son design lisse et presque innocent se cache une promesse lourde de sens : proposer une présence permanente, une forme d’amitié artificielle, portée autour du cou. Friend est un pendentif connecté, développé par la société Friend, qui embarque une intelligence artificielle conversationnelle. L’objet écoute son environnement grâce à un micro intégré, analyse les échanges, puis envoie des messages à l’utilisateur via une application mobile. Il peut aussi être sollicité volontairement en appuyant dessus et en lui parlant. La réponse arrive ensuite sous forme de texte sur le smartphone. L’idée affichée est simple : offrir un compagnon numérique, présent au quotidien, capable de commenter la journée, d’encourager, de rassurer ou simplement de bavarder. Une promesse séduisante sur le papier Sur le plan conceptuel, Friend coche toutes les cases de l’époque. Un objet discret. Une IA conversationnelle. Une approche émotionnelle plutôt que purement utilitaire. Là où les assistants vocaux se limitent souvent à des commandes pratiques, Friend revendique une relation plus intime. Il se veut moins outil que présence. Moins assistant que compagnon. Pour certains profils, l’idée peut sembler attirante. Une personne isolée. Un utilisateur stressé. Quelqu’un qui cherche une interaction permanente sans contraintes sociales. Friend promet une disponibilité totale, sans jugement, sans conflit, sans fatigue. Une amitié toujours à l’écoute, toujours polie, toujours réactive. Mais c’est précisément là que le bât blesse. Un micro toujours ouvert, un problème majeur La critique la plus évidente concerne la vie privée. Friend repose sur un micro actif en permanence. Même si le discours officiel insiste sur la sécurité et le chiffrement des données, un fait demeure : l’objet capte des conversations. Pas seulement celles de son porteur, mais aussi celles des personnes autour, souvent à leur insu. Dans l’espace public, dans un bureau, à table ou en répétition, ce pendentif devient un témoin silencieux de situations qui n’ont jamais été destinées à une analyse algorithmique. La question du consentement est ici centrale. Qui accepte réellement d’être enregistré, analysé, interprété par une IA portée par quelqu’un d’autre ? À cela s’ajoute une responsabilité juridique floue. En pratique, c’est souvent l’utilisateur qui se retrouve garant du respect des lois locales sur l’enregistrement et la confidentialité. Une façon élégante de transférer le problème sans vraiment le résoudre. Quand l’amitié devient un produit Au-delà de la technique, Friend pose une question plus profonde. Peut-on appeler « ami » un système qui simule l’empathie sans jamais la ressentir ? L’amitié humaine repose sur la réciprocité, le libre arbitre, l’imprévu. Une IA, aussi avancée soit-elle, ne partage ni risques, ni vulnérabilité, ni responsabilité émotionnelle. En transformant l’amitié en service, Friend participe à une tendance inquiétante : la marchandisation de l’intime. Après l’attention, puis les données personnelles, ce sont désormais les émotions et le sentiment de solitude qui deviennent exploitables. L’IA ne se contente plus d’aider, elle occupe un espace relationnel. Un espace qui, jusqu’ici, appartenait aux humains. Le risque est double. D’un côté, banaliser l’idée d’être écouté en permanence. De l’autre, encourager un attachement à une présence artificielle, toujours disponible, toujours flatteuse, mais fondamentalement unilatérale. Une normalisation de la surveillance douce Friend n’est pas un gadget isolé. Il s’inscrit dans une évolution plus large où la surveillance devient douce, volontaire, presque désirable. On ne parle plus de caméras ou de micros imposés, mais d’objets choisis, portés fièrement, intégrés au quotidien. La frontière entre assistance et intrusion devient floue. Très floue. Ce qui choque aujourd’hui pourrait sembler banal demain. Porter un micro IA autour du cou. Accepter qu’il analyse les conversations. Trouver cela rassurant plutôt qu’intrusif. La question n’est donc pas seulement technologique, elle est culturelle. Et maintenant, à vous de trancher Friend pose finalement une série de questions auxquelles il est difficile d’échapper.Jusqu’où sommes-nous prêts à partager notre vie quotidienne avec une intelligence artificielle ?Une présence constante est-elle un réconfort ou une aliénation ?La solitude se combat-elle vraiment avec un algorithme ?Et surtout, à partir de quel moment l’assistance devient-elle surveillance ? Friend promet un ami. Reste à savoir si nous voulons réellement vivre avec un ami qui écoute tout, comprend sans ressentir et répond sans jamais être concerné.  

The postFriend, le pendentif IA qui questionne notre vie privée first appeared on Jipiblog.

Chat Control : quand Big Brother s’invite dans votre smartphone Mes chers amis du web, installez-vous confortablement avec un café (ou un remontant plus fort, vous allez voir pourquoi), parce qu’aujourd’hui on va parler d’un truc qui me fait sortir de mes gonds : Chat Control. Chat Control, le cadeau empoisonné de l’Union Européenne Imaginez un instant : vous envoyez un message privé à votre conjoint, une photo de vacances à vos potes, ou un document confidentiel à votre avocat. Avant même que le message parte, hop, un petit logiciel fouille dedans. Il regarde vos images, lit vos textes, analyse vos vidéos. Et tout ça avant le chiffrement. Oui, vous avez bien lu. Avant le chiffrement. C’est exactement ce que l’UE s’apprête à nous pondre avec son projet de règlement CSAR, gentiment rebaptisé « Chat Control » par ceux qui ont encore deux neurones à frotter ensemble. « C’est pour protéger les enfants ! » Ah, le refrain magique qui fait taire toute opposition ! Qui oserait être contre la protection de l’enfance ? Personne, évidemment. C’est justement pour ça que c’est l’argument parfait pour faire passer n’importe quelle horreur liberticide. Le principe est simple : transformer votre smartphone en balance, en mouchard, en petit flic personnel qui surveille tout ce que vous faites. Au nom des enfants, naturellement. Sauf que… les pédocriminels ne sont pas débiles. Eux, ils vont passer sur des applis alternatives, des réseaux décentralisés, des outils maison. Pendant ce temps-là, c’est vous, brave citoyen lambda qui envoie des photos de ses gosses à mamie, qui allez vous retrouver dans les filets de la surveillance généralisée. L’Allemagne dit non, et c’est déjà ça Petit scoop de dernière minute : Berlin a lâché le morceau et annoncé qu’ils ne soutiendraient pas ce délire. Un pays lourd qui bascule dans le camp du « non merci, on a déjà donné avec la Stasi », ça peut faire capoter toute la tambouille. Reste à voir si ça suffira. Le chiffrement de bout en bout ? Connais pas ! Parlons technique deux secondes (promis, je vais faire simple). Le chiffrement de bout en bout, c’est ce qui protège vos conversations sur WhatsApp, Signal, etc. En gros : personne ne peut lire vos messages entre vous et votre destinataire. Même pas la plateforme elle-même. Chat Control, c’est l’exact opposé : on scanne AVANT le chiffrement. Autant dire que le chiffrement devient aussi utile qu’un parachute troué. Si l’État (ou son petit robot d’intelligence artificielle) lit tout avant, il n’y a plus de vie privée. Point barre. D’ailleurs, la Cour européenne des droits de l’homme a tranché en février 2024 : forcer l’affaiblissement du chiffrement, ça viole la vie privée. Pas qu’un peu. Et ça fragilise tout le monde, pas juste les méchants. Chat Control, les vrais criminels s’en foutent, mais pas vous Vous savez ce qui est magnifique dans cette histoire ? C’est que les vrais criminels vont juste… s’adapter. Ils vont utiliser d’autres outils, d’autres réseaux, des applis autohébergées. Pendant ce temps, monsieur et madame Tout-le-Monde vont se faire fliquer H24. Le résultat est tristement prévisible : Les honnêtes gens perdent leur vie privée Les criminels se barrent ailleurs où la police n’a plus de prise légale Les faux positifs explosent, noyant les enquêteurs sous des tonnes de signalements bidons pendant que les vraies victimes attendent Génial comme stratégie, non ? Chat Control « C’est précis à 99,99% ! » Ah ouais ? C’est ce que raconte la commissaire Ylva Johansson et sa clique. Sauf que les experts en sécurité, les régulateurs et les scientifiques répondent en chœur : c’est du pipeau. Faux positifs en pagaille, contournements faciles (il suffit de compresser ou chiffrer autrement), biais linguistiques… Et surtout : installer un scanner sur chaque téléphone en Europe, c’est offrir un buffet à volonté aux hackers et aux États hostiles. Créer une infrastructure de surveillance à l’échelle continentale, c’est multiplier les portes d’entrée pour tous les salopards qui rêvent de nous espionner. Qui trinque vraiment ? Les journalistes qui protègent leurs sources ? Finis. Les avocats qui doivent garantir la confidentialité ? Terminés. Les soignants qui échangent sur leurs patients ? Rayés. Les victimes de violences qui cherchent de l’aide en ligne ? Exposées. Et pendant ce temps, les criminels, eux, auront déjà changé de crémerie. Signal préfère se barrer Signal, l’appli de messagerie chiffrée, a été clair : plutôt partir d’Europe que de compromettre la sécurité de ses utilisateurs. D’autres acteurs européens (Proton, Tuta, Element) hurlent que c’est une attaque frontale contre la souveraineté numérique. Parce que oui, avoir des outils de communication sécurisés, c’est aussi une question de souveraineté. Sinon, on dépend de qui ? Des Américains ? Des Chinois ? Super. La France dans tout ça ? Le sujet a longtemps été ignoré des grands médias. Ce sont les associations (La Quadrature du Net, Fight Chat Control.eu, collectifs « Stop Chat Control ») et les médias spécialisés qui ont tiré la sonnette d’alarme. Côté politique, le Parti Pirate et même Reconquête (via Sarah Knafo) s’opposent à cette aberration. Une pétition tourne sur le site de l’Assemblée Nationale. Mais bon, on sait tous comment ça se passe : tant que ça ne fait pas le buzz sur TF1, les politiques s’en foutent. Chat Control c’est un choix de société Ne nous y trompons pas : Chat Control n’est pas un débat technique sur des algorithmes. C’est un choix civilisationnel. Option A : on garde un droit effectif à la vie privée, avec du vrai chiffrement sans porte dérobée. On protège les enfants en renforçant les moyens d’enquête ciblés, la coopération internationale, le soutien aux victimes. Option B : on légalise la présomption de culpabilité numérique. On transforme chaque citoyen en suspect permanent. On ouvre une boîte de Pandore que tous les régimes autoritaires du monde rêvent d’acheter en gros. Parce que croyez-moi : une fois l’infrastructure en place « pour les enfants », il suffira d’un vote pour l’étendre au terrorisme, puis à la fraude fiscale, puis au piratage, puis à la « désinformation », puis à… vous voyez le tableau. Mon avis (comme si vous ne l’aviez pas déjà compris) Chat Control, c’est de la merde en barre. Pardon pour la vulgarité, mais des fois il faut appeler un chat un chat (sans jeu de mots). On ne protège pas les enfants en fliquant tout le monde. On protège les enfants en donnant des moyens aux enquêteurs, en améliorant la coopération internationale, en formant les équipes. Pas en transformant nos téléphones en mouchards. La vie privée n’est pas un luxe de gens qui ont quelque chose à cacher. C’est un droit fondamental, la base de toute démocratie. Sans elle, plus de lanceurs d’alerte, plus de journalisme d’investigation, plus de défense efficace, plus de confidentialité médicale. Bref, plus rien. Que faire ? Informez-vous et partagez l’info autour de vous Signez la pétition sur le site de l’Assemblée Nationale Contactez vos eurodéputés pour leur dire ce que vous en pensez Soutenez les associations qui se battent contre ce délire Et surtout, n’oubliez jamais : quand on vous dit « si vous n’avez rien à cacher, vous n’avez rien à craindre », la bonne réponse c’est « si je n’ai rien à cacher, vous n’avez pas besoin de regarder ». Voilà, c’est dit. Maintenant je retourne à mon café, en espérant que le bon sens finira par l’emporter. Mais j’y crois de moins en moins. Liens utiles : Pétition Assemblée Nationale : https://petitions.assemblee-nationale.fr/initiatives/i-4253 Stop Chat Control : https://www.patrick-breyer.de/en/chatcontrol/   Jipi, qui en a marre qu’on lui explique que la surveillance, c’est pour son bien.  

The postChat Control UE : surveillance de masse et fin vie privée first appeared on Jipiblog.