Par cet amendement, le groupe LFI-NFP souhaite interroger plus fondamentalement un aspect essentiel de la lutte contre les effets psychologiques néfastes induits par l’usage des plateformes comme TikTok : leur modèle économique fondé sur la captation de l’attention, et dans lequel l’usage des « darks patterns » (ou interfaces truquées) jouent un rôle prépondérant.

Un « dark pattern » est une interface utilisateur qui a été volontairement conçue pour tromper ou manipuler un utilisateur, en usant notamment des biais cognitifs. L’objet d’une « interface truquée » est d’orienter l’utilisateur vers des choix qu’il n’aurait probablement pas faits en connaissance de cause, et qui sont dans l’intérêt de la plateforme. Alors même que les plateformes utilisent déjà des algorithmes de recommandation de plus en plus sophistiqués, capables de jouer avec les biais psychologiques des utilisateurs afin de proposer les contenus les plus « proches » des centres d’intérêts de chacun de leurs utilisateurs et qui tend à les enfermer dans des « bulles de filtre » - des individus en difficultés pouvant être enfermés dans des « bulles de filtre » de contenus néfastes pour leur santé - la mise en place de nombreux éléments de « darks patterns » n’a qu’un seul but : retenir l’attention des utilisateurs le plus longtemps possible (pour pouvoir vendre par exemple toujours plus d’espaces publicitaires, qui représentent l’essentiel des recettes des plateformes numériques).

TikTok utilise par exemple le « scroll infini » (ou défilement infini) de la page. Son usage a tendance à faire augmenter le temps passé sur l’application : en effet, en utilisant le biais de clôture et le mécanisme de récompenses aléatoire, il pousse l’utilisateur à rester sur le service afin de découvrir, hypothétiquement, une information intéressante. Le risque est ainsi d’être toujours plus exposés à des contenus inappropriés et/ou dangereux, uniquement car le modèle économique des plateformes en dépend : par conséquent, si on souhaite s’attaquer à la toxicité des plateformes numériques comme TikTok, des mesures plus ambitieuses de lutte contre l’usage des « darks patterns » qui sont au coeur de leur modèle économique doivent être envisagées. Elles sont d’autant plus indispensables que ces acteurs ont très souvent une position quasi-monopolistique, ce qui les rend pratiquement impossible à contourner par les utilisateurs et relance la nécessité de réfléchir à des mesures pour lutter contre la concentration du secteur.

Par cet amendement, le groupe LFI-NFP souhaite souligner l'approche trop réductrice de cette proposition de résolution. Nous estimons nécessaire d'adopter une lecture psychosociale des risques induits par les réseaux sociaux comme TikTok, plutôt que l'approche purement psychologique actuellement proposée. Cette dernière néglige un aspect fondamental : les conséquences, qu'elles soient positives ou négatives, de l'usage des réseaux sociaux découlent principalement des interactions entre utilisateur•ices en ligne. En élargissant ainsi la perspective, nous pourrons mieux appréhender les enjeux complexes liés à ces plateformes.

L'usage des réseaux sociaux est un phénomène social. Comme le rappellent de nombreuses études, telle que celle menée par Godefroy Dang Nguyen et Virginie Lethiais ("Impact des réseaux sociaux sur la sociabilité. Le cas de Facebook", Revue Réseaux, 2016), les technologies de façon générale, et donc les réseaux sociaux en particulier, parce qu’elles permettent aux individus de communiquer, sont le support d’une forme de sociabilité (défini par Norbert Elias comme « le tissu des relations entre chaque individu [qui] constitue le fondement de la société ») qu’elles peuvent modifier. Elles s'entrelacent alors avec les formes de sociabilité déjà établies et les contenus qui y sont partagés peuvent ainsi influencer nos pensées et nos rapports aux autres. Dans ce contexte, l'existence des "bulles de filtre", interconnectant des utilisateurs entre eux par la diffusion commune de contenus, parfois dangereux, et leur maintien dans ces bulles qui peut entraîner chez les utilisateurs les risques psychiques présentés dans le cadre de la proposition de résolution, est bien le résultat d'une interaction sociale. Or, une approche purement "psychologique" de ces effets reviendrait à totalement exclure cette dimension pourtant centrale, et à attribuer la "responsabilité" de ces effets au seul individu face à son écran, alors que son mal-être psychique est foncièrement lié au résultat de ses interactions numériques.

Par cet amendement rédactionnel, le groupe LFI-NFP souhaite réaffirmer la nécessité d'adopter une lecture "psychosociale" des risques induits par les réseaux sociaux comme TikTok, plutôt que l'approche purement "psychologique" proposée ici, qui néglige le fait que les conséquences, qu'elles soient positives ou négatives, de l'usage des réseaux sociaux découlent principalement des interactions entre utilisateur•ices en ligne.

Face aux enjeux complexes et protéiformes auxquels nous confrontent le sujet de l'évaluation des effets des réseaux sociaux sur la santé mentale et psychique de leurs utilisateurs, notamment mineurs, la question de la précision des termes employés revêt une dimension essentielle pour appréhender au mieux les phénomènes sociaux et psychologiques observés.

Par cet amendement rédactionnel, le groupe LFI-NFP souhaite réaffirmer l'importance d'étendre le périmètre de la commission d'enquête à l'ensemble des réseaux sociaux - et pas uniquement TikTok - en cohérence avec les différents amendements que nous avons déposés sur la proposition de résolution.

Comme le rappelle l'étude de la division Europe de l’Organisation mondiale de la santé (OMS), les effets psychologiques sur les mineurs sont causés par l'usage de l'ensemble des différents réseaux sociaux - et ne concerne donc pas uniquement TikTok. En effet, dans un rapport publié le 25 septembre, l’organisation souligne le fait que de plus en plus d’adolescents européens développent un rapport problématique au numérique, « qui se caractérise par des symptômes similaires à ceux de l’addiction » et qu’en quatre ans, la part de jeunes utilisateurs devenus accros aux réseaux sociaux, est passée de 7 à 11 %. Pour lutter contre ce phénomène global, il est donc indispensable d'étudier la "conception addictive" de l'ensemble des réseaux sociaux pour y répondre de manière structurelle.

Cet amendement vise à orienter spécifiquement les travaux de la commission d'enquête sur TikTok vers l'étude des mécanismes de recommandation de contenus susceptibles d'exacerber les troubles alimentaires chez les jeunes utilisateurs. Ce réseau, fort de plus de 15 millions d'utilisateurs actifs en France, a un impact significatif sur la santé mentale des adolescents et jeunes adultes, particulièrement concernant les habitudes alimentaires. Une exposition de moins de dix minutes à des contenus pro-anorexiques sur TikTok suffirait à provoquer une insatisfaction corporelle chez les jeunes femmes. Certains groupes sur la plateforme, qualifiés de communautés « pro-ana » (pro-anorexie), partagent des conseils dangereux et encouragent des habitudes alimentaires délétères. À un âge où les enfant et adolescents se construisent, ce type de contenu peut être particulièrement pernicieux et destructeur. Il est donc crucial que la commission d'enquête examine en profondeur les mécanismes par lesquels TikTok recommande et diffuse ces contenus, afin de proposer des mesures concrètes pour protéger la santé mentale des jeunes utilisateurs.

L'utilisation croissante de TikTok par des mineurs, soulève des inquiétudes quant à leur exposition à des contenus inappropriés et à des interactions potentiellement dangereuses. Bien que TikTok ait mis en place des outils de contrôle parental, notamment le mode « Connexion Famille », leur efficacité est fréquemment mise en cause. La possibilité de contournement par les adolescents ou l'inefficacité partielle des filtres de contenu ne sont plus à démontrer. Cette commission d'enquête devrait évaluer rigoureusement ces outils, ses défaillances, et explorer des pistes d'amélioration.

Le présent amendement proposer de compléter cette proposition de résolution d’un nouvel alinéa prévoyant une analyse comparative des algorithmes et des dispositifs de protection des mineurs déployés par TikTok et sa version chinoise, Douyin. Les différences notables entre ces deux plateformes, pourtant issues d’une même entreprise, soulèvent des interrogations sur les choix technologiques et éthiques opérés en fonction des contextes géographiques. En Chine, Douyin applique des mesures strictes pour les mineurs et une priorisation de contenus éducatifs et culturels. À l’inverse, TikTok, dans sa version occidentale, n’adopte pas les mêmes mesures, exposant ainsi les jeunes utilisateurs à des contenus potentiellement nuisibles et favorisant une utilisation prolongée. Aussi, convient-il d’étudier attentivement ces différences entre TikTok et Douyin.

Cet amendement propose d’étudier et de quantifier les dispositifs de captation de l’attention utilisés par TikTok et leurs effets psychologiques, notamment en termes de pensées et comportements liés à l’automutilation. L’algorithme de TikTok, conçu pour maximiser le temps passé sur la plateforme, exposerait particulièrement certains jeunes à des contenus nuisibles, générant une spirale émotionnelle négative pouvant aggraver leur vulnérabilité psychologique. Alors que 70 % des utilisateurs de TikTok en France ont moins de 24 ans, il est essentiel d’analyser ces mécanismes et leurs impacts afin de mieux protéger les mineurs de contenus menant à l’automutilation et formuler des recommandations adaptées pour contrer ces risques.

Par cet amendement, le groupe LFI-NFP souhaite rappeler que si les effets psychologiques néfastes chez les mineurs de l'usage de TikTok sont avérés, cette dernière n'est absolument pas la seule plateforme dont l'usage pose un souci de santé publique majeur.

La limitation de l'objet de cette proposition de résolution à la seule plateforme TIkTok est incompréhensible. Les auteurs tentent de la justifier en expliquant tout d'abord que les problématiques de santé publique engendrées par TikTok sont spécifiques en raison notamment de l'efficacité de son algorithme. Cependant, n'est-ce pas la même chose pour d'autres plateformes comme X ou Instagram ? Mais surtout, la volonté de la proposition de résolution de se limiter à la seule plateforme TikTok est justifiée par « ses liens avec les autorités chinoises [qui] font peser des risques en matière de souveraineté, d’influence étrangère ou de protection des données personnelles ». Or, sans remettre en cause la véracité de cette préoccupation, ne pourrait-on pas également affirmer la même chose pour les plateformes numériques d'origine américaines, comme Instagram ou X ? L'actuel propriétaire de cette dernière, Elon Musk, n'est-il pas de plus en plus ouvertement en train de s'ingérer dans les affaires intérieures des différents pays européens pour faire monter les différents partis d'extrême-droite ? L'arrivée de Trump au pouvoir n'est-elle pas en train de remettre en cause la protection de nos données personnelles qui sont, dans le cadre d'un accord UE-Etats-Unis, transférées outre-Atlantique, mais dont la commission chargée de la bonne application de l'accord est menacée par les coupes budgétaires drastiques menées par le nouveau locataire de la Maison-Blanche ?

Les effets psychologiques sur les mineurs de l'ensemble des réseaux sociaux - et pas seulement TikTok - sont confirmés par une étude de la division Europe de l’Organisation mondiale de la santé (OMS). Dans un rapport publié le 25 septembre, l’organisation souligne le fait que de plus en plus d’adolescents européens développent un rapport problématique au numérique, « qui se caractérise par des symptômes similaires à ceux de l’addiction » et qu’en quatre ans, la part de jeunes utilisateurs devenus accros aux réseaux sociaux, est passée de 7 à 11 %. Pour lutter contre ce phénomène global, il est donc indispensable d'étudier la "conception addictive" de l'ensemble des réseaux sociaux pour y répondre de manière structurelle.

Par cet amendement, le groupe LFI-NFP souhaite souligner le rôle prépondérant que doit jouer l’éducation, et notamment le système scolaire, dans les politiques de prévention des addictions numériques des jeunes et des enfants.

L’usage des réseaux sociaux de manière générale commence de plus en plus tôt. D’après une enquête de la Commission nationale de l’informatique et des libertés (CNIL) de 2021, la première inscription sur un réseau social interviendrait en moyenne vers l’âge de 8 ans et demi et plus de la moitié des enfants de 10 à 14 ans seraient présents sur ces plateformes. Par ailleurs, l’association Génération Numérique corrobore ces informations puisque selon elle, en 2021, 63 % des moins de 13 ans avaient un compte sur au moins un réseau social, bien que ces réseaux leurs soient en théorie interdits en vertu de leurs conditions générales d’utilisation. Cette situation est aggravée par le fait que les parents supervisent peu ou pas les activités en ligne de leurs enfants. À peine plus de 50 % des parents décideraient du moment et de la durée de connexion de leurs enfants et 80 % déclarent ne pas savoir exactement ce que leurs enfants font en ligne. Pourtant, les risques liés à leur utilisation incontrôlée par les mineurs n’est plus à démontrer.

Dans ce contexte, il est impératif de mener des politiques préventives d’éducation aux risques posés par les différentes plateformes numériques - dont TikTok. En France, l’article L. 312‑9 du code de l’éducation prévoit que « la formation à l’utilisation responsable des outils et des ressources numériques » (...) « contribue notamment »au développement de l’esprit critique« mais également »à la sensibilisation contre la manipulation d’ordre commercial« . Cependant, notamment en raison du manque de moyens alloués à l’Education nationale pour aborder ces questions (avec par exemple, la suppression, sans concertation, de la technologie en 6^ème depuis la rentrée 2023, ou encore, un manque structurel de professeurs pour assurer l’enseignement de cette discipline à tous les niveaux au collège comme le dénonce le syndicat d’enseignant SNES-FSU dans un communiqué du 5 juin 2024), les élèves ne bénéficient pas en réalité d’un enseignement à la hauteur des enjeux sur cette question pourtant cruciale. Si le renforcement des moyens de l’Education nationale est donc essentiel en la matière, il s’agit bien d’une politique transversale impliquant l’ensemble des acteurs en contact avec les mineurs (comme les parents) et qui nécessitent l’élaboration de politiques spécifiques (comme l’accompagnement de la parentalité à ce sujet), ce à quoi pourra s’atteler cette commission d’enquête.

Par cet amendement du groupe LFI-NFP, nous souhaitons dénoncer l’instrumentalisation de certains réseaux sociaux par leurs propriétaires qui, à des fins idéologiques, n’hésitent pas à favoriser la diffusion de contenus dangereux et/ou illégaux qui peuvent particulièrement affecter la santé mentale des mineurs.

Les dirigeants de certaines plateformes comme X ou Facebook n’hésitent plus à mettre leurs plateformes au service de leurs idées nauséabondes. A titre d’illustration, Mark Zuckerberg, fondateur de Facebook a déclaré le 10 janvier dernier que « L’énergie masculine est bonne. La société en est remplie, mais la culture d’entreprise essaie de s’en détourner. Toutes ces formes d’énergie sont positives, mais une culture qui fait un peu plus la part belle à l’agressivité a ses mérites. » Or, ces poncifs liés à la pensée masculiniste se diffusent de plus en plus ouvertement sur les réseaux sociaux. Lucie Daniel, experte plaidoyer au sein de l’ONG féministe Equipop et co-autrice du rapport « Contrer les discours masculinistes en ligne » affirme que « les contenus haineux [ont] tendance à être plus viraux que les contenus non haineux » et que par conséquent, les contenus masculinistes « qui suscitent le plus d’interactions, de partages, de commentaires sont ceux qui vont être les plus visibilisés, voire monétisés. » Les dirigeants des plateformes ont donc une part de responsabilité dans l’essor et la visibilité des discours masculinistes, d’autant plus qu’elles sont « souvent régis par des algorithmes qui eux-mêmes ont des biais sexistes ». Les utilisateurs mineurs, confrontés à la multiplication de ces contenus sur leur fil d’actualité peuvent en souffrir du fait notamment que tout les pousse à croire qu’il s’agit d’attentes de la société vis-à-vis d’eux, alors qu’il ne s’agit que d’une manipulation de masse.

Dans ce contexte, la commission d’enquête devra être l’occasion de déterminer avec précision le niveau de responsabilité de chacun des propriétaires des plateformes sur la diffusion des contenus dangereux et/ou illégaux, et proposer des pistes de solutions pour en réduire l’influence, au bénéfice de nos enfants.

Cet amendement des députés socialistes et apparentés vise à évaluer l’influence de TikTok sur l'éducation et le développement de l'esprit critique des personnes mineures, et plus largement son impact sur le champ politique, par exemple en termes d'ingérence lors de campagnes électorales.

Par la réduction du temps de concentration et la promotion de fausses informations ("fake news"), TikTok nuit au développement de l'esprit critique des jeunes mineurs, qui sont pourtant appelés à être des citoyens de plein exercice.

Il convient donc d'évaluer précisément cet impact sur nos démocraties et de formuler des recommandations pour limiter ce dernier.

Plus largement, il convient de se pencher sur l'impact de TikTok sur le champ politique, notamment en termes d'ingérence.

En Roumanie, le réseau social TikTok est accusé d’avoir permis des manipulations de masse des utilisateurs à l’occasion de la dernière élection présidentielle.

L'accusation est telle que cette élection a été annulée, fait inédit dans l'histoire récente de l'Europe.

Au-delà de TikTok, les allégations d'ingérence en période électorale ou non qui seraient commises par des réseaux sociaux se multiplient. 

Citons par exemple le réseau social X et son lien supposé avec l'extrême-droite allemande, et son parti, l'AfD.

En France, ce lien entre TikTok et le champ politique est peu connu, 

Il y a donc nécessité d'enquêter dessus, d'autant plus que des échéances électorales majeures se profilent, avec un risque élevé d'ingérences.

Cet amendement vise donc à ce que les capacités de TikTok en matière d'influence, voire d'ingérence sur le champ politique soient étudiées, et que toutes les mesures soient prises en la matière.

Tel est le double objet du présent amendement.

Les auteurs de cet amendement souhaitent que soit mentionné dans les objectifs de la commission d'enquête, l'examen des risques liés à la désinformation sur TikTok. En effet, dès septembre 2022, une étude publiée par la société NewsGuard, spécialisée dans le suivi de la désinformation en ligne, alertait sur le très haut niveau de désinformation sur TikTok et ses effets sur les plus jeunes.

Cet amendement vise, en cohérence avec celui défendu à l'alinéa 3, à intégrer la notion de vérification des contenus afin de lutter efficacement contre la désinformation véhiculée sur TikTok.

Dans le rapport du Sénat paru en juillet 2023 suite à la commission d'enquête sur l’utilisation du réseau social TikTok, il est indiqué que les actions de TikTok sur le contrôle d’âge paraissent très insuffisantes.
En effet, alors que l’application est en principe interdite aux moins de 13 ans, près de 45 % des 11-12 ans sont inscrits sur ce réseau. 

Afin d'avoir une vision juste de la situation et de pouvoir prendre les mesures qui s'imposent pour mieux protéger nos enfants, il convient donc d'évaluer les techniques utilisées et de connaître le nombre de jeunes disposant d'un compte sans avoir l'âge requis pour cela.

Cet amendement vise à apporter des précisions sur le type de contenu dont l'impact psychologique sur les mineurs doit particulièrement être évalué. 

En 2023, 90% des contenus de désinformation créés pour une étude par Global Witness ont été approuvés par TikTok, alors que ce chiffre était de 20 % pour Facebook. Les contenus de désinformation signalés tarderaient par ailleurs à être retirés, de même que certains contenus hypersexualisés, particulièrement lorsqu'ils ont du succès. Il convient donc d'analyser particulièrement les risques que comporte l'accès à ces contenus pour les jeunes utilisateurs.

Amendement d'amélioration de l'alinéa. 

Amendement d'amélioration de l'alinéa.