Règlement terroriste – La Quadrature du Net

/censureterro

  • Coup d’État sur la « #loi_haine »

    La #loi « contre la haine » s’est transformée en loi sécuritaire au nom de la lutte « anti-terroriste ». Ce bouleversement a été acté hier à 22h30, par un #amendement (http://www.assemblee-nationale.fr/dyn/15/amendements/2583/AN/161) de dernière minute proposé par le gouvernement et adopté par les députés serviles de l’Assemblée nationale. Ce #coup_de_force du gouvernement, imposé in extremis, est une nouvelle démonstration d’#anti-parlementarisme. L’honneur des députés exige qu’ils rejettent la loi dans son ensemble.

    Alors que la loi exigeait initialement de retirer les #contenus_illicites en 24 heures, elle impose désormais aux #plateformes de retirer en une heure les contenus que la #police lui signalera comme relevant du #terrorisme ou d’#abus_sur_mineurs. La police décidera seule des contenus relevant du terrorisme – sans le contrôle d’un juge. On l’a déjà vu abuser illégalement de ce pouvoir pour qualifier des propos militants de « terroristes » afin de les faire censurer – la justice avait alors attendu plus d’une année pour dénoncer ces abus de la police.

    De plus, alors que la loi ne concernait initialement que les plateformes ayant plusieurs millions de visiteurs par mois (Facebook, Twitter, Youtube…), les nouvelles mesures « anti-terroristes » visent désormais n’importe quelle plateforme, de toute taille. Il pourra s’agir du forum de n’importe quel site de presse, d’une plateforme militante, d’un petit hébergeur associatif ou de tout nœud d’un réseau social décentralisé tel que Mastodon ou PeerTube.

    Le délai d’une heure est matériellement impossible à respecter pour la grande majorité des plateformes Web (typiquement pour les signalements qui leur seraient faits de nuit). Ces plateformes n’auront d’autres choix que de fermer boutique ou de déléguer leur modération aux outils de censure automatisée fournis par Google et Facebook. Dans tous les cas, les grands vainqueurs seront ces deux dernières entreprises, dont la concurrence sera anéantie ou mise sous leur joug.

    Enfin, alors que la loi initiale ne prévoyait que des #sanctions financières, les nouvelles mesures prévoient des sanctions concrètes, drastiques. Si une plateforme ne censure pas un contenu dans l’heure qui suit sa notification par la police, la police pourra exiger que les fournisseurs d’accès à Internet empêchent l’accès à cette plateforme depuis la France.

    Une concentration totale des pouvoirs

    La #concentration_des_pouvoirs dans les mains de la police est totale : c’est à la fois elle qui décide quelles plateformes attaquer, qui qualifie un contenu comme étant illégal et qui met en œuvre sa sanction. L’ensemble du Web français est à sa merci.

    Si la police était mal intentionnée, il lui suffirait de publier anonymement et au milieu de la nuit des messages « terroristes » sur les plateformes de son choix pour les faire censurer (car presque aucune plateforme ne peut avoir des modérateurs réveillés toute la nuit pour répondre dans l’heure à la police). Rien dans la loi n’empêche de tels abus.

    Notons que cette situation n’est pas entièrement nouvelle : c’est la loi anti-terroriste de 2014 qui avait créé ce dispositif de #censure_policière. À l’époque toutefois, le délai pour répondre à la police était de 24 heures. Il passe aujourd’hui à #1_heure, démultipliant les risques d’abus.

    Un coup de force anti-parlementaire

    Le Parlement n’a jamais eu l’occasion de débattre des dangers de ce nouveau délai d’une heure imposé à l’ensemble du Web. Le Parlement n’a même pas eu l’occasion d’en prendre connaissance. Pendant des mois de débats sur la proposition de loi « contre la haine », le Parlement n’a parlé que de sujets bien éloignés du terrorisme. Ce n’est qu’au dernier moment, en séance publique lors de la 2ème lecture à l’Assemblée nationale, et alors que le sujet n’avait pas été abordé en commission des lois, que le gouvernement est parvenu à lui imposer ces changements, par surprise et par ignorance. Il aurait pourtant fallu en débattre pendant des mois, en auditionnant des dizaines d’acteurs, pour prétendre respecter nos principes démocratiques.

    La situation a tout pour rappeler un autre dossier : le règlement européen contre les contenus terroristes, qui prévoit lui aussi un délai de retrait en #une_heure. L’an dernier, la Commission européenne et les États membres avaient exercé une terrible pression sur le Parlement européen pour qu’il adopte en première lecture un texte en urgence avant les élections européennes (voir notre page de campagne : https://www.laquadrature.net/censureterro). Tout avait été fait pour empêcher un véritable débat, mais il avait pu au moins durer quelques semaines – permettant notamment de limiter la censure policière par l’autorisation préalable d’un juge ou d’une autorité indépendante (et la loi française serait ici contraire à la position du Parlement européen).

    Hier, le débat n’a pas même eu lieu.

    Le gouvernement semble s’être lassé de la comédie démocratique. L’avis des parlementaires n’a plus aucune conséquence sur le processus législatif : à quoi bon leur permettre de s’en faire un ? Autant gagner du temps et leur demander de tout signer à la dernière minute et sans leur expliquer.

    Si les députés ont encore un semblant de respect pour leurs fonctions démocratiques, ils doivent s’opposer à cette proposition de loi. Au moins du fait que le gouvernement a entièrement nié et insulté celles-ci hier. Et du fait, aussi, que le gouvernement a manipulé diverses volontés et associations luttant contre la haine afin de dévoyer au final la loi vers ses objectifs purement sécuritaires.

    Formellement, l’Assemblée nationale doit encore décider d’adopter ou non cette proposition de loi dans son ensemble aujourd’hui. Tout député ne qui ne votera pas contre cette loi actera que le gouvernement l’a démis de ses fonctions.

    https://academia.hypotheses.org/8795
    #sécurité #terrorisme #anti-terrorisme #censure #réseaux_sociaux #internet

    ping @isskein @karine4 @reka @simplicissimus @davduf @daphne @marty @mathieup

  • Règlement terroriste
    https://www.domainepublic.net/Reglement-terroriste.html

    Contactons nos parlementaires avant ce 21 mars ! Abelli asbl demande aux député.e.s belges du parlement européen de voter contre le Règlement européen relatif à la prévention de la diffusion en ligne de contenus à caractère terroriste Pourquoi ? Ce nouveau règlement imposera à tout acteur du Web (hébergeurs de blog ou de vidéos, sites de presse, petits forums ou grands réseaux sociaux) de : Bloquer en une heure n’importe quel contenu signalé comme « terroriste » par la police (sans l’autorisation (...)

    #Sécurité_et_vie_privée

    « https://eur-lex.europa.eu/legal-content/FR/TXT/HTML/?uri=CELEX:52018PC0640&from=FR »
    « https://www.laquadrature.net/censureterro »
    « https://www.laquadrature.net/censureterro-details/#contre-arguments »
    « https://www.pledge2019.eu/fr »

    • Article réaliste sur les conditions de travail des modérateurs avec des spécificités qui semblent être des spécificités américaines ou propres à l’employeur.
      En Allemagne la vidéo qui choque tous les stagiaires est une vidéo de zoophiles, il y a aussi des scènes de meurtres ritualisées comme les exécutions ISIS mais rien d’aussi traumatisant que la vidéo qui est décrite ici.
      Le but est quand même que les modérateurs aillent au bout de leur parcours d’apprentissage.
      Une fois en poste, le travail commence par le traitement de collections types et se poursuit par du shadowing actif et passif. La montée en horreur est quasi immédiate mais accompagnée.
      Il faut garder à l’esprit que c’est un job qui ne requiert aucune compétence. La publicité des conditions rend le recrutement plus difficile et élargit le type des candidats éligibles.
      Des gens qui sont dans des situations économiques plus fragiles, plus de femmes et plus de minorités et des candidats plus agés ^^.

      Après que ce soit un taff qui rende les modérateurs complotistes j’ai comme un doute, je pense que le terrain était déjà très favorable.

      Quand un « collègue » parle de quartiers islamistes en France... FB ou BFM ?

      « Du coup illes suppriment toujours les trucs violents et porn, mais ne font rien sur ces contenus complotistes. » Ca par contre est un non sens, tous travail consiste à appliquer une policy battit par FB, le complotisme n’y figure pas et dans l’exemple cité par l’article, les autistes ne représente pas une catégorie ou un groupe protégé. Arrêtons de croire que les modérateurs sont en mode freestyle.

    • Bon je crois je veux continuer de tout ignorer du monde dépeint dans cet article.

      Je suis arrivé jusqu’à

      “Autistic people should be sterilized” seems offensive to him, but it stays up as well. Autism is not a “protected characteristic” the way race and gender are, and so it doesn’t violate the policy. (“Men should be sterilized” would be taken down.)

      qui a agi comme une limite à ne pas dépasser.

      Pendant la lecture des deux tiers de cet article je n’ai pas cessé de me demander pourquoi est-ce qu’une telle tâche de modération (avec des critères aussi tordus) ne pouvait pas être, en fait gérer par de l’intelligence artificielle. Il ne me semble pas qu’un robot pourrait faire pire que l’exemple cité plus haut.

    • @philippe_de_jonckheere Tout simplement parsque toutes les informations doivent au préalable être « nettoyées » et formalisées. Les algorithmes sont encore incapables de prendre certaines décisions. Ce qui veut que de plus en plus l’action humaine va disparaitre au fur et à mesure de l’avancée algorithmique ce qui a mon sens est une mauvaise nouvelle. Le jour ou la modération ne sera que le fait de robot, bonjour pour avoir la moindre information sur la cuisine interne de FB.
      L’activité interne est moins signe de transparence que possibilté de fuites.
      Et puis :
      « Vers l’automatisation de la #Censure politique »
      https://seenthis.net/messages/762211

      D. Dalton, rapporteur sur le règlement antiterroriste, est sur le point d’autoriser la #Censure de masse
      https://seenthis.net/messages/755670

      Délégation de la censure aux géants du Web
      https://www.laquadrature.net/censureterro

      Abécédaire de la société de surveillance
      https://seenthis.net/messages/756098
      Qu’en sera t’il des relations FB avec des organismes bancaires et assureurs.

    • N’ayant jamais foutu les pieds sur cette saloperie de Facebook, en fait je m’en fous pas mal. Et pour ma part pour trouver quelqu’un intérêt que ce soit à Facebook, il faut déjà avoir une bonne part de soi robotisée. Un peu plus, un peu moins. Je suis nettement plus inquiet à propos des personnes qui doivent travailler à ce que tu appelles nettoyage que je ne le serais jamais pour un ou une utilisatrice de Facebook.

    • ❝Bob Duncan, qui supervise les opérations de modération de contenu de Cognizant en Amérique du Nord, explique que les recruteurs expliquent soigneusement la nature graphique du poste aux candidats. « Nous partageons des exemples du genre de choses que vous pouvez voir... pour qu’ils aient une compréhension », dit-il. « L’intention de tout cela est de s’assurer que les gens le comprennent. Et s’ils estiment que le travail ne leur convient pas, ils peuvent prendre les décisions qui s’imposent. »

      Entretien 5 mn.

  • Règlement terroriste – La Quadrature du Net
    https://www.laquadrature.net/censureterro

    Délégation de la censure aux géants du Web

    D’un point de vue technique, économique et humain, seule une poignée d’acteurs – les géants du Web – pourront respecter des obligations aussi strictes.

    Les autres acteurs (commerciaux ou non) n’auront d’autre choix que de cesser leurs activités ou de se soumettre aux outils de modération (filtrage automatique et listes de blocage) développés par Facebook et Google depuis 2015 avec le soutien de la Commission européenne.

    Ces multinationales deviendront donc les juges de ce qui peut être dit sur Internet. La structure riche, variée et décentralisée du Web est vouée à disparaître.
    Censure des discours politiques

    En droit de l’Union européenne, la notion d’infraction « terroriste » est volontairement large, couvrant les actes de piratage ou de destruction massive de biens (ou la simple menace de le faire) commis pour influencer une décision politique ou de déstabiliser des institutions.

    Laisser à la police et non au juge le pouvoir de décider ce qu’est un contenu de « terroriste » pourrait mener à la censure d’opposants politiques et de mouvements sociaux.