• https://www.alternatives-economiques.fr/stopper-elon-musk/00105194

    Y a-t-il encore une limite à la puissance des multimilliardaires ? Le rachat de Twitter pour 44 milliards de dollars par l’homme le plus riche du monde illustre les possibilités offertes par une accumulation extrême de richesse.

    A la tête d’une fortune oscillant entre 200 et 300 milliards de dollars, composée très majoritairement d’actions Tesla dont le cours s’est envolé, Elon Musk a un patrimoine équivalent au produit intérieur brut (PIB) du Portugal. Et il s’achète une entreprise valant deux fois le budget du ministère de l’Intérieur français.

    Musk a dorénavant la haute main sur une plate-forme où échangent plus de 400 millions de personnes. Un réseau possédant un fort impact sur le débat public, car prisé au sein des milieux politiques, économiques et médiatiques. Une semaine après son rachat, l’entrepreneur, fidèle à son goût de la disruption, a licencié 3 500 personnes, soit la moitié des salariés de l’entreprise. Et il commence à mettre en place ses réformes.

    « En devenant l’actionnaire majoritaire, Elon Musk n’a pas vraiment de contre-pouvoir. C’est pareil au sein du groupe Meta qui possède Facebook, Instagram et WhatsApp. La plupart des réseaux sociaux sont des entreprises avec une gouvernance très centralisée et opaque », pointe Anne Bellon, politiste à l’université technologique de Compiègne.

    Quelles sont les motivations de ce rachat ? « Il y a une dimension idéologique à ne pas sous-estimer. Elon Musk a une vision absolutiste de la liberté d’expression, stipulant que plus de liberté signifie moins d’intervention », complète Anne Bellon. Soit une modération des contenus réduite au minimum légal.

    Musk reproche à l’ancienne direction de Twitter une intervention excessive et des biais anticonservateurs. Et il regrette les suspensions de comptes opérées sur le réseau, comme celle concernant Donald Trump. A l’instar de l’ancien Président dont le compte a déjà été rétabli, plusieurs personnes précédemment bannies pourraient faire leur retour. La conséquence de cette politique devrait être une brutalisation accrue du débat au travers d’une plus grande diffusion de contenus jugés problématiques, parce que haineux ou relayant de fausses informations.
    DSA, rempart européen ?

    Le multimilliardaire l’a cependant assuré : il respectera la loi. Si la législation américaine comporte très peu de contraintes en la matière, la réglementation européenne est plus stricte et la Commission le répète : sur le Vieux Continent, Twitter devra la respecter. Bruxelles s’érige en rempart, en mettant en avant son nouvel outil pour réguler les contenus des plates-formes numériques : le Digital Services Act (DSA).

    Une partie de ce dispositif européen pourrait entraver les ambitions de l’américain. Le DSA oblige en effet les grandes plates-formes à prendre en compte les « risques systémiques », qui englobent aussi bien le harcèlement sexiste que les « effets négatifs » sur les élections ou la sécurité publique.

    Il les contraint ainsi à suivre finement ce qui se passe sur leur réseau et à ne pas se contenter de supprimer quelques messages clairement illégaux (pédopornographie, apologie du terrorisme, etc.). Mais avec le licenciement de la moitié de ses salariés, la capacité de modération humaine de Twitter est réduite à peau de chagrin.

    « Elon Musk a une croyance très forte dans la technologie et va sûrement renforcer le rôle des outils algorithmiques dans la modération, pense Anne Bellon. Une telle évolution rendrait les décisions de modération plus opaques, réduisant ainsi leur possible contestation. »

    Elle exigerait aussi des régulateurs qu’ils montent en compétence pour entrer dans la boîte noire de la technologie de la plate-forme. Les grands projets d’Elon Musk pour Twitter concernent cependant principalement les Etats-Unis. Le reste du monde semble être secondaire dans ses plans, même s’il représente l’immense majorité de l’activité de l’entreprise.
    Reprise chaotique

    Au-delà de l’aspect idéologique, y a-t-il une logique économique au projet d’Elon Musk ?

    « Ce rachat peut paraître paradoxal, car Twitter a toujours eu du mal à trouver un modèle économique et affiche une fragilité en décalage avec la portée de ce réseau, qui voit intervenir des personnes d’influence mondiale, qu’elles soient chefs d’Etat ou dirigeants de grandes firmes », pointe Julien Nocetti, chercheur au centre Geode (Géopolitique de la datasphère).

    Le réseau à l’oiseau bleu a certes un impact fort sur les termes du débat public, mais il ne pointe qu’à la 16e place des réseaux sociaux les plus utilisés au monde et ses comptes oscillent selon les années entre le rouge et le vert.

    Elon Musk l’a d’ailleurs affirmé mi-novembre : « La perspective d’une banqueroute n’est pas à exclure. » Quatre jours après son rachat, 875 000 utilisateurs avaient désactivé leur compte – le double du rythme habituel –, selon la société Bot Sentinel. De leur côté, General Motors, Dyson, Disney, Coca-Cola ou encore Stellantis ont tour à tour suspendu leur campagne publicitaire sur le réseau.

    « Les annonceurs peuvent jouer un rôle de contre-pouvoir car ils préfèrent ne pas voir leurs messages à côté de contenus jugés problématiques. Une faillite n’est effectivement pas impossible », estime Annabelle Gawer, professeure d’économie numérique à l’université du Surrey.

    Un risque aggravé par la saignée opérée dans les effectifs, à laquelle s’ajoutent a minima plusieurs centaines de départs sur les salariés ­restants. Ceux-ci quittent le navire à cause des méthodes autoritaires du nouveau patron qui leur demande de se donner « à fond, inconditionnellement » et de « travailler de longues heures à haute intensité ».

    Le milliardaire affiche cependant comme ambition de trouver un nouveau modèle économique au réseau, qui repose aujourd’hui quasi exclusivement sur les revenus publicitaires. C’est pourquoi il a lancé mi-­novembre un abonnement à 8 dollars par mois pour obtenir une certification de compte, ouvrant la voie à une meilleure visibilité des contenus.

    Cette option était jusqu’alors proposée gracieusement aux personnalités ou entreprises dont l’identité avait été vérifiée. Véritable aubaine pour les trolls, l’offre a rapidement été suspendue après l’imposture de nombreux utilisateurs usurpant l’identité d’entreprises ou de personnalités publiques. Malgré ce fiasco initial, l’offre devait faire son retour fin novembre, « corrigée des bugs ». Ouvrant ainsi la voie à un modèle partiellement payant.

    Tesla, présentée aujourd’hui comme une success story, a frôlé la faillite plusieurs fois à la fin des années 2010

    Ce n’est pas la première fois qu’Elon Musk fait emprunter un chemin périlleux à une entreprise qu’il dirige. Tesla, présentée aujourd’hui comme une success story, a frôlé la faillite plusieurs fois à la fin des années 2010, enchaînant notamment retards de livraison et difficultés d’approvisionnement.

    Le fabricant de voitures électriques haut de gamme a d’ailleurs été accusé d’avoir supprimé un test de sécurité pour accélérer la production ou d’avoir minimisé d’autres problèmes pour éviter des rappels de véhicules qui auraient pu être destructeurs pour ses finances. La méthode Musk est connue.

    A plus long terme, le rêve du nouveau patron de Twitter est d’en faire une « app universelle ». Sur le mode du WeChat chinois, une application qui concentre un maximum d’usages : tweeter, commander un taxi, un repas, prendre un ­rendez-vous médical, etc.

    « La X App de Musk est un écosystème technologique total, en l’occurrence totalement fermé sur lui-même, où tous les services numériques seraient disponibles et interconnectés, concentrant ainsi l’ensemble des usages. Un effet système sans couture qui organiserait l’enfermement algorithmique et permettrait une captation sans discontinuité des données. Le socle techno­logique primaire de la X App serait donc basé sur l’architecture existante de Twitter », détaille l’enseignante à Sciences Po Asma Mhalla, dans un article du Grand Continent.

    Avec le réseau à l’oiseau bleu, Elon Musk attrape aussi un puissant outil informationnel pour s’immiscer encore davantage sur la scène géopolitique. Le milliardaire a en effet déjà « offert » – moyennant le concours financier de l’Etat américain – aux autorités ukrainiennes un accès à sa constellation de satellites Starlink, la plus grande au monde, permettant une connexion à Internet via l’espace en évitant ainsi les infrastructures terrestres mises à mal par les combats.
    Aussi puissants que des États

    De sa proposition de plan de paix pour cette guerre à celle formulée pour régler le conflit entre la Chine et Taiwan, de quoi se mêle-t-il ? Est-ce simplement l’expression d’un mégalomane voulant trouver des solutions à tout, au mépris de sa connaissance des situations ? Ou plutôt la preuve que les géants de la tech sont en train de devenir des puissances géostratégiques ? L’un n’empêche pas l’autre.

    « Les entreprises techno­logiques prennent de plus en plus position sur les sujets internationaux, de manière très visible pour Elon Musk ou plus discrètement comme Microsoft ou Google pour l’Ukraine », détaille Julien Nocetti, également chercheur à l’Institut français des relations internationales (Ifri).

    « La puissance des plus grandes plates-formes numériques équivaut à celle de certains Etats, en termes de ressources financières mais pas que, résume Annabelle Gawer. Ce sont des régulateurs privés qui autorisent ou non des entreprises et des individus à opérer sur leurs réseaux qui sont devenus des infrastructures essentielles. » L’Union européenne ne s’y est pas trompée et a envoyé cette année un ambassadeur permanent à la Silicon Valley pour échanger directement avec ces « big tech ».

    Elon Musk et ses entreprises sont aussi les produits du gouvernement américain et l’expression de son soft power

    Elon Musk est-il le symbole de cette nouvelle puissance qui échapperait aux Etats ? C’est plus ­complexe, car les big tech entretiennent un lien étroit avec la puissance publique, en l’occurrence américaine. SpaceX, l’entreprise de lancement de satellites fondée en 2002 par le futur boss de Twitter, s’est développée grâce aux fonds de la Nasa, via le contrat de ravitaillement de ses stations.

    Situation similaire pour Tesla : l’entreprise a bénéficié pendant des années de subventions à hauteur de plusieurs milliards de dollars. « Sans le soutien politique de Washington, Tesla n’aurait jamais pu construire son usine à Shanghai », observe Julien Nocetti. Une usine stratégique, car elle permet à Tesla de servir le marché chinois, le second par la taille après celui des Etats-Unis. Une Tesla sur quatre y est vendue.

    En somme, Elon Musk et ses entreprises sont aussi les produits du gouvernement américain et l’expression de son soft power. Certes, le multimilliardaire appelle à voter ouvertement pour les républicains. Certes, il entretient des relations tendues avec l’administration démocrate de Joe Biden. Pour autant, cette dernière ne lui a pas coupé ses financements et a même soutenu financièrement SpaceX, qui opère Starlink, dans son aide à l’Ukraine. Pour Asma Mhalla, « à l’instar des bien moins bruyants Microsoft, Palantir ou Google, Elon Musk participe, à sa mesure, à façonner le rôle des Etats-Unis dans la géopolitique mondiale ».

    Les éclats d’un Elon Musk ne sont ainsi que le reflet d’une économie qui voit les big tech peser de plus en plus lourd dans un monde conflictuel. L’Europe peut-elle encore se limiter à brandir ses normes pour seule réponse ?

    #big_tech #capitalisme_de_plateforme #Elon_Musk #twitter #modération sur les #réseaux_sociaux #hégémonie #fabrique_de_l'opinion

  • Usbek & Rica - « Il faut absolument lutter contre l’invisibilisation des modérateurs de contenus »
    https://usbeketrica.com/fr/article/il-faut-absolument-lutter-contre-l-invisibilisation-des-moderateurs

    La première étape, c’est de lutter contre l’invisibilisation des modérateurs. Il faut absolument les sortir de l’ombre de leurs écrans, ce que cultivent les entreprises de réseaux sociaux avec un recours fréquent à de strictes clauses de confidentialité leur permettant d’échapper à tout examen public (des usagers, de la société civile, des régulateurs) et de maintenir des salaires bas. C’est aussi pour ne pas avoir à reconnaître combien ces réseaux sociaux peuvent être des canaux de diffusion pour du contenu répugnant, outrageant, choquant, bien loin de l’image qu’ils cherchent à cultiver auprès du grand public et surtout des annonceurs. « Ouvrez un trou sur Internet, il se remplira immédiatement de merde », souligne l’un de mes interlocuteurs dans le livre. Qui voudrait y être associé  ? Enfin, reconnaître l’existence d’un « intermédiaire », c’est mettre à mal le mythe fondateur d’Internet comme espace d’une expression démocratique libre et sans entrave. Pour responsabiliser ces acteurs, et ouvrir un débat sur les garde-fous à mettre en place, je crois à la pression du nombre. Journalistes, militants de la société civile, modérateurs en personne, universitaires comme moi… Nous sommes déjà quelques-uns à mettre ces métiers, ce travail, sur la place publique, à exposer les conditions de travail, et il faut absolument poursuivre dans cette voie.

    #RéseauxSociaux #Algorithme #Modération #GAFAM

    • Enfin, reconnaître l’existence d’un « intermédiaire », c’est mettre à mal le mythe fondateur d’Internet comme espace d’une expression démocratique libre et sans entrave.

      Difficulté ici : dans le « mythe fondateur d’internet », il n’a justement jamais été souhaité, voire même imaginé, que l’on centralise la quasi intégralité de l’expression publique (et notamment politique et militante) en un seul et unique endroit. Je pense même que, dans ce « mythe fondateur », si on avait décrit un tel endroit, évidemment il aurait été immédiatement évident qu’un tel endroit concentrerait également à la fois toute la merde et toute la censure possibles (parce que de manière assez extrême, on aurait re-décrit l’hyperconcentration de la télévision).

  • Kenya’s Threat to Ban Facebook Could Backfire | WIRED
    https://www.wired.com/story/kenya-facebook-elections-hate-speech-ban

    Que Facebook ait du mal à filtrer les messages de haine produits par des particuliers, on peut le comprendre (même si cela remet en cause ce que l’on peut penser des médias sociaux). Mais que Facebook n’arrive pas à filtrer les publicités incitant à la haine... L’argent n’a pas d’odeur, mais celle de Facebook pue profondément.

    In July, Meta touted its efforts to clamp down on hate speech on Facebook ahead of Kenya’s August 9 election. It spoke too soon. The company continued to permit ads encouraging ethnic violence in the country, according to a new report—and now Meta’s platforms face a possible suspension.

    In the report, researchers from the activist group Global Witness and the British law firm Foxglove Legal attempted to buy ads that included hate speech and calls for violence, including genocide, in both Swahili and English. Meta’s ad systems eventually approved all of them.

    “It is very clear that Facebook is in violation of the laws of our country,” Danvas Makori, the commissioner of Kenya’s National Cohesion and Integration Commission (NCIC), said in a press conference following the publication of the Global Witness report. “They have allowed themselves to be a vector of hate speech and incitement, misinformation, and disinformation.” The NCIC said Meta would have a week to comply with the country’s hate speech regulations, or be suspended. (The NCIC and the Communications Authority did not respond to requests for comment by the time of publication).

    But shutting down the platform, or even the mere threat of doing so, could have long-term consequences, says Odanga Madung, a Kenyan journalist and Mozilla fellow who has researched disinformation and hate speech on social platforms. “We have been saying for years that if the platforms do not clean up their act, their models of doing business won’t be sustainable,” says Madung. Leaving up hate speech and other content that may violate local laws provides governments an easy justification to ban social platforms altogether. “In authoritarian governments, or governments with authoritarian streaks, they are looking for convenient reasons to get rid of platforms.”

    Kenya formed the NCIC in 2008 to ensure peaceful elections, after the results of the country’s 2007 presidential elections led to widespread violence and the displacement of some 600,000 people. Earlier this year, the commission warned that hate speech on social platforms had increased 20 percent in 2022, citing the “misuse of social media platforms to perpetuate ethnic hate speech and incitement to violence.” Experts have warned that this year’s elections are also at risk of becoming violent.

    In June, Global Witness and Foxglove found that Meta continued to approve ads in Amharic targeting Ethiopian users that included hate speech and calls for violence. Facebook has been implicated in spreading hate speech and stoking ethnic violence in Ethiopia’s ongoing conflict.

    Crider argues that Facebook needs to invest more in its moderation practices and protections for democracy. She worries that even the threat of a ban allows the company to deflect accountability for the problems it has left unaddressed.

    “What the researchers did was stress-test Facebook’s systems and proved that what the company was saying was hogwash,” says Madung. The fact that Meta allowed ads on the platform despite a review process “raises questions about their ability to handle other forms of hate speech,” says Madung, including the vast amount of user-generated content that does not require preapproval.

    #Facebook #Modération #Publicité

  • Safer Together: Making Twitch Safer with Shared Ban Info
    https://safety.twitch.tv/s/article/Safer-Together-Making-Twitch-Safer-with-Shared-Ban-Info?language=en_US

    Today, we’re expanding on that work to help flag another type of potentially malicious user, with Shared Ban Info. Shared Ban Info builds on the Suspicious User Controls system and provides a simple way for you to share information about who you’ve banned in your channel with other streamers so you can collaborate to help keep serial harassers out of your communities.

    #jeu_vidéo #jeux_vidéo #réseau_social #réseaux_sociaux #twitch #modération #bannissement #censure #partage #sécurité #collaboration

  • Riot Games commencera à enregistrer les discussions vocales à compter du 13 juillet
    https://www.nextinpact.com/lebrief/69543/riot-games-commencera-a-enregistrer-discussions-vocales-a-compter-13-jui

    À terme, les algorithmes doivent permettre de retrouver les auteurs d’insultes et autres comportements jugés intolérables, mais uniquement sur la base de signalements d’autres joueurs.

    VALORANT Voice Evaluation Update
    https://playvalorant.com/en-us/news/announcements/valorant-voice-evaluation-update

    On July 13 we will begin a background launch of the voice evaluation system in North America/English-only to help train our language models and get the tech in a good enough place for a beta launch later this year.

    Voice evaluation during this period will not be used for disruptive behavior reports. That will only begin with the future beta. And we know that before we can even think of expanding this tool, we’ll have to be confident it’s effective, and if mistakes happen, we have systems in place to make sure we can correct any false positives (or negatives for that matter).

    Riot Games se prépare à enregistrer les dialogues audio des joueurs de League of Legends et de Valorant pour modérer, a posteriori, les propos déplacés.

    #jeu_vidéo #jeux_vidéo #censure #modération #riot_games #jeu_vidéo_lol #jeu_vidéo_league_of_legends #jeu_vidéo_valorant #enregistrement_vocal #audio

  • Avec le métavers, une nouvelle étape dans la difficile lutte contre les agressions sexuelles sur Internet
    https://www.lemonde.fr/pixels/article/2022/06/14/avec-le-metavers-une-nouvelle-etape-dans-la-difficile-lutte-contre-les-agres

    Des cas d’agression sexuelle dans les mondes en réalité virtuelle soulèvent la question de la modération des métavers. Si certains existent depuis longtemps, notamment dans les jeux vidéo, ils n’ont pas pour autant de solution simple.

    Par Lucie Ronfaut

    Elle a également relancé une crainte : celle des agressions, notamment sexuelles, en réalité virtuelle. Andrew Bosworth, directeur technique de Meta, reconnaît lui-même que le harcèlement dans un métavers est « une menace existentielle » pour les ambitions de son entreprise, d’après un mémo confidentiel révélé en novembre par le Financial Times. Il a aussi admis qu’une modération à grande échelle était « pratiquement impossible ».

    « Le choc est le même que dans la vraie vie »

    Ces questions ne sont, pourtant, pas neuves. Les exemples d’agression sexuelle dans des mondes immersifs, qu’il s’agisse ou non d’expériences en réalité virtuelle, sont nombreux. En 2016, une utilisatrice du jeu de tir QuiVR racontait dans un post de blog avoir subi des attouchements à la poitrine par un autre joueur. Et dès 1993, un article du journaliste américain Julian Dibbel, « A Rape in Cyberspace » (« Un viol dans le cyberespace »), décrivait comment un membre d’un « MOO » (Multi-user dimension Object Oriented), une communauté en ligne reposant sur des échanges textuels, avait forcé d’autres joueurs et joueuses à des simulations d’actes sexuels.

    Plus largement, d’après une récente étude de l’institut Ipsos, 41 % des Français (et 81 % des 18-24 ans) ont déjà été victimes de violence en ligne. « En un sens, le harcèlement dans les métavers est motivé par les mêmes facteurs que celui qu’on constate sur d’autres plates-formes : on se sent déconnecté des conséquences de nos actions, explique Katherine Cross, chercheuse américaine en sciences de l’information à l’université de Washington, spécialisée dans le harcèlement en ligne. Mais il existe une différence fondamentale, qui peut rendre cette expérience bien pire : la réalité virtuelle est conçue pour nous faire croire que ce que nous vivons est vrai. »

    Et, au contrôle du contenu produit par les internautes (textes ou images, comme sur un réseau social classique), s’ajoute celui des discussions tenues à l’oral et des comportements physiques. « Dans un métavers, la toxicité prend plein de formes différentes. Il y a le sujet de la voix. Comment repérer une insulte ? Ou si une personne très jeune discute avec d’autres plus âgées ? », détaille Charles Cohen, PDG de Bodyguard, entreprise française spécialisée dans les outils automatiques de modération pour les particuliers et les entreprises. « Et puis, il y a les gestes. Si un avatar en suit un autre, est-ce par jeu, ou s’agit-il de harcèlement ? »

    A défaut de pouvoir contrôler ce genre d’attitudes en direct, la plupart des plates-formes proposent une panoplie d’outils pour améliorer l’expérience des internautes : activer une frontière invisible autour de son corps virtuel, moduler la tessiture de sa voix (si une femme veut se faire passer pour un homme), réduire les autres avatars à des petites boules flottantes… On peut aussi signaler les actions problématiques, comme sur un réseau social, mais encore faut-il avoir enregistré une vidéo à apporter comme preuve.

    L’autre sujet crucial est celui du design. Comment construit-on un univers virtuel qui empêcherait les abus en amont ? Des métavers proposent des avatars sans jambes (évitant ainsi des postures sexuelles), proscrivent certains gestes avec les mains virtuelles (sur la version de base de VRChat, on peut lever son pouce en l’air, mais pas son majeur), prévoient des zones où un avatar devient aussitôt invisible aux yeux des autres, que ce soit pour se protéger ou faire une pause.

    Beaucoup de mondes virtuels choisissent aussi de rappeler leurs règles de manière peu subtile, au travers de posters ou d’avertissements qui s’affichent pendant les temps de chargement. Comme si, en marchant dans la rue, des panneaux nous rappelaient sans cesse qu’il est interdit de gifler autrui.

    La modération est, depuis longtemps, une épine dans le pied des grandes entreprises du Web, accusées de ne pas assez investir pour la sécurité des internautes, et d’avoir conçu des plates-formes impossibles à contrôler. Les métavers, parfois décrits comme notre futur en ligne, pourraient-ils être l’occasion de faire les choses correctement, dès le commencement ? Ou, au contraire, est-on déjà en train de reproduire les erreurs du passé ? « La modération est souvent utilisée comme un pansement pour régler les problèmes structurels des plates-formes, regrette Katherine Cross. On doit construire des métavers qui prennent en compte les abus potentiels dès la première ligne de code. Mais, pour des grosses entreprises comme Meta, malheureusement, la modération restera probablement un sujet auquel on réfléchira après coup. Comme cela a toujours été. »

    #Metavers #Agressions_sexuelles #Modération

  • Algospeak : les influenceurs, bilingues en censure automatisée - Par Thibault Prévost | Arrêt sur images
    https://www.arretsurimages.net/chroniques/clic-gauche/algospeak-les-influenceurs-bilingues-en-censure-automatisee
    https://api.arretsurimages.net/api/public/media/screenshot-2022-05-07-at-04-38-40-creez-des-collages-de-photos-en-ligne/action/show?format=thumbnail&t=2022-05-07T04:39:41+02:00

    Pour échapper aux robots-censeurs, les utilisateurs de TikTok et d’Instagram ont développé leur propre dialecte : l’algospeak. Une nouvelle preuve que, sur internet, même le langage a été privatisé.

    Sur TikTok, personne ne vous entendra parler de sexe, de santé mentale, d’automutilation, de suicide, d’addictions, de viol, d’avortement, de guerre, de violence et, globalement, de tout ce qui est considéré par vos invisibles maîtres algorithmiques comme des sujets « sensibles ». Sur Instagram, même combat. Sur YouTube, pareil. Si vous essayez, ne serait-ce qu’un peu, de mettre ces sujets en avant, dans le titre, le résumé ou le référencement – via les hashtags – de votre vidéo, la sanction tombe : suppression sans préavis, avec le risque que votre chaîne toute entière subisse le même sort pour outrage aux toutes-puissantes Conditions générales d’utilisation (CGU) de la plateforme en question. Ici-bas, code is law, le code fait loi, c’est comme ça et pis c’est tout – et d’ailleurs, de plus en plus souvent, sur les questions de modération, law is code. On ne négocie pas avec un logiciel de modération automatique. Mais de l’autre côté, au bout du clavier, des êtres humains ont des choses à dire sur ces sujets interdits. Alors, comment on fait ? On camoufle la langue, se marrent les créateurs et créatrices de contenu, qui ont apparemment tous pris la LV2 option algorithmes.

    #TikTok #RéseauxSociaux #Langage #Algorithme #Modération #Instagram

  • Will Substack Go Beyond Newsletters? A Company Weighs Its Future. - The New York Times
    https://www.nytimes.com/2022/04/13/business/media/substack-growth-newsletters.html?algo=combo_lda_channelsize5_unique_edimp_f

    Not long ago, Substack haunted mainstream media executives, poaching their star writers, luring their readers and, they feared, threatening their viability. Flush with venture money, the start-up was said to be “the media future.”

    But now, Substack finds itself no longer a wunderkind but a company facing a host of challenges. Depending on whom you talk to, those challenges are either standard start-up growing pains or threats to the company’s future.

    Tech giants, news outlets and other companies have released competing newsletter platforms in the past year. Consumers who loaded up on newsletters during the pandemic began to scale back. And many popular writers left, such as the associate English professor Grace Lavery and the climate journalists Mary Annaïse Heglar and Amy Westervelt, often complaining about the company’s moderation policy or the pressure to constantly deliver.

    “Substack is at a pivot point where it needs to think about what it’s going to be when it grows up,” said Nikki Usher, an associate journalism professor at the University of Illinois Urbana-Champaign.

    The good news for the company, five years old this summer, is that it is still growing. Paid subscriptions to its hundreds of thousands of newsletters exploded to more than one million late last year from 50,000 in mid-2019. (The company won’t disclose the number of free subscribers.) A hiring spree hopes to net more than a dozen engineers, product managers and other specialists. Executives hope to eventually take the company — which has raised more than $82 million and is said to be valued at $650 million — public.

    But to maintain that growth, Substack executives say, the company must offer more than newsletters.

    In practice, that means Substack will be not just a delivery channel for written newsletters but more of a multimedia community. Executives want users to create “personal media empires” using text, video and audio, and communicate with subscribers through expanded comments that could feature GIF images and profiles for readers. This week, Substack announced new tools for writers to recommend other newsletters.

    But as Substack evolves beyond newsletters, it risks looking like another social network or news publisher — which could make it less appealing for writers.

    Ben Thompson, whose tech-focused Stratechery newsletter inspired Substack, wrote last month that Substack has gone from being a “Faceless Publisher” behind the scenes to trying to put “the Substack brand front-and-center,” building up its app as a destination on the backs of writers.

    “This is a way for Substack to draft off of their popularity to build an alternative revenue model that entails readers paying for Substack first, and publishers second, instead of the other way around,” Mr. Thompson wrote.

    Publishing on Substack is free, but writers who charge for subscriptions pay 10 percent of their revenue to Substack and 3 percent to its payment processor, Stripe. The company also offers hefty advances to a small group of writers, whose identities it refuses to divulge.

    Substack has one key difference from most other media companies: It refuses to chase advertising dollars. “Over my dead body,” Mr. McKenzie once wrote. “The antithesis of what Substack wants to be,” Mr. Best said.

    But Substack’s biggest conflict has been over content moderation.

    Mr. McKenzie, a former journalist, describes Substack as an antidote to the attention economy, a “nicer place” where writers are “rewarded for different things, not throwing tomatoes at their opponents.”

    Critics say the platform recruits (and therefore endorses) culture war provocateurs and is a hotbed for hate speech and misinformation. Last year, many writers abandoned Substack over its inaction on transphobic content. This year, The Center for Countering Digital Hate said anti-vaccine newsletters on Substack generate at least $2.5 million in annual revenue. The technology writer Charlie Warzel, who left a job at The New York Times to write a Substack newsletter, described the platform as a place for “internecine internet beefs.”

    Substack has resisted pressure to be more selective about what it allows on its platform. Employees of Twitter who worried that its content moderation policies would be relaxed by Elon Musk, the world’s richest man and the platform’s largest shareholder, were told to not bother applying for jobs at Substack.

    “We don’t aspire to be the arbiter of saying, ‘Eat your vegetables,’” Mr. Best said. “If we agree with or like everything on Substack, that would be falling short of what a healthy intellectual climate looks like.”

    Substack makes it easy for writers to break away, and defectors have a fast-growing collection of competitors waiting to welcome them.

    #Edition #Substack #Newsletter #Modération

  • Twitter déploie son énième tentative pour juguler les rageux
    https://www.numerama.com/tech/736353-twitter-deploie-son-enieme-tentative-pour-juguler-les-rageux.html

    Twitter va progressivement déployer une nouvelle option sur le réseau social qui permet de bloquer automatiquement des comptes, en cas de comportement inapproprié. Cette initiative s’ajoute à la longue liste des actions lancées par la plateforme pour en finir avec certains contenus ou propos offensants.

    #twitter #moderation

  • Facebook’s Secret Rules on Word “Zionist” Impede Criticism of Israel
    https://theintercept.com/2021/05/14/facebook-israel-zionist-moderation

    Obtained by The Intercept, the policies alarmed advocates, who said Facebook is silencing political speech. Facebook’s secret internal rules for moderating the term “Zionist” let the social network suppress criticism of Israel amid an ongoing wave of Israeli abuses and violence, according to people who reviewed the policies. The rules appear to have been in place since 2019, seeming to contradict a claim by the company in March that no decision had been made on whether to treat the term (...)

    #Facebook #antisémitisme #censure #modération

  • Comment Facebook laisse des dirigeants tromper leur population
    https://www.courrierinternational.com/article/revelations-comment-facebook-laisse-des-dirigeants-tromper-le

    Un utilisateur de Facebook ne peut avoir qu’un seul compte. Mais il peut créer plusieurs pages capables de liker, commenter, partager d’autres comptes, et ainsi créer du “faux engagement”. Cette faille dans la réglementation de Facebook contribue à de vastes opérations de manipulation, révèle une enquête du quotidien britannique The Guardian. Facebook a, à plusieurs reprises, laissé des dirigeants et des personnalités politiques tromper la population ou harceler des opposants sur sa plateforme, bien que (...)

    #Facebook #manipulation #modération

  • Facebook’s A.I. Whiz Now Faces the Task of Cleaning It Up. Sometimes That Brings Him to Tears.
    https://www.nytimes.com/2019/05/17/technology/facebook-ai-schroepfer.html

    Facebook has heralded artificial intelligence as a solution to its toxic content problems. Mike Schroepfer, its chief technology officer, says it won’t solve everything. MENLO PARK, Calif. — Mike Schroepfer, Facebook’s chief technology officer, was tearing up. For half an hour, we had been sitting in a conference room at Facebook’s headquarters, surrounded by whiteboards covered in blue and red marker, discussing the technical difficulties of removing toxic content from the social network. (...)

    #algorithme #manipulation #modération #addiction

  • Modération en ligne : des ONG appellent le Parlement européen à rejeter le règlement contre les contenus terroristes
    https://www.lemonde.fr/pixels/article/2021/03/25/moderation-en-ligne-des-ong-appellent-le-parlement-europeen-a-rejeter-le-reg

    Une soixantaine d’organisations de défense des droits de l’homme estiment que le texte, qui doit être débattu le mois prochain, menace la liberté d’expression, la liberté d’information, le droit à la vie privée et l’Etat de droit. Une soixantaine d’organisations non gouvernementales (ONG) de défense des droits de l’homme, dont Human Rights Watch, Reporters sans frontières et Amnesty International, ont exhorté, jeudi 25 mars dans une lettre ouverte, les eurodéputés à rejeter le projet de règlement européen (...)

    #algorithme #censure #manipulation #législation #modération #AmnestyInternational #HumanRightsWatch (...)

    ##RSF

  • Les PDG de Facebook, Google et Twitter en accusation devant le Congrès américain pour leur rôle dans la désinformation
    https://www.lemonde.fr/economie/article/2021/03/26/zuckerberg-pichai-dorsey-les-pdg-des-reseaux-sociaux-en-accusation-au-congre

    Quatrième comparution en un an pour Mark Zuckerberg, troisième pour Sundar Pichai et Jack Dorsey : les PDG ont répondu, jeudi, aux questions des élus américains. Quatrième comparution en un an pour Mark Zuckerberg, troisième pour Sundar Pichai et Jack Dorsey : les PDG de Facebook, Google et Twitter ont répondu, jeudi 25 mars, aux questions des élus du Congrès des Etats-Unis – cette fois, il s’agissait de la commission de la Chambre des représentants sur l’énergie et le commerce. Un exercice convenu, (...)

    #Alphabet #Google #Facebook #Twitter #YouTube #algorithme #manipulation #censure #domination #élections #modération (...)

    ##addiction

  • Facebook guidelines allow users to call for death of public figures
    https://www.theguardian.com/technology/2021/mar/23/facebook-guidelines-allow-for-users-to-call-for-death-of-public-figures

    Exclusive : public figures considered to be permissible targets for otherwise-banned abuse, leaked moderator guidelines show Facebook’s bullying and harassment policy explicitly allows for “public figures” to be targeted in ways otherwise banned on the site, including “calls for [their] death”, according to a tranche of internal moderator guidelines leaked to the Guardian. Public figures are defined by Facebook to include people whose claim to fame may be simply a large social media following (...)

    #Facebook #Instagram #manipulation #modération #SocialNetwork

    https://i.guim.co.uk/img/media/9609ba0f02616855206ac2515e9e55950ccc0f61/0_0_5000_3000/master/5000.jpg

  • Facebook leak underscores strategy to operate in repressive regimes
    https://www.theguardian.com/technology/2021/mar/23/facebook-leak-underscore-strategy-operate-repressive-regimes

    Exclusive : users are allowed to praise mass killers and ‘violent non-state actors’ in certain situations Facebook users are permitted to praise mass murderers and “violent non-state actors” in certain situations, according to internal guidelines that underline how the tech corporation is striving to operate in repressive regimes. The leak also reveals that Facebook maintains a list of “recognised crimes” and instructs its moderators to distinguish between those and “crimes not recognised by (...)

    #Facebook #algorithme #criminalité #manipulation #modération #extrême-droite #QAnon

    ##criminalité
    https://i.guim.co.uk/img/media/d97483ec3a1093c63d07fa7a0f3e93cf68b88d09/0_0_3892_2335/master/3892.jpg

  • Les vies brisées du numérique
    https://blogs.mediapart.fr/geographies-en-mouvement/blog/240321/les-vies-brisees-du-numerique

    Distanciel, visioconférences, télétravail, tracing, 5G : des concepts qui, depuis un an, ont pris une place considérable dans notre quotidien. Ils traduisent une emprise croissante du numérique sur nos existences. Mais dans les débats, de grands absents demeurent : les travailleurs derrière l’industrie du numérique. Deux ouvrages récents jettent un peu de lumière sur le sujet. Si le numérique fait incontestablement partie des gagnants de la pandémie de covid-19, les petites mains qui le font tourner (...)

    #algorithme #smartphone #5G #écologie #manipulation #minerais #modération #addiction #GAFAM #GigEconomy #harcèlement #microtargeting #santé #télétravail (...)

    ##santé ##travail

  • Platforms like YouTube have tried to combat harassment against women. It’s not working
    https://www.codastory.com/authoritarian-tech/misogyny-harassment-youtube-twitch

    Accusations of misogynistic comments and threats of rape are common on popular streaming and social media platforms like Youtube and Twitch where moderation policies don’t go far enough Last June the gaming industry had a moment of reckoning. Starting as a trickle, female and non-binary online gamers and streamers began posting stories of online and offline harassment by men, a problem they said was rife across the industry. Accusations of misogynistic comments, threats of rape, revenge (...)

    #Reddit #Twitter #YouTube #jeu #modération #sexisme #violence #harcèlement #surveillance #viol (...)

    ##travail

  • Aux Etats-Unis, la réforme de la législation d’Internet est lancée
    https://www.lemonde.fr/economie/article/2021/02/15/aux-etats-unis-la-reforme-de-la-legislation-d-internet-est-lancee_6070007_32

    Les démocrates ont déposé au Sénat le Safe Tech Act, premier projet de loi de l’ère Biden sur la limitation du pouvoir des entreprises technologiques. Comme ils l’avaient promis pendant la campagne électorale de 2020, les démocrates américains sont partis à l’attaque contre l’impunité dont jouissent les grandes plates-formes numériques. Au vu de la pandémie et de la situation économique, la Silicon Valley espérait que la réglementation du secteur des technologies passerait au second rang des priorités de (...)

    #manipulation #législation #modération #extrême-droite #Section230 #SafeTechAct

  • Troll hunter - Le Monolecte
    https://blog.monolecte.fr/2021/02/14/troll-hunter
    https://blog.monolecte.fr/wp-content/uploads/2021/02/eliandstevePT.webp

    Sur internet, il n’y a personne et en même temps, il y a tout le monde. Tu peux éclater la gueule de quelqu’un à grands coups d’insultes ou de rhétorique tordue, tu peux harceler ou invisibiliser, tu peux démolir systématiquement une personne, son œuvre, sa pensée, sa vie, comme ça, bien tranquille derrière ton clavier, sans aucune espèce de conscience, sans ne jamais être exposé aux conséquences. Tu peux décharger ta frustration, ta colère, ta haine, ton trop-plein de merditude, sans l’impact sourd du gnon dans la bidoche, sans les cris qui pètent le tympan, sans le sang et les ratiches qui te sautent à la gueule. Tu peux boxer sans te niquer les jointures et sans risquer de te faire éclater la tronche ou réajuster le portrait.
    Sauf que ce n’est pas aussi simple que ça.

  • Facebook moderators ’told not to discuss working conditions’
    https://www.theguardian.com/technology/2021/feb/11/facebook-moderators-say-they-were-told-not-to-discuss-covid-working-con

    Workers in Dublin office claim US company used NDAs to try to stop them talking to Leo Varadkar Facebook has been accused of using nondisclosure agreements to try to build a “wall of secrecy” and prevent its moderators from discussing working conditions with Leo Varadkar, the Irish tánaiste (deputy PM). The moderators claim that Facebook warned them they could not break a nondisclosure agreement (NDA) they had signed with the company during discussions with Varadkar, and warned them that any (...)

    #Facebook #modération #GigEconomy #surveillance #travail

    https://i.guim.co.uk/img/media/467848479bcb47b2fece7f7cfd7991101c2caf86/0_145_6000_3600/master/6000.jpg

  • Facebook durcit ses règles de modération contre les intox sur la vaccination
    https://www.lemonde.fr/pixels/article/2021/02/08/facebook-durcit-ses-regles-de-moderation-contre-les-intox-sur-la-vaccination

    Le réseau social a annoncé lundi une série de mesures de soutien aux campagnes de vaccination contre le Covid-19, lesquelles s’appliqueront également à Instagram. Facebook supprimera désormais toute une série d’affirmations mensongères sur le Covid-19 et la vaccination, a annoncé ce 8 février l’entreprise dans un communiqué, en complément d’une série de mesures visant à promouvoir les politiques de vaccination. Le réseau social supprimera désormais les messages affirmant que le coronavirus « est produit en (...)

    #Facebook #manipulation #censure #modération #COVID-19 #santé

    ##santé

  • Facebook bans misinformation about all vaccines after years of controversy
    https://www.theguardian.com/technology/2021/feb/08/facebook-bans-vaccine-misinformation

    Company will remove posts with false claims and groups with repeated violations will be shut down Facebook has banned misinformation about all vaccines following years of harmful, unfounded health claims proliferating on its platform. As part of its policy on Covid-19-related misinformation, Facebook will now remove posts with false claims about all vaccines, the company announced in a blogpost on Monday. These new community guidelines apply to user-generated posts as well as paid (...)

    #Facebook #censure #modération #extrême-droite #santé

    ##santé
    https://i.guim.co.uk/img/media/c073f4960de208d95f95b6ab3c44d4792d378fe5/0_100_4000_2400/master/4000.jpg

  • Facebook et WhatsApp, où l’art de vous trahir
    https://www.pixeldetracking.com/fr/facebook-whatsapp-trahir-confiance

    Sa position dominante acquise, Facebook a pu imposer sa surveillance. L’histoire se répète maintenant avec WhatsApp Le pire du capitalisme de surveillance Je n’avais encore jamais écrit sur Facebook, et pourtant cette société représente ce qui se fait de pire dans le domaine de la surveillance publicitaire. Les conséquences de sa domination sont graves : Addictions : Les équipes produit de Facebook ont pour objectif ultime de faire croître l’engagement. Plus vous passez de temps sur ses (...)

    #Facebook #Instagram #MySpace #Signal #WhatsApp #algorithme #domination #BigData #modération #GigEconomy #santé #travail #censure (...)

    ##santé ##addiction