How Oracle Sells Repression in China
▻https://theintercept.com/2021/02/18/oracle-china-police-surveillance
In its bid for TikTok, Oracle was supposed to prevent data from being passed to Chinese police. Instead, it’s been marketing its own software for their surveillance work. Police in China’s Liaoning province were sitting on mounds of data collected through invasive means : financial records, travel information, vehicle registrations, social media, and surveillance camera footage. To make sense of it all, they needed sophisticated analytic software. Enter American business computing giant (...)
#Oracle #TikTok #BigData #Walmart #surveillance #HumanRightsWatch #géolocalisation #prédiction #écoutes #Microsoft #Palantir #Amazon #IBM #Predpol #DataBrokers #Huawei (...)
##ZTE
Technology Can’t Predict Crime, It Can Only Weaponize Proximity to Policing
▻https://www.eff.org/deeplinks/2020/09/technology-cant-predict-crime-it-can-only-weaponize-proximity-policing
In June 2020, Santa Cruz, California became the first city in the United States to ban municipal use of predictive policing, a method of deploying law enforcement resources according to data-driven analytics that supposedly are able to predict perpetrators, victims, or locations of future crimes. Especially interesting is that Santa Cruz was one of the first cities in the country to experiment with the technology when it piloted, and then adopted, a predictive policing program in 2011. That (...)
#Palantir #Predpol #algorithme #racisme #criminalité #justice #prédiction #discrimination #EFF (...)
]]>La police prédictive progresse en France. Exigeons son interdiction !
►https://technopolice.fr/blog/la-police-predictive-progresse-en-france-exigeons-son-interdiction
Pendant que les dispositifs de police prédictive (comme PredPol) commencent à être interdits ou abandonnés aux États-Unis, la police française et plusieurs collectivités continuent à acheter et utiliser des équivalents français, à l’image de « Map Révélation » proposé par l’entreprise angevine « Sûreté Globale ». Cela au détriment des risques de discriminations qu’impliquent ces logiciels de surveillance, et en l’absence même de toute preuve de leur intérêt. Comme pour la reconnaissance faciale, les logiciels de (...)
#algorithme #Predpol #police #racisme #technologisme #données #prédiction #biais #BigData #discrimination #CNIL #LaQuadratureduNet (...)
]]>California city bans predictive policing in U.S. first
▻https://www.reuters.com/article/us-usa-police-tech-trfn/california-city-bans-predictive-policing-in-u-s-first-idUSKBN23V2XC
NEW YORK (Thomson Reuters Foundation) - As officials mull steps to tackle police brutality and racism, California’s Santa Cruz has become the first U.S. city to ban predictive policing, which digital rights experts said could spark similar moves across the country. “Understanding how predictive policing and facial recognition can be disportionately biased against people of color, we officially banned the use of these technologies in the city of Santa Cruz,” Mayor Justin Cummings said on (...)
#algorithme #CCTV #biométrie #facial #prédiction #reconnaissance #vidéo-surveillance #biais #pauvreté #surveillance #police (...)
]]>États-Unis : la reconnaissance faciale accusée de favoriser les biais racistes
▻https://www.franceculture.fr/societe/etats-unis-la-reconnaissance-faciale-accusee-de-favoriser-les-biais-ra
D’abord IBM, puis Amazon et Microsoft. Dans le sillage de Black Lives Matter, les géants américains du numérique arrêtent ou suspendent leurs projets dans la reconnaissance faciale, accusée de reproduire des biais ethniques lorsqu’elle est utilisée par la police. C’est une technologie qui n’a plus le vent en poupe aux États-Unis. La reconnaissance faciale, adoptée par de nombreuses polices pour identifier et trouver plus rapidement des suspects, est aujourd’hui accusée d’aggraver les discriminations (...)
#Google #Microsoft #MIT #IBM #FBI #Amazon #GoogleImages #algorithme #CCTV #Predpol #Rekognition #biométrie #racisme #facial #prédiction #reconnaissance #BlackLivesMatter #discrimination #lobbying #MinorityReport (...)
##sexisme
LAPD pioneered predicting crime with data. Many police don’t think it works - Los Angeles Times
https://www.latimes.com/local/lanow/la-me-lapd-precision-policing-data-20190703-story.html
The Los Angeles Police Department took a revolutionary leap in 2010 when it became one of the first to employ data technology and information about past crimes to predict future unlawful activity. Other departments around the nation soon adopted predictive policing techniques. But the widely hailed tool the LAPD helped create has come under fire in the last 18 months, with numerous departments dumping the software because it did not help them reduce crime and essentially provided (...)
#LAPD #algorithme #Predpol #criminalité #police #prédiction #discrimination #technologisme
##criminalité
https://ca-times.brightspotcdn.com/dims4/default/c9a94e1/2147483647/strip/true/crop/2048x1075+0+158/resize/1200x630!/quality/90
LAPD to end controversial program that aimed to predict crime - Los Angeles Times
▻https://www.latimes.com/california/story/2020-04-21/lapd-ends-predictive-policing-program
Los Angeles Police Chief Michel Moore announced Tuesday that, in light of financial constraints caused by the coronavirus outbreak, the department would stop using a controversial program that predicts where property crimes could occur throughout the city. Critics say the predictive-policing program, called Pred-Pol, has led to heavier policing of minority neighborhoods. Moore has said in the past that he disagrees with the view that the program unfairly targets Latino and black (...)
#Predpol #algorithme #LAPD #racisme #police #pauvreté #discrimination #prédiction #criminalité
##pauvreté ##criminalité
▻https://ca-times.brightspotcdn.com/dims4/default/466cca9/2147483647/strip/true/crop/2048x1075+0+110/resize/1200x630!/quality/90
Marseille’s fight against AI surveillance - Coda Story
▻https://www.codastory.com/authoritarian-tech/ai-surveillance-france-crime
The southern French city, once synonymous with urban crime, now encapsulates the spread of AI surveillance driven by Chinese companies In 2016, Netflix launched its first European production – a twisty political drama titled “Marseille.” Set in the historic port city, the series starred Gerard Depardieu and was supposed to be France’s answer to the hit U.S. TV show House of Cards. Instead ‘Marseille’ was widely panned for amplifying stereotypes about the city and reheating its former notoriety (...)
#Engie #Huawei #ZTE #algorithme #backdoor #CCTV #Predpol #SmartCity #biométrie #criminalité #émotions #facial #prédiction #reconnaissance #vidéo-surveillance #BigData #surveillance #discrimination #LaQuadratureduNet (...)
]]>A pioneer in predictive policing is starting a troubling new project
▻https://www.theverge.com/2018/4/26/17285058/predictive-policing-predpol-pentagon-ai-racial-bias
Pentagon-funded research aims to predict when crimes are gang-related Jeff Brantingham is as close as it gets to putting a face on the controversial practice of “predictive policing.” Over the past decade, the University of California-Los Angeles anthropology professor adapted his Pentagon-funded research in forecasting battlefield casualties in Iraq to predicting crime for American police departments, patenting his research and founding a for-profit company named PredPol, LLC. PredPol (...)
#algorithme #Predpol #criminalité #discrimination #surveillance
]]>Vers des villes politiquement intelligentes
▻http://www.internetactu.net/2019/07/10/vers-des-villes-politiquement-intelligentes
Ingénieur, data scientist, spécialiste en mathématiques appliqués, chercheur au Berkman Klein Center pour l’internet et la société de Harvard, spécialiste de la ville intelligente, Ben Green (@benzevgreen) pourrait avoir le parfait profil du technosolutionniste. C’est pourtant tout le contraire qu’on découvre dans son livre The smart enough city (qu’on pourrait traduire sous le titre de La ville avec juste ce qu’il faut d’intelligence ou La ville suffisamment intelligente) qui vient de paraître aux MIT (...)
#Waze #algorithme #Predpol #solutionnisme #criminalité #BigData #santé
##criminalité ##santé
/assets/images/logo_ia.png
Prédiction des crimes : « Les algorithmes reflètent les discriminations »
▻https://usbeketrica.com/article/prediction-des-crimes-les-algorithmes-refletent-les-discriminations
« Le futur est déjà dans le présent. » La promesse du narrateur du film Pre-crime n’est guère réjouissante. Car le futur évoqué ressemble à celui de Minority Report. Comme dans l’oeuvre de Spielberg, des logiciels essayent aujourd’hui de prédire les crimes avant qu’ils n’arrivent, se nourrissant pour cela d’énormes quantités de données. Ce qui s’accompagne de nombreux dangers éthiques liés entre autres à nos données personnelles, explique le documentaire, qui sera diffusé le 28 octobre lors du festival (...)
#DGSE #DGSI #Thalès #Twitter #algorithme #Predpol #criminalité #solutionnisme #surveillance #BigData #discrimination (...)
]]>Pre-Crime
▻https://precrime-film.com
What if the murder of tomorrow could be prevented today ? To predict a future crime scene and to prevent a murder seems like something from a sci-fi movie. It is, but it’s also real – and happening right now. To make this possible, powerful computers and omnipresent cameras capture data from all sources, which is then evaluated and analyzed with the help of algorithms. At the same time, we, the citizens are transformed into carriers of recorded data – our every move, message and purchase (...)
#algorithme #Predpol #BigData #criminalité #justice #surveillance #MinorityReport
]]>Palantir : livre-t-on nos secrets à nos alliés américains ?
▻https://www.franceculture.fr/numerique/palantir-livre-t-nos-secrets-a-nos-allies-americains
Une société américaine d’analyse de données, Palantir, travaille pour le compte des services antiterroristes français, et des entreprises stratégiques, comme Airbus. Existe-t-il des risques de fuites de données vers les États-Unis ? Enquête sur l’une des start-up les plus puissantes du monde. 23 mai 2018. Une cinquantaine de patrons de géants du numérique sont invités par le chef de l’État, Emmanuel Macron, lors d’une réunion baptisée Tech for good. Parmi eux, un homme aux cheveux en bataille : Alexander (...)
#Airbus #CambridgeAnalytica #Boeing #Palantir #Facebook #Paypal #algorithme #Predpol #criminalité #écoutes #données #métadonnées #web #surveillance #BigData #NSA #CIA (...)
##criminalité ##FBI
Face aux algorithmes, « défendre les médiocres et ceux qui sont dans la moyenne »
▻https://www.mediapart.fr/journal/culture-idees/010918/face-aux-algorithmes-defendre-les-mediocres-et-ceux-qui-sont-dans-la-moyen
Premier article d’une série consacrée aux algorithmes et à leur utilisation par les pouvoirs publics. Pour le sociologue Dominique Cardon, l’algorithme accompagne l’évolution d’une société marquée par une individualisation des rapports et une dérive vers la méritocratie. « Algorithme » est devenu un des principaux mots-totems de notre société, un terme mystérieux dont peu de gens sont capables de donner une définition claire mais investi d’un fort pouvoir symbolique. L’algorithme est censé être partout dans (...)
#CambridgeAnalytica #Google #Facebook #GoogleSearch #algorithme #Predpol #criminalité #données #surveillance #BigData #profiling #contrôle (...)
]]>Taser Will Use Police Body Camera Videos “To Anticipate Criminal Activity”
►https://theintercept.com/2017/04/30/taser-will-use-police-body-camera-videos-to-anticipate-criminal-activi
When civil liberties advocates discuss the dangers of new policing technologies, they often point to sci-fi films like “RoboCop” and “Minority Report” as cautionary tales. In “RoboCop,” a massive corporation purchases Detroit’s entire police department. After one of its officer gets fatally shot on duty, the company sees an opportunity to save on labor costs by reanimating the officer’s body with sleek weapons, predictive analytics, facial recognition, and the ability to record and transmit live (...)
#Taser #Microsoft #algorithme #criminalité #sécuritaire #activisme #surveillance #vidéo-surveillance #IBM #Minority_Report #Predpol #Ntechlab (...)
]]>#police_prédictive : deux chercheurs démontent l’algorithme
▻https://www.mediapart.fr/journal/international/130916/police-predictive-deux-chercheurs-demontent-l-algorithme
PredPol, la société californienne leader du marché, s’est inspirée d’un algorithme de prédiction des répliques de tremblements de terre créé par le sismologue David Marsan. Mais selon les calculs du sociologue Bilel Benbouzid, il s’agit plus d’un outil de management des effectifs que d’un réel algorithme de prédiction des crimes.
]]>#police_prédictive : deux chercheurs démontent l’algorithme
▻https://www.mediapart.fr/journal/international/130916/police-predictive-deux-chercheurs-demontent-lalgorithme
PredPol, la société californienne leader du marché, s’est inspirée d’un algorithme de prédiction des répliques de tremblements de terre créé par le sismologue David Marsan. Mais selon les calculs du sociologue Bilel Benbouzid, il s’agit plus d’un outil de management des effectifs que d’un réel algorithme de prédiction des crimes.
]]>Reportage diffusé lors de la Nocturne BigOpenData de #Pénombre jeudi 31 mars 2016.
Pénombre et le Prof. #Statone vous offrent Uber et l’argent d’Uber
▻http://www.dailymotion.com/video/x41rboj_pasnet-net_news
Police prédictive : la prédiction des banalités | InternetActu
►http://internetactu.blog.lemonde.fr/2015/06/27/police-predictive-la-prediction-des-banalites
Pourtant, on trouve peu d’études critiques sur les résultats mêmes de #Predpol. Notamment parce que si la société communique beaucoup, elle livre bien peu de données. Comme si son algorithme secret devait être parfait parce que secret.
D’où l’idée d’Ismaël Benslimane, qui dans le cadre d’un master en physique à l’université Joseph-Fourier de Grenoble et en tant que membre du CorteX, un collectif d’enseignement et de recherche en esprit critique, de s’attaquer aux résultats mêmes de Predpol - Cortex est une association de chercheurs qui cherche à créer du débat public par l’analyse critique et scientifique.
Bien sûr, le chercheur grenoblois n’a pas eu accès aux données de Predpol. Mais il a utilisé des données accessibles comparables et la rare littérature grise publiée par les scientifiques de Predpol pour construire un modèle similaire et l’interroger avec d’autres types d’algorithmes. Dans son remarquable et très accessible article (voir également cette présentation .pdf et cet article plus technique (.pdf)), Ismaël Benslimane dresse une très convaincante critique des limites de Predpol, en soulignant que l’algorithme de la société américaine prédit surtout de bien piètres banalités. A l’heure où se profile un PredPol à la française, comme le révélait il y a peu Mediapart, voilà l’occasion de nous intéresser concrètement aux limites de ces outils.
L’article « simple » et sa conclusion
Predpol : prédire des crimes ou des banalités ? | Collectif de Recherche Transdisciplinaire Esprit Critique & Sciences
►http://cortecs.org/mathematiques/predpol-predire-des-crimes-ou-des-banalites
Conclusion
Les résultats obtenus avec l’analyse rétrospective, nous permettent d’avoir de sérieux doutes sur l’efficacité propre de Predpol en condition réelle. Ceci amène à continuer l’investigation en recontactant les auteurs des études (Predpol Inc, 2013 et Mohler, 2014) afin de les confronter à nos résultats. D’autres suites seront envisageables selon leur réponse.
Au-delà des aspects les plus techniques, on peut se demander, si la démarche de Predpol ne désyncrétise pas la question de la criminalité en laissant penser qu’il suffit de prédire les délits pour en diminuer le nombre. Predpol et sa médiatisation véhiculent ainsi une idée répandue, « simple » et séduisante oubliant de facto les facteurs sociologiques amenant aux comportements délictueux. La question fondamentale des inégalités de répartition des richesses est, par exemple, rarement débattue. En effet, cette réflexion est beaucoup plus impliquante à long terme qu’un logiciel spectaculaire.
L’article « technique »
▻http://cortecs.org/wp-content/uploads/2014/10/rapport_stage_Ismael_Benslimane.pdf
(avec la même conclusion)