#nossystemes

Il est plus que temps que le #big_data évalue ses impacts
▻http://www.internetactu.net/il-est-plus-que-temps-que-le-big-data-evalue-ses-impacts

Cathy O’Neil est data scientist (blog, @mathbabedotorg). Docteur en mathématique de Harvard, elle vient de publier un livre intitulé Armes de destruction matheuses expliquant comment les Big Data augmentent les inégalités et menacent la démocratie, comme le soulignait une récente interview d’elle dans Rue89. Elle a beau être une spécialiste (...)

#Articles #Débats #algorithmes #confiance #Confiance_et_sécurité #Economie_et_marchés #eDémocratie #éthique #nossystemes #politiques_publiques #usi

Machines à biais - Propublica
▻http://alireailleurs.tumblr.com/post/144849747113

http://66.media.tumblr.com/b5badac32a0e3731ef85de3eab960cae/tumblr_inline_o7o9ynK6qL1qz6b8d_540.png

Sur Propublica, la journaliste Julia Angwin et le responsable données Jeff Larson signent une terrible enquête sur les biais racistes des #algorithmes de prédiction des crimes (voir également “Quel est votre score de menace ?”). Ils évoquent en introduction un terrible exemple entre une jeune femme noire arrêtée pour un vol et un homme blanc d’une quarantaine d’année arrêté pour un crime similaire et condamné d’une manière proche. Le second ayant plus d’antécédents criminels que la première. Et bien le programme algorithmique utilisé par la police pour leur attribuer un score de menace classe la jeune femme comme bien plus à risque que l’homme. Deux ans plus tard, la jeune femme n’a pas commis d’autres crimes, alors que l’homme lui a été condamné pour un autre crime à 8 ans de prison. L’évaluation automatique (...)

#surveillance #nossystemes #société #police_prédictive

Au-delà du code : vers l’âge de l’”intrication”
▻http://www.internetactu.net/2016/05/20/au-dela-du-code-vers-lage-de-lintrication

Pour beaucoup, l’art de la #programmation est le sésame nécessaire à la compréhension du monde moderne… et à un emploi bien rémunéré. Le fameux débat autour de l’apprentissage du code à l’école en est d’ailleurs l’illustration la plus évidente. Et si les jours du “codeur” étaient comptés ? C’est la question que pose le journaliste Jason Tanz (@jasontanz) dans un récent…

#algorithmie #éducation #bidouillabilité #complexité #culture #design #empowerment #IHM #intelligence_artificielle #intelligence_des_données #machine_learning #NosSystèmes #prospective #vie_artificielle

Quand faut-il faire confiance aux robots qui prennent des décisions ? - Harvard Business Review
▻http://alireailleurs.tumblr.com/post/144544801874

http://66.media.tumblr.com/f0600341fe28e0c76472570013f3c48e/tumblr_inline_o7bvoqEhnM1qz6b8d_540.png

Sur la Harvard Business Review, Vasant Dhar (@vasantdhar), scientifique des données et spécialiste en #analyse_prédictive, éditeur du Journal Big Data, explique qu’un bon moyen d’évaluer la confiance que l’on peut avoir dans les algorithmes et les systèmes de recommandation automatisés consiste à tenter de mesurer leur caractère prédictif et le coût de leurs erreurs. La prévisibilité consiste à distinguer les systèmes dont la #prédiction peut-être proche de l’aléatoire et qui peuvent progresser de manière marginale, des systèmes déterministes. Le calcul du coût des erreurs, lui, consiste à évaluer le coût des erreurs des systèmes automatisés (très faible pour un filtre anti-spam, pour la publicité ou pour le trading à haute fréquence et bien plus élevé pour un système de voiture autonome ou le pilotage de (...)

#nossystemes

Comment les #big_data nuisent aux communautés les plus pauvres - The Atlantic
▻http://alireailleurs.tumblr.com/post/142835537692

Beaucoup a déjà été dit sur la surveillance des plus pauvres par les technologies de contrôle (voir notamment “Pourquoi les Big data nous angoissent”). Et l’article de The Atlantic signé par Kaveh Waddell n’apprendra pas grand chose à la plupart d’entre vous. Il rappelle que les communautés les plus démunies sont aussi les plus surveillées : on contrôle leur capacité à obtenir des prestations sociales, on surveille leurs comportements (enfance, délinquance, consommation de stupéfiants, visites à domiciles…)… Les plus pauvres s’inscrivent dans un cycle de surveillance où les aides qu’ils peuvent recevoir dépendent de leur acceptation de la surveillance. Dans ce cycle qui se referme sur eux, il suffit d’une défaillance (une arrestation notamment) pour que toute la machine des prestations se grippe. Si une (...)

#pauvreté #inégalités #NosSystèmes

Le #marketing programmatique appliqué au recrutement - Usine Digitale
▻http://alireailleurs.tumblr.com/post/142394982305

Christophe Bys pour Usine Digitale revient sur l’annonce par le cabinet de recrutement Michael Page de l’utilisation du marketing programmatique appliquée au recrutement. Le marketing programmatique n’est rien d’autre que l’achat automatisé d’espaces publicitaires en temps réel sur le web depuis le croisement entre les données et préférences de l’acheteur et de celui qui propose l’espace, mais plutôt que de s’appliquer uniquement au marketing classique, commence à toucher d’autres secteurs. “Ainsi, appliqué à l’emploi, cela revient à pousser auprès des candidats en recherche active ou passive, c’est-à-dire ceux qui sont en poste et qui ne cherchent pas vraiment un nouvel emploi, une offre qui pourrait les intéresser.” L’offre d’emploi vient ainsi jusqu’aux candidats potentiels, permettant de toucher des (...)

#profils #nossystemes #scoring #big_data #donneespersonnelles

Des algorithmes pour surveiller... la police - FiveThirtyEight
▻http://alireailleurs.tumblr.com/post/140959096625

Dans le domaine de la police du futur, les annonces vont souvent dans le même sens : effrayantes. #police_prédictive, extensions des formes de #surveillance (notamment via les caméras pour policiers), détermination de votre niveau de menace (ou de risque)… C’est pourquoi l’annonce du conseil municipal de Charlotte, en Caroline du Nord (Wikipédia), visant à appliquer les systèmes prédictifs utilisés par la police à la police elle-même, est intéressante, notamment parce qu’elle retourne les outils utilisés par la police contre la police tout en trouvant des modalités concrètes pour augmenter les contreparties citoyennes au développement de la société de surveillance. Rob Arthur pour FiveThirtyEight, revient sur les débats qui ont agité le conseil municipal de la ville américaine pour autoriser des scientifiques (...)

#NosSystèmes #citoyenneté

De la difficulté d’être agréable à chacun - TasteHit
▻http://alireailleurs.tumblr.com/post/140900926676

http://56.media.tumblr.com/9d0ddfd08f495850718adde8b82c8b64/tumblr_inline_o3s8liRwY81qz6b8d_540.jpg

Sur le blog de sa société, Christophe Burger de la société TasteHit, qui développe un #moteur_de_recommandation de produits, revient sur les limites des moteurs de recommandation. Il est difficile de plaire à tout le monde, rappelle le développeur. Si les systèmes de recommandations fonctionnent bien pour la plupart des gens et la plupart du temps, ils ne sont pas parfaits, notamment pour certains utilisateurs. Le problème est lié à la façon même dont on mesure la performance, estime-t-il. “Lorsque vous proposez un film à un ami, votre objectif est clair : faire la meilleure recommandation possible pour votre ami. L’objectif pour les systèmes de recommandation en ligne est moins clair : même si les recommandations sont servis individuellement, la performance est mesurée à travers tous les (...)

#NosSystèmes

De la prédiction en ses limites - ArXiv
▻http://alireailleurs.tumblr.com/post/139041745575

Quelle est la fiabilité de la prédiction dans les systèmes sociaux complexes ? Si les réseaux sociaux sont de plus en plus utilisés pour faire de la prédiction, on connait très mal les limites de ces prédictions, expliquent dans une étude disponible sur ArXiv les chercheurs Travis Martin, Jake Hoffman, Amit Sharma, Ashton Anderson et Duncan Watts. Le taux d’erreur des modèles prédictifs reposent souvent sur l’insuffisance des données ou des modèles disponibles ou sur l’imprévisibilité inhérente aux systèmes sociaux complexes. Les chercheurs ont utilisé ces limites pour faire une étude prédictive sur la taille de l’information en cascade sur Twitter. Malgré un volume d’information énorme sur les utilisateurs, les contenus ou les résultats passés, les meilleurs modèles qu’on produit les chercheurs expliquent (...)

#nossystemes #analyse_prédictive

Les #algorithmes contre le chômage ? - Le Figaro
▻http://alireailleurs.tumblr.com/post/138219265798

http://40.media.tumblr.com/22f9d1ac8df898c333e37ef3b2cafde6/tumblr_inline_o1o5nqOZTW1qz6b8d_540.jpg

Effectivement, la mise en relation entre l’offre et la demande, sur le site Pôle Emploi peut certainement être grandement améliorée. C’est ce que souhaite faire le jeune data scientist Paul Duan, rapporte le Figaro, dont l’organisation non-profit qu’il a lancé, Bayes Impact - qui se veut un nouvel acteur du service public à l’image des nombreuses associations américaines qui travaillent à la construction de l’innovation publique - vient de signer un partenariat avec Pôle Emploi (notamment son laboratoire d’innovation). L’enjeu est de développer un système personnalisé, permettant de proposer à chaque demandeur d’emploi des offres et des formations plus adaptées à son profil. De là à avancer qu’un simple algorithme pourrait réduire le chômage d’au moins 10% comme on l’a clamé une récente Une de Society (mais le (...)

#nossystemes #emplois #innovation_washing

Qui est l’objet de l’internet des objets ? - Iohanna Nicenboim
▻http://alireailleurs.tumblr.com/post/138088482643

http://33.media.tumblr.com/1895d89d3377fdd1d698e03fca1f425d/tumblr_inline_o1kfh2xf9B1qz6b8d_500.gif

Dans le cadre de son projet de fin d’étude, la designer Iohanna Nicenboim (@iohanna_ed) s’est intéressée à renverser la question de l’internet des objets, en faisant des humains l’objet de l’internet des objets. A l’heure où les objets sont appelés à devenir de plus en plus autonomes, à anticiper nos besoins, à agir à notre place, quelles sont les implications de ce pouvoir ? Comment transforment-ils en retour les humains eux-mêmes en objets ? Pour donner corps à ces interrogations, la designer a imaginé 4 objets connectés. Le premier, l’échelle de la motivation, consiste à imaginer des objets qui se servent des humains comme terreau d’expérimentation, comme le fait Facebook de ses utilisateurs. Iohanna Nicenboim propose une balance qui manipule le poids qu’elle nous indique, afin de mesurer nos réactions (...)

#design #internetdesobjets #iot #nossystemes

Réinventer l’évaluation du risque ? - Quartz
▻http://alireailleurs.tumblr.com/post/136870823368

http://36.media.tumblr.com/3a8ed851310aac9d268afd3d68ead572/tumblr_inline_o0h8bj0vyj1qz6b8d_540.png

Dans Black Box Society, Frank Pasquale, consacre plusieurs pages à l’opacité des techniques d’évaluation des risques-clients (le fameux credit score). Il montre, pour les Etats-Unis, combien les notes de solvabilité développées par les organismes de crédit sont opaques, arbitraires et discriminatoires. Sur le web, de nombreux forums (exemple) tentent de comprendre les pratiques utilisées par les sociétés émettrices de cartes de crédit et essaient de désosser les rouages de leurs systèmes d’évaluation. Les organismes de crédit, eux, se contentent bien souvent de recommandations banales : payez vos dettes dans les temps, ne poussez vos limites de crédit aux extrêmes, etc. Les 3 organismes de crédit américains (Experian, TransUnion et Equifax) ne réalisent pas exactement les mêmes notations : “Une étude (...)

#NosSystèmes #algorithmes

Avez-vous été censuré sur les #médias_sociaux ? - BBC
▻http://alireailleurs.tumblr.com/post/133851893668

Jillian York revient pour la BBC sur le projet de surveillance de la #censure (@censored) lancé par l’Electronic Frontier Foundation depuis 2012, qui vient d’ouvrir un formulaire permettant à quiconque de rapporter une censure dont il serait l’objet sur les réseaux sociaux. L’enjeu : forcer les grands médias sociaux à être plus transparents et plus responsables et utiliser ces recensements pour mieux comprendre comment ces entreprises traitent leurs utilisateurs selon les pays, le genre, l’origine ethnique… 

#NosSystèmes #empowerment #surveillerlessurveillants

De la diversité des #big_data - SSRN
▻http://alireailleurs.tumblr.com/post/132717212755

http://36.media.tumblr.com/f90acaed36f6f544ee0d3b9e35a38fa1/tumblr_inline_nxchbkZpZ71qz6b8d_540.png

Rob Kitchin et Gavin McArdle dans un article de recherche soulignent que les Big Data sont définies de multiples manières dans la littérature. La plupart du temps, elles sont définies par les 3 V : volume, vitesse et variété. Mais on trouve parfois de nombreuses autres caractéristiques comme l’exhaustivité, la résolution, l’indexicalité, la relationalité, l’évolutivité, l’extensionnalité… Reste que le terme manque finalement de clarté et a tendance à être un fourre-tout pour désigner toute large sélection de données. Les deux chercheurs s’intéressent donc dans leur article à ce qui rend les Big Data des Big Data. En s’intéressant à des jeux de données, ils montrent que des 7 caractéristiques principales (le volume, la vélocité, la variété, l’exhaustivité, la résolution et l’indexabilité, la relationalité, (...)

#nossystemes