Il ne faut pas plaisanter avec les métadonnées : les risques et dérives du machine learning en sécurité

Logiciel libre Technologies
#1

Il ne faut pas plaisanter avec les métadonnées : la phrase terrifiante de l’ancien patron de la CIA et de la NSA « we kill people based on metadata ». Une analyse d’un chercheur francais de l’INRIA dans cet article pour parler des dérives du bigdata et du machine learning en sécurité => http://arstechnica.co.uk/security/2016/02/the-nsas-skynet-program-may-be-killing-thousands-of-innocent-people/1/

1 J'aime
#2

Cet article du Guardian donne une autre version de l’histoire (et une analyse différente): « Has a rampaging AI algorithm really killed thousands in Pakistan? »

2 J'aime
#3

Les 188 commentaires (à priori en majorité négatifs vis à vis de cet article du Guardian et qui va à rebours de l’ensemble des autres articles déjà parus) ne sont apparemment pas de cette couleur. Comme c’est un domaine relatif à la sécurité d’un Etat les informations sont parcellaires et la foison d’articles qui sont apparus la semaine dernière pour mettre en garde contre la démarche même d’exploitation des métadonnées pour classifier et cibler (machine learning) des personnes apparait comme un signal d’alarme : http://tempsreel.nouvelobs.com/monde/20160217.OBS4823/la-nsa-aurait-elle-tue-des-centaines-d-innocents-par-erreur.html

PS: au passage, même si on ne se situe pas sur la même problématique, la loi permettant la copie des données lors des perquisitions en France a été censurée par le Conseil constitutionnel : celui-çi a estimé que le législateur n’a pas prévu de garanties légales propres à assurer une conciliation équilibrée entre l’objectif de valeur constitutionnelle de sauvegarde de l’ordre public et le droit au respect de la vie privée. Il a donc jugé contraires à la Constitution les dispositions portant sur la copie des données dans un lieu faisant l’objet de perquisition => http://www.conseil-constitutionnel.fr/conseil-constitutionnel/francais/les-decisions/acces-par-date/decisions-depuis-1959/2016/2016-536-qpc/communique-de-presse.146992.html

#4

Merci Simon ! Cet article est merveilleusement écrit. Et les 188 commentaires semblent dans l’ensemble positifs.

#5

Chacun a sa propre lecture (orientée ou non orientée) ! … :wink: