• La NSA aurait-elle tué des centaines d'innocents par erreur ?

    La NSA aurait-elle tué des centaines d'innocents par erreur ?

    CategoriesLa NSA aurait-elle tué des centaines d'innocents par erreur ? A quoi peut-on s'attendre lorsqu'il s'agit de l'intelligence artificielle utilisée dans des programmes élaborés par des services de renseignement? Probablement, à des victimes innocentes selon Sputnik News.

    L'agence de renseignement scrute l'ensemble des Pakistanais pour déceler et éliminer les éventuels terroristes. L'ensemble se base sur un algorithme aux calculs "foireux" : Skynet rapporte l'Obs.

    "D'après les métadonnées GSM obtenues, on peut déterminer les aspects du mode de vie, du réseau social et du comportement de travail de chacun"

    Les révélations de l'ancien consultant Edward Snowden ont permis de mettre en lumière de nombreux programmes secrets de l'agence de sécurité nationale américaine, la NSA. L'an dernier, le magazine en ligne The Intercept a ainsi publié des documents présentant Skynet, en référence à l'intelligence artificielle qui veut détruire l'espèce humaine dans les films "Terminator".

    Ce programme collecte une montagne de données (nom, localisation, etc.) à partir de téléphones portables au Pakistan, afin d'identifier et de traquer des terroristes potentiels sur la base d'un algorithme, pour ensuite les éliminer avec des frappes de drones. Seul problème : l'algorithme de Skynet est "complètement foireux", affirme Patrick Ball, expert scientifique au Human Rights Data Analysis Group, dans une interview au site spécialisé Ars Technica, publiée mardi 16 février.

    Pis, selon lui, des centaines d'innocents ont pu être désignées comme "terroristes" et tuées par des drones, sur la base de cet algorithme inefficace.

    Ars Technica explique que l'algorithme de Skynet fonctionne exactement comme celui d'une entreprise du Big Data. Le programme collecte et stocke des millions de métadonnées sur les serveurs de la NSA et les mouline afin d'obtenir les informations qui l'intéresse. Sauf qu'au lieu d'identifier des consommateurs potentiels, l'algorithme désigne des futures cibles des drones américains.

    Potentiellement 15.000 tués par erreur

    Pour identifier un terroriste potentiel, le programme de la NSA se base sur les échanges et comportements de terroristes connus. Les communications (leur destinataire, leur durée, leur heure...), mais aussi les déplacements sont scrutés. Sur les 192 millions d'habitants du Pakistan (et 120 millions de téléphones portables), l'agence américaine a pu analyser les données de 55 millions d'utilisateurs de mobiles pakistanais.

    Là où le bât blesse, c'est dans le fonctionnement pour déceler d'éventuels terroristes. En effet, toute l'analyse repose sur la comparaison aux profils de terroristes déjà connus. Sauf que la NSA ne dispose du profil que de 7 terroristes identifiés au Pakistan.

    Un échantillon trop faible ? Pas de quoi freiner l'agence américaine. Ainsi, Skynet fonctionne sur une recherche du "septième", c'est-à-dire qu'il calcule tous les comportements possibles entre six profils (sur la base de 80 propriétés), afin d'identifier le septième larron (soit le terroriste en puissance).

    Patrick Ball pointe que ce chiffre de 7 est beaucoup trop faible pour que l'algorithme soit un tant soit peu fiable. Selon l'analyste, Skynet génère un fort taux de faux positifs, qu'il chiffre à 0,008%. Pas grand-chose ? Sauf que rapporté à la population pakistanaise, cela représente pas moins de 15.000 personnes qui ont pu être désignées par erreur comme "terroristes", voire tuées par des drones américains.

    "Nous tuons sur la base de métadonnées"

    C'est une mauvaise utilisation de la science", conclut l'analyste. Lorsque l'on condamne quelqu'un à mort, généralement cela se fait 'hors de tout doute raisonnable', ce qui n'est pas du tout le cas" avec Skynet.

    Le Bureau of Investigative Journalism rapporte que, depuis 2004, entre 2.500 et 4.000 personnes tuées au Pakistan par des frappes de drones étaient identifiées par le gouvernement américain comme "extrémistes".

    En 2014, les directeurs de la NSA et de l'agence de renseignement américaine CIA avaient ensemble admis "tuer des gens sur la base de métadonnées". Ars Technica conclut sur une interrogation :

    Il est facile d'ignore ce qui se passe loin à l'étranger. Mais que se passera-t-il lorsque Skynet  se penchera sur nous, pour lutter contre la drogue, les anarchistes ou simplement ceux qui ne sont pas d'accord avec le gouvernement ?"

    L'ensemble de données obtenu, Skynet commence à les analyser pour créer l'image complète d'une personne, prenant en compte ses routines journalières, par exemple où et avec qui elle se déplace, ses fréquents contacts. Au total, l'algorithme analyse environ 80 caractéristiques différentes pour déterminer son appartenance potentielle aux cercles terroristes.

    De cette manière, le programme a réussi à traquer Ahmad Zaidan, chef d'Al-Jazeera à Islamabad, en tant que cible voyageant extrêmement vite de Peshawar à Lahore, et de plus, visitant des régions où une activité terroriste intense était enregistrée.

    Un algorithme idéal dans le contexte tendu des attaques éclatant ici et là, n'est-ce pas? Seul problème: une récente analyse des documents de la NSA, rendus publics par l'ancien employé de l'agence Edward Snowden, met en lumière des centaines de morts parmi des gens absolument innocents, a indiqué Patrick Ball, expert de Human Rights Data Analysis Group dans un entretien au portail spécialisé Ars Technica.

    D'après lui, l'algorithme de Skynet est "complètement foireux", capable d'éliminer de multiples innocents. Ces gens auraient pu être qualifiés de terroristes et, selon l'algorithme installé, tuées par des drones ensuite.

    La NSA n'a pas précisé comment elle se servait du programme. Quant aux chiffres, elle a analysé les données de 55 millions d'utilisateurs de mobiles pakistanais, vu que la population du Pakistan est estimée à 192 millions d'habitants avec plus ou moins 120 millions de téléphones portables. Alors que Skynet se révèle identifier incorrectement environ 99.000 personnes sur 55 millions.

    Et si la NSA s'en servait vraiment à de telles fins… 99.000 victimes innocentes seraient tuées, un bilan plus que triste!

    Illustration Vous pouvez copier, modifier, distribuer et représenter l’œuvre, même à des fins commerciales, sans avoir besoin de demander l’autorisation. CC0 Public Domain Pas d’attribution requise Sans langue de bois

    URL de l'article

    "Ce blog est un blog militant indépendant, sans prétention, bien évidemment non commercial et totalement amateur. Les images, les textes dont nous ne sommes pas les auteurs ainsi que les musiques et chants seront supprimés du blog sur simple demande par courriel. Nous publions textes et communiqués émanant d'auteurs et d'organisations diverses. Ces publications ne signifient pas que nous partageons toujours totalement les points de vue exprimés. Nous déclinons toute responsabilité quant au contenu des sites proposés en liens."

    Categories

    « Loi sur le travail: le 49-3 pour assommer la majoritéDémonstration du mensonge sur l’inflation et le chômage »
    Partager via Gmail Yahoo! Google Bookmarks

    Tags Tags : , , , ,