Un rapport choc d’Amnesty International, publié le jeudi 21 août, révèle que l’administration américaine de Donald Trump utilise l’intelligence artificielle pour surveiller et expulser les personnes migrantes. L’ONG dénonce l’emploi d’outils informatiques développés par les entreprises Babel Street et Palantir, spécialisées dans l’analyse de données massives en temps réel. Ces sociétés détiennent de nombreux contrats avec le gouvernement américain, notamment dans les domaines de la défense et du renseignement. Palantir est également connue pour équiper l’armée israélienne avec ses outils d’aide à la décision.
Les logiciels en question, Babel X et Immigration OS, sont pointés du doigt par Amnesty pour leurs « capacités automatisées qui permettent un suivi, une surveillance et une évaluation de masse constants ». Le rapport souligne qu’Immigration OS, en particulier, « automatise un processus déjà très faillible et opaque, qui a des antécédents en matière de non-respect des procédures régulières et des droits humains ». Cette surveillance s’étend au-delà des migrants, ciblant également les étudiants propalestiniens, dont certains ont été arrêtés et menacés d’expulsion.
L’administration Trump aurait contraint Harvard à suspendre l’accueil d’étudiants étrangers afin de passer au crible leurs réseaux sociaux, une opération facilitée par ces logiciels. Babel X, par exemple, permet de « parcourir rapidement grâce à l’IA les réseaux sociaux à la recherche de contenus liés au “terrorisme” », des informations que les autorités peuvent ensuite utiliser pour révoquer un visa.
Cependant, l’utilisation de ces IA soulève de graves préoccupations en raison de leur propension à l’erreur. Amnesty International alerte sur le fait que les « technologies probabilistes […] présentent d’importantes marges d’erreur et s’avèrent souvent discriminatoires et biaisées ; elles peuvent conduire à présenter à tort des contenus propalestiniens comme antisémites ». Pour Erika Guevara-Rosas, directrice générale de la recherche à Amnesty International, ces outils risquent « d’accroître la capacité du gouvernement de Donald Trump à prendre des décisions arbitraires s’agissant d’expulser des personnes marginalisées sur un coup de tête et en masse, tout en offrant un accès limité, voire inexistant, à une procédure régulière ».
