Amnesty International affirme que la consolidation du pouvoir des géants de la technologie « a de profondes implications pour les droits humains, en particulier les droits à la vie privée, à la non-discrimination et à l’accès à l’information ».
Amnesty International , l’un des principaux groupes de défense des droits humains au monde, appelle les gouvernements du monde entier à « rompre avec les géants de la technologie » en freinant l’influence croissante des géants de la technologie et des médias sociaux.
Un rapport publié jeudi par Amnesty met en lumière cinq entreprises technologiques : Alphabet (Google), Meta, Microsoft, Amazon et Apple, qu’Hannah Storey, conseillère en plaidoyer et politique sur la technologie et les droits humains à Amnesty, décrit comme des « propriétaires numériques qui déterminent la forme et la forme de nos interactions en ligne ».
Ces cinq entreprises comptent collectivement des milliards d’utilisateurs actifs, ce qui, selon le rapport, les rapproche de « fournisseurs de services publics ».
« Cette concentration du pouvoir », indique le rapport, « a de profondes implications pour les droits de l’homme, en particulier les droits à la vie privée, à la non-discrimination et à l’accès à l’information. »
Le rapport souligne la « surveillance omniprésente » de Google et Meta, qui profitent de la « collecte et de la monétisation de vastes quantités de nos données personnelles ».
« Plus ils collectent de données, plus ils deviennent dominants et plus il est difficile pour leurs concurrents de les concurrencer », indique le rapport. « Il en résulte un écosystème numérique où les utilisateurs ont peu de choix ou de contrôle réels sur l’utilisation de leurs données. »
Pendant ce temps, YouTube de Google, ainsi que Facebook et Instagram – deux produits Meta – fonctionnent à l’aide d’algorithmes « optimisés pour l’engagement et le profit », qui mettent l’accent sur le contenu destiné à provoquer de fortes émotions et l’indignation des utilisateurs.
« Dans un contexte de plus en plus polarisé, indique le rapport, cela peut contribuer à la propagation rapide de discours discriminatoires et même d’incitation à la violence, ce qui a eu des conséquences dévastatrices dans plusieurs zones touchées par des crises et des conflits. »
Le rapport relève plusieurs régions du monde où les algorithmes des réseaux sociaux ont amplifié la haine ethnique. Il cite des recherches antérieures montrant comment l’algorithme de Facebook a contribué à amplifier la rhétorique déshumanisante qui a alimenté le nettoyage ethnique des Rohingyas au Myanmar et les violences de la guerre du Tigré en Éthiopie .
Plus généralement, l’omniprésence de ces entreprises technologiques dans la vie des utilisateurs leur confère une influence démesurée sur l’accès à l’information.
« Les plateformes de réseaux sociaux façonnent ce que voient des millions de personnes en ligne, souvent par le biais d’algorithmes opaques qui privilégient l’engagement au détriment de l’exactitude ou de la diversité », indique le rapport. « Des cas avérés de suppression de contenu, de modération incohérente et de biais algorithmiques mettent en évidence les dangers de laisser une poignée d’entreprises jouer le rôle de gardiennes de la sphère publique numérique. »
Amnesty International soutient que le droit international relatif aux droits humains exige que les gouvernements du monde entier interviennent pour protéger leurs populations contre les abus commis par les entreprises technologiques.
« Les États et les autorités de la concurrence devraient utiliser le droit de la concurrence comme un outil de protection des droits humains », indique le rapport. « Les États devraient enquêter sur les comportements anticoncurrentiels qui portent atteinte aux droits humains et les sanctionner, prévenir la capture réglementaire et empêcher la formation de monopoles nuisibles. »
Amnesty appelle également ces États à prendre en compte les impacts possibles de l’intelligence artificielle sur les droits humains, qu’elle décrit comme la « prochaine phase » de la domination croissante des Big Tech, Microsoft, Amazon et Google contrôlant à eux seuls 60 % du marché mondial du cloud computing.
« Il est crucial de s’attaquer à cette domination, non seulement pour des raisons d’équité du marché, mais aussi pour répondre à un enjeu urgent de droits humains », a déclaré Storey. « Démanteler ces oligarchies technologiques contribuera à créer un environnement en ligne juste et équitable. »
