Dans l’un de ces formats sur le capitalisme de surveillance à objectif commercial (service personnalisé), la chaîne Arte a révélé que tous les objets connectés, au-delà de leur utilité à la maison, ont pour objectif aussi de recracher auprès de leur maison mère toutes les informations qu’ils captent… Alexa, Siri, SmartThings… sommes-nous vraiment entre nous et nous ?

Dans son livre « L’Âge du capitalisme de surveillance », Shoshana Zuboff, professeure émérite à la Harvard Business School, au travers de sa thèse de 700 pages, analyse comment le numérique exploite les données de nos vies en les transformant en valeur marchande. Selon sa théorie, le capitalisme a toujours été fidèle à son principe marchand, en l’occurrence l’action de réussir toujours à extraire ce qui est hors des dynamiques de marché pour en faire un produit, un objet à vendre. « Comme la nature, par exemple : les rivières sont devenues des sources d’énergie, les arbres un matériau de construction, les terrains des biens immobiliers, etc. » Avec le numérique, c’est le même principe qui s’enclenche de nos jours. Selon le concept de Shoshana Zuboff, les myriades de données issues de notre utilisation de ces diverses plateformes constituent « le surplus comportemental ». Soit l’ensemble de ces informations que nous émettons en ligne dès que nous réservons des vacances, cliquons sur des articles ou des photos Instagram. Nous en produisons même à chaque déplacement, via le GPS dans nos smartphones. Les services gratuits et si pratiques fournis par les géants du numérique, de Waze à WhatsApp, constituent selon l’auteure un « pacte faustien » : nous savons bien qu’ils ont un prix, mais nous ignorons lequel.

Quand les Gafam nous explorent

L’agence de presse Bloomberg, dans l’une de ses enquêtes, s’est penchée sur la question des écoutes des enceintes connectées. Son enquête s’est dirigée vers les milliers de personnes chargées, par Amazon, d’écouter une partie des enregistrements des utilisateurs d’Alexa, son assistant vocal. Alexa, Siri, Cortana, SmartThings, les enceintes connectées ont envahi nos foyers. Selon l’enquête de Bloomberg, quand un utilisateur pose une question à l’assistant vocal, il n’y a pas qu’un ordinateur seulement qui écoute. Pour le cas d’Amazon, Bloomberg explique que le système d’IA qui décortique automatiquement les requêtes des utilisateurs est épaulé par des milliers d’employés en chair et en os, qui écoutent et décortiquent aussi les dites requêtes.

Lire aussi | Taxe Gafam, la DGI prend ses responsabilités

Ces robots humains retranscrivent ainsi chacune jusqu’à un millier de questions par jour, mot à mot, puis les annotent pour aider le programme d’IA à mieux interpréter les intentions des utilisateurs, révèle Bloomberg. L’enquête explique par exemple que, Alexa comprend souvent mal l’expression française « avec ça », qu’elle confond avec… « Alexa ». Ce qui pourrait malencontreusement déclencher un enregistrement non désiré par l’utilisateur. Les employés chargés d’écouter doivent donc labelliser toutes les occurrences de l’expression « avec ça » qu’ils entendent – ainsi, le programme d’IA pourra s’améliorer et faire moins d’erreurs à ce sujet précis.

Bloomberg explique qu’elle a pu parler (sous le sceau de l’anonymat) à sept employés d’Amazon qui travaillent à l’amélioration d’Alexa. Selon eux, les bureaux des employés qui exercent ce travail sont situés aux États-Unis, mais aussi en Inde, au Costa Rica et en Roumanie. Ils travaillent soit directement pour Amazon, soit pour des sous-traitants.

Pas que Amazon, les trois autres grands fabricants d’enceintes connectées, Apple, Google et Microsoft, sont également concernés. En 2020, une association française de défense des libertés numériques, La Quadrature du Net, avait recueilli le témoignage d’une ancienne employée d’un sous-traitant de Microsoft, Julie, qui travaillait à l’amélioration de l’assistant personnel de Microsoft, Cortana, depuis son domicile. Publié sur leur site, les propos de Julie sont glaçants. « J’ai travaillé comme transcripteuse (‘transcriber’) pour améliorer la qualité de la version française de Cortana, « votre assistante personnelle virtuelle » proposée par Microsoft. Je travaillais en télétravail pour une entreprise chinoise qui avait Microsoft pour client. J’ai commencé en avril 2017 et arrêté en décembre 2017. »

Et de poursuivre : « J’ai pu constater directement le type de données que Microsoft collecte via son petit monstre Cortana, car les données audio qu’elle collectait passaient entre nos mains (et nos oreilles !) pour analyse et correction.

Lire aussi | Gafam. Le Canada dit non aux pratiques monopolistiques, qu’en est-il du Maroc ?

Microsoft, voulant améliorer les capacités de compréhension de Cortana, collectait les données des utilisateurs ‘consentants’. Donc, quand ces utilisateurs s’adressaient à Cortana, celle-ci collectait, enregistrait ce qu’ils disaient. Ensuite, Microsoft récupérait tout ça, envoyait une partie des enregistrements à la compagnie pour laquelle je travaillais, et celle-ci mettait le tout sur notre plate-forme de télétravail.

Les transcripteurs se connectaient, et écoutaient un par un les enregistrements. Les pistes étaient généralement très courtes, entre 3 et 15 secondes en moyenne (mais pouvaient parfois durer plusieurs minutes). En fonction des projets sur lesquels on travaillait, on devait réaliser entre 120 et 170 transcriptions/heure. Plusieurs milliers de pistes étaient déposées quotidiennement sur notre plate-forme. »

Dans ce témoignage édifiant, que vous pouvez retrouver en intégralité sur le site de l’association, Julie décrit un processus de recrutement sommaire et une relation de travail distante qui posent des interrogations sur le degré d’attention à la vie privée du sous-traitant de Microsoft.

« Pour pouvoir être embauché – ils recrutaient en grand nombre –, il fallait s’inscrire sur le site de l’entreprise, postuler, puis suivre une formation en ligne conclue par un examen final. Si on avait un pourcentage de réussite satisfaisant, on était engagé. Auquel cas, le manager nous faisait créer un compte sur le site Internet de télétravail (…), et le travail commençait. Il n’y avait pas besoin d’envoyer son CV, ni aucun entretien individuel avec un responsable ou un manager, ni par téléphone, ni par Skype, ni par e-mail, rien. »