Loup y es-tu ? Loup, m’entends-tu ? Avoir un micro activé par défaut chez soi

La fonction de base des enceintes connectées et, plus largement, des assistants vocaux, est de fournir une interface vocale interactive entre des utilisateurs et des logiciels – logiciels qui pourront eux-mêmes actionner des équipements connectés ou interagir à terme avec d’autres humains. Si ces usages ne gênent que peu de monde, beaucoup plus nombreuses sont les personnes qui se sont émues de divers scandales médiatiques qui ont forcé les fabricants d’assistants à adapter leurs pratiques.

Au commencement était le verbe

Les logiciels d’assistance vocale installés sur les enceintes connectées sont avant tout des agents conversationnels, dont la fonction de base est d’associer reconnaissance vocale et traitement automatisé du langage naturel (TALN) pour comprendre les requêtes des utilisateurs, et la synthèse vocale afin de leur répondre. Peuvent s’y adjoindre d’autres briques logicielles pour interagir avec des objets connectés (une ampoule, un thermostat…) et/ou des services tiers (comme un service de streaming musical) d’autres marques, à travers des protocoles plus ou moins standardisés ou des API. Mais c’est bien la dimension conversationnelle qui prévaut : les enceintes connectées permettent avant tout un interfaçage vocal entre un utilisateur humain et des logiciels.

Pour la reconnaissance vocale comme pour le TALN, les concepteurs d’assistants vocaux recourent au machine learning (une branche de l’intelligence artificielle) pour transcrire et interpréter la parole humaine. Ce processus est automatisé pour une large part, et la qualité des agents conversationnels croît à mesure qu’ils sont utilisés . Néanmoins, une partie de cet apprentissage requiert une intervention humaine, particulièrement en début de développement : il faut d’abord que des humains « éduquent » l’algorithme, puis qu’ils contrôlent tout ou partie des résultats ultérieurs. L’apprentissage-machine est dit « supervisé ». En juillet 2019, Google déclarait ainsi que 0,2% des requêtes vocales à son Assistant étaient directement ré-écoutées par des humains. Quoique cette proportion soit infime, ce processus de vérification permet tout de même de reconstituer des conversations ou des dictées assez complètes, selon un témoignage d’une ancienne sous-traitante de Microsoft ayant travaillé sur l’assistant Cortana.

Cette réalité, techniquement triviale, ne l’est cependant pas pour la plupart des personnes, et n’a longtemps pas fait l’objet de communications grand public de la part des concepteurs d’enceintes connectées. La véritable publicisation de cet état de fait a eu lieu à l’été 2019, où les acteurs majeurs du secteurs ont fini par devoir communiquer à ce sujet1. Elle s’inscrit dans une série de révélations et de scandales dont j’ai déjà fait état dans un précédent article, et qui permettent de faire l’inventaire des réactions et des craintes liées à la captation audio des sons du domicile.

Des micros toujours activés par défaut

La question de l’écoute permanente par les enceintes a sans doute été la première des menaces perçues contre la vie privée des / par les utilisateurs. Dans son expression la plus basique, elle consiste à se demander si les micros de l’enceinte écoutent en permanence leur environnement sonore. De ce point de vue, la réponse sur le plan technique a vite été apportée et semble avoir été bien comprise des utilisateurs : oui, les micros de l’enceinte sont toujours activés par défaut, puisqu’elle doit pouvoir être activée à la voix à tout moment. Pour autant, tout n’est pas durablement enregistré par l’enceinte, et encore moins téléversé sur les serveurs du constructeur. La communication des constructeurs à ce propos semble avoir été assez bien comprise, tant par mes enquêtés que dans les commentaires des groupes d’utilisateurs sur les réseaux sociaux.

Au-delà de la seule communication des entreprises, le design même des enceintes a sans doute facilité la compréhension de leur mode de fonctionnement. En tout premier lieu, le fait de devoir recourir à un mot de réveil (« Alexa », « Okay Google », « Dis Siri »…) fait office d’interrupteur vocal : sans ce mot de réveil, l’enceinte ne déclenche aucune action. Bien que le microphone soit effectivement activé en permanence par défaut, c’est le mot de réveil qui fait qu’un captat audio est enregistré, transmis, traité, puis déclenche l’action souhaitée. La plupart des enceintes sont également équipées de diodes lumineuses qui signalent le fait qu’elles passent à une écoute active. Un bouton physique pour désactiver le microphone est souvent présent également.

« Red and black Amazon Echo Dot 2 » (source) : le pourtour rouge lumineux signale l’activité de ce modèle, équipé d’un interrupteur physique pour couper le micro

Ces éléments de design apportent à l’utilisateur un feedback qui le renseigne sur le fonctionnement de l’enceinte. Plus indirectement, ce sont aussi les dysfonctionnements de l’enceinte qui permettent de comprendre son fonctionnement. Par exemple, lorsque l’enceinte réagit à une « fausse » sollicitation : prononcer une phrase comme « qu’est-ce que c’est que ça ? » activera ainsi bien souvent une enceinte d’Amazon dont le mot de réveil est « Alexa ». L’enceinte ne va alors pas forcément répondre, ne pouvant pas interpréter d’ordre, mais l’activation du témoin lumineux informe l’utilisateur que l’écoute active aura été brièvement enclenchée. A contrario, les enceintes ne réagissent pas toujours aux véritables sollicitations, forçant l’utilisateur à répéter le mot de réveil, parfois à plusieurs reprises, éventuellement à se rapprocher de l’enceinte pour formuler sa commande. Ces interactions fonctionnelles ou dysfonctionnelles renseignent sur les capacités techniques de l’objet et permettent à l’utilisateur d’intérioriser une forme de proxémie avec l’objet, et en particulier de savoir quelle est la portée efficace de ses micros.

Il reste à noter que les faux positifs sont tout de même légion. En outre, la reconnaissance de la signature vocale des utilisateurs étant encore peu aboutie, il est également possible pour d’autres personnes que les utilisateurs légitimes de l’enceinte de la déclencher à l’envi, comme l’illustre cette planche dessinée malicieusement signalée par l’enquêté 2.

«Listening » par XKCD, consulté le 30/X/2020

La transmission intempestive au fabricant

Si le fait que les micros des enceintes soient activés en permanence ne pose donc pas nécessairement problème, plus gênants sont les cas de transmission intempestives de données. Dans le modèle actuel, toute activation par un mot de réveil entraîne l’enregistrement et le téléversement des captats audio. Il n’est pas sûr que ce mécanisme soit tout aussi bien compris des utilisateurs en général, quoiqu’il ait été connu des personnes interrogées pour ma thèse. Là encore, le design et les dysfonctionnements de l’enceinte rendent compte de cet état de fait : la connexion au réseau Wi-Fi domestique est généralement la première étape de configuration d’une enceinte connectée, suivie de l’identification du profil Amazon, Google ou Apple. En outre, en cas de déconnexion ou de mauvaise connexion à Internet, le dysfonctionnement de l’enceinte apparaît en toute évidence et est signalé par un message d’erreur. Le fait que les modèles d’enceinte actuelles dépendent très fortement d’une connexion Internet reste donc assez clair.

En revanche, il est plus difficile de maîtriser la transmission des données échangées entre l’enceinte et les services distants. Le journaliste Artem Russakovskii en octobre 2017 a ainsi fait état de l’un des premiers bogues très commentés à propos des enceintes connectées, en l’espace une Google Home Mini dont la gamme venait alors de naître. La situation a été jugée suffisamment sérieuse par Google pour que l’entreprise dépêche un ingénieur chez le journaliste dans les heures suivant son signalement de bogue à au service de relations publiques. Un défaut de fabrication des boutons physiques des premières Home Mini entraînait en effet l’envoi presqu’ininterrompu de séquences vocales à Google. Artem Russakovskii s’était bien aperçu que les diodes de son enceinte tendaient à se déclencher très souvent, mais c’est surtout en allant voir l’historique de ses requêtes à son assistant dans son compte Google qu’il s’est aperçu du fait que son enceinte l’enregistrait en permanence. Le bogue a été rapidement résolu par la désactivation (logicielle) pure et simple des boutons défectueux.

De ce point de vue, davantage d’inquiétudes ont été exprimées par mes enquêtés à propos de leurs téléphones portables que de leurs enceintes. Là où l’enceinte a une présence physique et une localisation manifestes, le smartphone se fait en revanche beaucoup plus facilement oublier. Deux enquêtés interrogés dans des entretiens distincts m’ont ainsi rapporté la même anecdote du déclenchement de l’assistant vocal de téléphones au cours d’une réunion professionnelle.

E1A : Ou alors ils sont sur leur téléphone, et sur leur téléphone sans le savoir « Ok Google » il est déjà activé… Enfin moi ce qui est assez rigolo c’est que le nombre de collègues que j’ai en réunion où t’as le truc qui se déclenche alors que personne n’a dit « Ok Google » mais le téléphone a cru comprendre qu’il y avait ça, du coup il commence à parler.[29:09] Enfin c’est…

Au-delà du fait que l’enjeu du paysage sonore de leur entreprise leur semblait plus important et rendait ces activations plus gênantes, le caractère plus nettement intempestif de ces activations tenait également au fait qu’un iPhone posé sur la table ou glissé dans une poche n’est pas attendu et bien identifié comme activable vocalement. Selon l’enquêté E1A, qui travaille pourtant dans le secteur informatique, beaucoup de ses collègues n’ont pas conscience du fait que l’assistant vocal de leur téléphone est activé, là où une enceinte connectée ne laisse presque pas de doute à ce sujet et permet plus simplement une gestion proxémique de la question.

En matière d’intempestivité des transmissions de données, se pose enfin la question de la confiance à accorder aux concepteurs mêmes des enceintes pour ne pas récupérer de données subrepticement. Une approche « paranoïaque » consiste à ne pas leur faire confiance du tout… et à remplacer jusqu’aux micros des enceintes. Une approche plus modérée a consisté pour des chercheurs à monitorer le trafic réseau sortant des enceintes pour vérifier que les transferts de données correspondaient bien aux moments d’activation de l’enceinte et que peu ou pas de données étaient échangées à d’autres moments – typiquement, pour une mise à jour [1] [2] [3] [4]. Pour autant, même cette démarche a pour limite que ces tests ne valent que sur les enceintes testées et au moment des tests : le logiciel des enceintes étant propriétaire et compilé par les fabricants, il est impossible de garantir la loyauté de leur fonctionnement.

La réutilisation des informations acquises

La transmission d’informations au fabricant de l’enceinte ou des objets connectés qui lui sont associés est un motif d’inquiétude assez faible pour la plupart des personnes interrogées. Cette boucle de circulation des données est attendue et assez bien comprise. Il est en revanche beaucoup moins accepté que les données captées par les enceintes ou les autres capteurs du domicile soient réutilisées pour autre chose que l’usage directement attendu par leurs utilisateurs2

Cette réutilisation non désirée peut résulter d’une simple erreur de la reconnaissance vocale. J’ai déjà évoqué sur ce blog le cas d’un couple de Portland (en mai 2018) dont une partie de leurs conversations privées ont été transmises à un employé du mari via une enceinte Alexa. L’explication officielle donnée par Shelby Lichliter, porte-parole d’Amazon, est que leur enceinte a alterné faux-positifs et mésinterprétations en un « [improbable] enchaînement d’évènements ». La fonction d’envoi de messages audio aurait été activée, le nom d’un contact du couple inféré, et une fausse confirmation donnée à l’enceinte, qui aurait néanmoins demandé les confirmations d’usage pour cette fonction. L’épouse, interrogée par le journaliste de Kiro7, affirme quant à elle que l’enceinte serait restée muette durant tout le processus. S’il nous est impossible de savoir ce qui s’est réellement produit ce jour-là, quelques éléments saillants ressortent ce cette anecdote très médiatisée tant aux États-Unis qu’en France :

  • D’abord, la transmission non désirée d’une conversation privée à un tiers a été vécue comme une « pleine intrusion dans leur intimité » («total privacy invasion») par l’épouse. Le fait que le destinataire ait été un humain, qui plus est connu du couple, joue probablement beaucoup ici, comme nous le verrons plus bas. La personne qui a reçu les bribes de conversation a pour sa part immédiatement pensé à un hack, qui relève aussi du registre de l’intrusion.
  • Ensuite, l’essentiel du contentieux entre Amazon et le couple lésé tient au fait de savoir si oui ou non l’enceinte a prévenu ses utilisateurs de l’action en cours : on retrouve ici l’importance du design logiciel et matériel des enceintes, qui doivent manifester sans équivoque leurs activations et activités pour être acceptées dans le foyer. In fine, la confiance ayant été rompue, l’utilisatrice rapporte qu’elle a débranché son installation et souhaite la restituer à Amazon contre remboursement.
  • Enfin, le couple portlandais avait une connaissance diffuse et imprécise du fait que leurs enceintes « les écoutaient » en général, puisque c’était le sujet d’une plaisanterie entre eux. Nous verrons dans un billet de blog ultérieur que ce recours à l’humour est très fréquent parmi les utilisateurs d’enceintes pour apprivoiser et accepter ces outils dont le fonctionnement réel n’est pas toujours bien compris.

Pour autant, la principale inquiétude exprimée par les personnes interrogées relativement à la circulation de données captées par leurs enceintes hors du cadre de leur relation aux fabricants des objets connectés de leur domicile reste la publicité. Cette question fera l’objet de plusieurs billets dédiés, mais les acteurs de la publicité sont nettement perçus comme étant les plus susceptibles d’être intéressés par la captation de l’environnement sonore des domiciles. L’importance économique du secteur et ses pratiques de récolte massive de données sont bien connus des utilisateurs, qui y sont déjà très familiarisés dans le reste de leurs usages internétiques. C’est d’ailleurs LA menace mise en avant dans la communication de Paranoid Home analysée dans un billet précédent. L’entreprise a, me semble-t-il, parfaitement identifié la crainte quasi générale vis-à-vis du secteur publicitaire et spécifiquement liée à l’audio : que la possibilité d’être écouté en permanence ouvre un nouveau canal d’inputs pour les publicitaires qui leur permettrait identifier toujours plus d’intérêts potentiels des consommateurs. Que ce soit en entretien formel ou dans des discussions plus informelles autour de mon sujet de recherche, les anecdotes abondent à propos de publicités poussées suite à une conversation à portée d’un assistant connecté, qui n’auraient donné lieu à aucune recherche active sur un terminal (commande vocal ou navigation sur le Web). Dans l’enquête, seul un couple affirme clairement n’avoir jamais constaté de lien entre une simple discussion orale et une campagne publicitaire ultérieure. Sans présumer de la réalité (douteuse) d’une telle pratique commerciale, la vivacité de cette crainte méritera en tous les cas un développement à part entière.

Ecce homo ?

Au-delà de la question de la circulation des données en-dehors des espaces attendus ou tolérés par les utilisateurs, une de mes hypothèses de recherche initiales était que le statut humain ou logiciel du traitement des données en question semblerait fondamentale à la plupart des personnes interrogées.

Cette hypothèse semble validée dans l’exemple du couple portlandais, où le destinataire des captats audios sortis du domicile était une personne, qui plus est une connaissance (un employé) du mari. Il est probable que l’affaire n’aurait pas eu d’écho si les utilisateurs de l’enceinte s’étaient simplement aperçus que leur enceinte s’était déclenchée de manière inopinée et avait enregistré une partie de leurs conversations sur les serveurs d’Amazon, par exemple sous la forme d’une note vocale. De même, l’émotion médiatique qui a touché le secteur des enceintes connectées en 2019 tenait au fait que des sous-traitants humains – et non pas seulement des logiciels – devaient écouter une partie des enregistrements pour superviser l’apprentissage des logiciels de TALN des enceintes.

Cette hypothèse ne se vérifie en réalité pas tant que ça. Beaucoup d’enquêtés ont bien sûr une réaction attendue contre le principe même d’une enceinte connectée, comme ici très tôt en début d’entretien :

JFP : (…) Tout ce qui est Google Home, Amazon Alexa…
E11A : Mais ça c’est se mettre un espion dans sa maison, quoi.
E11B : Ouais, ouais.

Mais ces enquêtés n’en préfèrent pas moins avoir affaire à des humains par principe pour le maximum de procédures dans leur vie quotidienne, y compris lorsque des données personnelles sont de facto connues par un employé administratif contrôlant leur dossier, ou lorsqu’un employé d’EDF se présentait chez eux et devait donc pénétrer dans leur domicile pour relever leur consommation électrique avant l’installation d’un compteur communiquant Linky.

Interrogée spécifiquement à propos de la différence entre lecture humaine ou automatisée d’informations la concernant, une enquêtée ne possédant par ailleurs pas d’enceinte évoque ainsi le fait qu’elle se moque qu’un humain ou un logiciel consulte ses données de navigation sur Internet – ou son banquier l’historique de sa carte de crédit, dans un autre moment de l’entretien :

E002: (…) Et après, un humain qui voit par exemple mon historique de recherche ou quoi, non, je m’en fous un peu.

Plus étonnant, un couple d’utilisateurs enthousiastes d’une enceinte Alexa trouvent même cocasse l’idée que quelqu’un cherche ou puisse les écouter en permanence. Lorsque nous évoquons le risque d’un piratage du micro de leur enceinte, E1B se prend à imaginer que « quelqu’un » pourrait les écouter, casque vissé sur les oreilles. Elle désamorce immédiatement la situation par une plaisanterie :

E1B : …et je vois mal un mec ou une nana avec un casque « alors vas-y, qu’est-ce qu’ils disent… » (nous rions tous) Tu imagines le job de merde ![1:10:05]

Son compagnon, un peu plus méfiant, croit savoir que :

E1A : Mais c’est des ordinateurs qui font ça aujourd’hui, chérie.

Si l’idée lui plait un peu moins qu’à sa compagne, et qu’il préfère visiblement que ce soit des ordinateurs qui l’écoutent, il ne se formalise pas pour autant de l’idée. Dans le cas de ce couple comme de l’enquêtée 002, c’est en fait d’être vus par un humain qui leur semble problématique, que ce soit dans la rue pour une E002 mal à l’aise à l’idée de rajuster inélégamment sa tenue dans la rue sous l’éventuel œil goguenard d’un agent de vidéosurveillance, ou pour le couple E1 qui définirait davantage sa vie privée par la préservation de son image plus que de ses paroles :

E1A : Après ouais, la vie privée c’est peut-être plus l’image. Même l’image ça me dérangerait plus.[1:10:49] Qu’on me voie.
E1B : (approuve)
E1A : Plus que ce que je dis.

Mieux informés que la moyenne, la plupart des personnes enquêtées a conscience que des humains pourraient de fait écouter leurs conversations domestiques, ou ne s’en trouve pas particulièrement choquée quand la possibilité est évoquée. Ce résultat n’est bien sûr pas représentatif d’une désinvolture en population générale quant à la possibilité d’être écoutés chez soi par un employé ou un sous-traitant du concepteur de leur assistant connecté, mais elle semble à tout le moins indiquer que cette attitude n’est pas ou plus dominante.

Conclusion

La captation permanente de l’environnement sonore du domicile par les enceintes connectées ne semble donc pas poser en soi un problème fondamental. Les usagers règlent assez naturellement leur proxémie sonore avec l’enceinte pour tenir compte de ce fait. Les choix de design des fabricants, axés sur la transparence quant à l’activation ou non des fonctions de télétransmission des captats audios, semble ici déterminant. Plus encore : même le fait que des humains puissent avoir accès à ces enregistrements audios ne semble pas poser de souci fondamental pour beaucoup d’usagers dans des conditions banales d’utilisation.

Il n’en reste pas moins que beaucoup d’autres restent entièrement rétifs à l’idée de « mettre un espion dans sa maison » (E11A), et que même parmi celles et ceux qui n’ont pas de problème de principe avec l’écoute permanente, la question de couper ou non les micros se pose dans certaines conditions.

Notes

1. M. Biéri et F. Vallet, À votre écoute – Exploration des enjeux éthiques, techniques et juridiques des assistants vocaux, Paris (France), CNIL, 2020, p. 41.

2. Le RGPD consacre d’ailleurs cette aversion dans le principe dit de limitation des finalités disposant que « les données à caractère personnel doivent être collectées pour des finalités déterminées, explicites et légitimes, et ne pas être traitées ultérieurement d’une manière incompatible avec ces finalités » (article 5,1,b).


Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.