Loup y es-tu ? Loup, m’entends-tu ? Avoir un micro activé par défaut chez soi

La fonction de base des enceintes connectées et, plus largement, des assistants vocaux, est de fournir une interface vocale interactive entre des utilisateurs et des logiciels – logiciels qui pourront eux-mêmes actionner des équipements connectés ou interagir à terme avec d’autres humains. Si ces usages ne gênent que peu de monde, beaucoup plus nombreuses sont les personnes qui se sont émues de divers scandales médiatiques qui ont forcé les fabricants d’assistants à adapter leurs pratiques.

Au commencement était le verbe

Les logiciels d’assistance vocale installés sur les enceintes connectées sont avant tout des agents conversationnels, dont la fonction de base est d’associer reconnaissance vocale et traitement automatisé du langage naturel (TALN) pour comprendre les requêtes des utilisateurs, et la synthèse vocale afin de leur répondre. Peuvent s’y adjoindre d’autres briques logicielles pour interagir avec des objets connectés (une ampoule, un thermostat…) et/ou des services tiers (comme un service de streaming musical) d’autres marques, à travers des protocoles plus ou moins standardisés ou des API. Mais c’est bien la dimension conversationnelle qui prévaut : les enceintes connectées permettent avant tout un interfaçage vocal entre un utilisateur humain et des logiciels.

Pour la reconnaissance vocale comme pour le TALN, les concepteurs d’assistants vocaux recourent au machine learning (une branche de l’intelligence artificielle) pour transcrire et interpréter la parole humaine. Ce processus est automatisé pour une large part, et la qualité des agents conversationnels croît à mesure qu’ils sont utilisés . Néanmoins, une partie de cet apprentissage requiert une intervention humaine, particulièrement en début de développement : il faut d’abord que des humains « éduquent » l’algorithme, puis qu’ils contrôlent tout ou partie des résultats ultérieurs. L’apprentissage-machine est dit « supervisé ». En juillet 2019, Google déclarait ainsi que 0,2% des requêtes vocales à son Assistant étaient directement ré-écoutées par des humains. Quoique cette proportion soit infime, ce processus de vérification permet tout de même de reconstituer des conversations ou des dictées assez complètes, selon un témoignage d’une ancienne sous-traitante de Microsoft ayant travaillé sur l’assistant Cortana.

Cette réalité, techniquement triviale, ne l’est cependant pas pour la plupart des personnes, et n’a longtemps pas fait l’objet de communications grand public de la part des concepteurs d’enceintes connectées. La véritable publicisation de cet état de fait a eu lieu à l’été 2019, où les acteurs majeurs du secteurs ont fini par devoir communiquer à ce sujet1. Elle s’inscrit dans une série de révélations et de scandales dont j’ai déjà fait état dans un précédent article, et qui permettent de faire l’inventaire des réactions et des craintes liées à la captation audio des sons du domicile.

Des micros toujours activés par défaut

La question de l’écoute permanente par les enceintes a sans doute été la première des menaces perçues contre la vie privée des / par les utilisateurs. Dans son expression la plus basique, elle consiste à se demander si les micros de l’enceinte écoutent en permanence leur environnement sonore. De ce point de vue, la réponse sur le plan technique a vite été apportée et semble avoir été bien comprise des utilisateurs : oui, les micros de l’enceinte sont toujours activés par défaut, puisqu’elle doit pouvoir être activée à la voix à tout moment. Pour autant, tout n’est pas durablement enregistré par l’enceinte, et encore moins téléversé sur les serveurs du constructeur. La communication des constructeurs à ce propos semble avoir été assez bien comprise, tant par mes enquêtés que dans les commentaires des groupes d’utilisateurs sur les réseaux sociaux.

Au-delà de la seule communication des entreprises, le design même des enceintes a sans doute facilité la compréhension de leur mode de fonctionnement. En tout premier lieu, le fait de devoir recourir à un mot de réveil (« Alexa », « Okay Google », « Dis Siri »…) fait office d’interrupteur vocal : sans ce mot de réveil, l’enceinte ne déclenche aucune action. Bien que le microphone soit effectivement activé en permanence par défaut, c’est le mot de réveil qui fait qu’un captat audio est enregistré, transmis, traité, puis déclenche l’action souhaitée. La plupart des enceintes sont également équipées de diodes lumineuses qui signalent le fait qu’elles passent à une écoute active. Un bouton physique pour désactiver le microphone est souvent présent également.

“Red and black Amazon Echo Dot 2” (source) : le pourtour rouge lumineux signale l’activité de ce modèle, équipé d’un interrupteur physique pour couper le micro

Ces éléments de design apportent à l’utilisateur un feedback qui le renseigne sur le fonctionnement de l’enceinte. Plus indirectement, ce sont aussi les dysfonctionnements de l’enceinte qui permettent de comprendre son fonctionnement. Par exemple, lorsque l’enceinte réagit à une « fausse » sollicitation : prononcer une phrase comme « qu’est-ce que c’est que ça ? » activera ainsi bien souvent une enceinte d’Amazon dont le mot de réveil est « Alexa ». L’enceinte ne va alors pas forcément répondre, ne pouvant pas interpréter d’ordre, mais l’activation du témoin lumineux informe l’utilisateur que l’écoute active aura été brièvement enclenchée. A contrario, les enceintes ne réagissent pas toujours aux véritables sollicitations, forçant l’utilisateur à répéter le mot de réveil, parfois à plusieurs reprises, éventuellement à se rapprocher de l’enceinte pour formuler sa commande. Ces interactions fonctionnelles ou dysfonctionnelles renseignent sur les capacités techniques de l’objet et permettent à l’utilisateur d’intérioriser une forme de proxémie avec l’objet, et en particulier de savoir quelle est la portée efficace de ses micros.

Il reste à noter que les faux positifs sont tout de même légion. En outre, la reconnaissance de la signature vocale des utilisateurs étant encore peu aboutie, il est également possible pour d’autres personnes que les utilisateurs légitimes de l’enceinte de la déclencher à l’envi, comme l’illustre cette planche dessinée malicieusement signalée par l’enquêté 2.

«Listening » par XKCD, consulté le 30/X/2020

La transmission intempestive au fabricant

Si le fait que les micros des enceintes soient activés en permanence ne pose donc pas nécessairement problème, plus gênants sont les cas de transmission intempestives de données. Dans le modèle actuel, toute activation par un mot de réveil entraîne l’enregistrement et le téléversement des captats audio. Il n’est pas sûr que ce mécanisme soit tout aussi bien compris des utilisateurs en général, quoiqu’il ait été connu des personnes interrogées pour ma thèse. Là encore, le design et les dysfonctionnements de l’enceinte rendent compte de cet état de fait : la connexion au réseau Wi-Fi domestique est généralement la première étape de configuration d’une enceinte connectée, suivie de l’identification du profil Amazon, Google ou Apple. En outre, en cas de déconnexion ou de mauvaise connexion à Internet, le dysfonctionnement de l’enceinte apparaît en toute évidence et est signalé par un message d’erreur. Le fait que les modèles d’enceinte actuelles dépendent très fortement d’une connexion Internet reste donc assez clair.

En revanche, il est plus difficile de maîtriser la transmission des données échangées entre l’enceinte et les services distants. Le journaliste Artem Russakovskii en octobre 2017 a ainsi fait état de l’un des premiers bogues très commentés à propos des enceintes connectées, en l’espace une Google Home Mini dont la gamme venait alors de naître. La situation a été jugée suffisamment sérieuse par Google pour que l’entreprise dépêche un ingénieur chez le journaliste dans les heures suivant son signalement de bogue à au service de relations publiques. Un défaut de fabrication des boutons physiques des premières Home Mini entraînait en effet l’envoi presqu’ininterrompu de séquences vocales à Google. Artem Russakovskii s’était bien aperçu que les diodes de son enceinte tendaient à se déclencher très souvent, mais c’est surtout en allant voir l’historique de ses requêtes à son assistant dans son compte Google qu’il s’est aperçu du fait que son enceinte l’enregistrait en permanence. Le bogue a été rapidement résolu par la désactivation (logicielle) pure et simple des boutons défectueux.

De ce point de vue, davantage d’inquiétudes ont été exprimées par mes enquêtés à propos de leurs téléphones portables que de leurs enceintes. Là où l’enceinte a une présence physique et une localisation manifestes, le smartphone se fait en revanche beaucoup plus facilement oublier. Deux enquêtés interrogés dans des entretiens distincts m’ont ainsi rapporté la même anecdote du déclenchement de l’assistant vocal de téléphones au cours d’une réunion professionnelle.

E1A : Ou alors ils sont sur leur téléphone, et sur leur téléphone sans le savoir “Ok Google” il est déjà activé… Enfin moi ce qui est assez rigolo c’est que le nombre de collègues que j’ai en réunion où t’as le truc qui se déclenche alors que personne n’a dit “Ok Google” mais le téléphone a cru comprendre qu’il y avait ça, du coup il commence à parler.[29:09] Enfin c’est…

Au-delà du fait que l’enjeu du paysage sonore de leur entreprise leur semblait plus important et rendait ces activations plus gênantes, le caractère plus nettement intempestif de ces activations tenait également au fait qu’un iPhone posé sur la table ou glissé dans une poche n’est pas attendu et bien identifié comme activable vocalement. Selon l’enquêté E1A, qui travaille pourtant dans le secteur informatique, beaucoup de ses collègues n’ont pas conscience du fait que l’assistant vocal de leur téléphone est activé, là où une enceinte connectée ne laisse presque pas de doute à ce sujet et permet plus simplement une gestion proxémique de la question.

En matière d’intempestivité des transmissions de données, se pose enfin la question de la confiance à accorder aux concepteurs mêmes des enceintes pour ne pas récupérer de données subrepticement. Une approche « paranoïaque » consiste à ne pas leur faire confiance du tout… et à remplacer jusqu’aux micros des enceintes. Une approche plus modérée a consisté pour des chercheurs à monitorer le trafic réseau sortant des enceintes pour vérifier que les transferts de données correspondaient bien aux moments d’activation de l’enceinte et que peu ou pas de données étaient échangées à d’autres moments – typiquement, pour une mise à jour [1] [2] [3] [4]. Pour autant, même cette démarche a pour limite que ces tests ne valent que sur les enceintes testées et au moment des tests : le logiciel des enceintes étant propriétaire et compilé par les fabricants, il est impossible de garantir la loyauté de leur fonctionnement.

La réutilisation des informations acquises

La transmission d’informations au fabricant de l’enceinte ou des objets connectés qui lui sont associés est un motif d’inquiétude assez faible pour la plupart des personnes interrogées. Cette boucle de circulation des données est attendue et assez bien comprise. Il est en revanche beaucoup moins accepté que les données captées par les enceintes ou les autres capteurs du domicile soient réutilisées pour autre chose que l’usage directement attendu par leurs utilisateurs2

Cette réutilisation non désirée peut résulter d’une simple erreur de la reconnaissance vocale. J’ai déjà évoqué sur ce blog le cas d’un couple de Portland (en mai 2018) dont une partie de leurs conversations privées ont été transmises à un employé du mari via une enceinte Alexa. L’explication officielle donnée par Shelby Lichliter, porte-parole d’Amazon, est que leur enceinte a alterné faux-positifs et mésinterprétations en un « [improbable] enchaînement d’évènements ». La fonction d’envoi de messages audio aurait été activée, le nom d’un contact du couple inféré, et une fausse confirmation donnée à l’enceinte, qui aurait néanmoins demandé les confirmations d’usage pour cette fonction. L’épouse, interrogée par le journaliste de Kiro7, affirme quant à elle que l’enceinte serait restée muette durant tout le processus. S’il nous est impossible de savoir ce qui s’est réellement produit ce jour-là, quelques éléments saillants ressortent ce cette anecdote très médiatisée tant aux États-Unis qu’en France :

  • D’abord, la transmission non désirée d’une conversation privée à un tiers a été vécue comme une « pleine intrusion dans leur intimité » («total privacy invasion») par l’épouse. Le fait que le destinataire ait été un humain, qui plus est connu du couple, joue probablement beaucoup ici, comme nous le verrons plus bas. La personne qui a reçu les bribes de conversation a pour sa part immédiatement pensé à un hack, qui relève aussi du registre de l’intrusion.
  • Ensuite, l’essentiel du contentieux entre Amazon et le couple lésé tient au fait de savoir si oui ou non l’enceinte a prévenu ses utilisateurs de l’action en cours : on retrouve ici l’importance du design logiciel et matériel des enceintes, qui doivent manifester sans équivoque leurs activations et activités pour être acceptées dans le foyer. In fine, la confiance ayant été rompue, l’utilisatrice rapporte qu’elle a débranché son installation et souhaite la restituer à Amazon contre remboursement.
  • Enfin, le couple portlandais avait une connaissance diffuse et imprécise du fait que leurs enceintes « les écoutaient » en général, puisque c’était le sujet d’une plaisanterie entre eux. Nous verrons dans un billet de blog ultérieur que ce recours à l’humour est très fréquent parmi les utilisateurs d’enceintes pour apprivoiser et accepter ces outils dont le fonctionnement réel n’est pas toujours bien compris.

Pour autant, la principale inquiétude exprimée par les personnes interrogées relativement à la circulation de données captées par leurs enceintes hors du cadre de leur relation aux fabricants des objets connectés de leur domicile reste la publicité. Cette question fera l’objet de plusieurs billets dédiés, mais les acteurs de la publicité sont nettement perçus comme étant les plus susceptibles d’être intéressés par la captation de l’environnement sonore des domiciles. L’importance économique du secteur et ses pratiques de récolte massive de données sont bien connus des utilisateurs, qui y sont déjà très familiarisés dans le reste de leurs usages internétiques. C’est d’ailleurs LA menace mise en avant dans la communication de Paranoid Home analysée dans un billet précédent. L’entreprise a, me semble-t-il, parfaitement identifié la crainte quasi générale vis-à-vis du secteur publicitaire et spécifiquement liée à l’audio : que la possibilité d’être écouté en permanence ouvre un nouveau canal d’inputs pour les publicitaires qui leur permettrait identifier toujours plus d’intérêts potentiels des consommateurs. Que ce soit en entretien formel ou dans des discussions plus informelles autour de mon sujet de recherche, les anecdotes abondent à propos de publicités poussées suite à une conversation à portée d’un assistant connecté, qui n’auraient donné lieu à aucune recherche active sur un terminal (commande vocal ou navigation sur le Web). Dans l’enquête, seul un couple affirme clairement n’avoir jamais constaté de lien entre une simple discussion orale et une campagne publicitaire ultérieure. Sans présumer de la réalité (douteuse) d’une telle pratique commerciale, la vivacité de cette crainte méritera en tous les cas un développement à part entière.

Ecce homo ?

Au-delà de la question de la circulation des données en-dehors des espaces attendus ou tolérés par les utilisateurs, une de mes hypothèses de recherche initiales était que le statut humain ou logiciel du traitement des données en question semblerait fondamentale à la plupart des personnes interrogées.

Cette hypothèse semble validée dans l’exemple du couple portlandais, où le destinataire des captats audios sortis du domicile était une personne, qui plus est une connaissance (un employé) du mari. Il est probable que l’affaire n’aurait pas eu d’écho si les utilisateurs de l’enceinte s’étaient simplement aperçus que leur enceinte s’était déclenchée de manière inopinée et avait enregistré une partie de leurs conversations sur les serveurs d’Amazon, par exemple sous la forme d’une note vocale. De même, l’émotion médiatique qui a touché le secteur des enceintes connectées en 2019 tenait au fait que des sous-traitants humains – et non pas seulement des logiciels – devaient écouter une partie des enregistrements pour superviser l’apprentissage des logiciels de TALN des enceintes.

Cette hypothèse ne se vérifie en réalité pas tant que ça. Beaucoup d’enquêtés ont bien sûr une réaction attendue contre le principe même d’une enceinte connectée, comme ici très tôt en début d’entretien :

JFP : (…) Tout ce qui est Google Home, Amazon Alexa…
E11A : Mais ça c’est se mettre un espion dans sa maison, quoi.
E11B : Ouais, ouais.

Mais ces enquêtés n’en préfèrent pas moins avoir affaire à des humains par principe pour le maximum de procédures dans leur vie quotidienne, y compris lorsque des données personnelles sont de facto connues par un employé administratif contrôlant leur dossier, ou lorsqu’un employé d’EDF se présentait chez eux et devait donc pénétrer dans leur domicile pour relever leur consommation électrique avant l’installation d’un compteur communiquant Linky.

Interrogée spécifiquement à propos de la différence entre lecture humaine ou automatisée d’informations la concernant, une enquêtée ne possédant par ailleurs pas d’enceinte évoque ainsi le fait qu’elle se moque qu’un humain ou un logiciel consulte ses données de navigation sur Internet – ou son banquier l’historique de sa carte de crédit, dans un autre moment de l’entretien :

E002: (…) Et après, un humain qui voit par exemple mon historique de recherche ou quoi, non, je m’en fous un peu.

Plus étonnant, un couple d’utilisateurs enthousiastes d’une enceinte Alexa trouvent même cocasse l’idée que quelqu’un cherche ou puisse les écouter en permanence. Lorsque nous évoquons le risque d’un piratage du micro de leur enceinte, E1B se prend à imaginer que « quelqu’un » pourrait les écouter, casque vissé sur les oreilles. Elle désamorce immédiatement la situation par une plaisanterie :

E1B : …et je vois mal un mec ou une nana avec un casque “alors vas-y, qu’est-ce qu’ils disent…” (nous rions tous) Tu imagines le job de merde ![1:10:05]

Son compagnon, un peu plus méfiant, croit savoir que :

E1A : Mais c’est des ordinateurs qui font ça aujourd’hui, chérie.

Si l’idée lui plait un peu moins qu’à sa compagne, et qu’il préfère visiblement que ce soit des ordinateurs qui l’écoutent, il ne se formalise pas pour autant de l’idée. Dans le cas de ce couple comme de l’enquêtée 002, c’est en fait d’être vus par un humain qui leur semble problématique, que ce soit dans la rue pour une E002 mal à l’aise à l’idée de rajuster inélégamment sa tenue dans la rue sous l’éventuel œil goguenard d’un agent de vidéosurveillance, ou pour le couple E1 qui définirait davantage sa vie privée par la préservation de son image plus que de ses paroles :

E1A : Après ouais, la vie privée c’est peut-être plus l’image. Même l’image ça me dérangerait plus.[1:10:49] Qu’on me voie.
E1B : (approuve)
E1A : Plus que ce que je dis.

Mieux informés que la moyenne, la plupart des personnes enquêtées a conscience que des humains pourraient de fait écouter leurs conversations domestiques, ou ne s’en trouve pas particulièrement choquée quand la possibilité est évoquée. Ce résultat n’est bien sûr pas représentatif d’une désinvolture en population générale quant à la possibilité d’être écoutés chez soi par un employé ou un sous-traitant du concepteur de leur assistant connecté, mais elle semble à tout le moins indiquer que cette attitude n’est pas ou plus dominante.

Conclusion

La captation permanente de l’environnement sonore du domicile par les enceintes connectées ne semble donc pas poser en soi un problème fondamental. Les usagers règlent assez naturellement leur proxémie sonore avec l’enceinte pour tenir compte de ce fait. Les choix de design des fabricants, axés sur la transparence quant à l’activation ou non des fonctions de télétransmission des captats audios, semble ici déterminant. Plus encore : même le fait que des humains puissent avoir accès à ces enregistrements audios ne semble pas poser de souci fondamental pour beaucoup d’usagers dans des conditions banales d’utilisation.

Il n’en reste pas moins que beaucoup d’autres restent entièrement rétifs à l’idée de « mettre un espion dans sa maison » (E11A), et que même parmi celles et ceux qui n’ont pas de problème de principe avec l’écoute permanente, la question de couper ou non les micros se pose dans certaines conditions.

Notes

1. M. Biéri et F. Vallet, À votre écoute – Exploration des enjeux éthiques, techniques et juridiques des assistants vocaux, Paris (France), CNIL, 2020, p. 41.

2. Le RGPD consacre d’ailleurs cette aversion dans le principe dit de limitation des finalités disposant que « les données à caractère personnel doivent être collectées pour des finalités déterminées, explicites et légitimes, et ne pas être traitées ultérieurement d’une manière incompatible avec ces finalités » (article 5,1,b).

(not so ?) Paranoid Home

Photo de Johan Bos provenant de Pexels

Découverts par hasard sur le site de commerce électronique ProPrivacy1, les gadgets de la gamme Paranoid Home ont pour ambition de renforcer la sécurité des enceintes connectées en faisant vocalement écran entre l’utilisateur et l’enceinte elle-même. Trois solutions sont proposées :

  • avec Home Button, un poussoir physique qui va appuyer pour l’utilisateur sur le bouton « Muet » de l’enceinte connectées afin d’allumer et d’éteindre le micro à la voix,
  • avec Home Wave, émettre en permanence des interférences inaudibles par l’utilisateur pour brouiller les micros de l’enceinte connectée tant que l’utilisateur ne souhaite pas lui adresser une commande vocale, à la manière des bracelets-brouilleurs développés à l’université de Chicago,
  • avec Home Max, remplacer physiquement les micros d’origine par ceux de la société Paranoid.

L’entreprise développe longuement ses principes dans deux billets de blog plaisamment présentés sous forme de dialogues avec un personnage malveillant, Ori (partie 1, partie 2). Sans préjuger de l’intérêt ou de l’efficacité de ces dispositifs ou techniques en eux-mêmes, en faire une analyse sous l’angle du questionnement sur la vie privée numérique est un exercice intéressant.

Le modèle de menace

Paranoid cherche avant tout à rendre confiance aux utilisateurs en leur enceinte connectée, confiance qui aurait été perdue ou du moins sérieusement écornée à la suite de scandales récurrents d’enregistrements vocaux non désirés. Beaucoup, plus ou moins anecdotiques, sont nés de faux positifs de la reconnaissance vocale, comme lorsqu’Amazon Alexa a envoyé par messages audios un enregistrement d’une conversation entre un homme et son épouse à un employé de celui-là (à Portland en mai 2018). Le déclenchement n’est d’ailleurs pas toujours un faux positif, mais bel et bien délibéré. La marque de restauration rapide Burger King a lancé la première publicité télévisée déclenchant à dessein le Google Home des téléspectateurs pour faire la promotion de son sandwich-phare (mars 2018), et les créateurs de la série animée humoristique South Park ont également piégé leur audience en ajoutant divers articles incongrus à leur panier Amazon via les enceintes Alexa (septembre 2017). Plus inquiétant, moins visible, et alimentant le fantasme d’une écoute permanente, certains bogues ont effectivement provoqué l’envoi au fabricant de l’enceinte de longues séquences vocales comme en témoignait le journaliste Artem Russakovskii en octobre 2017. La prise de conscience par le grand public que les enregistrements étaient souvent analysés par des opérateurs humains sous-traitants de Google, Amazon et Microsoft a également provoqué des controverses assez vives au cours de l’année 2019. La plupart des personnes interrogées durant mon enquête de thèse se sont faits l’écho de ces anecdotes ou de cette inquiétude diffuse. Plusieurs enceintes connectées se sont d’ailleurs déclenchées inopinément en ma présence lors des entretiens, à l’instar des résultats obtenus par une équipe de recherche allemande, et comme en témoigne une opératrice ayant travaillé à l’amélioration de la reconnaissance vocale de Cortana de Microsoft.

Contrairement aux modèles de menace les plus courants en sécurité informatique dans lesquels l’attaquant est souvent un tiers ouvertement malveillant, c’est ici avant tout contre son enceinte elle-même que l’utilisateur cherche à se prémunir. Cette attaque peut être volontaire (écoute non déclarée et non demandée) ou involontaire (bogue ou faux positif découlant d’un développement encore insuffisant de la reconnaissance vocale de l’enceinte).

Les données exposées sont l’ensemble des captats sonores à portée de micro de l’enceinte. L’enjeu à protéger est, plus largement, l’environnement sonore du lieu où l’enceinte est installée. Il relève de la vie privée si l’enceinte est installée dans un domicile ou autre lieu privatif, mais également du secret professionnel si elle est installée dans des locaux de travail. Dans tous les cas, il s’agit de rendre confiance à l’utilisateur quant à sa maîtrise sur le flux audio capté par son enceinte.

Retrouver la maîtrise sur son intérieur

Si l’enceinte elle-même est à la fois un attaquant et une vulnérabilité, l’idée commune des solutions proposées par Paranoid Home est de ne pas faire confiance au matériel et/ou au logiciel client et/ou au logiciel serveur proposés par le fabricant de l’enceinte, en ajoutant à l’appareil une interface développée par Paranoid Home.

Le micro Paranoid “Home Max” remplaçant le micro original sur une enceinte-témoin sur le site de la marque au 26 août 2020

Comment l’entreprise Paranoid Home peut-elle garantir que ses solutions valent mieux que les commandes physiques (bouton on/off du micro de l’enceinte) ou les promesses de loyauté de Google, Amazon ou Apple ? En proposant des dispositifs qui ne peuvent traiter la donnée que localement, sans lien possible vers Internet. En somme, il s’agit de déconnecter par défaut l’enceinte connectée de l’utilisateur. Ainsi, la prise de commande à distance devient impossible, et le risque de voir des captats « fuiter » diminue. En outre, l’utilisateur est sûr que l’enceinte ne réagira pas à un éventuel autre mot de réveil que ceux auxquels elle est censée réagir.

Si les dispositifs de Paranoid Home ne sont pas connectés à Internet, il faut néanmoins préciser qu’ils restent pilotables à distance, en particulier pour les mettre à jour. Le protocole utilisé ne repose pas sur TCP/IP. L’utilisateur doit pour ce faire appuyer sur un bouton physique de son produit Paranoid pour activer le micro et passer en mode de mise à jour. La transmission de données se fait alors en jouant un fichier son capté par le micro. Cette technique était également utilisée par la société Polar à la fin des années 2000 pour faire communiquer ses montres de sport avec un ordinateur. La technique n’est sans doute pas inviolable, mais elle fait appel à des compétences vraisemblablement moins répandues. En outre, elle implique là encore une action physique sur l’appareil Paranoid, et la possibilité d’émettre des sons à proximité immédiate de l’enceinte.

En somme, les dispositifs développés par Paranoid apportent moins une solution à un problème technique qu’à un problème spatial. Là où les enceintes connectées ouvrent l’environnement sonore du domicile à des « oreilles » extérieures (au sens où elles font circuler des captats audio vers l’extérieur et qu’elles peuvent éventuellement être activées de l’extérieur), la gamme de produits Paranoid Home assure ses utilisateurs que seuls les sons qu’ils auront activement choisi de partager sortiront de leur domicile. En ne permettant que des modes d’activation résultant sans conteste d’une action physique localisée dans le domicile (appuyer sur un bouton, ou prononcer les mots de réveil adéquats), Paranoid réinstaure le caractère privé et localisé de l’environnement sonore du domicile.

Un marketing axé sur la sécurisation de la vie privée

Du point de vue du marketing, le nom de l’entreprise et les fonctionnalités de ses produits sont parfaitement cohérents avec son message. « Paranoid », qui est aussi le mot de réveil des dispositifs de la marque, laisse entendre que rien ne sera laissé au hasard quant à la protection de la vie privée de l’utilisateur. Le nom de la gamme « Home » en particulier renvoie à la sphère domestique qui est le principal débouché spatial des enceintes connectées. La juxtaposition des deux termes suggère l’image d’un domicile maniaquement protégé des intrusions extérieures. Le choix du terme « paranoid » n’en reste pas moins clivant : sa connotation, plutôt négative en première approximation, laisse supposer que l’entreprise s’adresse à un marché de niche. Il implique en effet que l’acheteur soit plus sensible à la connotation de protection qu’à la connotation d’excessivité qui définissent la paranoïa.

Logo et slogan de Paranoid sur leur page d’accueil au 26 août 2020

Le logo de l’entreprise ne présente pas un grand intérêt du point de vue de la communication sur la protection de la vie privée. Il s’agit d’un P stylisé dans la boucle duquel un point noir figure peut-être un bouton-poussoir ou la pupille d’un œil écarquillé. Il pourrait signifier que Paranoid « garde un œil » sur les données de ses clients. Le slogan « Uniting Tech and Privacy. Get Paranoid » est en revanche beaucoup plus révélateur : s’il est nécessaire d’unir la technologie et la vie privée, c’est que le lien entre ces deux notions n’est pas évident de prime abord. L’entreprise défend donc l’idée que les technologies numériques contemporaines sont en soi dommageables à la vie privée de leurs utilisateurs – et en particulier les enceintes connectées pour lesquelles ses premiers produits de la gamme Paranoid Home ont été développés. La solution proposée, « Get Paranoid » joue sur le double sens du verbe get : « devenez paranoïaque » et « acquérez [un produit] Paranoid ». Le choix d’utiliser des lettres capitales au début de chaque mot du slogan permet de maintenir l’ambiguïté sur le fait que « Paranoid » renvoie au nom de la marque ou à l’adjectif.

Le reste de la communication de la marque est assez classique : jouer sur la peur pour créer le besoin pour ses solutions. Dans la page dédiée aux produits de l’entreprise, un slogan alternatif est proposé en accompagnement d’une vidéo promotionnelle : « Data is Forever. Get Paranoid ».

Extrait de vidéo promotionnelle au 26 août 2020

On retrouve le jeu de mot sur to get, mais la marque insiste cette fois sur le fait que « les données », comme les écrits, « restent ». On joue ici sur le sentiment fréquemment exprimé par les utilisateurs de technologies numériques liées à Internet qu’ils n’ont pas de véritable contrôle sur le devenir des données qu’ils confient à des tiers, en particulier des entreprises. De fait, la reproductibilité des données numériques fait qu’il est impossible de savoir ce qu’il advient de données stockées sur une machine distante. La vidéo promotionnelle met ici en scène de façon très graphique le fait que le micro Home Max est un barrage sur lequel viennent éclater de petits phylactères figurant divers types de données (paroles, «likes », données de santé…) qui ne seront pas captés puis diffusés par l’enceinte connectée équipée du dispositif Paranoid Home. Dans la version longue de la vidéo, on peut également relever que l’enceinte-témoin fictive utilisée par la marque dans sa communication s’appelle Orwell afin de faire écho à l’inquiétant télécran décrit par George Orwell dans son roman de science-fiction 1984.

Du privacy washing ?

On peut spontanément inscrire les dispositifs vendus par Paranoid comme des privacy enhancing technologies (PET) et la méthode adoptée comme relevant du privacy by design ou, en l’occurrence, by redesign puisqu’il s’agit de modifier un appareil existant pour limiter l’exposition de la vie privée de ses utilisateurs par une action sur le fonctionnement même de l’appareil. Cette démarche fait également écho aux travaux d’Helen Nissenbaum pour laquelle c’est le contexte social qui détermine l’évaluation par les individus d’un niveau de privacy : une même information peut-être jugée privée vis-à-vis d’un certain actant et pas d’un autre. Ici, un échange vocal entre deux personnes présentes à portée d’une enceinte connectée implique évidemment que les deux interlocuteurs seront amenés à avoir connaissance des informations échangées, mais il est exclu pour les clients de Paranoid qu’un tiers (Amazon, Google, Apple… ou Paranoid !) puisse en devenir un destinataire-tiers, même accidentel.

En deuxième analyse, on peut aussi décrire la méthode de Paranoid comme relevant du solutionnisme technologique en cela qu’elle apporte une solution essentiellement technique au problème (spatial) qu’elle entend résoudre. Il ne s’agit pas d’agir, par exemple, au niveau de la loi ou des régulateurs, ou encore par des tactiques individuelles comme l’obfuscation, afin de limiter d’éventuels dommages sur la vie privée des utilisateurs. On pourrait même parler de solutionnisme technologique au carré, puisque le problème de la dissémination non-désirée éventuelle de données via les enceintes connectées nait lui-même de la mise en œuvre d’une technologie.

Enfin, on pourrait aller jusqu’à parler de privacy washing au sens où l’argument de la protection de la vie privée serait utilisé à outrance, voire de manière fallacieuse par l’entreprise. Tout en orientant sa communication sur la protection de la vie privée, la vitalité économique de Paranoid dépend de l’existence même d’un parc d’enceintes connectées qui exposent en amont la vie privée de leurs utilisateurs. Malgré un positionnement apparent fort, défiant, « paranoïaque », l’entreprise ne remet pas en cause le modèle d’affaires des fabricants d’enceintes connectées, qui s’appuie généralement sur l’exploitation des données de ses utilisateurs. Pour autant, l’entreprise ne promet que de s’assurer que ses utilisateurs communiqueront exclusivement les captats audio de leur choix à l’exploitant de leur assistant connecté, rien de plus. Ce point relève donc plutôt du débat classique entre les positionnements réformistes et radicaux.

Un dernier point, plus gênant peut-être, est que Paranoid axe sa communication autour du fait que le domicile / « Home » de ses clients est protégé par ses dispositifs, alors que l’enceinte connectée n’est pas la seule vulnérabilité dans le modèle de menace auquel l’entreprise prétend apporter une solution.

Une paranoïa parmi d’autres

Dans la longue vidéo publicitaire de la marque, une famille est rassemblée dans un vaste salon équipée d’une enceinte connectée de marque fictive (Orwell). La cadette se plaint du ciblage publicitaire dont elle s’estime l’objet : juste après avoir évoqué ses difficultés en mathématiques à sa mère, elle reçoit sur son téléphone des publicités pour des cours de soutien dans cette matière. Après une rapide discussion, son frère aîné pointe avec virulence l’enceinte connectée posée sur une table basse, en arguant que c’est par ce biais que les membres de la famille se trouvent ciblés par les publicitaires. De fait, Ori, un petit alien à l’allure geek opérant à l’intérieur de l’enceinte écoute toutes les conversation et envoie des publicités ad hoc aux membres de la famille. La mère commande alors un Paranoid Home Max, et Ori se retrouve assourdi par un fort bruit blanc.

Extrait à 50 s de la principale vidéo publicitaire de Paranoid au 26 août 2020

Ce qui est en fait le plus intéressant dans cette vidéo est que seule l’enceinte connectée est pointée du doigt… quand bien même les deux enfants manipulent leurs smartphones et le père une tablette. Or, ces appareils n’ont rien à envier à une enceinte connectée, puisqu’ils sont également pourvus de micros, d’une connexion à Internet, et probablement dotés du logiciel client d’un assistant connecté tels qu’Alexa d’Amazon ou Siri d’Apple. Ils permettent en outre un éventail beaucoup plus large de pratiques utilisées pour la collecte de données personnelles à des fins publicitaires (géolocalisation, navigation sur Internet, échanges de SMS…). Enfin, c’est à travers son smartphone que la jeune fille se voit proposer une publicité : cet appareil est donc d’autant plus central dans un modèle de menace se défiant de la publicité qu’il est à la fois un capteur de données potentiel et un diffuseur d’informations personnalisées. Pourtant, c’est uniquement de l’enceinte connectée que Paranoid invite à se défendre.

Paranoid Homme

Pour répondre à ce problème, le Human Computer Integration Lab (HCI) de l’université de Chicago a utilisé la technique utilisée par le Paranoid Home Wave, à savoir la diffusion d’un fort bruit blanc. Mais, à la différence de Paranoid, ce brouilleur n’est pas à placer sur l’enceinte : il s’agit d’un bracelet que l’utilisateur porte au poignet.

Principe de fonctionnement et résultats obtenus avec un bracelet-brouilleur du laboratoire HCI

D’après leur article de présentation pour le CHI2020, on peut inférer que Paranoid s’est concentré sur le brouillage direct des microphones des enceintes connectées parce que la technique est plus simple : il suffit alors d’un haut-parleur unidirectionnel. Le bracelet du HCI est, lui, un brouilleur omnidirectionnel, ce qui implique également de profiter du fait que l’utilisateur est en mouvement pour éviter les angles morts (blind spots) du brouillage entre les différents hauts-parleurs placés sur le bracelet – les signaux sonores émis par chaque haut-parleur pouvant s’annuler, selon le principe aussi utilisé en réduction du bruit. En somme, cette technique est plus complexe à mettre en œuvre. En revanche, elle a pour mérite de s’appliquer à tous les micros environnants, y compris ceux d’un smartphone, d’une tablette ou autre.

D’un point de vue spatial, l’implication est également forte : là où Paranoid focalise l’attention sur le domicile augmenté d’une enceinte connectée, le HCI propose de changer d’échelle et de traiter le problème de la captation indésirée de données sonores à l’échelle corporelle. Il ne s’agit pas d’agir sur l’espace du domicile en lui-même, le « home » si présent dans la communication de Paranoid ou de Google. Il est plutôt proposé à l’émetteur des données sensibles, à savoir le corps producteur des sons à protéger, d’emmener avec lui sa bulle sonore protectrice et portative.

Conclusion

Malgré des efforts de communication remarquables, il faut le signaler, les produits l’entreprise Paranoid visent évidemment un marché de niche en comparaison des enceintes connectées elles-mêmes. Mon analyse ne prétend donc pas anticiper une tendance technologique majeure amenée à transformer profondément les rapports sociaux et les interactions humains/machines. Elle permet néanmoins de rendre compte à travers un micro-exemple de la complexité des questions sous-jacentes à l’utilisation des enceintes et des objets connectés :

  • c’est devenu un truisme, mais l’interspatialité croissante entre les espaces tangibles et internétiques bouleversent nos catégories spatiales habituelles, et, en particulier, transforment et distendent les échelles auxquelles considérer les pratiques et espaces quotidiens ;
  • même à l’ère de la « révolution numérique » réticulaire, les imaginaires spatiaux restent structurés par des géotypes finalement très territoriaux, comme le domicile ;
  • dans le même ordre d’idée, l’action sur l’espace continue de prévaloir là où notre réalité augmentée par des technologies numériques miniaturisées et toujours plus diffuses implique de penser avant tout les spatialités.

Note

1 Plus exactement, ProPrivacy sélectionne des produits qu’ils jugent compatibles avec la préservation de la privacy de leurs lecteurs, en font la critique, et se rémunèrent grâce à des liens d’affiliation.

Ajout du 22/10/20

Pour un bon article de Voicebot.ai (en anglais) sur un projet similaire à celui de Paranoid portant le nom de Project Alias, cliquez ici.

Des outils de sondage en ligne respectueux de leurs utilisateurs

Dans le cadre du confinement, un grand nombre de questionnaires ont été mis en ligne par des chercheurs en sciences sociales et médicales pour évaluer les conditions de vie des personnes confinées. Si cet effort de recherche à chaud est évidemment salutaire, il pose avec acuité la question de la gestion de données sensibles quand ces questionnaires sont confiés à des entreprises connues pour exploiter les données de leurs usagers, comme Google ou Microsoft.

En effet, des questions très personnelles sont posées, portant par exemple sur la consommation d’alcool ou de tabac, les choix de vie à venir, ou encore les tensions psychologiques au sein du couple ou de la famille.

Des questions spécifiques à la gestion du confinement par les personnes sont également souvent posées, comme le fait qu’elles aient ou non respecté la consigne de se confiner au domicile principal. Si le risque de chasse aux sorcières est bien sûr très faible en l’espèce, on peut se demander si les personnes voudront répondre sincèrement à ce type de questions sur des services dont elles savent plus ou moins confusément qu’ils exploitent leurs données (voir la notion de « chilling effect » bien décrite par Elizabeth Stoycheff dans le cadre de l’utilisation de Facebook).

Il ne s’agit pas de paranoïa. D’une part, il faut rappeler que les chercheurs sont moralement responsables des données qu’ils collectent, au-delà du seul respect de la législation. Ils doivent à leurs enquêtés le mieux-disant en matière de gestion des données de recherche. D’autre part, le confinement est un moment propice pour les industriels et pouvoirs publics promouvant les mesures de surveillance de la population. Aux prétextes habituels (lutte contre le terrorisme, le crime en ligne ou la pédopornographie), mobilisés par exemple contre le chiffrement des échanges en ligne, s’ajoute désormais le motif sanitaire de suivi de la pandémie. Et les exemples de ré-utilisations contestables des données personnelles collectées par les grandes entreprises du Web ne manquent pas, malheureusement. Cette réutilisation est d’ailleurs prévue dans leurs conditions d’utilisation, puisque c’est la base de leur modèle d’affaire.

Ce moment de crise doit nous permettre d’améliorer nos pratiques.

Au-delà de l’intérêt évident de ces recherches, la question des outils de sondage utilisés se pose donc plus encore qu’à l’habitude. Quelles solutions s’offrent à nous ? Des outils libres, donc auditables et paramétrables à l’envi existent pour faire des sondages, offrant deux possibilités aux chercheurs :

  • Avoir recours à des outils clés-en-main, avec une création de sondage directement en ligne. L’association de promotion du logiciel libre Framasoft propose ainsi son outil Framaforms. Ne requérant qu’une inscription, sa principale limite est de ne permettre que 1000 réponses par sondage, la capacité des serveurs d’une association à but non lucratif étant forcément limitée. Pour des sondages plus larges (jusqu’à 100 000 réponses par questionnaire), l’entreprise LimeSurvey propose un outil libre et en source ouverte hébergé sur son infrastructure, LimeSurvey Pro. Cette solution est payante, avec un rabais de 30 % pour les établissements d’enseignement.
  • Avoir recours à des outils auto-hébergés. En utilisant des outils libres, le coût d’une telle option peut être sensiblement réduit, et le contrôle par l’équipe de recherche sur les données collectées est total. La contrainte est alors d’héberger et maintenir soit-même le logiciel sur un serveur personnel ou maintenu par son équipe de recherche. Cette possibilité est offerte par LimeSurvey Community Edition comme par NextCloud ou encore Framaforms, dont le code source est disponible à cette adresse et dont le tutoriel d’installation est en cours de rédaction. Bien que ces logiciels soient disponibles gratuitement, conformément aux principes libristes, leur utilisation en auto-hébergement ne doit pas empêcher de participer financièrement à leur développement par un (contre-)don aux équipes qui les développent.

L’université Paris 5 a mis en place une telle infrastructure pour ses usages internes et externes. Et c’est aussi le cas de l’enquête sur le confinement d’Éléonore Pigalle et Cyril Atkinson-Clement pour l’hôpital de la Pitié-Salpêtrière et de l’université Gustave Eiffel, ou encore du sondage de l’INSERM dirigé par F. Haesebaert (HESPER, université Lyon 1), N. Franck, et avec l’aide d’Elodie Zante.

Ces solutions sont évidemment plus longues à mettre en œuvre que la création d’un formulaire en ligne chez Google ou Microsoft. Du reste, il ne s’agit pas d’incriminer les utilisateurs des solutions proposées par ces entreprises dans une période de travail de crise. L’idée est plutôt de profiter des enseignements que nous pouvons en tirer pour encourager, à terme, les meilleures pratiques de recherche.

EDIT 24/V/2021 : ajout de la possibilité d’intégrer un outil de sondage dans une instance NextCloud

Vies privées numériques

Ce carnet s’inscrit dans le cadre d’une recherche doctorale en géographie sur les spatialités de la vie privée à l’ère numérique. La notion de vie privée est en effet profondément recomposée avec la généralisation des dispositifs de pistage des individus et avec l’accessibilité grandissante à des informations autrefois difficiles à collecter et à collationner. La thèse en cours propose de faire l’archéologie de la notion de vie privée et de rendre compte de ses évolutions contemporaines via une approche par l’espace et les pratiques spatiales. Un parti pris fort en est de considérer à la fois l’espace comme matériel et comme immatériel (notamment sur Internet). Ce carnet rendra compte de l’avancement de cette recherche, des pistes suivies ou non, ainsi que de la veille sur la question.

Les spatialités de la vie privée à l’ère numérique

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search