(not so ?) Paranoid Home

Photo de Johan Bos provenant de Pexels

Découverts par hasard sur le site de commerce électronique ProPrivacy1, les gadgets de la gamme Paranoid Home ont pour ambition de renforcer la sécurité des enceintes connectées en faisant vocalement écran entre l’utilisateur et l’enceinte elle-même. Trois solutions sont proposées :

  • avec Home Button, un poussoir physique qui va appuyer pour l’utilisateur sur le bouton « Muet » de l’enceinte connectées afin d’allumer et d’éteindre le micro à la voix,
  • avec Home Wave, émettre en permanence des interférences inaudibles par l’utilisateur pour brouiller les micros de l’enceinte connectée tant que l’utilisateur ne souhaite pas lui adresser une commande vocale, à la manière des bracelets-brouilleurs développés à l’université de Chicago,
  • avec Home Max, remplacer physiquement les micros d’origine par ceux de la société Paranoid.

L’entreprise développe longuement ses principes dans deux billets de blog plaisamment présentés sous forme de dialogues avec un personnage malveillant, Ori (partie 1, partie 2). Sans préjuger de l’intérêt ou de l’efficacité de ces dispositifs ou techniques en eux-mêmes, en faire une analyse sous l’angle du questionnement sur la vie privée numérique est un exercice intéressant.

Le modèle de menace

Paranoid cherche avant tout à rendre confiance aux utilisateurs en leur enceinte connectée, confiance qui aurait été perdue ou du moins sérieusement écornée à la suite de scandales récurrents d’enregistrements vocaux non désirés. Beaucoup, plus ou moins anecdotiques, sont nés de faux positifs de la reconnaissance vocale, comme lorsqu’Amazon Alexa a envoyé par messages audios un enregistrement d’une conversation entre un homme et son épouse à un employé de celui-là (à Portland en mai 2018). Le déclenchement n’est d’ailleurs pas toujours un faux positif, mais bel et bien délibéré. La marque de restauration rapide Burger King a lancé la première publicité télévisée déclenchant à dessein le Google Home des téléspectateurs pour faire la promotion de son sandwich-phare (mars 2018), et les créateurs de la série animée humoristique South Park ont également piégé leur audience en ajoutant divers articles incongrus à leur panier Amazon via les enceintes Alexa (septembre 2017). Plus inquiétant, moins visible, et alimentant le fantasme d’une écoute permanente, certains bogues ont effectivement provoqué l’envoi au fabricant de l’enceinte de longues séquences vocales comme en témoignait le journaliste Artem Russakovskii en octobre 2017. La prise de conscience par le grand public que les enregistrements étaient souvent analysés par des opérateurs humains sous-traitants de Google, Amazon et Microsoft a également provoqué des controverses assez vives au cours de l’année 2019. La plupart des personnes interrogées durant mon enquête de thèse se sont faits l’écho de ces anecdotes ou de cette inquiétude diffuse. Plusieurs enceintes connectées se sont d’ailleurs déclenchées inopinément en ma présence lors des entretiens, à l’instar des résultats obtenus par une équipe de recherche allemande, et comme en témoigne une opératrice ayant travaillé à l’amélioration de la reconnaissance vocale de Cortana de Microsoft.

Contrairement aux modèles de menace les plus courants en sécurité informatique dans lesquels l’attaquant est souvent un tiers ouvertement malveillant, c’est ici avant tout contre son enceinte elle-même que l’utilisateur cherche à se prémunir. Cette attaque peut être volontaire (écoute non déclarée et non demandée) ou involontaire (bogue ou faux positif découlant d’un développement encore insuffisant de la reconnaissance vocale de l’enceinte).

Les données exposées sont l’ensemble des captats sonores à portée de micro de l’enceinte. L’enjeu à protéger est, plus largement, l’environnement sonore du lieu où l’enceinte est installée. Il relève de la vie privée si l’enceinte est installée dans un domicile ou autre lieu privatif, mais également du secret professionnel si elle est installée dans des locaux de travail. Dans tous les cas, il s’agit de rendre confiance à l’utilisateur quant à sa maîtrise sur le flux audio capté par son enceinte.

Retrouver la maîtrise sur son intérieur

Si l’enceinte elle-même est à la fois un attaquant et une vulnérabilité, l’idée commune des solutions proposées par Paranoid Home est de ne pas faire confiance au matériel et/ou au logiciel client et/ou au logiciel serveur proposés par le fabricant de l’enceinte, en ajoutant à l’appareil une interface développée par Paranoid Home.

Le micro Paranoid “Home Max” remplaçant le micro original sur une enceinte-témoin sur le site de la marque au 26 août 2020

Comment l’entreprise Paranoid Home peut-elle garantir que ses solutions valent mieux que les commandes physiques (bouton on/off du micro de l’enceinte) ou les promesses de loyauté de Google, Amazon ou Apple ? En proposant des dispositifs qui ne peuvent traiter la donnée que localement, sans lien possible vers Internet. En somme, il s’agit de déconnecter par défaut l’enceinte connectée de l’utilisateur. Ainsi, la prise de commande à distance devient impossible, et le risque de voir des captats « fuiter » diminue. En outre, l’utilisateur est sûr que l’enceinte ne réagira pas à un éventuel autre mot de réveil que ceux auxquels elle est censée réagir.

Si les dispositifs de Paranoid Home ne sont pas connectés à Internet, il faut néanmoins préciser qu’ils restent pilotables à distance, en particulier pour les mettre à jour. Le protocole utilisé ne repose pas sur TCP/IP. L’utilisateur doit pour ce faire appuyer sur un bouton physique de son produit Paranoid pour activer le micro et passer en mode de mise à jour. La transmission de données se fait alors en jouant un fichier son capté par le micro. Cette technique était également utilisée par la société Polar à la fin des années 2000 pour faire communiquer ses montres de sport avec un ordinateur. La technique n’est sans doute pas inviolable, mais elle fait appel à des compétences vraisemblablement moins répandues. En outre, elle implique là encore une action physique sur l’appareil Paranoid, et la possibilité d’émettre des sons à proximité immédiate de l’enceinte.

En somme, les dispositifs développés par Paranoid apportent moins une solution à un problème technique qu’à un problème spatial. Là où les enceintes connectées ouvrent l’environnement sonore du domicile à des « oreilles » extérieures (au sens où elles font circuler des captats audio vers l’extérieur et qu’elles peuvent éventuellement être activées de l’extérieur), la gamme de produits Paranoid Home assure ses utilisateurs que seuls les sons qu’ils auront activement choisi de partager sortiront de leur domicile. En ne permettant que des modes d’activation résultant sans conteste d’une action physique localisée dans le domicile (appuyer sur un bouton, ou prononcer les mots de réveil adéquats), Paranoid réinstaure le caractère privé et localisé de l’environnement sonore du domicile.

Un marketing axé sur la sécurisation de la vie privée

Du point de vue du marketing, le nom de l’entreprise et les fonctionnalités de ses produits sont parfaitement cohérents avec son message. « Paranoid », qui est aussi le mot de réveil des dispositifs de la marque, laisse entendre que rien ne sera laissé au hasard quant à la protection de la vie privée de l’utilisateur. Le nom de la gamme « Home » en particulier renvoie à la sphère domestique qui est le principal débouché spatial des enceintes connectées. La juxtaposition des deux termes suggère l’image d’un domicile maniaquement protégé des intrusions extérieures. Le choix du terme « paranoid » n’en reste pas moins clivant : sa connotation, plutôt négative en première approximation, laisse supposer que l’entreprise s’adresse à un marché de niche. Il implique en effet que l’acheteur soit plus sensible à la connotation de protection qu’à la connotation d’excessivité qui définissent la paranoïa.

Logo et slogan de Paranoid sur leur page d’accueil au 26 août 2020

Le logo de l’entreprise ne présente pas un grand intérêt du point de vue de la communication sur la protection de la vie privée. Il s’agit d’un P stylisé dans la boucle duquel un point noir figure peut-être un bouton-poussoir ou la pupille d’un œil écarquillé. Il pourrait signifier que Paranoid « garde un œil » sur les données de ses clients. Le slogan « Uniting Tech and Privacy. Get Paranoid » est en revanche beaucoup plus révélateur : s’il est nécessaire d’unir la technologie et la vie privée, c’est que le lien entre ces deux notions n’est pas évident de prime abord. L’entreprise défend donc l’idée que les technologies numériques contemporaines sont en soi dommageables à la vie privée de leurs utilisateurs – et en particulier les enceintes connectées pour lesquelles ses premiers produits de la gamme Paranoid Home ont été développés. La solution proposée, « Get Paranoid » joue sur le double sens du verbe get : « devenez paranoïaque » et « acquérez [un produit] Paranoid ». Le choix d’utiliser des lettres capitales au début de chaque mot du slogan permet de maintenir l’ambiguïté sur le fait que « Paranoid » renvoie au nom de la marque ou à l’adjectif.

Le reste de la communication de la marque est assez classique : jouer sur la peur pour créer le besoin pour ses solutions. Dans la page dédiée aux produits de l’entreprise, un slogan alternatif est proposé en accompagnement d’une vidéo promotionnelle : « Data is Forever. Get Paranoid ».

Extrait de vidéo promotionnelle au 26 août 2020

On retrouve le jeu de mot sur to get, mais la marque insiste cette fois sur le fait que « les données », comme les écrits, « restent ». On joue ici sur le sentiment fréquemment exprimé par les utilisateurs de technologies numériques liées à Internet qu’ils n’ont pas de véritable contrôle sur le devenir des données qu’ils confient à des tiers, en particulier des entreprises. De fait, la reproductibilité des données numériques fait qu’il est impossible de savoir ce qu’il advient de données stockées sur une machine distante. La vidéo promotionnelle met ici en scène de façon très graphique le fait que le micro Home Max est un barrage sur lequel viennent éclater de petits phylactères figurant divers types de données (paroles, «likes », données de santé…) qui ne seront pas captés puis diffusés par l’enceinte connectée équipée du dispositif Paranoid Home. Dans la version longue de la vidéo, on peut également relever que l’enceinte-témoin fictive utilisée par la marque dans sa communication s’appelle Orwell afin de faire écho à l’inquiétant télécran décrit par George Orwell dans son roman de science-fiction 1984.

Du privacy washing ?

On peut spontanément inscrire les dispositifs vendus par Paranoid comme des privacy enhancing technologies (PET) et la méthode adoptée comme relevant du privacy by design ou, en l’occurrence, by redesign puisqu’il s’agit de modifier un appareil existant pour limiter l’exposition de la vie privée de ses utilisateurs par une action sur le fonctionnement même de l’appareil. Cette démarche fait également écho aux travaux d’Helen Nissenbaum pour laquelle c’est le contexte social qui détermine l’évaluation par les individus d’un niveau de privacy : une même information peut-être jugée privée vis-à-vis d’un certain actant et pas d’un autre. Ici, un échange vocal entre deux personnes présentes à portée d’une enceinte connectée implique évidemment que les deux interlocuteurs seront amenés à avoir connaissance des informations échangées, mais il est exclu pour les clients de Paranoid qu’un tiers (Amazon, Google, Apple… ou Paranoid !) puisse en devenir un destinataire-tiers, même accidentel.

En deuxième analyse, on peut aussi décrire la méthode de Paranoid comme relevant du solutionnisme technologique en cela qu’elle apporte une solution essentiellement technique au problème (spatial) qu’elle entend résoudre. Il ne s’agit pas d’agir, par exemple, au niveau de la loi ou des régulateurs, ou encore par des tactiques individuelles comme l’obfuscation, afin de limiter d’éventuels dommages sur la vie privée des utilisateurs. On pourrait même parler de solutionnisme technologique au carré, puisque le problème de la dissémination non-désirée éventuelle de données via les enceintes connectées nait lui-même de la mise en œuvre d’une technologie.

Enfin, on pourrait aller jusqu’à parler de privacy washing au sens où l’argument de la protection de la vie privée serait utilisé à outrance, voire de manière fallacieuse par l’entreprise. Tout en orientant sa communication sur la protection de la vie privée, la vitalité économique de Paranoid dépend de l’existence même d’un parc d’enceintes connectées qui exposent en amont la vie privée de leurs utilisateurs. Malgré un positionnement apparent fort, défiant, « paranoïaque », l’entreprise ne remet pas en cause le modèle d’affaires des fabricants d’enceintes connectées, qui s’appuie généralement sur l’exploitation des données de ses utilisateurs. Pour autant, l’entreprise ne promet que de s’assurer que ses utilisateurs communiqueront exclusivement les captats audio de leur choix à l’exploitant de leur assistant connecté, rien de plus. Ce point relève donc plutôt du débat classique entre les positionnements réformistes et radicaux.

Un dernier point, plus gênant peut-être, est que Paranoid axe sa communication autour du fait que le domicile / « Home » de ses clients est protégé par ses dispositifs, alors que l’enceinte connectée n’est pas la seule vulnérabilité dans le modèle de menace auquel l’entreprise prétend apporter une solution.

Une paranoïa parmi d’autres

Dans la longue vidéo publicitaire de la marque, une famille est rassemblée dans un vaste salon équipée d’une enceinte connectée de marque fictive (Orwell). La cadette se plaint du ciblage publicitaire dont elle s’estime l’objet : juste après avoir évoqué ses difficultés en mathématiques à sa mère, elle reçoit sur son téléphone des publicités pour des cours de soutien dans cette matière. Après une rapide discussion, son frère aîné pointe avec virulence l’enceinte connectée posée sur une table basse, en arguant que c’est par ce biais que les membres de la famille se trouvent ciblés par les publicitaires. De fait, Ori, un petit alien à l’allure geek opérant à l’intérieur de l’enceinte écoute toutes les conversation et envoie des publicités ad hoc aux membres de la famille. La mère commande alors un Paranoid Home Max, et Ori se retrouve assourdi par un fort bruit blanc.

Extrait à 50 s de la principale vidéo publicitaire de Paranoid au 26 août 2020

Ce qui est en fait le plus intéressant dans cette vidéo est que seule l’enceinte connectée est pointée du doigt… quand bien même les deux enfants manipulent leurs smartphones et le père une tablette. Or, ces appareils n’ont rien à envier à une enceinte connectée, puisqu’ils sont également pourvus de micros, d’une connexion à Internet, et probablement dotés du logiciel client d’un assistant connecté tels qu’Alexa d’Amazon ou Siri d’Apple. Ils permettent en outre un éventail beaucoup plus large de pratiques utilisées pour la collecte de données personnelles à des fins publicitaires (géolocalisation, navigation sur Internet, échanges de SMS…). Enfin, c’est à travers son smartphone que la jeune fille se voit proposer une publicité : cet appareil est donc d’autant plus central dans un modèle de menace se défiant de la publicité qu’il est à la fois un capteur de données potentiel et un diffuseur d’informations personnalisées. Pourtant, c’est uniquement de l’enceinte connectée que Paranoid invite à se défendre.

Paranoid Homme

Pour répondre à ce problème, le Human Computer Integration Lab (HCI) de l’université de Chicago a utilisé la technique utilisée par le Paranoid Home Wave, à savoir la diffusion d’un fort bruit blanc. Mais, à la différence de Paranoid, ce brouilleur n’est pas à placer sur l’enceinte : il s’agit d’un bracelet que l’utilisateur porte au poignet.

Principe de fonctionnement et résultats obtenus avec un bracelet-brouilleur du laboratoire HCI

D’après leur article de présentation pour le CHI2020, on peut inférer que Paranoid s’est concentré sur le brouillage direct des microphones des enceintes connectées parce que la technique est plus simple : il suffit alors d’un haut-parleur unidirectionnel. Le bracelet du HCI est, lui, un brouilleur omnidirectionnel, ce qui implique également de profiter du fait que l’utilisateur est en mouvement pour éviter les angles morts (blind spots) du brouillage entre les différents hauts-parleurs placés sur le bracelet – les signaux sonores émis par chaque haut-parleur pouvant s’annuler, selon le principe aussi utilisé en réduction du bruit. En somme, cette technique est plus complexe à mettre en œuvre. En revanche, elle a pour mérite de s’appliquer à tous les micros environnants, y compris ceux d’un smartphone, d’une tablette ou autre.

D’un point de vue spatial, l’implication est également forte : là où Paranoid focalise l’attention sur le domicile augmenté d’une enceinte connectée, le HCI propose de changer d’échelle et de traiter le problème de la captation indésirée de données sonores à l’échelle corporelle. Il ne s’agit pas d’agir sur l’espace du domicile en lui-même, le « home » si présent dans la communication de Paranoid ou de Google. Il est plutôt proposé à l’émetteur des données sensibles, à savoir le corps producteur des sons à protéger, d’emmener avec lui sa bulle sonore protectrice et portative.

Conclusion

Malgré des efforts de communication remarquables, il faut le signaler, les produits l’entreprise Paranoid visent évidemment un marché de niche en comparaison des enceintes connectées elles-mêmes. Mon analyse ne prétend donc pas anticiper une tendance technologique majeure amenée à transformer profondément les rapports sociaux et les interactions humains/machines. Elle permet néanmoins de rendre compte à travers un micro-exemple de la complexité des questions sous-jacentes à l’utilisation des enceintes et des objets connectés :

  • c’est devenu un truisme, mais l’interspatialité croissante entre les espaces tangibles et internétiques bouleversent nos catégories spatiales habituelles, et, en particulier, transforment et distendent les échelles auxquelles considérer les pratiques et espaces quotidiens ;
  • même à l’ère de la « révolution numérique » réticulaire, les imaginaires spatiaux restent structurés par des géotypes finalement très territoriaux, comme le domicile ;
  • dans le même ordre d’idée, l’action sur l’espace continue de prévaloir là où notre réalité augmentée par des technologies numériques miniaturisées et toujours plus diffuses implique de penser avant tout les spatialités.

Note

1 Plus exactement, ProPrivacy sélectionne des produits qu’ils jugent compatibles avec la préservation de la privacy de leurs lecteurs, en font la critique, et se rémunèrent grâce à des liens d’affiliation.

Ajout du 22/10/20

Pour un bon article de Voicebot.ai (en anglais) sur un projet similaire à celui de Paranoid portant le nom de Project Alias, cliquez ici.


Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.