Vers des technologies de l’empathie ? et De la manipulation basée sur la surveillance

Vers des technologies de l’empathie ?

Bientôt, non seulement nos systèmes techniques seront dotés de personnalités, mais il sauront aussi prendre en compte la personnalité de ceux avec lesquels nous interagissons, rapporte Aviva Rutkin (blog, @realavivahr) pour le New Scientist. Par exemple, en nous aidant à être plus empathiques dans nos manières de communiquer…

Demain, le “correcteur comportemental”

C’est ce que propose dès à présent Crystal Knows qui présente son application comme “la meilleure amélioration apportée à l’e-mail depuis le correcteur orthographique” et qu’on pourrait qualifier de “correcteur comportemental”. 

Crystal Knows suggère des corrections lorsque vous écrivez un e-mail pour traduire votre propos selon la personnalité de votre correspondant. Pour cela, le système s’informe sur les gens avec qui vous communiquez en récupérant de l’information sur eux sur les réseaux sociaux pour en établir un profil, selon le fameux modèle des cinq facteurs de la personnalité (voir nos explications) permettant de classer vos correspondants selon 5 grands traits psychologiques, à savoir leur tendance à l’extraversion, au névrosisme, à l’agréabilité, à avoir un caractère consciencieux et à l’ouverture à l’expérience. Une méthode d’analyse utilisée par la plupart des grands outils de profilage reposant sur l’analyse des réseaux sociaux, pour caractériser les types de comportements des utilisateurs.

Disponible pour l’instant seulement pour Gmail pour Chrome, l’application s’ajoute à votre webmail. Lorsque vous rédigez un mail, elle vous propose de vous renseigner sur votre correspondant et établit son profil psychologique par l’analyse des contenus qu’il a posté sur le web social. Puis Crystal Knows vous dresse une liste de recommandations pour mieux rédiger votre message. Outre des conseils généraux, il vous fait des conseils sur le style à employer (écrivez des phrases courtes, utilisez un langage familier ou soutenu, utilisez des formules de politesse ou n’utilisez pas de salutations formelles), mais également des conseils sur comment mieux capter son attention ou comment avoir un échange avec cette personne pour lui vendre quelque chose. Ces recommandations sont pour l’instant assez basiques, mais, en s’adaptant au profil de chaque utilisateur, elles soulignent ce à quoi votre interlocuteur devrait être sensible ou allergique, pour mieux engager la conversation avec lui. 

 

Image : Mon profil psychologique établi par Crystal Knows. Indice de confiance : 40%. Hubert est très orienté relation et sincère. Il préfère un plan établit que d’aller à l’aventure.

Quand vous parlez avec Hubert : préférez présenter votre projet avec politesse et respect (plutôt que de manière audacieuse) ; parlez-lui de philosophie ou d’idées abstraites ; ne le mettez pas sur la sellette ; faites attention à ne pas être véhément.

Quand vous envoyez un e-mail à Hubert : signalez vos points communs comme des relations ou des centres d’intérêt ; utilisez une phrase pour exprimer vos remerciements pour son temps ; commencez par vous présenter ; n’écrivez pas d’une façon qui puisse sembler froide ou rapide.
Quand vous travaillez avec Hubert : si vous argumentez, prenez en considération ses sentiments ; apportez une critique objective et bienveillante ; ne soyez pas froissé s’il est un peu en retard ; ne lui offrez pas de critique constructive mal taillée.

Quand vous voulez vendre quelque chose à Hubert : parlez-lui de choses qui n’ont rien à voir avec le travail ; posez-lui des questions sur ses réalisations passées ; ne vous inquiétez pas de lui demander sa permission avant de l’appeler ; ne prévoyez pas d’heure de fin pour vos appels ou réunions.
Il est naturel pour Hubert de : réconforter quelqu’un dans des situations douloureuses ; de percevoir facilement les émotions des autres ; de chercher le consensus du groupe avant d’agir ; de se sentir obligé d’aider les autres.

Il n’est pas naturel pour Hubert de : prendre la parole pour ramener tout le monde au sujet lors d’une réunion ; de se sentir anxieux des décisions prises par d’autres à son propos ; de dire quelque chose crûment qui offenserait accidentellement quelqu’un ; d’être froissé si quelqu’un arrive en retard à un rendez-vous.

Pas sûr que toutes ces recommandations fonctionnent, mais certaines semblent assez adaptées.

Le fondateur de Crystal Knows, Drew D’Agostino pense que son programme peut aider les gens à renforcer leurs relations. “Tout le monde est anxieux à l’idée d’envoyer un e-mail. Cristal ne vous aide pas à être un robot et à envoyer des e-mails préprogrammés. Il aide les gens à comprendre comment écrire aux autres.” Dans le but de mieux se faire comprendre… 

Pour Aviva Rutkin, des programmes de ce style vont nous aider à contenir l’avalanche des e-mails sous lesquels nous croulons, en nous aidons à prendre soin de nos interlocuteurs. Teller, une startup suédoise, travaille à un logiciel de courrier qui traque le comportement de l’utilisateur, observant à quels e-mails il répond et ceux qu’il ignore, pour mieux lui montrer les messages importants. Charlie, une autre startup américaine, utilise, elle, l’intelligence artificielle pour améliorer les réunions en cherchant sur l’internet de l’information sur les personnes avec qui vous avez rendez-vous pour vous envoyer un court résumé sur chacune avant de les rencontrer ! Pour son fondateur, Aaron Frazin, “la technologie rend la communication plus rapide. Ce qui signifie que nous avons besoin de nous adapter et être sûr que la communication est aussi efficace que possible”.

Mieux comprendre les autres ou mieux les manipuler ?

Le but de ces applications est-il de mieux se faire comprendre des autres et de mieux comprendre leur fonctionnement psychologique ou de proposer des outils pour mieux les manipuler ? La distinction n’est pas si simple.

L’information que propose Crystal Knows nous permet d’entrevoir le rôle des profils psychologiques automatisés qu’utilisent nombre d’outils de profilage. Votre page de profil révèle ses forces et faiblesses. Outre que l’indice de confiance n’est pas toujours optimal (Crystal Know n’établit pas de profil pour ceux qui n’ont pas d’activité suffisante sur les réseaux sociaux), l’interprétation psychologique est bien sûr loin d’être parfaitement fiable. Plusieurs des recommandations du logiciel sur mon profil par exemple, seront certainement peu opérantes si vous décidez de les appliquer. Pourtant, quand on observe les profils psychologiques de nos proches, une bonne part des recommandations semblent assez justes. Même si c’est le cas d’une sur deux, c’est déjà un résultat que beaucoup jugeront intéressant. 

Pour l’instant, Crystal Knows ne s’applique qu’aux correspondances directes. Mais demain des programmes de ce type devraient être capables d’améliorer les e-mailing de masse personnalisés ou les outils des centres d’appels pour qu’ils atteignent toujours mieux les cibles que nous sommes. Face à cette perspective, on comprend rapidement que l’empathie n’est pas le seul objectif de ces outils. Si la prise en compte de nos personnalités peut-être un levier pour améliorer la communication et le lien social, il peut aussi être s’avérer être un meilleur moyen de manipulation des autres. L’amélioration de la compréhension émotionnelle et psychologique de nos outils par le nudge, ce coup de pouce si prisé par l’économie comportementale, ne va pas s’arrêter à nos objets, mais va devenir une caractéristique fondamentale de notre avenir connecté. Et comme tout outil, il porte sa propre ambiguïté. Il va à la fois nous aider à relever la malédiction de la connaissance que dénonce le psychologue Steven Pinker, c’est-à-dire nous aider à mieux comprendre les autres, en nous aidant à nous mettre à leur place, à comprendre leur point de vue pour mieux nous adresser à eux. Et cette même compréhension va nous permettre d’aller plus avant dans le rôle social de l’argumentation, et donc dans la manipulation. 

En attendant d’être capable de répondre à ces mises en profil de nous, Crystal Knows nous offre une fenêtre sur les profils psychologiques que les profileurs construisent par-devers nos données (à l’image de ceux que produit la segmentation publicitaire d’Acxiom que mettait en avant Yves Eudes sur Le Monde ou nous-mêmes sur A lire ailleurs). Il montre aussi que l’obfuscation de nos données devient plus que jamais urgente tant qu’un meilleur respect de leur utilisation ne sera pas envisagée. 

Hubert Guillaud

De la manipulation basée sur la surveillance

“Quelqu’un qui sait des choses sur nous a un certain degré de contrôle sur nous, et quelqu’un qui sait tout de nous a beaucoup de contrôle sur nous. La surveillance facilite le contrôle.”

 

Nous avons souvent évoqué ici les propos de Bruce Schneier (@schneierblog), ce spécialiste de la sécurité. Il vient de faire paraître un livre intitulé Données et Goliath : la bataille cachée pour collecter vos données et contrôler le monde, dont Ars Technica vient de publier un extrait. Un extrait particulièrement limpide qui pointe le lien entre surveillance et manipulation de l’opinion et qui lève le voile sur le danger qu’il y a à laisser nos informations dans les mains d’une poignée de grandes entreprises. 

“La manipulation n’implique pas la publicité manifeste. Elle peut ressembler à un placement de produit qui permet de s’assurer que vous voyez des images avec une certaine marque de voiture à l’arrière-plan. Ou juste influer sur le nombre de fois ou vous voyez ces voitures. C’est là, en substance, le modèle d’affaires des moteurs de recherche. Dans leurs premiers jours, on a évoqué la façon dont un annonceur pouvait payer pour obtenir un meilleur placement dans les résultats de recherche. Après les protestations du public et les décisions ultérieures de la FTC, les moteurs de recherches ont du différencier les résultats “naturels” de leurs algorithmes des résultats payés. Cela fait, les résultats payés sur Google ont été encadrés encadrés de jaunes, ceux de Bing en bleu pâle. Cela a fonctionné pendant un certain temps, mais assez récemment, cette tendance a fait machine arrière. Google accepte désormais de l’argent pour insérer des URL particulières dans les résultats de recherche et pas seulement dans les cadres publicitaires dédiés. Nous ne connaissons pas l’étendue de ce programme, mais ce changement semble suffisant pour que la FTC y porte intérêt.

Lorsque vous faites défiler votre flux Facebook, vous ne voyez pas tous les articles de chacun de vos amis. Ce que vous voyez a été sélectionné par un algorithme automatisé qui n’est pas rendu public. Mais quelqu’un peut payer pour augmenter la probabilité que ses amis ou fans voient ses messages. Ces sociétés qui paient pour placer leurs informations expliquent en grande partie de la façon dont Facebook fait de l’argent. De même, la plupart des liens vers des articles recommandés au bas de chaque publication sont payés par ce placement. 

Le potentiel de manipulation, ici, est énorme”, explique Schneier avant de prendre un exemple parlant. “Lors de l’élection américaine de 2012, les utilisateurs de Facebook ont eu l’occasion d’afficher une icône “J’ai voté”, un peu comme les vrais autocollants que beaucoup d’entre nous obtiennent sur les lieux de vote après avoir voté. Ce badge produit un effet d’entraînement à voter plutôt documenté : vous êtes plus susceptibles de voter si vous pensez que vos amis votent aussi. Cette manipulation a eu pour effet d’augmenter le taux de participation de 0,4% au niveau national.” Un résultat qui est loin d’être anodin. “Mais maintenant, imaginez que Facebook ait manipulé la visibilité du badge “J’ai voté” sur la base soit de votre appartenance à un parti politique, soit sur celle d’un critères proche de celui-ci, comme votre code postal, les blogs que vous lisez, les liens que vous appréciez… Il ne l’a pas fait, mais s’il l’avait fait, cela aurait eu pour effet d’augmenter le taux de participation dans une direction”, pouvant conduire à faire plus voter certains au détriment d’autres… Si Facebook l’avait fait, cela serait difficile à détecter, mais cela ne serait pas illégal, assène Schneier. “Facebook pourrait facilement faire basculer une élection serrée en manipulant sélectivement les messages que ses utilisateurs voient. Google pourrait faire quelque chose de similaire depuis ses résultats de recherche.”

Une plateforme de médias sociaux inquiétante pourrait ainsi manipuler l’opinion publique encore plus efficacement, explique Schneier. “En amplifiant les voix des gens avec lesquels elle est d’accord et en amoindrissant la parole des personnes avec lesquels elle est en désaccord. Elle pourrait par la même profondément fausser le débat public. La Chine ne fait pas autre chose avec son parti des 50 Cents : ces personnes embauchées par le gouvernement pour poster des commentaires sur les réseaux sociaux et contester les commentaires contraires aux positions des partis.”

“Beaucoup d’entreprises manipulent ce que vous voyez en fonction de votre profil d’utilisateur : Google Search, Yahoo! News et même des journaux en ligne comme le New York Times. C’est un gros problème. Le premier résultat dans une page de résultat de Google obtient un tiers de clics et si vous n’êtes pas sur la première page, c’est presque comme si vous n’existiez pas. La conclusion est que l’internet que vous voyez est surtout adapté aux intérêts que votre profil indique. Cela nous a conduit dans ce que l’activiste politique Eli Pariser a appelé la “bulle de filtre” : un internet optimisé sur vos préférences, où vous pourriez ne jamais rencontrer une opinion qui vous déplait. Vous pourriez penser que ce n’est pas si mauvais, mais à une très grande échelle, ce phénomène est profondément nuisible. Nous ne voulons pas vivre dans une société où tout le monde ne lit que des choses qui renforcent leurs propres opinions, où nous ne ferions jamais de rencontres spontanées qui nous animent, nous confondent, nous confrontent et nous instruisent.”

En 2012, Facebook a fait une autre expérience, rappelle Schneier. “La société a manipulé sélectivement les fils d’actualité de 680 000 utilisateurs en leur montrant des informations tristes ou joyeuses. Comme Facebook surveille en permanence ses utilisateurs – c’est ainsi qu’il converti ses utilisateurs en revenus publicitaires – il était facile de surveiller ces sujets expérimentaux et recueillir les résultats. Facebook a constaté que les gens qui ont les messages les plus joyeux avaient tendance à écrire des messages plus joyeux et vice versa. Je ne veux pas en faire trop sur cette expérimentation. Facebook n’a fait ce test que pendant une semaine et l’effet était limité. Mais une fois que des sites comme Facebook auront compris comment le faire plus efficacement, les effets seront rentables. Non seulement les femmes se sentent moins attirantes le lundi, mais elles se sentent également moins attirantes quand elles se sentent seules, grosses ou déprimées. Nous voyons déjà fleurir des débuts de systèmes qui analysent les propos de chacun et le langage des corps pour déterminer leur humeur. Les entreprises veulent savoir quand les clients sont déprimés et quand on peut leur faire des offres auxquelles ils seront plus réceptifs. Manipuler des émotions pour mieux vendre des produits est le genre de chose qui semble acceptable dans le monde de la publicité, même si cela paraît assez horrible à la plupart d’entre nous.”

“Toute cette manipulation est rendue plus facile par l’architecture centralisée de la plupart de nos systèmes techniques. Des entreprises comme Google ou Facebook sont assises au centre de nos communications. Cela leur donne un énorme pouvoir de manipulation et de contrôle. 

Les méfaits découlant de l’utilisation des données de surveillance en politique sont nombreux. La politique électorale est devenue une forme de marketing et les politiciens commencent à utiliser le marketing personnalisé pour distinguer les habitudes de vote et mieux vendre et cibler les positions d’un candidat ou d’un parti. Désormais, les candidats ou les groupes organisés peuvent créer des annonces ou gérer des appels de fonds ciblés à des catégories particulières : les gens qui gagnent plus de 100 000 dollars par an, les propriétaires d’armes à feux, les gens qui ont lu tels articles de presse avec telle position, les anciens combattants chômeurs… n’importe quel groupe auquel vous pouvez penser en fait. Ils peuvent cibler certaines publicités à certains groupes de personnes et les améliorer d’un groupe à l’autre. Ils peuvent également affiner leur campagnes à la volée et les segmenter selon les localités entre les élections. Et cela aura certainement à l’avenir des effets fondamentaux sur la démocratie et nos manières de voter. 

La manipulation psychologique – basée à la fois sur l’information personnelle et le contrôle des systèmes sous-jacents – ne va pas cesser de s’améliorer. Pire, elle risque de devenir si performante que nous ne pourrons plus savoir si nous sommes manipulés.”

Toute la question est de savoir comment nous allons protéger nos démocraties et nos systèmes politiques de la manipulation algorithmique  ?

Hubert Guillaud

Vers une informatique contemplative ?

Par Rémi Sussan le 15/07/11

 

Alex Soojung-Kim Pang, du Peace Innovation Lab à Stanford et du Groupe d’étude des systèmes sociaux numériques de Microsoft Labs, a débuté son intervention à la conférence Lift en nous suggérant une petite activité : “consultez vos e-mails” a-t-il demandé, “vous allez le faire de toute façon”. Mais il nous a demandé d’observer notre comportement à ce moment : il semble en effet qu’en majorité, les internautes retiennent leur respiration au moment de cette consultation. Ce qui a pour conséquence d’augmenter notre CO² dans le sang et donc notre sensation d’anxiété. Voilà pour lui un exemple de la manière dont les technologies modernes provoquent des stress.

 

Image : Alex Soojung-Kim Pang sur la scène de Lift, photographié par Swannyyy.

“On dit souvent que nous sommes dans l’âge de l’information, a-t-il continué, alors qu’on a plutôt l’impression d’être dans l’âge de la distraction”. Cette distraction est-elle inévitable ? Est-elle intrinsèque aux nouvelles technologies ? “Tous les historiens des médias s’accordent pour dire que l’introduction de nouveaux médias, comme l’écriture, s’est accompagnée de profondes modifications de la structure de notre cognition. Si nous voulons résoudre les problèmes posés par les technologies, il faut d’abord comprendre comment celles-ci interagissent avec notre cerveau.”

 

Avant toute chose il faut redéfinir notre esprit de manière adéquate. Nous ne sommes pas limités à notre corps, nous avons des cerveaux élargis : nous sommes profondément couplés au monde extérieur via nos sens, les objets de notre environnement, les systèmes technologiques que nous utilisons, etc. Ce modèle du cerveau étendu est utile parce qu’il nous permet de mieux comprendre notre relation avec la technologie, en dehors du manichéisme propre à ce genre de discussion. Comme le dit le philosophe Andy Clarke “nous sommes des cybergénies naturels”, autrement dit nous cherchons constamment à étendre nos capacités mentales. Si nous avons un problème aujourd’hui ce n’est donc pas à cause de limitations que nous imposerait la technologie en elle-même : c’est parce que nos outils sont mal conçus et mal utilisés. Autrement dit, nous employons de mauvaises prothèses.

Pour répondre à ce défi, Alex Soojung-Kim Pang a développé le projet “d’informatique contemplative“. Il ne s’agit pas d’un nouveau système technique, a-t-il précisé, par exemple, le “cloud” (l’informatique en nuage): “l’informatique contemplative est quelque chose qu’on fait, une manière de penser et d’agir”. 

“On accuse souvent le monde moderne de nous encourager à la distraction, mais en réalité, le problème a toujours existé, et des méthodes comme la méditation ont été mises en place en Asie il y a plus de 3000 ans pour faire face à ce problème de distraction. Des techniques comme la méditation peuvent-elles nous aider à gérer notre environnement informationnel contemporain ?”

 

Pour Alex Soojung-Kim Pang, la méditation est une sorte d’auto-expérimentation extrêmement puissante. Elle est capable de nous procurer des informations sur notre psychologie qu’on ne peut pas obtenir avec des focus groupes par exemple. Un biographe du Bouddha raconte ainsi que celui-ci avait transformé son esprit en un laboratoire où effectuer des expériences. Selon de nombreuses recherches, ces pratiques contemplatives permettent de restaurer la mémoire ou l’attention, qui peuvent avoir été perdues à la suite de traumatismes, par exemple. On peut réorganiser l’esprit élargi grâce à l’auto-expérimentation méditative, et arriver à comprendre comment les technologies modifient la structure de notre esprit. On peut ainsi remarquer des phénomènes comme l’arrêt de la respiration lors de la consultation des e-mails, et y remédier. Le bricolage (“tinkering”) est un autre exemple d’une activité technique nous amenant à la contemplation. C’est au final une attitude assez zen. Lors d’une séance de bricolage, on remarque des détails techniques qui nous avaient échappés auparavant.

L’attitude méditative peut même nous permettre de découvrir certains préjugés concernant le fonctionnement de notre esprit et comment ces préconceptions peuvent affecter le développement de nos outils. Par exemple, croire que la rapidité est un signe d’intelligence. Unanimement rejetée par le monde de l’informatique, la lenteur est pourtant bien souvent signe de compétence : il n’existe pas de sport ou de jeu où la vitesse soit une fin en soi, celle-ci n’est qu’un moyen en vue d’accomplir son but. Dans un jeu vidéo, un bon joueur tape exactement sur la bonne touche, contrairement à un débutant, qui va multiplier les actions : le bon joueur est donc souvent plus lent et plus précis.

De la même manière, une respiration rapide est un réflexe inconscient, signe d’une perte de contrôle. Les méditants peuvent passer des années à ralentir leur respiration. Des systèmes comme Breathing Colors (présenté à Lift Experience) peuvent provoquer le même effet, et bien sûr la nouvelle génération d’interfaces cerveau-machine, comme les casques Epoc ou Neurosky (dont une démonstration figurait d’ailleurs également au Lift Experience via un jeu avec lequel il fallait garder son calme peuvent), par la technologie, encourager les états mentaux calmes et méditatifs. 

 

Image : sur Lift Expérience, le casque du SFR Player qui vous invite à vous concentrer et rester calme pour faire bouger des cubes dans l’espace, photographié par Alex Soojung-Kim Pang.

“Un jour, tous les objets auront peut-être leur adresse Internet. Ajoutez à cela les jeux en ligne, la pub, les GSM… La situation peut devenir ingérable si nous n’apprenons pas à développer la contemplation.”

 

Un proverbe bouddhiste dit que personne ne peut échapper à la mort ou la perte, mais on peut façonner l’impact que ces évènements ont sur nous. De même, l’impact des technologies de l’information sur notre “cerveau élargi” est inévitable. Mais la contemplation peut nous aider à le comprendre et à le moduler.