Ceci est la transcription de la conférence Homo Stimulus, Au Bonheur des Likes.
Bonjour à toutes et à tous, je suis très contente de clore cette journée de conférences avec vous, et notamment parce que j’ai une grande interrogation à partager ce soir avec vous. Pourquoi est-ce qu’alors que je suis tranquillement en pyjama, en train de me dire que je vais me coucher tôt et terminer mes slides pour la Pycon après un épisode de Breaking Bad, soudain il est 4h du matin, j’ai terminé la première saison, mes yeux brûlent et j’ai un peu envie de pleurer.
Alors j’ai deux réponses : la première c’est que j’adore Breaking Bad, excellente série, 20/20 tout ce que vous voulez. La deuxième c’est que Netflix me connaît très bien. D’une part, Nextflix sait quelle série j’ai probablement envie de regarder. D’autre part, Netflix a fait un choix pour moi qui est de, par défaut, mettre l’épisode suivant en autoplay. Et Netflix sait qu’à la fin de chaque épisode, quand je dois faire le micro-choix d’arrêter ou de continuer, il y a de grandes chances que mon cerveau choisisse la facilité et prenne l’option par défaut.
Alors, je me doute que ce genre de choses ne vous arrive jamais à vous et que vous êtes beaucoup plus raisonnables que moi. Du coup j’aimerais bien vous montrer un petit graphique intéressant qui n’a rien à voir avec Netflix, mais avant j’ai une question :
Qui est potentiellement donneur d’organes dans la salle ?
Qui est de nationalité française ?
Le graphique que vous voyez, c’est la proportion de donneurs d’organes dans quelques pays du monde. Vous voyez qu’il y a une énorme disparité entre des pays où presque tout le monde donne ses organes, et des pays dans lesquels seule une minorité les donne. Quand on demande aux gens pourquoi il y a autant de différences, ils cherchent généralement du côté culturel du pays. On se dit qu’on est plus généreux dans certains pays, ou qu’il y a des pays où l’intégrité du corps est plus importante. Mais du coup, pourquoi est-ce que tout le monde donne en Suède et presque personne au Danemark alors que ce sont des cultures qui sont tout de même assez similaires ? Pareil pour la différence entre la Belgique et les Pays bas ? La réponse, et vous avez peut-être fait le lien avec Netflix, c’est qu’il y a des pays où, par défaut, on ne donne pas ses organes, et où on doit déclarer qu’on souhaite le faire ; et des pays où, par défaut, on donne ses organes, et où on doit déclarer spécifiquement qu’on ne souhaite pas le faire.
Du coup, j’ai une bonne nouvelle pour vous : vous êtes tous beaucoup plus généreux et généreuses que ce que vous ne pensez, parce que vous êtes tous potentiellement donneurs d’organes ici, et ça simplement parce que votre cerveau est paresseux.
Pourquoi ? Parce que nos ressources mentales ont une caractéristique principale : elles sont limitées. On a un organe complexe, fabuleux, le cerveau, qui essaie de prendre les meilleures décisions possibles en utilisant le moins de ressources possibles, et en prenant des raccourcis mentaux : le choix par défaut, par exemple. Et ces raccourcis mentaux, il n’y a pas que Netflix qui les connaît.
L’écran qui s’affiche devant vous, c’est l’écran qui s’affiche devant une personne qui utilise Facebook, au moment d’accepter la nouvelle politique de confidentialité de Facebook. Et si vous utilisez Facebook, il y a quelque chose sur cette image que vous n’avez pas manqué de remarquer :
Ca. Ces points rouge, pour toute personne qui utilise Facebook, c’est la promesse d’une notification et d’un message.
En voyant ça, le cerveau s’emballe et commence à sécréter du cortisol. Le cortisol, c’est l’hormone du stress. C’est l’hormone que le cerveau devrait produire quand on risque d’être pourchassé par un ours. Notre cerveau rentre en alerte, on sue, notre coeur s’accélère, et et oui, ok, on accepte la politique de confidentialité, vite vite, maintenant donne moi mes notifications ! On ouvre ses notifications, et là, ouf, le cerveau cesse de produire du cortisol et commence à produire de la dopamine. La dopamine, c’est l’hormone de l’addiction, l’hormone de la récompense, et le fait d’ouvrir ses notifications active le circuit de la dopamine.
Je précise : je parle ici de réactions chimiques. Ce n’est pas métaphorique. Ces hormones sont vraiment produites et pas uniquement par les personnes accros à leur smartphone.
Bon, jusqu’ici rien d’affolant : ce n’est pas de la faute de Facebook si notre cerveau fonctionne comme ça. Ce qui est plus vicieux en revanche, c’est que Facebook affiche cet écran pour tout le monde, y compris pour les personnes qui n’ont pas de notification ni de de messages, avec à la clef la certitude que tout le monde va accepter cette nouvelle politique de confidentialité sans la lire.
Donc Facebook nous connaît bien, très bien même. Et ça ne vient pas de nulle part : c’est une des entreprises qui, aujourd’hui, investit le plus dans la recherche en sciences cognitives et en psychologie de la décision. Les sciences cognitives, c’est la discipline qui s’intéresse au fonctionnement du cerveau, de l’intelligence humaine, et notamment à comment les êtres humains prennent leurs décisions. Je vous invite d’ailleurs à consulter le lien que je mets en source, qui détaille certaines des expériences sur leurs utilisateurs qui ont été publiées par les chercheurs de Facebook.
Et je pense qu’il faut saluer l’investissement désintéressé des grandes entreprises dans la recherche, et les remercier de mettre autant d’argent dans la noble quête qu’est la compréhension de l’esprit humain.
Bon. Plus sérieusement, on sait tous très bien pourquoi ça les intéresse : le business model de la plupart des entreprises, c’est l’analyse et la prédiction des comportements humains. Comprendre comment nous faire agir ou réagir, ça leur permet de monétiser grassement notre attention aux régies publicitaires (coucou Google), de s’assurer qu’on achète leurs produits ou qu’on souscrive à leur service à renouvellement automatique (coucou Amazon Prime).
Par exemple, les sciences cognitives nous expliquent pourquoi on préfère systématiquement les services gratuits aux services payants, même s’ils ne coûtent qu’un centime. Je vous donne un petit exemple, auquel je suis certaine que vous serez sensibles parce que ça parle de chocolat.
Donc en 2008, dans son livre “Predictably Irrational”, Dan Ariely décrit une expérience qui a été menée au MIT où on propose à des étudiants deux chocolats. L’un est un chocolat pas terrible, à 1 centime, l’autre un très bon chocolat à 16 centimes. Globalement on a 40% de gens qui prennent le chocolat pas terrible, 40% le très bon chocolat et le reste qui ne prend rien.
Deuxième partie de l’expérience : on baisse le prix des deux chocolats d’un centime : le chocolat pas terrible devient gratuit et le très bon chocolat passe à 15 centimes. La théorie économique nous dit que les proportions devraient rester les mêmes, mais ce n’est pas du tout le cas : 90% des gens prennent désormais le mauvais chocolat gratuit, même si on leur fait remarquer que leur comportement est irrationnel.
Ce que je vous décris là, ça a un nom : ça s’appelle un biais cognitif. Le biais cognitif si vous voulez, c’est un raccourci mental qui provoque un comportement irrationnel qu’on va avoir systématiquement dans une situation donnée, parce que notre cerveau est programmé pour agir comme ça. Ce n’est pas une erreur, c’est le comportement normal de notre cerveau.
C’est ce qui fait qu’on préfère quasiment systématiquement le chocolat gratuit, qu’on donne nos organes si c’est le choix par défaut, qu’on a l’impression de faire une bonne affaire sur vente privée parce qu’on nous dit que le prix d’origine est deux fois plus élevé que ce qu’on paie. Et utiliser nos biais cognitifs contre nous, c’est devenu le terrain de jeu favori des marketeux du numérique.
Alors, tout ça ne vient pas de nulle part évidemment : si aujourd’hui on se retrouve à jouer sur les failles de notre rationalité, c’est parce que depuis qu’on fait de la philosophie, on se demande pourquoi on est aussi incapables de faire les bons choix. Platon lui-même se demandait déjà pourquoi il regardait l’épisode suivant de Breaking Bad alors qu’il avait rendez-vous à 8h le lendemain avec Socrate.
Pendant longtemps, on a pensé que c’était parce qu’on manquait d’informations. Typiquement, pour Descartes (qui préférait The Wire), si on voulait vraiment arrêter de regarder l’épisode d’après, il faudrait qu’on s’informe sur les conséquences du manque de sommeil, qu’on calcule l’heure optimale de coucher en fonction de notre cycle de sommeil et qu’on lise le résumé de l’épisode d’après et pouf, c’est magique, on prend la bonne décision.
Son postulat de base c’est que le bon sens est la chose du monde la mieux partagée et qu’il y a un universalisme de la rationalité. L’être humain est guidé par sa raison, il agit en fonction des informations qu’il reçoit et, avec suffisamment d’informations, il peut corriger les erreurs de son jugement. C’est le postulat sur lequel repose la philosophie des lumières avec une croyance forte : ma conscience est souveraine, rationnelle, et me permet d’appréhender le monde et d’agir librement dessus.
Ce mouvement très positif, très optimiste, tient bon an mal an jusqu’à la fin du 19è siècle, avec trois empêcheurs de tourner en rond qui ne sont pas du tout convaincus que la conscience souveraine suffit à arrêter de binge watcher Netflix. Vous connaissez leurs noms : Freud, Nietzsche et Marx.
Ils ont des théories très différentes mais s’accordent sur un point : il ne suffit pas de vouloir arrêter Netflix pour pouvoir arrêter Netflix. Pour Freud, typiquement, tu n’arrives pas à t’arrêter après cet épisode parce que ta mère t’a frustré d’amour quand tu étais enfant et que tu compenses avec des comportements pulsionnels. Pour Marx, seuls les bourgeois qui ne manquent jamais de rien peuvent faire le choix volontaire de se priver d’un épisode supplémentaire. Tout ça est très simplifié, évidemment (c’est même un peu un crime contre la philosophie), mais ce qu’il faut en retenir c’est que la rationalité n’est pas suffisante pour expliquer nos actes.
Et plus le temps passe, plus les philosophes et scientifiques s’accordent sur une idée : la rationalité qui permet de comprendre le monde, c’est une illusion. D’ailleurs, les scientifiques finissent par dégager les philosophes, et prônent une approche plus expérimentale. Ils analysent le comportement du cerveau en utilisant une méthode scientifique, en faisant des expériences reproductibles, quantifiables.
Un courant en particulier connaît un grand succès à partir des années 50 : c’est le comportementalisme, dont Skinner, que vous voyez ici et qui a l’air très sympa, est l’un des principaux représentants. Pour résumer, l’idée du comportementalisme c’est qu’on s’en fiche de ce qu’on a dans la tête : ce qui importe, c’est la mesure de nos réactions à un stimulus de l’environnement. La seule chose qui intéresse Skinner, c’est que si je dois bouger mon cul de mon canapé pour mettre l’épisode suivant j’ai plus de chances de ne pas le faire que si l’épisode suivant arrive automatiquement. Et si je fais le test sur 1000 personnes c’est toujours vrai, donc c’est comme ça que le cerveau fonctionne.
Et cette idée fonctionne très bien dans un contexte numérique, parce que tu peux tester en permanence les réactions d’un très grand nombre d’utilisateurs et voir comment ils se comportent. Pour prendre un exemple, j’observe de manière quantifiable, mesurable, qu’un tweet d’extrême droite provoque des commentaires et des retweets. Peu m’importe au fond que tu retweetes pour t’en moquer, pour le critiquer, pour le partager : ce qui m’importe, c’est que face à un stimulus “tweet d’extrême droite”, tu aies un comportement prévisible et mesurable : “partager”.
Dans ces conditions, on a vu émerger une génération d’apprentis sorciers pour qui notre cerveau est devenu un terrain de jeu. En s’appuyant sur les sciences comportementales, ils ont cherché à voir comment ils pouvaient exploiter ces biais cognitifs pour déclencher des actions.
Je vous présente les maîtres en la matière : booking.com. Booking.com c’est le temple des biais cognitifs, où on teste en permanence la meilleure manière de faire acheter un hébergement de merde à une personne pourtant intelligente.
La dernière fois on est partis à Helsinki et on avait pris un Airbnb. Résultat, 2h avant le décollage, il annule au dernier moment, donc on cherche, bien dans l’angoisse, une solution sur booking.com parce qu’Helsinki au dernier moment c’est hors de prix.
* on arrive et déjà eh, bonne nouvelle, booking.com a des offres qui nous correspondent et ça, ça me met dans de bonnes dispositions.
* en revanche il faut se décider rapidement : d’une part l’avion va décoller, d’autre part il ne reste plus que deux hébergements disponible. Et il se trouve que dans les six dernières heures, 2 logements ont été réservés. Qu’est-ce que mon cerveau en infère ? Que j’ai six heures maximum pour me décider.
* et là bim ! Un macaron qui clignote : quelqu’un vient de réserver une chambre dans l’hôtel ! c’est pas la mienne mais ça aurait pu !! Là faut VRAIMENT se dépêcher !
Bon, en bref on a fini par réserver un hébergement de merde dans une espèce de blockhaus en banlieue lointaine d’Helsinki, tout ça parce que j’ai eu peur de louper le dernier hébergement disponible. Je rappelle à la salle que j’ai quand même fait des études en sciences cognitives.
Du coup, pour vous, c’est qui l’utilisateur idéal d’un service comme booking.com ?
Un bébé, tout simplement. Ou plutôt un enfant mais les images de bébé c’est plus marrant. Ce que ces entreprises font, c’est essayer de redéclencher des réactions enfantines. Alors, je ne sais pas si vous êtes experts en enfants, mais je pense qu’on a tous eu une enfance ici et qu’on se souvient qu’on était quand même beaucoup moins capable de recul et de distance qu’aujourd’hui. Et en préparant cette présentation, je n’arrêtais pas de faire le lien avec les remarques que mes parents me faisaient quand j’étais petite.
Vous savez, il y a toujours ce moment où on t’a donné un paquet de bonbons, et tu manges ton paquet de bonbons un peu rapidement et là on te dit : “C’est bon, elle va pas s’envoler pendant la nuit ta sucette”. Mais booking te dit que si, ta sucette va t’envoler, et d’ailleurs il y a 14 autres enfants qui sont en train de loucher dessus alors que C’EST LA DERNIERE SUCETTE DE LA BOITE.
Une deuxième phrase, que j’ai beaucoup entendue quand je voulais que mes parents m’achètent Pokémon Or sur ma Game Boy, et que tous mes copains l’avaient déjà, c’est : “Et tes amis, s’ils sautent d’un pont, tu sautes avec”?
Si on regarde les systèmes de recommandations aujourd’hui, ils fonctionnent beaucoup comme ça. Je prends le cas de Steam, que je trouve assez intéressant : pendant très longtemps, Steam a recommandé les jeux en fonction de ceux auxquels tu avais joué. Aujourd’hui ils ont ajouté deux métriques : le nombre d’amis qui veulent télécharger le jeu que tu regardes, et le nombre d’amis qui l’ont téléchargé. Donc, oui, si t’as 51 amis qui ont envie de sauter d’un pont, et 21 qui l’ont déjà fait, ça paraît tout à fait sensé de faire la même chose.
Ma troisième phrase maudite, c’était quand j’attendais le passage du facteur. Parce que j’étais abonnée à J’aime Lire, ou Witch Magazine, ou Super Picsou Géant, et c’était censé arriver le mardi. Donc le mardi, j’allais voir la boîte aux lettres toutes les cinq minutes. Donc forcément, au bout d’un moment un de tes parents te dit “C’est pas la peine d’aller voir toutes les cinq minutes si le facteur est déjà passé” alors que toi tu veux juste ton shoot de dopamine en allant vérifier si quelque chose t’attend dans la boîte aux lettres, sans être capable de mettre à distance ton impatience. Aujourd’hui on checke nos boîtes mails plus de 150 fois par jour, et en plus ce n’est jamais un Super Picsou Géant, que des newsletters pourries.
Bon, pourquoi est-ce que c’est intéressant de relever ces phrases ? Ce que je trouve intéressant là dedans c’est qu’il y a une raison pour laquelle on dit ces phrases aux enfants : ces réactions du cerveau, elles sont automatiques et naturelles, et donc évidemment plus marquées chez les enfants que chez les adultes. Et normalement c’est en apprenant à les contrôler et à les encadrer qu’on devient adulte. Et devenir adulte, c’est devenir capable de faire société : parce qu’on est capable d’écouter l’autre, de mettre de côté son envie immédiate pour voir à plus long terme, capable de prendre du recul, d’analyser rationnellement une situation.
On ne peut faire société qu’à partir où on met en place un système d’encadrement des pulsions qui nous permet d’interagir entre adultes. Mais comme je vous le dis depuis le début, les biais cognitifs existent dans tous les cerveaux, et pas seulement ceux des enfants. Donc le choix de les activer est fait par les entreprises en toute connaissance de cause : elles favorisent les comportements infantiles, elles agitent des hochets attentionnels, elles nous biberonnent à la dopamine pour mieux anticiper et contrôler nos réactions. Il n’y a rien de plus facile à contrôler qu’un enfant.
Pour revenir sur la petite chronologie philosophique que je vous présentais au début, je trouve bien sûr que dire que l’être humain est guidé par sa seule rationalité est complètement illusoire. Et si les sciences cognitives sont utilisés contre nous, ça ne remet absolument pas en cause le fait qu’elles donnent des clefs essentielles de compréhension du comportement humain. Mais pour moi, cet être humain rationnel, capable de libre arbitre, qui ne reste pas toute la nuit devant Netflix c’est l’horizon qu’on doit avoir et la raison pour laquelle on doit développer nos produits. Notre compréhension du cerveau humain devrait être au service de notre émancipation, nous aider à favoriser des comportements adultes plutôt qu’à réveiller des comportements d’enfants.
Un concept qui me paraît opérant, c’est celui de pharmakon. Le pharmakon – et j’emprunte la traduction à Starobinski – c’est le remède dans le mal. Tout comme une drogue peut être un médicament à faible dose, comprendre les mécanismes de la pensée et de la prise de décisions peut nous permettre de concevoir des produits qui visent à émanciper leurs utilisateurs et utilisatrices.
Le numérique qui existe actuellement, c’est un numérique qui répond à des désirs, mais ce n’est pas un numérique désirable.
Personnellement en tout cas, ce n’est pas le numérique dont j’ai envie. Déjà parce que j’estime que ce qu’on doit concevoir ce sont des outils, et que les outils doivent être conçus pour augmenter la capacité des personnes, pas à les transformer en vaches à lait dont on extrait de la valeur.
J’ai envie de participer à un écosystème qui n’est pas en permanence en train de surveiller les comportements de ses utilisateurs, en train de le transformer en valeur marchande. J’ai envie de participer à un écosystème qui soit un outil pour ma raison et qui me permet de prendre de la distance face à l’avalanche d’information que je reçois en permanence. Un numérique qui me permet de poser mes propres limites et qui respecte mon temps et mon libre arbitre. Je ne veux pas d’un numérique qui soit comme un cocon qui filtre la réalité, qui te dit où aller, quand partir, à qui parler et ce qu’il y a à faire autour parce qu’il a besoin de se nourrir de tes choix, de tes décisions et de tes interactions.
Le mot clef, pour moi, c’est l’émancipation.
J’ai envie de vous proposer quatre principes pour une technologie émancipatrice. Anticipation, Minimisation, Autonomie, Evaluation.
L’anticipation, pour commencer. Anticiper le potentiel addictif de votre produit, anticiper les dérives, c’est le premier pas. Lorsque vous voulez lancer une nouvelle fonctionnalité ou développer un nouveau produit, utilisez votre compréhension du cerveau humain pour vous interroger sur les potentielles dérives ou sur les faiblesses que vous risquez d’exploiter. En sécurité, on a un concept qui s’appelle les ‘abuser stories’ : quand on implémente une fonctionnalité, on essaie de se demander comment elle pourrait être utilisée par un attaquant. On pourrait peut-être faire la même chose avec les biais cognitifs.
La minimisation, ensuite. Être capable de s’arrêter, de se mettre des bornes dans l’utilisation des techniques d’addiction. Je pense à Duolingo, par exemple. Duolingo c’est une appli d’apprentissage de langues qui comprend très bien les mécanismes du cerveau humain et qui essaie de faire en sorte que vous ne lâchiez pas l’apprentissage de l’espagnol après une semaine en créant des rituels, des paris, en ludifiant votre expérience. Pourtant, après un certain nombre de notifications vous en envoie une dernière qui dit “ces notifications ne semblent pas fonctionner, nous allons arrêter de vous en envoyer.”. En somme, respectez le temps de votre utilisateur, qui le gère en adulte, au lieu d’essayer de le tenter avec une girafe qui fait pouet pouet.
Le troisième principe, c’est l’autonomie. Donnez du pouvoir à la personne qui utilise votre produit pour qu’elle fixe elle-même ses limites, ou pour utiliser votre outil comme bon lui semble. Si vous proposez un jeu ou du divertissement par exemple, laissez la définir un temps maximum d’utilisation de votre produit. Quand vous donnez des choix à vos utilisateurs, interrogez-vous sur le choix par défaut ? Est-ce qu’il respecte la personne qui va utiliser votre produit ? Est-il possible de neutraliser le choix par défaut ? Est-ce que vous donnez les armes à votre utilisatrice pour se passer de votre produit si elle en a besoin ? Je pense par exemple à la possibilité d’exporter des données, à l’interconnexion avec d’autres plateformes (je caricature, mais est-ce que je suis obligée d’ouvrir Slack et son cortège de notifications pour avoir accès à une information ?)
Le dernier principe, enfin, c’est l’évaluation. Oui, vous avez besoin de métriques pour savoir si votre produit fonctionne : choisissez les intelligemment. Mesurez la satisfaction client, la rapidité de résolution du problème pour lequel on utilise votre produit, l’utilité perçue. Donnez vous également des métriques d’échec : si vous êtes Steam, mesurez le taux de jeux commencés et non finis plutôt que le nombre de jeux vendus par exemple.
Ce sont quatre principes de base qui utilisent la compréhension du cerveau humain pour favoriser le respect que vous avez de la personne qui utilise votre produit. Il y en a sans doute d’autres, mais c’est sans doute une bonne base pour créer une technologie émancipatrice.
Voilà, ce sont des principes de base qui mériteraient sans doute d’être amplement développés par des personnes dont c’est le métier. Si vous êtes designers et que vous avez envie d’en discuter, c’est avec grand plaisir ! Merci pour votre attention, [présentation]
Je voudrais terminer en vous rappelant un élément important : en tant que dev et particulièrement en tant que pythoniste, vous êtes une ressource rare et vous avez une chance de faire partie de la prochaine entreprise qui changera le monde. Faites bon usage de votre compréhension du cerveau humain, et donnez nous des outils pour grandir, pas des biberons de dopamine. Merci beaucoup.