La technologie est-elle toujours la solution ? : le risque du solutionnisme

Dans une récente tribune pour le New York Times, l’essayiste et chercheur Evgeny Morozov (@evgenymorozov) expliquait assez clairement ce qu’il définit comme le “solutionnisme”, qui est le second concept au coeur de la critique du livre qu’il vient de publier Pour tout sauver, cliquez-là.
L’actualité apporte chaque jour son lot de nouveaux services en ligne, tous plus indispensables les uns que les autres, comme LivesOn, le service qui vous propose une vie sociale après la mort, en vous permettant de continuer à twitter après votre mort, grâce à l’analyse des tweets que vous avez publiés jusque-là, via un algorithme capable de prolonger vos goûts et votre syntaxe en les greffant à l’actualité. Ce service (qui semble être une parodie) “met en évidence l’idéologie dominante de la Silicon Valley aujourd’hui” estime Morozov : “ce qui doit pouvoir être perturbé doit l’être, même la mort”.

La technologie veut tout transformer, tout socialiser

Les obstacles et les contraintes – tout ce qui impose des limites artificielles à la condition humaine – sont appelés à être détruits. SuperHumain est un autre exemple de service de ce type qui promet de nous aider à devenir des surhumains. “Les débats récents sur les révolutions Twitter ou l’impact d’internet sur la cognition ont souvent passé sous silence le fait que les gourous technophiles et futuristes de la Silicon Valley se sont lancé dans une quête pour mettre au point le patch ultime pour mettre fin aux pires “bugs” de l’humanité. S’ils parviennent à leurs fins, aucune faiblesse individuelle ne restera impunie – idéalement, la technologie permettra de rendre toute faiblesse obsolète.”
Même l’ennui pourrait bien disparaître demain. Des designers japonais ont inventé un moyen pour rendre nos voyages en train perpétuellement amusant, permettant aux voyageurs d’ajouter des objets aux mornes paysages qu’ils voient de leurs fenêtres de train via la réalité augmentée (vidéo). “Si vous avez tendance à oublier des choses, la Silicon Valley veut vous offrir une application pour vous souvenir de tout… S’il vous arrive parfois de tergiverser (…), une application sera capable de montrer les incohérences de votre comportement pour que vos interlocuteurs sachent si vous dites la vérité… Si vous rencontrez une gêne quand vous rencontrez des gens ou des choses qui ne vous plaisent pas, un autre gadget peut vous vous épargnez cette douleur en les rendant invisible. Ensoleillée, lisse, propre… avec la Silicon Valley à la barre, votre vive ressemblera bientôt à une longue autoroute californienne.”
Le mois dernier Randi Zuckerberg, la directrice marketing de Facebook s’enthousiasmait pour Seesaw, une application permettant de demander l’opinion à tous vos amis via des sondages instantanés, pour la moindre des décisions que vous avez à prendre dans votre vie : de la robe de mariée que vous devez acheter, à la boisson au lait que vous devez commander… avant peut-être, demain, de savoir quel candidat politique soutenir.
“Il fut un temps ou nous achetions des choses pour impressionner nos amis, pleinement conscients du fait qu’ils pourraient ne pas aimer nos achats. Or, ici, la logique est inversée : si quelque chose impressionne nos amis, nous l’achetons. Les risques de rejets ont été réduits au minimum : nous savons à l’avance combien de “Likes” sur Facebook chacune de nos décisions devrait accumuler.” Désormais, la technologie semble non seulement vouloir tout transformer, mais plus encore tout socialiser.

Image : Evgeny Morozov photographié par Ophelia Noor, le 6 février 2011, lors de son passage à la Cantine à Paris.

La cohérence absolue est identique au fanatisme

“Jean-Paul Sartre, le philosophe existentialiste qui a célébré l’angoisse de la décision comme une caractéristique de la responsabilité n’a assurément pas sa place dans la Silicon Valley. Quelle que soit leur contribution à notre maturité en tant qu’êtres humains, les décisions engendrent de la douleur et, confrontée à un choix entre la maturité et la minimisation de la douleur, la Silicon Valley a choisi la deuxième option – peut-être à la suite d’un autre sondage instantané”, ironise Evgeny Morozov.
Nous troquons la maturité et la douleur par un comportement qui se veut honnête et toujours cohérent, constamment surveillé par les machines. Les lunettes de Google qui se proposent d’enregistrer toute notre vie nous proposent de ne jamais plus rien oublier, comme l’avait prédit Gordon Bell, l’informaticien de Microsoft qui, le premier, avait expérimenté un dispositif d’enregistrement vidéo total de sa vie, et qui avait raconté cette expérience dans son livre Total Recall. Pour Gordon Bell, ces appareils d’enregistrement que l’on porte toujours sur soi peuvent nous faire prendre conscience de nos propres faiblesses, de nos propres incohérences et des nombreux mensonges que nous nous racontons à nous-mêmes et aux autres. “Les gens qui réussissent n’ont jamais honte d’un enregistrement honnête”, écrivait-il. “Imaginez-vous être confronté à la quantité réelle de temps que vous passez avec votre fille plutôt qu’à la comptabilité rose que vous pensez avoir de celle-ci.” C’est le docteur Freud qui va être content, ironise encore Morozov.
“Tout cela semble bien beau en théorie, mais dans le monde dans lequel nous habitons, en fait, la quête de monsieur Bell pour notre propre cohérence paraît bien tyrannique. Dans son brillant essai En faveur de l’incohérence, publié en dissidence en 1964, le philosophe polonais Leszek Kolakowski fait valoir que pour se confronter régulièrement à des choix douloureux où notre réflexion éthique est convoquée, être inconstant est la seule façon d’éviter de devenir un idéologue doctrinaire englué dans son propre algorithme. Pour Kolakowski, la cohérence absolue est identique au fanatisme.”
“Si l’objectif d’être confronté à sa propre incohérence est de nous rendre plus cohérent, alors il n’y a rien à célébrer ici”, estime Morozov, définitif. Comme nous le disait déjà Christine Rosen, la recherche absolue de la maîtrise de soi tend à nous faire oublier qu’être humain est une affaire compliquée. “Les hypocrisies quotidiennes et les compromis qui rendent la vie supportable (même s’ils ne sont pas toujours honnêtes) sont précisément ce que l’intelligence ambiante et les technologies persuasives espèrent éliminer.” Mais pas seulement il me semble. Combattre l’accélération, comme nous l’expliquait Hartmut Rosa, demande aussi de la maîtrise de soi, sans qu’elle soit outillée par la technologie. Or, celle-ci n’est pas pas distribuée de manière homogène et égale. L’oubli, la tromperie de soi, le droit de ne pas savoir, le droit d’être inconstant ou de changer d’avis, voir de ne pas avoir envie ne sont pas optimisables ni par la technologie, ni par la philosophie. Notre incohérence nous est aussi essentielle.

Le risque du solutionnisme

L’année dernière, la futurologue Ayesha Khanna décrivait des lentilles de contact intelligentes qui pourraient faire disparaître les sans-abri de notre vue, rappelle Morozov. Améliorer nos sens fondamentaux est, certainement, ce qui rendrait nos vies plus agréables, ironise-t-il, toujours tranchant. “D’une certaine façon, voilà qui résoudrait le problème des sans-abri – à moins, bien sûr, que vous soyez vous-même un sans-abri. Dans ce cas là, la Silicon Valley vous remettrait une paire de lunettes hors de prix qui vous ferait vous sentir dans la rue comme à la maison. Pour citer une publicité pour les téléviseurs Samsung : “La réalité. Quelle déception !”"
“Tous ces efforts visant à atténuer les tourments de l’existence peuvent paraître comme un paradis vu de la Silicon Valley. Mais pour beaucoup d’entre nous, ils seront un enfer. Ils sont animés par une idéologie envahissante et dangereuse que j’appelle le “solutionnisme” : une pathologie intellectuelle qui reconnaît les problèmes comme des problèmes sur la base d’un seul critère : peut-on les résoudre par une solution technologique propre et agréable à notre disposition ? Ainsi, l’oubli et l’incohérence deviennent des “problèmes” tout simplement parce que nous avons les outils pour nous débarrasser d’eux – et non parce que nous en aurions pesé tous les avantages et les inconvénients philosophiques.”
Dans son livre (cité par Alexis Madrigal, pour The Atlantic), Morozov explique encore :

“Refondre toutes les solutions sociales complexes, soit comme des problèmes précis, avec des solutions calculables ou définies, soit comme un processus transparent et évident qui peut-être facilement optimisé – seulement si les algorithmes adéquats sont en place ! -, est une quête qui est susceptible d’avoir des conséquences inattendues qui pourraient causer plus de dégâts et de problèmes qu’ils ne cherchent à en résoudre. J’appelle l’idéologie qui légitimise et sanctionne ces aspirations “solutionnisme”. J’emprunte ce terme péjoratif sans vergogne au monde de l’architecture et de l’urbanisme où il se réfère à une préoccupation malsaine de solutions sexys, monumentales et étroites d’esprit – le genre de chose qui enchante le public lors des conférences TED – pour évoquer des problèmes qui sont extrêmement complexes, fluides et controversés. Ce sont des problèmes, qui, après un examen attentif, n’ont pas été définis de la manière singulière et universelle dont les solutionnistes les ont définis : ce qui fait controverse alors, n’est pas la solution proposée, mais la définition même du problème lui-même. Le théoricien du design, Michael Dobbins, a raison : le solutionnisme présume plutôt qu’il n’explore les problèmes qu’il cherche à résoudre pour atteindre la réponse avant que les questions n’aient été entièrement posées. Pourtant, comprendre comment les problèmes sont composés importe tout autant que de comprendre la façon dont ils sont posés.”

Les solutionnistes ne se limitent pas à régler les problèmes des individus, ils sont aussi désireux de régler les problèmes des institutions, explique encore Morozov dans le New York Times. L’esprit civique de start-ups comme Ruck.us, qui aide les gens à créer et rejoindre des mouvements politiques, cherche à contourner le système des partis classiques et permettre aux individus de faire de la politique sans aucune médiation par les institutions, sur l’hypothèse que la seule raison pour laquelle nous avions besoin de la démocratie représentative dans le passé reposait sur des coûts de communication trop élevés. Maintenant que les technologies numériques ont abaissé les coûts de participation, les partis politiques peuvent être remplacés par des groupes de citoyens concernés en ligne, explique encore l’essayiste. Mais là encore, ce ne peut être sans limites. C’est en tout cas la critique que nous adressions à Clay Shirky : il n’y a pas de politique sans conflit.
“Il est difficile de défendre le système politique actuel américain, mais il est encore plus difficile de se rallier aux projets solutionnistes pour une raison simple : le projet d’un internet alimenté par “la solution” ne nous est pas vendu en fonction de ses mérites propres – que nous entendons très peu – mais, plutôt, sur les inconvénients du système actuel, qu’il soit partisan ou corrompu. Oui, le système actuel regorge d’imperfections, mais l’imperfection pourrait être le prix à payer pour l’imparfait fonctionnement démocratique.” Dit autrement, notre système démocratique est certes imparfait, mais il fonctionne peu ou prou… alors que celui qu’on tente de nous vendre est loin d’avoir fait la moindre preuve de son fonctionnement.
“Apprendre à apprécier les nombreuses imperfections de nos institutions et de nous-mêmes, à une époque où les moyens de les résoudre sont si nombreux et fastueux, est l’une des tâches les plus difficiles auxquels nous sommes confrontés aujourd’hui”, estime Morozov. “Du point de vue des marteaux de la Silicon Valley, tous les problèmes ressemblent à des clous et toutes les solutions à des applications.” De telles prédispositions rendent plus difficile de remarquer que tous les problèmes ne sont pas des problèmes qui pourraient nécessiter de longues réponses institutionnelles et pas seulement des solutions technologiques miracles produites par des hackathons ou des vidéos virales.
“L’humanisme numérique des entreprises de la Silicon Valley a pour but de générer de la bonne volonté à l’extérieur et de remonter le moral des troupes à l’intérieur. Après tout, la destruction de l’intimité de chacun pourrait être le prix à payer pour sauver le monde et cette mission plus importante que la vie pourrait convaincre de jeunes et idéalistes employés qu’ils ne perdent pas leur temps à tromper des consommateurs crédules pour cliquer sur des annonces de produits inutiles. La Silicon Valley et Wall Street sont en compétition pour les compétences qu’ils recrutent et en prétendant résoudre les problèmes du monde, les entreprises de technologie pourraient prétendre offrir ce que Wall Street ne sait pas offrir : le sens d’une mission sociale.”
L’idéologie du solutionnisme est donc essentielle pour aider la Silicon Valley à tenir son image, estime Morozov. La presse technologique – ainsi que les participants aux conférences TED – est heureuse de jouer aux solutionnistes : “L’Afrique, il y a une application pour ça”, titrait l’édition britannique de Wired… Bref, demain plus qu’aujourd’hui, sauver le monde impliquera l’utilisation de services propres à la Silicon Valley…
“Chaque fois que les entreprises technologiques se plaignent que notre monde cassé doive être réparé, notre impulsion initiale devrait être de nous poser la question : comment savons-nous que notre monde est cassé et est-ce exactement de la même manière que la Silicon Valley le prétend ? Et si les ingénieurs avaient tort ? Et si la frustration, l’incohérence, l’oubli et même l’esprit partisan, étaient en fait les caractéristiques qui nous permettent de devenir les acteurs sociaux complexes que nous sommes ?”
Reste que Morozov semble oublier un peu vite que l’oubli, l’esprit partisan et l’incohérence sont tout de même aussi des problèmes. Et que la façon dont nous prenons nos décisions repose aussi sur des limites intrinsèques et génèrent également leurs propres difficultés.

Qui nous gouverne ?

Dans une seconde tribune pour le New York Times, intitulée “Emprisonné par l’innovation”, Evgeny Morozov complète son propos.
Il revient sur une étude du Cabinet Deloitte pour transformer les prisons, intitulée Derrière les barreaux, qui lui semble à nouveau un bel exemple du solutionnisme technologique, puisque l’étude ne propose rien de moins qu’un système d’incarcération virtuel qui permettrait de désengorger les prisons Américaines en proposant aux détenus un bracelet électronique qui limite les déplacements en les faisant surveiller par un smartphone. Le tout renforcé d’un système de gamification pour encourager les détenus respectueux des contraintes qui sont les leurs en augmentant leurs déplacements autorisés. “Bienvenue dans le panopticon pour couch potatoes”. Un système qui permettrait d’emprisonner deux fois plus de gens pour moitié moins d’argent. Bref, une solution idéale pour un monde idéal.

“Les technologies intelligentes ne sont pas seulement perturbatrices, elles peuvent aussi préserver le statu quo. Révolutionnaires en théories, elles sont souvent réactionnaires en pratique.”

Morozov prend alors un autre exemple, celui du quantified self (qu’il développe également longuement dans son livre, rappelle Madrigal), ceux qui pratiquent la mesure de soi, que ce soit la mesure de ce qu’ils mangent ou de l’énergie qu’ils consomment. Désormais tout est traçable, notamment parce que nos gadgets sont équipés de capteurs intelligents. “À l’heure actuelle, la plupart de ces efforts pour se mesurer proviennent de simples amateurs, mais il ne faudra pas longtemps pour que les gouvernements commencent à explorer la mesure de soi comme une solution à des problèmes qu’on pourrait ou qui devraient être abordés différemment.” Distribuer des applications de santé comme solution de médecine préventive… (“la prévention assistée par smartphone”), est une idée qu’on a déjà entendu. “Vous ne mangez pas assez de légumes ? Eh bien votre smartphone vous le dira – peu importe si on n’en trouve pas en vente dans votre quartier ou si vous ne pouvez pas vous permettre des les acheter.”
“En déchargeant la responsabilité de résoudre les problèmes des gouvernements aux citoyens, la mesure de soi peut nous amener à optimiser notre comportement dans les limites d’un système existant.” Mais pas à réformer le système, souligne Morozov. Or “ce qu’il nous faut c’est une chance de pouvoir réformer le système lui-même – peut-être par le démantèlement de ces contraintes. Des réformes ambitieuses, comme la régulation de l’industrie agroalimentaire et la construction de l’infrastructure nécessaire pour faire parvenir une nourriture saine aux populations ne devraient pas perdre de leur pertinence à l’ère de la mesure de soi universelle. Que nous ayons maintenant les moyens de rendre les expériences les plus misérables plus tolérables ne devrait pas être une excuse de ne pas réduire la misère de ces expériences.” Pour le dire autrement, les fourchettes intelligentes nous diront demain ce que l’on mange, mais si le système d’approvisionnement incorpore toujours du cheval dans du boeuf qu’aurons-nous résolu ? La traçabilité totale de ce qui arrive dans nos assiettes ne nous préservera pas d’un type qui décide à un moment de remplacer du boeuf par du cheval.

Le conservatisme des technologies

Prenez Chromaroma, un jeu qui utilise la carte à puce de la carte de transport en commun du métro de Londres pour rendre les trajets plus amusants. Selon The Guardian, enthousiaste, ce jeu est ce que les Londoniens attendaient pour passer leur temps dans les transports !, se moque Morozov. Or, comme le rappelle plutôt l’écrivain Steven Poole, les usagers attendent surtout un service plus fiable, avec des lignes de métro qui ne ferment pas tous les week-ends et des trains qui puissent accueillir plus de 17 personnes !
“De nombreuses technologies dernier cri ne peuvent que nuire à des réformes indispensables, mais surtout, risquent d’enraciner les iniquités sociales. Pensez à l’engouement actuel pour les Big Data, avec sa capacité à donner des aperçus puissants basés sur de seules corrélations. Selon un livre récent (celui de Viktor Mayer-Schonberger et Kenneth Cukier : Big Data, une révolution qui va transformer comment on vit, travaille et pense), une fois que nous embrasserons pleinement les Big Data, la société devra payer une partie de son obsession pour la causalité en échange de corrélations simples : sans savoir pourquoi, mais seulement quoi.”
Mais un problème abordé par ses seules corrélations se prête à un ensemble très différent de solutions qu’un problème tracé dans toute sa complexité causale, rappelle Evgeny Morozov. Le philosophe Thomas Bern ne nous disait pas autre chose : “Le propre de la politique était de vérifier qu’une série de corrélation n’était pas le signe d’une injustice ou le facteur d’une discrimination. Le propre du politique était de considérer justement qu’il ne fallait pas agir en fonction d’une série de corrélation, mais plutôt en réaction. “Une politique publique c’est le fait de refuser de prendre en considération des corrélations. Or, il semble que désormais, les corrélations sont devenues l’expression d’une parfaite efficacité du savoir, d’une parfaite appropriation d’une action.” La perte du questionnement induit par la corrélation risque de nous faire perdre les épreuves qui permettaient de produire du sujet.”
Il peut-être utile de savoir que la plupart des crimes commis dans un quartier donné sont commis par des gens qui partagent certains likes sur Facebook, explique Evgeny Morozov. Mais en rester là et se méfier de tous ceux qui partagent les mêmes choses serait irresponsable, surtout lorsque ces likes sont eux-mêmes des procurations de classe, de race ou de sexe. “Si le comportement criminel découle de l’inégalité économique ou de la discrimination raciale, nous devons corriger ces causes profondes, et pas seulement prévenir les dommages susceptibles d’être causés par des gens qui correspondent à un profil.”

“Les technologies intelligentes, grâce à leur omniprésence et leur côté abordable, nous offrent la moins chère et la plus tendance des possibilités de correction. Mais l’aura de leurs capacités perturbatrices qui accompagnent de telles corrections nous masque leur conservatisme sous-jacent. L’innovation technologique ne garantit pas l’innovation politique. Parfois, elle pourrait même y faire obstacle. La tâche à accomplir est d’empêcher notre imagination d’être incarcérée par les technologies intelligentes, ou sinon nous devrons nous contenter de nous gamifier jusqu’à la mort.”

En introduisant de la friction, la technologie nous aide-t-elle à réfléchir ?

Bien sûr, on pourrait faire de nombreuses objections à Morozov, et la presse américaine n’en manque pas. Nous n’en retiendrons qu’une. Celle de Clive Thompson dans Wired.
Certes, reconnaît Thompson, les machines peuvent prendre des décisions et cela ne signifie pas qu’elles ont raison. Prenez le scénario proposé par le neuroscientifique Gary Marcus sur les dilemmes éthiques posés par l’arrivée prochaine de la voiture autonome. Votre voiture roule sur un pont étroit quand déboule un bus scolaire face à vous. Votre voiture autonome va-t-elle décider de sacrifier votre vie ou celle des enfants ? Est-ce l’algorithme de la voiture autonome qui va prendre la décision à votre place ? Serez-vous d’accord avec le choix qu’elle fait ?
Non seulement nos outils guident et façonnent de plus en plus nos comportements, mais demain ils risquent de prendre de plus en plus de décisions à notre place, rappelle Thompson. Le risque n’est-il pas de nous dépouiller des moments de délibération où nous réfléchissons à la moralité de nos actions ? (pour autant que dans cet exemple, nous ayons le temps d’y penser : le risque le plus certain dans cet exemple, est que nous nous encastrions dans le bus, pas que nous décidions vertueusement de jeter notre voiture du pont pour laisser la vie aux enfants…).
“Dans son livre, Evgeny Morozov jette un regard sceptique sur les gadgets qui nous poussent à avoir un meilleur comportement, à l’image de la fourchette intelligente qui surveille la quantité de nourriture que vous mangez et qui vous avertit si vous prenez trop de calories.” Pour Morozov de tels outils réduisent notre capacité à réfléchir à la façon dont on mange, et notamment aux questions politiques plus profondes : pourquoi la nourriture que nous mangeons est-elle devenue si grasse ? “Au lieu de réguler l’industrie alimentaire pour qu’elle produise de la nourriture saine, nous offrons aux gens des fourchettes intelligentes”, ironise Morozov.
Pour le philosophe Evan Selinger, les outils qui rendent les choses difficiles faciles nous rendent moins enclins à tolérer celles qui sont difficiles, rappelle Thompson. L’externalisation de notre capacité à nous auto-contrôler dans nos machines a des conséquences. Et que se passera-t-il quand la société tout entière externalisera ses décisions morales à la technologie ? Que se passe-t-il quand des services de police utilisent PredPol, un système de fouille de données de criminalité qui prédit l’endroit et le moment où des activités criminelles pourraient arriver. Pour Morozov, souligne Thompson, les algorithmes pourraient amplifier les défauts des applications des lois existantes. Par exemple, la violence sexuelle est historiquement sous-estimée, de sorte qu’il n’est pas facile de la prédire. En enlevant la capacité de la police à délibérer, vous pouvez transformer la manière dont se fait le contrôle. Faire plus avec moins, semble un objectif digne à court terme, mais permet aux politiciens d’esquiver l’impact politique de leurs choix budgétaires. “Et c’est là vraiment le coeur de la question du livre de Morozov : l’efficacité n’est pas toujours une bonne chose. La technologie peut nous permettre de faire les choses plus facilement, mais cela peut aussi signifier les faire d’une façon moins réfléchie.”
Nous n’allons pas jeter pour autant la technologie avec l’eau du bain, conclut Thompson. “L’efficacité n’est pas toujours une mauvaise chose. Mais Morozov suggère que, parfois, les outils font le contraire que d’introduire de la friction.” Par exemple, de nouveaux horodateurs se remettent à zéro quand vous quittez votre place de parking même s’il reste du temps de parking. La ville gagne plus d’argent avec ce type de système, mais la conception vous oblige également à un autre comportement. Que feriez-vous si l’horodateur vous permettait un choix ? Offrir le temps restant à un autre conducteur ou à la ville ? Cela remettrait au premier plan la morale des petits compromis de la vie quotidienne : ville contre citoyens. Autre exemple, anecdotique, qu’évoque Thompson, un prototype allemand de multiprise qui détecte si un périphérique est en mode veille. Au lieu d’éteindre automatiquement l’appareil, le système le laisse allumé, mais vous le signale. Le but est d’attirer votre attention sur votre consommation d’énergie, pour vous forcer à le débrancher vous-même et vous faire réfléchir à votre consommation.
“Beaucoup d’outils ne nous permettent pas de résoudre des problèmes, mais nous permettent d’y réfléchir. Et c’est précisément ce qui est important.”
Important, certainement. Suffisant ?
Hubert Guillaud