PATRICK CHAPPATTE: C’est-à-dire?
Aza Raskin: L’homme est juste un animal:
nous avons des limites à notre corps,
tout comme nous avons un ensemble de
limites à notre esprit. On ne peut pas courir
aussi vite ou sauter aussi haut qu’on le
voudrait, on ne supporte pas un certain
niveau de pression. Imaginez un logiciel
vieux de 10 000 ans qui n’aurait jamais
reçu de mise à jour de sécurité: c’est l’esprit
humain d’aujourd’hui.
La technologie a dépassé nos capacités?
Oui. Nous avons atteint ce point
maintenant. Avec la technologie, nous
sommes comme dans une relation de
couple abusive, elle nous manipule. D’un
côté, l’industrie utilise une centaine d’ingénieurs
derrière chaque écran avec
des super-calculateurs pour essayer de
rendre cette chose aussi addictive que
possible. Et d’un autre côté, on vous
culpabilise si vous l’utilisez trop.
L’élection de Trump, ça a été une
secousse dans la Silicon Valley?
Que des relations publiques! Les plateformes
ne veulent pas reconnaître leur
responsabilité. Pourtant, environ deux
tiers des Américains s’informent via
les médias sociaux. Sur YouTube, 70%
des vues proviennent de leur moteur de
recommandation. Le New York Times a
même appelé ce réseau «le grand radicalisateur
» de notre temps. Nous travaillons
avec des gouvernements, en Europe
et aux USA, pour modifier la règle qui
déresponsabilise les plateformes visà-
vis du contenu que les utilisateurs
affichent. La liberté d’expression, ce
n’est pas la liberté d’intrusion. Nous
voulons rendre les entreprises légalement
responsables du contenu qu’elles
diffusent.
Mark Zuckerberg a commencé à parler
de réglementation…
Ce qu’ils ne
sont pas prêts à admettre, c’est la mise
en cause de leur modèle d’affaires.
Facebook fait 40 milliards de dollars
par an en perfectionnant l’art influencer
les gens. OK, ils ne vendent pas vos
données, mais ils les exploitent pour
vendre au plus offrant la possibilité de
vous influencer. Les outils qu’ils ont
construits sont devenus des armes
contre nous. Maintenant, ils essaient de
réparer certains dégâts, mais ne règlent
pas le problème principal. Posez-leur
la question: «Voulez-vous donner ces
outils à vos propres enfants?» Mark Zuckerberg,
Larry Page, Steve Jobs, tous ces
gens limitent l’accès à la technologie à
leurs enfants. Cette technologie qu’ils
ont pourtant construite!
C’est vrai, ça? Ce n’est pas un cliché?
Oh non. Je connais cela de l’intérieur,
parce que mon père était le gars qui a
conçu le Macintosh. J’ai donc grandi
avec beaucoup d’autres enfants de la
Silicon Valley.
Il vous donnait quelles règles, votre
père?
Pour lui, la technologie devait
permettre la créativité humaine. Etre
une bicyclette pour l’esprit. Pas ces
choses tout droit sorties d’un récit d’Aldous
Huxley. Est-ce qu’on programme
des applications ou est-ce qu’on programme
des gens?
Le smartphone tout le temps dans
notre poche, c’est le début des
ennuis?
Oui, ces objets sont en contact
permanent avec notre corps. La plupart
des jeunes ressentent de temps
en temps des «bourdonnements fantômes
», quand vous croyez que votre
téléphone vibre alors que ce n’est pas
le cas. Ces appareils modifient notre
physiologie. Tu sais que tu es addict
quand tu relèves ta messagerie avant
de pisser le matin, ou même pendant.
Ce contact permanent a créé une prise
directe dans nos cerveaux, par laquelle
s’engouffrent toutes ces données.
Alors, l’iPhone, c’était la mauvaise
idée de Steve Jobs?
Ça, mais surtout
les modèles d’affaires basés sur
l’engagement. Notre attention, c’est la
ressource la plus précieuse du monde.
Toutes les grandes compagnies comme
Google, Facebook et Apple apprennent
à exploiter l’humain comme ressource
et elles sont florissantes.
Risque-t-on de nous détruire nousmêmes?
C’est possible. Les ordinateurs
sont devenus meilleurs que
les humains pour lire les micro-expressions
et le micro-ciblage permet
de vous faire croire n’importe quoi.
Le nouvel iPhone lit votre visage en
3D et en temps réel. Bientôt, Netflix
pourrait connaître la seconde exacte
où vous commencez à vous ennuyer…
pour changer de vidéo! Appliquez cela
à toute une société. On pourrait cibler
l’annonce politique parfaite, parce
qu’on décèle exactement vos émotions,
quand vous êtes heureux ou triste. On
pourra générer une publicité qui utilise
un visage auquel vous faites irrésistiblement
confiance.
Y a-t-il un moyen d’éviter cette manipulation
parfaite?
La démocratie libérale
occidentale est basée sur l’idée que
nous prenons des décisions souveraines
basées sur notre propre expérience
vécue; nous savons que ce n’est plus vrai.
Il faut considérer l’être humain comme
vulnérable. La technologie devrait se
montrer protectrice de nos vulnérabilités,
sensible à nos faiblesses, et développer
le meilleur en nous. Aucune de
ces entreprises ne le fait.
Il faut un nouvel humanisme?
Quelque
chose comme ça. Un nouveau domaine
du design ou de la technologie. Regardez
la voix basée sur l’intelligence artificielle
de Google, qui ressemble à un humain.
Imaginez toutes les façons dont on va
en abuser. Pour la prochaine campagne
politique, disons en 2020, ils feront tourner
un centre d’appels entièrement virtuel,
l’équivalent de 100 000 personnes,
qui testeront tous les différents scénarios.
Vous allez recevoir un appel, une
voix qui ressemblera à celle de votre
père, qui vous lira un pitch parfait écrit
pour vous seul. L’influence sera totale.
C’est terrifiant.
Il n’y a pas un petit paradoxe? Les pionniers
de l’informatique voulaient donner
«le pouvoir au peuple». Les médias
sociaux accomplissent cela, finalement,
non?
Ce ne sont pas des espaces
où nous pouvons nous exprimer pour
notre propre bien. Les plateformes ne
sont ni intrinsèquement bonnes ni mauvaises,
mais elles ne sont pas neutres.
Elles dévient le flux du comportement
humain d’une manière ou d’une autre.
Qu’est-ce que cela a changé? Il y a vingt
ans, être célèbre ne figurait pas dans le top
10 des choses que les gens souhaitaient.
Aujourd’hui, c’est le numéro deux.
Concrètement, comment changer
les choses?
Presque tout le monde
dans la Silicon Valley a entendu parler
du Center for Humane Technology.
On est invités par les employés
de ces grandes boîtes, leur accueil est
incroyable. Les employés de la tech,
les ingénieurs veulent avoir le sentiment
de faire le bien pour le monde. Ils
sont, je pense, le moyen le plus rapide
de changer la Silicon Valley.
