Le mythe de la singularité : Faut-il craindre l’intelligence artificielle ?

142 Pages·2017·0.507 MB·French

by  Jean-Gabriel Ganascia

Le mythe de la Singularité
Du même auteur
L'Âmemachine
Lesenjeuxdel'intelligenceartificielle
Seuil,«Scienceouverte»,1990
L'Intelligence artificielle
Flammarion,1993
Dictionnairedel'informatique
et dessciences del'information
Flammarion,1998
2001, l'Odysséedel'esprit
Àl'èredessociétésdel'information
Flammarion,1999
GédéonouLes Aventuresextravagantes
d'unexpérimentateur enchambre
LePommier,2002
Les Sciences cognitives
LePommier,2006
L'Intelligence artificielle
LeCavalierbleu,2007
Voir et pouvoir:quinous surveille?
LePommier,2009
JEAN-GABRIEL GANASCIA
LE MYTHE DE
LA SINGULARITÉ
Faut-il craindre l'intelligence artificielle?
ÉDITIONS DU SEUIL
25,bdRomain-Rolland,ParisXIVe
ISBN978-2-02-130999-7
©ÉditionsduSeuil,février2017
LeCodedelapropriétéintellectuelleinterditlescopiesoureproductionsdestinéesàuneutilisation
collective.Toutereprésentationoureproductionintégraleoupartiellefaiteparquelqueprocédéque
ce soit, sans le consentement de l'auteur ou de ses ayants cause, est illicite et constitue une
contrefaçonsanctionnéeparlesarticlesL.335-2etsuivantsduCodedelapropriétéintellectuelle.
www.seuil.com
«DelavaporisationetdelacentralisationduMoi.
Toutestlà.»
CharlesBAUDELAIRE
Moncœurmisànu

1
Imminence
Annonces
Le jeudi 1er mai 2014, Stephen Hawking, un physicien et cos-
mologiste britannique de renom devenu célèbre pour ses travaux
sur les trous noirs, l'origine de l'Univers et le temps, lance un cri
d'alarme.DansunetribunepubliéeparlejournalTheIndependent
il nous met en garde contre les conséquences irréversibles de
l'intelligence artificielle. D'après lui, les technologies se déve-
loppentàuntelrythmequ'ellesdeviendrontviteincontrôlablesau
point de mettre l'humanité en péril. Aujourd'hui, il serait encore
tempsdetoutarrêter;demain,ilseratroptard!
D'autresscientifiquesprestigieuxpartagentsoninquiétude.Max
Tegmark,professeurdephysiquethéoriqueauMIT,StuartRussell,
professeur d'intelligence artificielle à l'université de Berkeley1, et
Frank Wilczek, professeur de physique au MIT et Prix Nobel de
physique cosignent la tribune. Prenant acte des progrès extraordi-
naires de l'intelligence artificielle, par exemple de la voiture auto-
nome de Google, du logiciel de reconnaissance de la parole Siri
d'Apple, ou de la machine Watson d'IBM qui l'emporte sur les
humainsaujeutéléviséJeopardy,cesquatrechercheursnousaver-
tissent:lesfacultésd'apprentissageautomatiquedesmachinesali-
mentées par les quantités d'information colossales que l'on
mentionnesouslevocablede«massesdedonnées»ou,enanglais,
de Big Data, les rendront bientôt imprévisibles, puisque leur
comportement ne résultera plus du programme que les hommes
auront écrit, mais des connaissances qu'elles construiront elles-
mêmes, par induction automatique à partir d'informations glanées
9
LE MYTHE DE LA SINGULARITÉ
çà et là dans des bibliothèques virtuelles, dans des entrepôts de
données et dans le monde, au cours de leurs pérégrinations. Cou-
pléeàcetteimprédictibilité,leurautonomiecroissantefaitqu'elles
nouséchapperontetprendrontunempiredeplusenplusgrandsur
l'homme. Nous atteindrons alors un point de non-retour au-delà
duquelnous,humains,courronstousànotreperte.Ilyaurgenceà
s'enpréoccuper.Nousserionsfousdenousendésintéresser!
Sans doute, cette déclaration publique fit-elle écho au film
anglo-américain à grand budget Transcendence sorti peu avant
dans les salles du Royaume-Uni et qui noue l'intrigue à partir des
supposés travaux de scientifiques parvenant à doter une machine
d'une conscience. Mais elle n'émane pas d'auteurs de science-
fiction et elle a été précédée et suivie de beaucoup d'autres du
même acabit, proférées par d'éminentes personnalités du monde
contemporain. Stephen Hawking réitère ses propos publics en
affirmant en décembre 2014 sur la BBC que «l'intelligence artifi-
cielle pourrait conduire à l'extinction de la race humaine2». Des
hommes d'affaires illustres aux réussites époustouflantes, des
chercheurs reconnus, des ingénieurs brillants et des philosophes
appartenant aux institutions les plus prestigieuses au monde lui
emboîtent le pas. Elon Musk, le cofondateur des sociétés Paypal,
SpaceX, Tesla Motors et SolarCity, s'inquiète publiquement et à
plusieursreprisesdesrisquesquel'intelligenceartificiellefaitcou-
rir à l'homme3. Pour lui, c'est là que réside le plus grand danger
existentiel pour l'humanité4. Resté jusque-là silencieux sur ce
sujet, Bill Gates, l'homme le plus riche du monde, s'engage à son
tour et fait part de son pessimisme le 28 janvier 2015 lors de la
conférenceAMA5.
En janvier 2015, une lettre ouverte6 cosignée par un nombre
impressionnant de chercheurs en intelligence artificielle où se
côtoientlesplusgrandsnomsdeladiscipline,dontStuartRussell,
invite à réfléchir aux dangers potentiels des ordinateurs. Elle
enjoint les spécialistes à ne plus se limiter à l'obtention de perfor-
mances, du fait des risques encourus, et à considérer le bien-être
ultime des hommes et les bénéfices pour l'ensemble de la société.
Semanifestelà,chezdesscientifiqueshabituellementsilencieuxet
10
IMMINENCE
absentsdesscènesmédiatiques,lesigned'uneinquiétudepalpable
quiportesurlesconséquencespotentiellementnéfastesdel'intelli-
gence artificielle pour le genre humain. S'ensuivent des recom-
mandationssurdesdirectionsderechercheneuvess'attachantàla
robustesse, à la vérification et au contrôle des dispositifs auto-
nomesafinqu'ilsnenouséchappentpas.
Ces annonces publiques font suite aux travaux de scientifiques,
d'instituts de recherche et de think tanks sur les risques que feront
courirlesmachinesauxhommesdanslefutur.Àtitred'illustration,
mentionnonsl'Institutsurlefuturdel'humanité7,quiaccueillesur
sonsitela lettre ouvertequenousvenonsdementionner,l'Institut
du futur de la vie8, financé assez largement par des industriels du
secteur des technologies de l'information dont le susmentionné
Elon Musk, l'Institut de recherche sur l'intelligence des machines
(MIRI)9,quisepenchesurlesavancéesextrêmesdel'intelligence
artificielle et, en particulier sur la «superintelligence», le Centre
pour l'étude du risque existentiel de l'université de Cambridge10,
qui étudie les risques d'extinction de l'espèce humaine, ou encore
l'Université de la Singularité11 qui compte, parmi ses fondateurs,
des grands industriels comme Google, Cisco, Nokia, Genentech,
Autodesk, l'Institut pour l'éthique et les technologies émer-
gentes12,l'Institutdesextropiens13aunomdélicieusementévoca-
teur,etc.
Techno-prophètes
Précurseur de ces réflexions, le roboticien Hans Moravec
affirme,dansdeuxlivres,MindChildren:TheFutureofRobotand
HumanIntelligence14(Lesenfantsdel'esprit:lefuturdel'intelli-
gence du robot et de l'homme) publié en 1988, et Robot: Mere
Machines to Transcendent Mind15 (Robot: simples machines à
l'esprittranscendant),paruen1998,quelesévolutionsdelarobo-
tique conduiront à une transformation majeure de l'humanité. On
peut aussi citer les travaux du cybernéticien Kevin Warwick16.
Dans son ouvrage I, Cyborg qui fait écho au très célèbre I, Robot
11
LE MYTHE DE LA SINGULARITÉ
d'Asimov, il prétend depuis plus d'une quinzaine d'années que,
poursurvivre,l'hommevadevenirun«cyborg»,autrementditun
«cyber-organisme», c'est‑à-dire un mixte de technologie et de
biologie. Il se fit connaître du grand public en 1998 lorsqu'il
convoqua la presse pour exhiber la puce de silicium encapsulée
dans une ampoule de verre17 qu'il escomptait s'introduire sous la
peau18,transgressantainsilafrontièreducorpspoursetransformer
progressivement en organisme cybernétique. À l'époque, il pro-
mettaitd'allerplusloinetdecommanderdesactionneursàdistance
en «branchant» des capteurs d'abord à ses nerfs moteurs, puis
directement sur son cerveau. Il semble toutefois que le projet ait
faitlongfeu.
Ces deux-là ne sont pas seuls. Il y en a tout un cortège, dont un
chercheur belge, Hugo de Garis19, qui imagine une guerre mon-
diale et fratricide où les «cosmits», partisans des «artilects»,
êtres prodigieusement intelligents et détenteurs d'une spiritualité
neuve réalisée au moyen de l'intelligence artificielle, s'affronte-
ront aux «terrans» qui veulent à tout prix conserver à l'homme
sa suprématie. On citera aussi Bill Joy, le cofondateur de la firme
Sun-Microsystem, qui publia en 2000 un article retentissant inti-
tulé «Why the future doesn't need us20» (Pourquoi le futur n'a
pas besoin de nous) où il imagina des nanotechnologies prolifé-
rant tels des virus, jusqu'à détruire l'environnement terrestre et
rendre toute forme de vie impossible.
Le plus célèbre à ce jour est sans conteste Raymond Kurzweil.
Cegénieprécocesefaitconnaîtredèsl'âgedequinzeans,en1963,
pouravoirréaliséunprogrammeinformatiquedesynthèsedeparti-
tionsmusicalesqu'ilinterprètelui-mêmeaupianodevantlescamé-
rasdelatélévision21.Ilpoursuitensuitedesétudesd'ingénieurau
trèsprestigieuxMITavantdesespécialiserdanslareconnaissance
optique des caractères, ce qui lui vaut un nombre incalculable
de distinctions dont la médaille nationale de la technologie et de
l'innovation22 remise, en 1999, par le Président Bill Clinton en
personne.Parlasuite,ilfondeplusieurssociétésprivéesetdevient,
à partir de 2012, chef de projet chez Google. Outre ses activités
d'ingénieur,ilannonceavecferveurdepuisdenombreusesannées
12