Intelligence artificielle, vers un monde antifragile (extrait)

© Pierre Fraser, Éditions V/F, 2017© Matthew Henry, Photographie de la couvertureAucune partie de cette publication ne peut être reproduite, transmise sousquelque format que ce soit, électronique ou mécanique, incluant la photocopie,la numérisation ou toute autre forme de stockage de l’information qui permet-trait de retracer ou reproduire l’information contenue dans ce livre sans la per-mission expresse et écrite de l’auteur. Acheter ce livre chez Amazon 12,65 € / 14,00 $ / 10,37 £ Version KindleDépôt légal : Librairie du Congrès des États-Unis1e trimestre 2017ISBN : 978-1544932460Première édition11 12 13 14 1554321Imprimé aux États-Unis par Amazon 2

NOTE AU LECTEURTout système d’intelligence artificielle qui est en mesure d’apprendre par lui-même, tout en le faisant avec un degré exponentiellement supérieur à celui d’un cerveau biolo-gique — et c’est bien ce que peut faire un réseau massivementconnecté de neurones artificiels —, disposera de la capacité à ré-ellement devenir antifragile, parce qu’il sera en mesure d’ap-prendre à partir de la volatilité de son propre environnement, qu’ils’adaptera, qu’il s’améliorera au fil du temps, tout comme est enmesure de le faire un cerveau biologique. 3

À PROPOS DE L’AUTEURPierre Fraser est détenteur d’un doctorat en sociologie de l’Université Laval. Linguiste de formation, également in- formaticien qui a transposé plusieurs techniques linguis-tiques d’analyse du discours dans des systèmes d’intelligence ar-tificielle entre 1995 et 2000 pour le compte de la société nSteinTechnologies, sa formation en sociologie est venue compléter ledébut de sa compréhension de ce qui attend nos sociétés au coursdes années à venir. Autrement, même si Pierre Fraser publie par-fois dans des revues spécialisées en sociologie qui ne sont lues quepar une cinquantaine de personnes, il préfère, et de loin, éviter lelangage parfois hermétique de la sociologie théorique au profitd’un style qui atteindra le plus large public possible.Dans la même collectionIntelligence artificielle : vers une superintelligenceIntelligence artificielle : vers l’humain augmenté 4

PROLOGUEL’un des grands bonheurs de l’être humain, ce n’est pas for- cément de vivre dans une condition dite de bonheur, mais bien de complexifier à outrance tout ce qui peut être com-plexifié. C’est une manie de notre espèce, un genre d’obsessionqui nous oblige constamment au dépassement, à l’invention et àl’innovation. D’ailleurs, tous les politiciens vous le diront, il fautinnover pour arriver à maintenir le pays dans le peloton de tête despays développés au risque de le voir péricliter, comme si le faitd’innover était obligatoirement garant de prospérité économique.À ce titre, les États-Unis ont dû échouer dans une certaine mesure,car ce pays au sommet de l’innovation technologique n’a de cessede produire des inégalités sociales toujours plus criantes. En fait,quand on y regarde le moindrement de près, ce sont les élites po-litiques, économiques et financières, aux États-Unis, qui bénéfi-cient réellement et massivement de l’innovation technologique.Partant de là, l’innovation technologique devient forcément un im-pératif pour ces élites. On tient peut-être là une première explica-tion, mais il serait trop risqué de s’y tenir. Donc, il faut envisagerle problème sous un autre angle. En mars 2017, lors du dépôt de son budget annuel, le gouverne-ment du Canada a particulièrement souligné que l’intelligence ar-tificielle avait le potentiel de générer une solide croissance écono-mique. D’ailleurs, quoi de plus innovant que l’intelligence artifi-cielle ? À une autre époque, pas si lointaine, on parlait, au Canada,de l’autoroute de l’information comme de l’Eldorado de l’innova- 5

Intelligence artificielle : fragile ou antifragile ?tion technologique — j’attends encore, vingt ans plus tard, cet El-dorado. Ceci étant précisé, comment l’intelligence artificielle con-tribuera-t-elle à cette solide croissance économique ? Toujours se-lon le gouvernement canadien, la chose passera par le fait d’amé-liorer la façon de produire des biens, d’offrir des services et desurmonter des défis comme les changements climatiques. Il vasans dire que les changements climatiques ont le dos large dèsqu’il s’agit d’agiter l’épouvantail d’une humanité qui subira deplein fouet l’apocalypse du réchauffement planétaire. Ainsi, l’in-telligence artificielle se positionnerait comme un facteur pivotpour nous aider à contrer cette potentielle catastrophe, un peucomme si nous étions trop bêtes pour y arriver par nous-mêmes.Et Dieu sait si nous sommes bêtes à en croire tous les technoévan-gélistes de l’intelligence artificielle. C’est donc pourquoi le Ca-nada « entend offrir un appui public solide aux programmes derecherche et à l’expertise de calibre mondial offerts dans les uni-versités canadiennes afin de positionner le Canada en tant que chefde file en matière de recherche sur l’intelligence artificielle et l’ap-prentissage profond1. » Et nous voilà dans ce que la complexité ade plus complexe, l’intelligence artificielle. Au risque d’en choquer plusieurs, ce qui sera sûrement le cas, ilimporte de préciser que l’intelligence artificielle, ce n’est avanttout qu’un bricolage informatique de plusieurs degrés supérieursà tout ce qui a été conçu à ce jour depuis la Révolution industrielleen matière de technologies. Et je souligne, qu’ici, le mot bricolagen’a aucune connotation négative, car il renvoie plutôt à la notiond’un bricolage informatique hautement sophistiqué. Autrementdit, il est possible en combinant différentes techniques statistiques,mathématiques et informatiques couplées à des microprocesseursà architecture parallèle, d’arriver à une efficacité particulièrementsurprenante en matière d’apprentissage automatisé, sans compter1 Association québécoise des technologies (2017), Budget du Canada 2017-2018 : L’AQT présente les principales mesures qui toucheront les entreprisestechnos québécoises. 6

Prologueque l’apprentissage automatisé profond serait ce par quoi nous so-lutionnerons nos problèmes sociaux les plus criants. Et ce brico-lage hautement sophistiqué sera inévitablement la source de plusde problèmes qu’il n’y pourrait paraître, car il ne faut jamais ou-blier que, là où est introduite de la complexité, on introduit aussibeaucoup de possibilités de dérapage. Partant de là, il est toujours intéressant, lorsqu’il est questiond’intelligence artificielle, de constater à quel point ce qui la cons-titue dans son essence même est souvent mis de côté au profitd’une approche strictement technologique, et ce, sans prendre au-cune distance critique par rapport à la technologie elle-même. Au-trement dit, si on désire comprendre le phénomène tel qu’il se pré-sente aujourd’hui, il faut tout d’abord explorer ce qui le constituedans ses fondements. Autre phénomène à relever, il est toujours étonnant de constaterà quel point les recherches et les réflexions du passé sont souventmises de côté, pour la simple raison que celles-ci ne seraient pastout à fait en mesure d’expliquer un phénomènes aussi technolo-gique et contemporain que l’intelligence artificielle. En ce sens, ilimporte, à mon avis, de ramener au premier plan les travaux dusociologue français Jacques Ellul (1912-1994) pour saisir toute laportée de ce que représente l’ensemble des techniques et des tech-nologies qui sont actuellement développées et qui seront éventuel-lement développées sous le vocable « intelligence artificielle ». Dans l’un de ses plus importants ouvrages, La technique ou l’en-jeu du siècle2, Jacques Ellul procède non seulement à la démons-tration des enjeux de la technique, mais procède surtout à démon-ter pièce par pièce la mécanique qui est derrière la technique. Pour2 Ellul, J. ([1958] 1990), La technique ou l’enjeu du siècle, Paris : Economica. 7

Intelligence artificielle : fragile ou antifragile ?Ellul, « aucun fait social, humain, spirituel, n’a autant d’impor-tance que le fait technique dans le monde moderne3. » Ce phéno-mène, parmi les plus mal connus, exige donc d’identifier quelquesrepères pour savoir où il se situe, socialement parlant. La première raison pour laquelle je reviens aux travaux deJacques Ellul est très simple. D’une part, il y a, parfois, chez cer-tains chercheurs, une certaine tendance à réinventer la roue, alorsque Jacques Ellul a contribué à inventer la roue du concept de« technique », sans compter des auteurs comme Martin Heideg-ger 4 , Arnold Gehlen 5 , Oswald Spengler 6 , Jacques Poulain 7 ,George Steiner8 et Jean Brun9, pour ne nommer que ceux-ci, qui yont pourvu. D’autre part, l’intelligence artificielle est une tech-nique au sens où l’entend Ellul, c’est à dire « la méthode absolu-ment la plus efficace en toutes choses », qui est bien cette « pré-occupation de l’immense majorité des hommes de notre temps. » La seconde raison pour laquelle je reviens aux travaux deJacques Ellul, c’est que la technique est aussi système et que l’in-telligence artificielle, en tant que technique, a hérité des propriétésqui lui sont propres, c’est-à-dire (i) un ensemble d’éléments en re-lation les uns avec les autres de façon telle que toute évolution del’un provoque une évolution de l’ensemble et que toute modifica-tion de l’ensemble se répercute sur chaque élément, où (ii) les élé-ments composant le système présentent une sorte d’aptitude pré-3 Idem., p. 1.4 Heidegger, M. ([1954] 1958), « La question de la technique », Essais et con-férences, trad. André Préau, Paris : Gallimard, p. 9 à 48.5 Gehlen, A. (1957), Man in the Age of Technology, New York : ColumbiaUniversity Press.6 Spengler, O. ([1931] 1980), L’homme et la technique, Paris : Copernic.7 Poulain, J. (1991), L’Âge pragmatique ou l'expérimentation totale, Paris :Éditions de l’Harmattan.8 Steiner, G. (1986), Dans le château de Barbe-Bleue, Paris : Seuil, coll. Fo-lio-essais.9 Brun, J. (1992), Le rêve et la machine : technique et existence, Paris : Édi-tions de La Table ronde. 8

Prologueférentielle à se combiner entre eux plutôt qu’à entrer en combinai-son avec des facteurs externes, et (iii) qui se caractérise par undouble élément, d’une part des interrelations entre les élémentsprincipaux et significatifs de l’ensemble, et d’autre part de sa re-lation organique avec l’extérieur : les interrelations produisent uneévolution — le système n’est jamais figé, il est dynamique. La troisième raison pour laquelle je reviens aux travaux deJacques Ellul, c’est que la majorité des gens confondent techniqueet technologie, et à plus forte raison lorsqu’il s’agit d’une techno-logie aussi « magique » que l’intelligence artificielle. Même si latechnique a pris son essor dans la machine de la Révolution indus-trielle, il n’en reste pas moins que la machine a imposé ses propresrègles et que s’est développée la technique vouée à l’efficacité entoutes choses. Pour toutes ces raisons, il est impératif de revenir en partie auxthèses de Jacques Ellul pour mesurer l’impact qu’auront sur nossociétés l’ensemble des technologies dérivées de l’intelligence ar-tificielle. 9



CHAPITRE 1 Complexité technologique Flash Crash — Anomalies informatiques — Traiter le symptôme — Impossible de corriger le problème __________La complexité technologique, ou complexité massive, se dit de tout système composé de systèmes hautement com- plexes en interaction, interconnectés et interopérables des-quels émergent des propriétés inédites. Le problème, avec les systèmes d’intelligence artificielle d’ap-prentissage automatisé, c’est que même ceux qui les ont conçus nesont pas tout à fait en mesure d’expliquer comment ces derniersarrivent à produire tels ou tels résultats ; c’est le phénomène de laboîte noire qui se met en place. Et comme les ingénieurs ne sontpas arrivés à ce résultat ex nihilo, et comme la complexité est unepropriété inhérente à toute technologie, il importe de se penchersur ce phénomène pour en saisir les tenants et aboutissants. Cefaisant, il importe de préciser que la complexité technologique, oucomplexité massive, se dit de tout système composé de systèmeshautement complexes en interaction, interconnectés et interopé-rables desquels émergent des propriétés inédites. 11

Et ce qui devraient tout particulièrement nous inquiéter, c’estjustement l’émergence de propriétés inédites. Pourquoi ? Parceque, à cause d’une complexité massive et d’une ampleur telle quemême ceux qui les ont conçus sont tout à fait incapables de prévoiren quoi consisteront les propriétés inédites qui en émergeront, ilfaudrait peut-être prendre en considération que les impacts serontvraisemblablement de fragiliser l’ensemble de l’infrastructuretechnologique qui sous-tend notre civilisation. L’affirmation peutsembler grosse et surfaite, pour ne pas dire catastrophiste, maiselle mérite qu’on lui porte une attention toute particulière. Sil’épistémologue des probabilités, Nassim Nicholas Taleb10, parlaitdes systèmes antifragiles qui profitent du désordre et gagnent ainsien flexibilité et en adaptabilité, force est de constater que le faitd’introduire de plus en plus de fragilité ne contribuera pas à gagneren flexibilité et en adaptabilité.La ramification technologique La complexité technologique ne date pas d’aujourd’hui. Elle seramifie de jour en jour depuis que nous avons commencé à pro-duire des technologies de toutes sortes. Quelle soit d’ordre médi-cal, militaire, civil, économique, financière, ou policière, peu im-porte le domaine où les technologies pénètrent, elles amènent avecelles la complexité. Prenons, par exemple, l’avènement du cheminde fer. Il a fallu non seulement déployer à travers des continentsentiers comme l’Europe et l’Amérique un vaste réseau de rails,mais il a aussi fallu développer toute une infrastructure qui allaitpermettre la manutention et le transport des marchandises. Mêmeplus, il a fallu développer la notion de fuseaux horaires afin decoordonner le passage des trains dans une multitude de gareséparses dans tout le pays ou le continent. L’exemple des trains, au premier abord, n’a peut-être pas dequoi impressionner des gens comme nous qui sommes habitués,10 Taleb, N. N. (2012), Antifragile, New York : Random House. 12

au quotidien, à utiliser des téléphones intelligents qui disposent decapacités de calcul et de traitement largement supérieures que nepouvait en posséder le module lunaire de la mission Apollo 11 en1967, mais il faut bien admettre que, les technologies numériques,en termes de complexité, ont atteint un point de bascule. À toutbien considérer, la seule arrivée de l’ordinateur personnel dans nosvies au début des années 1980 a été, d’une certaine façon, une vé-ritable révolution sociale, pour ne pas dire, une nouveauté radi-cale. De plus, quand on tient compte du fait que la seule concep-tion d’un ordinateur exige la compétence de plusieurs spécialistesprovenant de domaines aussi variés les uns que les autres, et quandon considère que la seule conception d’un microprocesseur, quiintègre des millions de transistors à un niveau quasi atomique, estdéjà un exploit en soi et un processus d’une grande complexitétechnique et logistique sur le plan de sa fabrication, il faut com-mencer à se poser quelques questions et voir comment tout ceciest en mesure de fragiliser l’écosystème technologique et tech-nique. Les logiciels développés pour arriver à communiquer avec unmicroprocesseur contenant parfois 10 millions de lignes de code,sont non pas seulement d’une grande complexité, mais recèlentparfois des erreurs de programmation qui peuvent les amener àafficher des comportements non prévus par leurs concepteurs. Etcomme les microprocesseurs ont été implantés dans une multituded’appareils et d’outils de toutes sortes, aussi bien dans le télé-phone, que dans le thermostat de la maison, le téléviseur, le lecteurDVD, la cafetière, les appareils électroménagers, l’aspirateur, lesfeux de circulation, les systèmes d’épuration des eaux usées, lescardiomètres, les pacemaker, jusqu’aux puissants systèmes infor-matiques qui réalisent, seconde après seconde, des transactions fi-nancières sur tous les marchés boursiers de la planète, il est indé-niable que la complexité technologique a totalement éclipsé notrecapacité non seulement à pouvoir l’appréhender, mais aussi à lacomprendre. 13

Au cours des dernières années, les chercheurs ont commencé àreconnaître le fait que technologie et nature sont devenues de plusen plus interconnectées. D’ailleurs, certains géologues, spécialisésdans l’étude des couches sédimentaires, sont à se demander s’iln’y a pas déjà assez de preuves pour affirmer que nous sommesentrés dans une nouvelle ère géologique, soit celle de l’anthropo-cène, l’idée étant que l’on retrouve de plus en plus d’artefacts tech-nologiques dans les couches sédimentaires supérieures. Parcontre, que l’on officialise ou non que nous sommes bel et bienentrés dans l’anthropocène, il n’en reste pas moins que la relationqui existe déjà entre technologies et nature signifie inévitablementque chacune de nos actions a des ramifications tout à fait inatten-dues par rapport à la période qui a précédé la révolution indus-trielle, et a fortiori, par rapport à celle dans laquelle nous sommesactuellement, à savoir la révolution de l’intelligence artificielle.En fait, rien n’échappe à la technologie ; elle est universelle, parcequ’elle peut être utilisée partout là où elle doit être utilisée. S’il fallait faire une analogie, la totalité des technologies déve-loppées à ce jour forment une infrastructure s’apparentant grande-ment à la complexité du système cardiovasculaire. Il suffit de voircomment les circuits routiers et autoroutiers, les réseaux filairesqui transportent l’énergie, les vastes réseaux de communication,l’aménagement urbain des villes, les conduites souterrainesd’égouts et d’adduction d’eau et les réseaux de transports en com-mun, contribuent à cette impression. Malgré tout, nous sommesambivalents en tant que société face à ce déploiement de com-plexité. D’une part, nous avons conçu et déployé tous ces systèmesd’une grande complexité, et nous en sommes très fiers, parcequ’ils nous facilitent grandement la vie. Peut-être ne fonctionnent-ils pas toujours de la façon la plus optimale possible, mais il n’em-pêche que cette complexité fait en sorte que nos sociétés fonction-nent sans trop de heurts. D’autre part, l’effet combiné de toutesces technologies qui nous entourent littéralement semble toujoursnous filer entre les doigts, comme s’il nous était désormais devenuimpossible de dénouer tous les nœuds que cette complexité a noué. 14

Nous avons même parfois l’impression qu’un certain point denon-retour a été atteint, dans le sens où tout cet édifice technolo-gique semble fonctionner en autarcie, un genre d’écosystème tech-nologique, en quelque sorte, au-delà de la compréhension du com-mun des mortels.Le 8 juillet 2015 Cette date est à la fois technologiquement et financièrement in-téressante à plus d’un égard, car les serveurs informatiques de laUnited Airlines, de la bourse de New York, du Wall Street Journalet du service d’urgence 911 de la ville de Seattle ont été inopérantspendant plusieurs heures. Acheter ce livre chez Amazon 12,65 € / 14,00 $ / 10,37 £ Version Kindle ÉDITIONS V/F 15