Avenir radieux ou autodestruction ?

 

Par Gérald Berthoud

www.contrepointphilosophique.ch

Rubrique Ethique

13 septembre 2009

 

 

Selon un point de vue largement partagé, le monde actuel est dans une situation de crise généralisée. En particulier, individus et collectivités sont profondément affectés dans leurs manières de penser, de faire et d’agir. De multiples mouvements génèrent des tensions constantes. Tels sont les replis identitaires, à la fois religieux et propres aux particularismes culturels, les revendications nationales et les forces globalisantes, mais discriminantes des domaines scientifique, technique et économique. Ce temps d’incertitudes est encore celui de plusieurs fractures, celles du genre, des générations, ou encore des classes sociales. Tout semble confirmer, à l’échelle planétaire, la violence que constitue l’écart grandissant entre un enrichissement sans borne et un appauvrissement avilissant. Partout s’affichent, avec plus ou moins de force, l’instabilité des sociétés et la fragilité des individus. Autant de phénomènes qui se mondialisent et qui entraînent à proprement parler une dissolution des rapports sociaux à tous les niveaux et simultanément des formes exacerbées d’individualisme.

La question du savoir

Une situation qui laisse perplexe tout observateur attentif. Le risque est bien de ne plus pouvoir comprendre un monde dont l’intelligibilité semble devenue insaisissable, ou au mieux envisageable de manière parcellaire, au point de verser dans l’insignifiance. Mais pour beaucoup d’observateurs et surtout d’acteurs de la vie publique, cette vue du monde actuel relève d’un pessimisme outrancier. Les extraordinaires potentialités technoscientifiques[1] passent pour être en mesure d’infléchir les tendances les plus délétères du mode de vie actuel. Et surtout, elles apparaissent comme autant de promesses pour un bien-être accru pour le plus grand nombre. Cet optimisme technoscientifique se manifeste dans l’idée que le monde, pour une partie de l’humanité tout au moins, serait entré dans une ère nouvelle, celle d’une société centrée sur le savoir.

De multiples acteurs, dans les domaines technoscientifique, économique et politique, voient le salut de l’humanité dans la production et la diffusion du savoir, au point de se référer toujours davantage à l’idée d’une société du savoir ou de la connaissance (knowledge society), ou à une économie du savoir, comme si ces deux expressions étaient interchangeables. Le savoir ainsi érigé en une valeur prioritaire pour tous ici et ailleurs devrait permettre de poursuivre la maîtrise rationnelle du monde, de la société et en fin de compte de l’être humain. Cette centration sur le savoir est vue comme la seule voie pour sortir de la situation d’incertitude actuelle, pour l’ensemble des pays au Nord comme au Sud.

Mais se référer ainsi au savoir en général revient en fait à ériger un savoir particulier en un modèle, à partir duquel toute autre forme de savoir est jugée comme inférieure, ou apparaît même comme non-savoir, opinion, fiction, et donc ignorance[2]. Sans tomber dans un relativisme irresponsable, qui poserait que tous les savoirs se valent, le recours privilégié voire exclusif au singulier revient à éviter toute interrogation sur la vérité, la portée, mais aussi les limites du savoir de référence et à discréditer du même coup toute autre forme. Ce savoir de référence s’identifie bien sûr à l’univers de la science. Un savoir qui sépare, fragmente, morcelle et disjoint toute réalité, au point de se constituer comme un ensemble hétérogène de domaines parcellaires. Chacune de ces sciences particulières doit contribuer à expliquer le monde et en fin de compte permettre de le transformer. Tous ces savoirs spécialisés doivent donc servir à exploiter, dominer et littéralement fabriquer le monde. Pris dans une telle atmosphère technoscientifique et économique, tous les savoirs « non scientifiques » en viennent à être évalués sous le seul angle de leur utilité. Une attitude instrumentale triomphe, au détriment de la réflexion, de l'argumentation et de l'interrogation fondamentale. Dans cette perspective, seuls comptent vraiment les savoirs qui constituent un atout majeur dans la compétitivité économique mondiale. Un mouvement qui n’est certes pas récent. Par exemple, dans son ouvrage La condition postmoderne (1979), avec le sous-titre « rapport sur le savoir », Lyotard relève la toute-puissance de l'idéal d'un savoir maîtrisé, spécialisé, cumulatif et hiérarchisé, selon les critères de l'efficacité et de la vénalité. Ainsi pour lui:

Avec l’hégémonie de l’informatique, c’est une certaine logique qui s’impose, et donc un ensemble de prescriptions portant sur les énoncés acceptés comme ‘savoir’. On peut dès lors s’attendre à une forte mise en extériorité du savoir par rapport au ‘sachant’... L’ancien principe que l’acquisition du savoir est indissociable de la formation (Bildung) de l’esprit et même de la personne, tombe et tombera davantage en désuétude. Ce rapport des fournisseurs et des usagers de la connaissance avec celle-ci tend et tendra à revêtir la forme que les producteurs et les consommateurs de marchandises ont avec ces dernières, c’est-à-dire la forme valeur. Le savoir est et sera produit pour être vendu, et il est et sera consommé pour être valorisé dans une nouvelle production: dans les deux cas, pour être échangé. Il cesse d’être à lui-même sa propre fin, il perd sa ‘valeur d’usage’. On sait qu’il est devenu dans les dernières décennies la principale force de production […] la question n’est plus est-ce vrai mais à quoi ça sert... dans le contexte de mercantilisation du savoir, cette dernière question signifie le plus souvent est-ce vendable (1979: 13-14 et 84)

En bref, dans un tel univers de sens, le savoir « vrai » se caractérise par des idées et des projets, qui doivent nécessairement se concrétiser dans des innovations techniques, dont la mise en valeur par les entreprises doit s’avérer rentable. Tout est donc idéalement au service de l’innovation érigée en une valeur primordiale, qui tend à empêcher toute critique et même toute interrogation vues comme une forme de conservatisme. Autant dire que le savoir est envisagé le plus souvent au seul niveau des applications, tout particulièrement dans des domaines comme la santé, l’éducation, les transports, ou encore les loisirs, tous soumis, d’une manière ou d’une autre, à l’exigence de rentabilité. Dans leur ensemble, ingénieurs et chercheurs tendent à restreindre leurs considérations, voire leurs réflexions sur ce qu’ils visent très immédiatement dans un projet particulier. Leur regard sur le monde technoscientifique reste pour l’essentiel fragmentaire. Une position similaire se retrouve chez les utilisateurs des multiples innovations mises sur le marché. Outils, instruments, appareils ou encore procédés techniques sont largement adoptés ou non pour autant qu’ils passent pour être pratiques, c’est-à-dire fonctionnels et efficaces. Ils doivent faciliter la vie et assurer une libération accrue des individus, sans véritables considérations sur les dimensions environnementales et sociales de l’existence humaine.

De plus, il serait bien insuffisant d’en rester à l’établissement d’une sorte d’opération arithmétique, en se demandant si les espoirs placés dans une technologie de pointe l’emportent sur les risques possibles, envisagés et même voulus. En d’autres termes, faut-il se contenter d’une sorte de comptabilisation des attentes positives et négatives ? Dans cette manière de voir, les avantages ou les bienfaits pour les individus et même pour l’humanité dans son ensemble sont toujours évalués comme étant plus importants que les risques, comme l’attestent les nombreux exemples de procédures dites d’ « évaluation des choix technologiques » (voir, par exemple, Burri et al. 2007). Le plus souvent ce type d’évaluation établit un clivage entre partisans et adversaires. Les uns – la grande majorité – font confiance et espèrent; les autres manifestent leur méfiance et leur crainte. Poussées à l’extrême, ces deux positions tendent à se réduire à un débat stérile entre technophilie et technophobie. Notre rapport aux sciences et aux technologies ne peut se réduire à une présentation dichotomique entre bienfaits et risques, ou coûts-avantages selon une vision proprement économique. De même, il ne peut se ramener à la formule incantatoire « c’est pratique ». Il ne s’agit certes pas de rejeter une représentation purement instrumentalisée de la science, ni d’ailleurs l’intérêt qui peut présenter un bilan des aspects positifs et négatifs des productions technoscientifiques. Mais ces manières de voir masquent inévitablement la dynamique dans laquelle l’univers technoscientifique est entraîné de manière irréversible. Le passé, même le plus proche, apparaît comme un temps rigoureusement dépassé. Le savoir technoscientifique constituerait ainsi une force de transformation sans limites de la nature, du vivant, de l’être humain et de la société. Il imposerait en quelque sorte un futur-déjà-présent. Ce mouvement qui semble s'accélérer toujours davantage passe pour être naturel, à suivre les tenants d’une histoire proprement linéaire. Dans une perspective comparative, un tel mouvement équivaut, au contraire, à une tendance culturelle ou à une vision située, celle d’une quête de sens dans la recherche sans fin de la puissance[3]. Il n’est certes pas question d’opposer simplement applications et tendance. Les premières peuvent être vues comme des précipités ou des moments spécifiques de la tendance. Les objets techniques sont en quelque sorte une cristallisation de décisions politiques, la résultante de projets et d’une vision du monde objectivée. Ou encore, les applications résultent d’une tension entre la tendance et le contexte politique et économique.

La convergence des technosciences

Mais, au-delà de ce regard porté sur des domaines scientifiques particuliers, il importe de voir que scientifiques et ingénieurs, dans leur ensemble, sont engagés dans une même direction. Sans doute la meilleure preuve de cette orientation commune est fournie par un ensemble flou comprenant ce qu’il est convenu d’appeler les « technologies du futur » (future technologies), les « technologies émergentes » (emerging technologies), ou encore les « technologies prometteuses » (promising technologies). Autant de domaines de recherche et de développement qui montrent avec force la tendance inéluctable des technosciences les plus avancées. Et des domaines qui devraient imposer à ceux qui réfléchissent sur la condition humaine de se poser la question : où va la (techno)science ?. Pour tenter de répondre à une interrogation aussi fondamentale de nombreux exemples de rapports officiels, de programmes de recherche, de création de centres dits d’excellence sont autant d’illustrations de cette tendance générale à imaginer, concevoir et produire des moyens en vue d’une maîtrise accrue du monde. Tous ces exemples sont autant d’indicateurs des priorités définies par les grandes puissances technoscientifiques.

Deux sources documentaires majeures devraient suffire, dans un premier temps, pour montrer la pertinence de ce qui précède. A commencer par un rapport collectif, à l’allure hautement futuriste, diffusé en 2002 sous la responsabilité conjointe de la « National Science Foundation » et du « Département du commerce » des Etats-Unis. Intitulé Converging Technologies for Improving Human performance : Nanotechnology, Biotechnology, Information technology and Cognitive science[4], il comprend plus de cinquante contributions provenant du milieu universitaire, de l’industrie et du gouvernement. Les textes portent sur la situation présente et future des domaines « nano », « bio », « info » et « cogno » (NBIC) et surtout sur la combinaison et même l’unification de ces quatre ensembles technoscientifiques. A la suite de ce rapport, une deuxième rencontre (2003) a permis d’approfondir le thème des «technologies convergentes». Il en est résulté une publication dans les Annals of the New York Academy of Sciences, comprenant dix-sept articles avec comme titre général : The coevolution of human potential and converging technologies (Roco et Montemagno 2004).

D’une certaine manière, l’Union européenne s’est vue obligée de prendre position par rapport aux deux documents états-uniens. Un groupe de vingt-cinq experts dits de « haut niveau », appartenant, entre autres, à des disciplines de sciences humaines et sociales, était chargé de « prévoir la nouvelle vague technologique ». Il a produit plusieurs rapports sur le thème général des Converging Technologies for the European knowledge society (CTEKS)[5].. L’objectif explicite était de mettre en commun les savoirs technoscientifiques pour contribuer à la construction de la « société européenne du savoir ». Une intention qui fait suite à un engagement politique dit de la « stratégie de Lisbonne » (2000), passé par les chefs d’Etat et de gouvernement pour faire de l’Europe en 2010 « la puissance économique et la société du savoir la plus dynamique et la plus compétitive au monde »[6].

Cette contribution européenne n’est donc pas une simple copie des travaux des experts états-uniens. Mais elle s’inscrit dans la même tendance, en dépit d’évidentes différences. Dans les deux cas, l’avenir de l’humanité repose inconditionnellement sur les possibilités vues comme illimitées de la recherche technoscientifique. Il ne s’agit pas ici de faire l’analyse détaillée de ces documents, mais de dégager, de manière encore schématique certes, quelques idées centrales. A commencer par la notion de convergence qui apparaît comme l’un des maître-mots du développement technoscientifique dans la compétition mondiale actuelle. Parler de technologies convergentes revient à établir une synergie toujours plus forte entre des domaines de pointe. Certes l’idée de convergence dans le domaine scientifique n’est pas nouvelle, mais, dans les rapports états-uniens et européens, elle est d’abord celle de technologies proprement dites. Elle a un caractère instrumental, en permettant d’accroître considérablement les avantages économiques. Une telle convergence instrumentalisée est présentée comme un mouvement décisif vers une unification de la science.

Une forte tendance est de ne plus opposer radicalement le vivant à la matière, ce qui est naturel et artificiel. Ce qui devrait nécessairement entraîner des vues tout à fait autres sur la vie. De la matière inorganique au niveau organique, la différence porterait sur un degré de complexité accrue. Sous l’emprise croissante des nanotechnologies, dont le niveau de réalité est celui des molécules et des atomes, le vivant peut ainsi être soumis à un double processus de déconstruction et de reconstruction à partir d’une base dite nanométrique. Une démarche qualifiée de bottom up (de bas en haut), qui prétend ainsi isoler les constituants de la vie et de la matière vus comme des building blocks. Par exemple, atomes, gènes, neurones, ou encore « bits » (binary digits), ces éléments de base de la notion polysémique d’information, peuvent être considérés comme une infrastructure permettant une véritable intégration technologique des différents domaines concernés. Dans cette manière de voir, les idées d’organisation, de code ou même d’ordre comptent bien davantage que la matérialité des choses (incluant le corps humain comme tel). Ce qui rend possible, entre autres, une fusion entre organisme et machine.

Plus largement, avec ces programmes de convergence technoscientifique, la prétention de maîtriser le monde trouve de nouveaux moyens d’une puissance considérable. Plus que jamais, le « vrai » savoir devrait conduire à un triple objectif : une domination accrue sur la nature, une modification en profondeur de la société et surtout une transformation radicale de l’être humain, en particulier dans ses capacités cognitives. Nul doute à avoir, une attitude d’ingénierie tend à s’imposer dans tous les domaines, comme l’attestent sans la moindre ambiguïté les deux initiatives de recherche états-unienne et européenne. Avec une telle posture démiurgique rien ne devrait échapper à l’expertise des scientifiques et au savoir-faire des ingénieurs. Une telle représentation du monde valorise l’acquisition d’un savoir scientifique et technique comme la seule voie pour trouver des solutions appropriées aux multiples problèmes de la vie humaine. Elle suppose des inventions et des innovations toujours renouvelées pour changer le monde et surtout pour l’ « améliorer ».

Cette recherche constante d’une vie meilleure par des moyens technoscientifiques implique, avec une force accrue, que l’être humain doit être capable finalement de se fabriquer lui-même. Cette tendance s’affirme, entre autres, dans la convergence toujours plus étroite entre médecine, biologie et méthodes d’ingénierie, comme autant de composantes des domaines de l’ingénierie biomédicale. Ainsi le corps humain, vu comme une machine biologique, est soumis à de multiples manipulations pour le maintenir et le réparer, mais surtout pour le modifier, le remplacer partiellement et finalement pour augmenter ses performances physiques et mentales. Il devient possible d’imaginer et de concevoir que ces interventions technoscientifiques puissent remplacer progressivement la biologie même pour les fonctions cérébrales, en assimilant le cerveau à une machine à produire des signaux électriques.

Une telle technicisation de l’humain est bien présente dans les deux rapports états-unien (NBIC) et européen (CTEKS). L’un et l’autre visent à accroître les aptitudes physiques, mentales et sociales. Mais les moyens envisagés sont différents. Le rapport NBIC présente la vision futuriste d’une possible « ingénierie de l’esprit » (engineering of the mind), pour augmenter les capacités cognitives par des moyens artificiels invasifs. Pour les experts européens, il est question d’ une «ingénierie pour l’esprit » (engineering for the mind), avec l’espoir de préserver l’autonomie individuelle et la dignité personnelle[7].

Entre optimisme et pessimisme ?

Mais dans les deux cas, l’optimisme technologique est de mise. Les promesses de nature technoscientifique portent tout à la fois sur l’élimination des maux dont souffre l’humanité aujourd’hui et sur la construction d’un avenir radieux pour tous ici et ailleurs- De telles promesses pour le meilleur des mondes sont bien présentes, dès le XIX^e siècle au moins, avec les nouveaux moyens de communication comme le chemin de fer et le télégraphe[8] ; ou encore dès le milieu du XX^e siècle avec le développement des technologies de l’information[9]. Aujourd’hui, avec la « révolution » des technologies convergentes, le même emballement se retrouve. Un même discours rhétorique s’efforce de persuader le plus grand nombre pour l’engager dans la voie d’un changement radical. Certes les moyens techniques actuels sont sans commune mesure avec ceux du passé, mais les promesses sont tout à fait identiques. Ainsi, depuis près de deux siècles au moins, les technosciences les plus avancées ont toujours promis l’avènement plus ou moins lointain d’une humanité pacifiée et prospère. Le rapport états-unien NBIC illustre parfaitement une telle attitude fondée sur des croyances utopiques, en rupture totale avec la situation du monde actuel (voir Berthoud 2007b). Plusieurs passages vont dans ce sens. Par exemple, « A long terme, le développement des machines intelligentes pourrait conduire à un âge d’or de la prospérité, non seulement dans les nations industrialisées, mais dans le monde entier »[10]. Plus explicitement encore, l’horizon d’attente est celui d’une humanité « en meilleure santé, plus riche et plus sage »[11].

Pour ce qui est du rapport européen CTEKS, la croyance en un « âge d’or » n’est pas aussi explicite. Les technologies convergentes, selon une perspective dite réaliste (down-to-earth), devraient favoriser la construction d’une société du savoir à l’échelle européenne. Mais à y regarder de plus près les deux approches états-uniennes et européennes reposent sur les mêmes présupposés anthropologiques. Les évidentes limitations de l’être humain sont conçues comme autant de faiblesses et d’insuffisances qui devraient être dépassées, ou tout au moins réduites. Toutes les deux mettent en évidence un mode de penser et d’agir, pour lequel tout peut et doit être soumis à l’impératif d’une ingénierie généralisée, ou d’un traitement technoscientifique. D’une manière ou d’une autre, l’augmentation de l’être humain, comme être vivant, psychique et social, s’impose chez tous ceux qui se réclament des technologies dites convergentes. L’idée classique d’une possible perfectibilité de l’homme par la seule éducation est largement mise en doute. Les insuffisances de l’être humain sont caractérisées, par exemple, par une « mémoire sélective et défectueuse », une « influence sociale productrice d’une pensée collective », une « capacité de décisions à partir de modèles simplistes », une « aptitude à la violence et aux conflits », ou encore « des émotions qui troublent nos jugements » (Horn 2004 : 216).

Une même image de l’insuffisance foncière de l’être humain est présente dans les rapports CTEKS. Ainsi à suivre les experts mandatés par la Commission européenne, les êtres humains seraient naturellement portés à penser, agir et juger d’une manière locale. Ce qui ne manque pas de produire « des effets défavorables, quelquefois même désastreux ». Et de mentionner pêle-mêle, « les dommages collectifs à l’environnement », « le comportement collectif dans certaines situations de trafic, causant des embouteillages inutiles et des accidents », un « mauvais comportement politique des masses comme le national-socialisme allemand à l’époque de Hitler », ou encore « l’incompréhension mutuelle entre les gens »[12]. En toute logique, à partir de tels présupposés, la seule façon de surmonter une limitation pareille de l’humain consiste à fabriquer de multiples prothèses[13]. Par exemple, du côté états-unien, la solution technique pour initier et maintenir des relations avec autrui devrait passer par la fabrication d’un dispositif comme The Communicator, propre à « dépasser les barrières qui empêchent couramment les gens de coopérer effectivement »[14]. Il est certes difficile de se représenter concrètement un tel système d’aide technique (technical support system), qui relève des « projets visionnaires » et qui « exigera un effort pendant une ou deux décennies, mais le résultat ne sera rien de moins que la prospérité, la créativité et l’harmonie sociale accrues »[15].

De même, pour les auteurs des rapports CTKES, la construction d’une société européenne signifie d’abord la fabrication d’un « environnement artificiel », défini de manière variable par des expressions largement répandue en anglais comme pervasive computing, ubiquitous computing, smart space, networked computing, invisible computing, ou encore ambient intelligence. Dans un tel environnement, l’augmentation des capacités physiques, mentales et sociales suppose l’existence d’ « agents artificiels » dits intelligents avec une « conscience globale »[16]. Dans tous les cas, l’horizon est bien celui d’une régulation sociale et politique, du niveau local au niveau global, fondée sur un système de connexion entre humains et non-humains[17]. Les êtres vivants (humains et animaux), les robots et les choses seraient ainsi liés en permanence par des dispositifs omniprésents et invisibles (voir Berthoud 2005). Selon cette vision l’humanité entière correspondrait à une seule société, assimilée à « un cerveau virtuel interconnecté des communautés de la terre à la recherche d’une compréhension intellectuelle et d’une conquête de la nature »[18].

Arrivée à ce niveau de la présentation des technosciences convergentes, la réflexion devient très malaisée. Ne sommes-nous pas entraînés, aux dires de nombreux observateurs, dans la spéculation au plein sens du terme ? Et pourtant la tendance à un développement autonomisé de la technoscience et son impact sur la société tout entière entraîne la nécessité de produire un être humain correspondant. Ce qui veut dire, en particulier, un être nanti de prothèses cognitives comme autant de conditions sine qua non de sa survie. C’est tout au moins la position défendue publiquement par un certain nombre de scientifiques et d’ingénieurs[19]. Pour ces derniers, en effet, l’être humain n’a aucune chance de se maintenir, sauf à s’engager dans la voie d’un dépassement de ses prétendues insuffisances foncières. Une croyance en une loi de l’évolution, avancée de manière plus ou moins claire parmi les chercheurs de pointe, supposerait la fin prochaine d’homo sapiens nécessairement limité par sa constitution biologique. Il serait incapable d’évoluer, en raison d’un développement inéluctable de l’intelligence sur une base technologique[20]. Avec une vision aussi pessimiste, il devient impératif de modifier artificiellement l’être humain, mais aussi de le remplacer par des machines dites intelligentes dans de nombreuses situations. Une position aussi extrême entraîne d’inévitables questions. En particulier, jusqu’où l’être humain peut-il se transformer, ou être transformé, sans perdre ses qualités d’être proprement humain ? La transformation progressive de l’être humain par les innovations technoscientifiques n’établit-elle pas une limite fluctuante entre « réparation » et augmentation proprement dite? Ce qui passe pour normal n’est-il pas ainsi soumis à une appréciation toujours renouvelée et toujours plus exigeante? Autant de questions et d’autres encore pour lesquelles des réponses argumentées sont difficiles, voire impossibles. En raison d’abord des points de vue divergents des acteurs concernés d’une manière ou d’une autre par la convergence des technosciences. En raison encore des discours rhétoriques qui masquent plus ou moins bien la vérité des intentions des uns et des autres.

Néanmoins, pour quiconque est porté à penser fondamentalement la condition humaine, la prétention de fabriquer un « homme nouveau » recèle un paradoxe majeur. L’être humain augmenté, grâce à une ingénierie généralisée, n’est-il pas en réalité un être diminué et assisté ? Des technologies présentées comme autant de moyens pour faire et pour agir (enabling technologies) ne limitent-elles pas bien davantage les capacités d’action des sujets? Tout au moins par rapport à l’idéal humain d’autonomie et de liberté, la tendance technoscientifique actuelle va dans le sens d’une dépossession des qualités proprement humaines. De sujet conscient et responsable, l’être humain ne serait qu’un agent pourvu d’une intelligence adaptative, pour réagir de manière efficace aux multiples situations de l’existence. Dans cette poursuite effrénée d’une maîtrise du monde, la possible auto-transformation radicale de l’humanité peut être vécue comme une authentique libération par rapport aux contraintes naturelles (intérieures et extérieures) et aux obligations sociales. Mais une telle dépendance technoscientifique pourrait bien davantage s’envisager comme une soumission aux multiples dispositifs et applications des technologies dites intelligentes.

Le prétendu désenchantement du monde et la croyance en une rationalisation infinie de la vie humaine ont permis d’abord une observation objectivée et une manipulation sans fin de la nature. Un tel mouvement d’objectivation a alors atteint son point culminant dans l’auto-instrumentalisation généralisée du genre humain, jusqu’à s’engager dans une possible autodestruction[21]. Sans tomber dans un catastrophisme vu comme l’inverse d’une perspective euphorique du meilleur des mondes, cette possible autodestruction peut se repérer dans le développement actuel des technosciences les plus avancées. Ces dernières peuvemt-elles encore se réclamer du credo cartésien ou baconien de se rendre « maître et seigneur de la nature », tout en restant humain ? A considérer plusieurs programmes publics de recherche, le doute est permis. Nombre d’ingénieurs visionnaires et de scientifiques futuristes agissent comme des « apprentis sorciers » sans maître, engagés certes dans des travaux exigeant une compétence de haut niveau, mais risqués au point de constituer une menace pour la survie même de l’humanité[22].

S’il y a un domaine pour lequel l’homme fait problème, c’est bien la recherche militaire, pour laquelle l’être humain constitue un problème majeur. Les innovations techniques portent, entre autres, sur la réduction, voire l’élimination du rôle de l’homme dans les activités guerrières. L’idée est bien que l’être humain est devenu obsolète ou désuet ; il est un homme en trop ou de trop. Un être vu comme dépassé par ses propres réalisations techniques. Pour le moins, sa survie comme homme de chair et de sang dépend de sa relation étroite, voire fusionnelle, avec des machines et des systèmes dits intelligents. De nombreux passages du rapport états-unien NBIC sont particulièrement éclairants sur le lien privilégié entre le domaine militaire et les aspects les plus avancés des technologies convergentes. Il est ainsi question : de modifier la biochimie humaine pour compenser le manque de sommeil ; d’amplifier la vision naturelle en projetant l’information directement sur la rétine du soldat ; de fournir au combattant la capacité d’anéantir n’importe quel ennemi ; d’aider les soldats avec des machines capables de prendre leurs propres décisions[23].

Si l’avenir radieux apparaît de plus en plus comme un fantasme, l’autodestruction est certes probable mais pas inéluctable. C’est dire qu’un autre choix reste possible, pour autant que l’humanité ne reste pas prisonnière d’un imaginaire de la puissance sans limites. Tant que le plus grand nombre croit et agit à partir d’un tel imaginaire perçu comme une sorte de seconde nature,. l’idée même d’un choix collectif reste de l’ordre de l’impensable. Certes parler simplement de choix peut être trompeur. Une représentation équilibrée des phénomènes sociaux implique de prendre en considération une dimension instrumentale et fonctionnelle irréductible, comme une réponse à des nécessités matérielles et logiques. Partout et toujours, les êtres humains doivent disposer de diverses ressources pour assurer leur maintien et celui des générations suivantes ; ils doivent également satisfaire à une série d’exigences logiques comme celles de pouvoir établir des distinctions ou des classements entre les êtres et les choses, de séparer et de réunir des éléments selon des critères bien définis, ou encore d’être en mesure de compter dans maintes situations.

Mais la vie humaine n’est pas réductible à cette seule composante fonctionnelle et logique. Cette dernière est nécessairement liée à une composante culturelle. En effet, toute société pour se perpétuer suppose une cohérence qui se manifeste, entre autres, dans des finalités partagées en vue de donner un sens à la réalité vécue. Ainsi la tendance culturelle dominante, propre à relativiser l’opinion admise de la pluralité des valeurs, consiste à inscrire la quête de sens dans la recherche constante de la puissance. A moins d’en rester à une « attitude technique », les sciences sociales ne devraient-elles pas se donner comme tâche le développement d’un savoir en mesure d’interroger radicalement la représentation dominante d’une modernité conquérante? Un savoir pour comprendre le monde, pour élucider ce qui est proprement humain et ce qui fonde la relation à autrui ; et surtout pour expliciter la mise en sens de toute société. Une telle attitude critique, fondée sur une raison discursive et argumentative, vise à saisir la complexité des réalités humaines et sociales. Elle s’inscrit dans un mouvement hétérodoxe de la modernité, seul en mesure de porter un regard lucide sur le monde (voir Berthoud 2007a : 72), grâce à une pratique toujours difficile de décentration. A cette condition seulement un autre univers de sens peut être imaginé et conçu.

Mais pour s’engager dans une telle voie, encore faudrait-il prendre au sérieux les diverses prévisions de l’ensemble des représentants des technologies convergentes. Il est certes facile de tourner en dérision les anticipations apparemment les plus irréelles, mais il n’est pas sûr du tout qu’il s’agisse d’une position raisonnable. Peut-on se contenter de remarques comme « les spéculations adolescentes sur l’intelligence artificielle supérieure des futures générations de robots », «des ingénieurs exaltés par la science-fiction », ou encore de « la divination dans le marc de café d’un posthumanisme viré au naturalisme » (Habermas 2002 : 29 et 38). Une attitude responsable impose, au contraire, de considérer avec la plus grande attention cette croyance en un monde soumis fondamentalement aux potentialités d’une puissance illimitée. Il y un demi-siècle, Morin pouvait affirmer, avec enthousiasme:

« Je crois que d’ores et déjà peuvent être considérées comme raisonnables : a) les hypothèses de modifications génétiques de l’homme, b) les hypothèses de création par des moyens non génétiques d’une espèce intelligente nouvelle, les ‘androïdes’ dela science-fiction, c) l’hypothèse de la création d’intelligences purement et simplement inanimées, comme par exemple des cerveaux électroniques d’un type supérieur. Des rapports complexes pourraient se nouer entre les hommes et une Grande Penseuse électronique, qui serait comme la matrice mentale dépositaire du capital intellectuel de l’espèce…De toutes façons, je crois que l’espèce biologique homo sapiens sera dépassée par un complexe techno-bio-intellectuel posthominien, qui en sera l’héritier, et qui lui-même évoluera. Cet héritier de l’homme sera le cosmopithèque »(1958 : 34).

Or ces propos, qui apparaissent comme une sorte de délire d’une imagination excessive, ont été repris dans son ouvrage L’identité humaine, pour en faire la critique et y voir des « fantasmes d’époque », qui « sont aujourd’hui rattrapés par l’histoire réelle ; ils sont devenus possibilités ». Et d’ajouter « Mais mon euphorie d’alors a fait place à mon inquiétude actuelle » (2001 : 238).

C’est dire combien les discours et les pratiques des ingénieurs visionnaires et scientifiques futuristes sont à considérer avec attention de la part des sciences sociales. Ces dernières sont confrontées à des vues spéculatives sur l’avenir par de nombreux scientifiques. Mais ces vues s’isncrivent dans un univers technoscientifiques dont la tendance est de prendre des risques accrus pour l’avenir de l’humanité. Pris dans les limites de cet imaginaire de la quête de sens dans la puissance, augmenter artificiellement les capacités humaines, par exemple, est-ce un simple fantasme ? Tout observateur, capable de prendre ses distances par rapport à cet imaginaire, ne doit pas faire l’impasse sur un fait essentiel. Ce qui peut lui apparaître comme un fantasme est pour d’autres un mouvement inéluctable, propre à montrer l’orientation effective prise par un nombre croissant d’activités technoscientifiques.

 

© Gérald Berthoud

www.contrepointphilosophique.ch

Rubrique Ethique

13 septembre 2009

 

 

Références

Ben Goertzel Stephen Vladimir B

2006 The Path to Posthumanity : 21st Century Technology and its radical Implications for Mind, Society and Reality. Bethesda, MD : Academica Press.

Berthoud Gérald

2005  « ‘Pervasive Computing’ Leading to Posthumanism ? » Dans Informationsgesellschaft. Geschichten und Wirklichkeit, G.Berthoud, A.Kündig et B. Sitter-Liver, éd. Freiburg : Academic Press (22. Kolloquium der Schweizerischen Akademie der Geistes- und Soziawissenschaften), p. 373-386..

2007a           « La comparaison anthropologique : ébauche de la méthode ». Revue européenne des sciences sociales 138 : 67-82.

2007b           « The Techno-Utopia of ‘Human Performance Enhancement’ ». Dans Utopie heute I. Zur aktuellen Bedeutung, Funktion und Kritik des utopischen Denkens und Vorstellens, B. Sitter-Liver, éd. Freiburg : Academic Press (23. und 24. Kolloquium der Schweizerischen Akademie der Geistes- und Sozialwissenchaften), p. 291-305.

Burri Regula Valérie, Michael Emmenegger et Sergio Bellucci,

2007 « Risikowahrnehmungen der Nanotechnologie in der Schweiz. Ergebnisse eines Dialogverfahrens ». Technikfolgenabschätzung – Theorie und Praxis 2 : 78-83.

Carey James W. and John J. Quirk

1989 « The history of the future ». Dans Communication as Culture. Essays on Media and Society, J. Carey. Boston : Unwin Hyman p. 173-200 (première publication 1973).

Clark Andy

2003                Natural-Born Cyborgs : Minds, Technologies, and the Future of Human Intelligence. Oxford : Oxford University Press.

Dyson George B.

1998 Darwin among the Machines: the Evolution of global Intelligence. New York: Perseus.

Habermas Jürgen

2002 L’avenir de la nature humaine. Vers un eugénisme libéral ? Paris : Gallimard (première publication en allemand 2001).

Horn Robert E.

2004                « To think bigger Thoughts: Why the Human Cognome Project Requires Visual Language Tools to Address Social Messes ». Annals of the New York Academy of Sciences 1013: 212-220.

Hottois Gilbert

1994 « Jeux de langage et pratiques technoscientifiques ». Dans Richard Rorty. Ambiguïtés et limites du postmodernisme. G. Hottois et M. Weyembergh, Eds. Paris : Vrin, p. 139-180.

Joy Bill

2000 « Why the future doesn’t need us ». Wired 4: 238-262.

Kurzweil Ray

1999 The Age of Spiritual Machines: When Computers Exceed Human Intelligence. New York : Viking.

2005             The Singularity Is Near. When Humans Transcend Biology. New York : Viking.

Lynch Zack

2004 « Neurotechnology and Society (2010-2060) ». Annals of the New York Academy of Sciences 1013: 229-233.

Lyotard Jean-François

1979  La condition postmoderne. Rapport sur le savoir. Paris : Minuit.

Moravec Hans P.

1999 Robot : Mere Machine to Transcendent Mind. Oxford : Oxford University Press.

Morin Edgar

1958 « Questionnaire sur la pensée anticipatrice ». Arguments 9 : 33-35.         

2001 L’identité humaine. Paris : Seuil.

Paul Gregory S. and Earl Cox

1996  Beyond Humanity : Cyberevolution and Futures Minds. Cambridge (Mass.): Charles River.

Rees Martin

2003  Our Final Century: Will the Human Race Survive the 21st Century? London:William Heinemann.

Roco Mihail C. and Carlo D. Montemagno, eds

         « The Coevolution of Human Potential and Converging Technologies ». Annals of the New York Academy of Sciences 1013.

Védrine Hélène

1982 Les ruses de la raison. Pouvoir et pouvoirs. Paris : Payot.