Singularité technologique

La Singularité technologique est un concept, selon lequel, à partir d'un point hypothétique de son évolution technologique, la civilisation humaine connaitra une croissance technologique d'un ordre supérieur.



Catégories :

Transhumanisme - Courant philosophique - Futurologie - Concept de la science-fiction

Page(s) en rapport avec ce sujet :

  • ... La singularité technologique est l'hypothèse que l'accélération de ... de la trame de l'histoire de l'humanité» comme l'évoque Ray Kurzweil, ... du partage et de l'intelligence collective sont de plus en plus mis à ... (source : masterwebscience.wordpress)
  • La singularité (technologique) est proche. [via BoingBoing] Le livre, The Singularity is Near, par Ray Kurzweil, détaillé par le blog Cool Tool.... (source : jehaisleprintemps)
  • ... la Singularité, aussi nommée singularité technologique, est proche...... Il n'est par conséquent pas si évident que l'intelligence puisse émerger de la non- intelligence.... Labels : education, evolution, french, kurzweil, singularity... (source : bruchez.blogspot)
La frise chronologique de Ray Kurzweil date le moment ou un superordinateur sera plus puissant qu'un cerveau humain, et pourra alors le simuler : c'est une méthode envisagée pour créer une intelligence artificielle, utilisée surtout dans le projet Blue Brain.

La Singularité technologique (ou simplement la Singularité) est un concept, selon lequel, à partir d'un point hypothétique de son évolution technologique, la civilisation humaine connaitra une croissance technologique d'un ordre supérieur. Pour énormément, il est question d'intelligence artificielle quelle que soit la méthode pour la créer. Au-delà de ce point, le progrès ne serait plus l'œuvre que d'Intelligences artificielles, elles-mêmes en constante progression. Il induit des changements tels sur la société humaine que l'Homme d'avant la Singularité ne peut ni les appréhender ni les prédire de manière fiable. Le risque étant la perte de pouvoir humain, politique, sur son destin. [1]

Cet évènement est ainsi appelé par ressemblance avec l'impuissance de la physique moderne à proximité de la singularité gravitationnelle d'un trou noir, les forces en œuvres étant énormes quoique non illimitée.

De telles conséquences ont été débattues dans les années 1960 par I. J. Good (voir l'article Intelligence artificielle). Selon Ray Kurzweil[2], cette notion de Singularité technologique aurait été introduite par John von Neumann dans les années 1950[3]. La Singularité a acquis une certaine popularité dans les années 1980 grâce à Vernor Vinge. La venue éventuelle et la date de la Singularité sont sujettes à débat, mais les futurologues et les transhumanistes l'attendent généralement pour la troisième décennie du XXIe siècle.


Émergence du concept

Kurzweil rédige que, en raison du changements de paradigme, une tendance de la croissance exponentielle va des circuits intégrés jusqu'aux récents transistors, les tubes à vide, les relais, et les ordinateurs électromécaniques.

L'idée de présenter l'histoire logarithmiquement remonte au moins à 1932, quand John B. Sparks avec son «Histomap de l'Evolution". Vers la même époque, il a aussi été explorée par le cybernéticien Heinz von Fœrster (secrétaire des conférences macy auquel a participé John von Neumann, entre autres) [4], qui s'en servaient pour proposer que les souvenirs s'estompent naturellement d'une manière exponentielle.

Même s'il est couramment admis que le concept de Singularité s'est développé au cours des deux dernières décennies du XXe siècle, l'origine du terme remonte en fait aux années 1950 :

«L'une des conversations avait pour sujet l'accélération constante du progrès technologique et des changements du mode de vie humain, qui semble nous rapprocher d'une singularité principale de l'histoire de l'évolution de l'espèce, au-delà de laquelle l'activité humaine, telle que nous la connaissons, ne pourrait se poursuivre.» — Stanislaw Ulam, mai 1958, au sujet d'une conversation avec John von Neumann.

Dans sa conférence du 22 juin 1955, «Psychanalyse et cybernétique ou de la nature du langage», Jacques Lacan relève, à son époque, un bougé des lignes du côté de la science, frémissement qu'il perçoit ainsi : «quelque chose est passé dans le réel, et nous sommes à nous demander – peut-être pas très longtemps , mais des esprits non négligeables le font- si nous avons une machine qui pense»

Cette citation fut à plusieurs reprises extraite de son contexte et attribuée à John von Neumann lui-même, certainement du fait de sa réputation et de son influence.

En 1965, Irving John Good décrit un concept de singularité plus proche de son acception actuelle, dans le sens où il inclut l'arrivée d'intelligences artificielles qui prennent le relais (bootstrap)  :

«Mettons qu'une machine supra-intelligente soit une machine capable dans l'ensemble des domaines d'activités intellectuelles de largement surpasser un humain, aussi brillant soit-il. Comme la conception de telles machines est l'une de ces activités intellectuelles, une machine supra-intelligente pourrait concevoir des machines toujours meilleures ; il y aurait alors sans conteste une “explosion d'intelligence”, et l'intelligence humaine serait particulièrement vite dépassée. Ainsi, l'invention de la première machine supra-intelligente est la dernière invention que l'Homme ait besoin de réaliser.»

Le terme de singularité ne sert à désigner pas une croissance devenant illimitée à l'instar d'une singularité mathématique, mais représente le fait que les modèles prédictifs existants ne sont plus appropriés à sa proximité, de la même façon que les modèles physiques actuels ne sont plus adaptés au voisinage d'une singularité de l'espace-temps.

La singularité vingienne

Quand on les représente sur un graphe logarithmique 15 listes différentes d'évènements de l'histoire humaine montreraient une tendance exponentielle. Listes préparées entre autres par Carl Sagan, Paul D. Boyer, Encyclopædia Britannica, American Museum of Natural History et l'Université de l'Arizona, compilées par Ray Kurzweil.

Le concept de Singularité technologique fut repopularisé en partie grâce au mathématicien et auteur Vernor Vinge[5]. Vinge a commencé à parler de la singularité dans les années 1980 et a formulé ses idées dans son premier article sur le sujet en 1993 : l'essai Technological Singularity (en) . Il y postule que, d'ici trente ans, l'humanité aurait les moyens de créer une intelligence surhumaine mettant un terme à l'ère humaine. Depuis, la singularité a été le sujet de nombreuses nouvelles et essais futuristes.

Vinge écrit que des intelligences surhumaines, créées par des humains aux capacités augmentées cybernétiquement ou par d'autres intelligences artificielles moins développées, seraient capables de perfectionner leurs propres capacités plus efficacement que les esprits humains les ayant conçues. Ainsi, une spirale de progrès de plus en plus rapide amènerait à des progrès technologiques particulièrement importants en une courte période de temps.

La Singularité peut être vue comme la fin des civilisations humaines actuelles et le début d'une nouvelle organisation. Dans son œuvre, Vinge s'interroge sur les raisons de cette fin et conclut que les humains pourraient s'organiser au cours de la Singularité en une forme supérieure d'intelligence. Après la création de cette intelligence "surhumaine", les humains seraient, selon Vinge, des formes de vie ayant une moindre influence sur le développement du monde, plutôt membres participants à un dispositif que "pilotes dans l'avion".

L'accélération du progrès

Représentation logarithmique des grandes inventions sur une échelle temporelle.

Eliezer Yudkowsky explique de manière abordable l'effet de l'accélération dans Scruter la Singularité[6] :

«La version courte :
  • Si les vitesses de calcul doublent l'ensemble des deux ans, qu'arrive-t-il lorsque des IA informatisées font la recherche ?
  • La vitesse de calcul double l'ensemble des deux ans.
  • La vitesse de calcul double l'ensemble des deux ans de travail.
  • La vitesse de calcul double l'ensemble des deux ans subjectifs de travail.

Deux ans après que les Intelligences artificielles ont atteint l'équivalence humaine, leur vitesse double. Un an après, leur vitesse double de nouveau.

  • Six mois ; trois mois ; 1, 5 mois… Singularité.
Prenez les valeurs correspondant aux vitesses de calcul actuelles, à leur temps de doublement actuel, ainsi qu'à une estimation de la puissance de calcul brute du cerveau humain, et les valeurs coïncident en : 2021.»

Raymond Kurzweil a proposé des théories étendant la loi de Moore à des formes de calcul autres qu'informatiques, qui suggèrent que les phases de croissance exponentielle du progrès technologique feraient partie de motifs visibles à travers toute l'histoire humaine et même avant l'Apparition de la vie sur Terre, sa complexification biologique. Selon Kurzweil, ce motif aboutit au XXIe siècle à un progrès technologique inimaginable, ce qui ne veut pas dire illimitée.

Pour se représenter de manière abordable l'accélération de la vitesse, la vitesse étant le progrès, ce serait semblable à un changement de vitesse sur une voiture ou un vélo : ce qui correspond à changer pour un rapport de couple supérieur permettant d'atteindre une vitesse supérieur, ce qui équivaut à plus de progrès pour une même valeur temporelle.

La vitesse des flux, la vitesse d'apprentissage dans une société sont des composantes pouvant définir des limites systémique dans la société.

La question sera par conséquent de savoir si toute l'humanité voudra changer de vitesse, ce qui pourrait donc redéfinir la notion d'humanité, ou s'il y aura une humanité qui préfèrera rester à sa vitesse, ou peut être que l'avènement de la singularité se passera trop vite et personne ne pourrait réagir : en prendre conscience avec un temps de réaction et d'observation a la vitesse humaine, puis la réaction politique, et législative.

La définition de la singularité technologique serait alors un progrès technologique si rapide que cela dépasse la capacité des humains à la contrôler ou à la prédire, à la comprendre ainsi qu'à réagir à temps, [7]. Quelles sont les conséquences à long terme de la révolution industrielle pour l'humanité ? Et n'est-ce pas déjà une forme de singularité ?

Les questions d'ordre philosophique surgissent : Est-ce que l'"humain" est dépassé, et il y a t'il un mal à accepter ses limites naturelles ? Il y a t'il un mal a vouloir se perfectionner ? Peut-on raisonnablement refuser le téléphone portable, dans notre société, et quelles sont les conséquences ? Vous pouvez remplacer pour l'exemple l'outil téléphone portable par tout autre gadget à se greffer en permanence pour augmenter les capacités humaines. Slavoj Žižek pointe ce manque de réflexion de la société, et le manque d'attention voir de capacité et de temps pour la population, pour analyser et comprendre des grands problèmes philosophique qui s'annoncent : Ogm, manipulation génétique, cure génétique, intelligence artificielle, etc. [8]

Critique des singularistes

Critique du modèle scientifique

Des auteurs, sans critiquer directement la notion de Singularité, remettent en question l'idée d'accélération technologique.

Le concept de singularité ne tient pas compte des besoins et des ressources disponibles en énergie. Il postule soit des ressources illimitées, soit estime sans le démontrer que les besoins ne changeront que peu. Accessoirement, il ne tient pas compte de la limite quantique à laquelle la miniaturisation des composants électroniques se heurtera obligatoirement un jour, ni de perturbations négligeables aux échelles actuelles et qui ne le resteront pas nécessairement à d'autres échelles (particules alpha, etc. ).

Les hypothèses relatives à la Singularité sont régulièrement critiquées pour leur manque de solidité scientifique. Theodore Modis rappelle par exemple[9] qu'une courbe exponentielle ne débouche sur aucune singularité, mais continue à croître à l'infini. Douglas Hofstadter se montre lui aussi particulièrement critique, craignant que cette idée n'exprime en fait qu'un vœu pieux[10].

Jonathan Huebner écrit en conclusion de son article que «la preuve avancée indique que le rythme de l'innovation a atteint un pic il y a à peu près un siècle et est désormais en déclin. Ce déclin est le plus certainement dû à une limite économique de la technologie ou à une limite du cerveau humain que nous approchons. Nous avons déjà parcouru 85% du chemin qui nous sépare de cette limite, et le rythme du développement technologique diminuera à chaque année écoulée.» [11] [12]. De telles analyses se retrouvent aussi chez Bob Seidensticker[13] ou chez David Bodanis[14].

Il existe bien des limites politiques, économiques, militaires (et stratégique), des limites en ressources, et en particulier la connaissance et les découvertes technologiques ont aussi leurs limites. Comme le conçoit aussi Kurzweil.

Critique humaine

La connaissance, et le développement technologique ayant leurs limites : doit on remettre volontairement ou non notre pouvoir de décision comme race humaine à une intelligence artificielle : Intelligence qui par définition ne pourra être contrôlée de manière fiable.

C'est une question de choix politique à la fois à la grandeur d'un état ainsi qu'à la fois individuel : il n'y a pas une singularité, mais des singularités. [15]

Cette réflexion mérite d'être commencée dès actuellement dans l'ensemble des sphères :

La connaissance, et le développement technologique ayant leurs limites, il est particulièrement envisageable de se passer d'une intelligence artificielle pour faire des découvertes afin d'atteindre ses limites, peut-être moins rapidement, ce n'est pas le temps qui manque à l'humanité. En cela doit être un choix (politique) et un choix individuel, et non un choix économique.

Critique dialectique

Plusieurs auteurs sont particulièrement critiques à l'endroit de la notion de singularité, surtout telle que développée par Ray Kurzweil. Theodore Modis écrit ainsi : «Ce que je veux dire est que Kurzweil et les singularistes sont impliqués dans une sorte de para-science, qui diffère des vraies sciences en termes de méthodologie et de rigueur. Ils ont tendance à négliger les pratiques scientifiques rigoureuses telles que se concentrer sur les lois naturelles, donner des définitions précises, vérifier les données méticuleusement, et estimer les incertitudes. [... ] Kurzweil et les singularistes sont plus des croyants que des scientifiques.» [16] [9]). De son côté, Ted Gordon met aussi en doute les thèses de Kurzweil : «Kurzweil avance un argument frappant au sujet de l'accélération du changement. Il utilise de nombreuses courbes de croissance exponentielles, essentiellement concernant l'électronique, les nano-technologies et les ordinateurs, mais en incluant Internet et la biologie. Il montre une croissance identique avec le PIB américain et le PIB par habitant. Il utilise aussi comme source majeure le travail de Modis sur le raccourcissement du temps entre les changements de paradigme. Il argumente en faveur de l'accélération du taux passé d'accélération et donc de l'inévitabilité de la continuation de cet élan. Cependant, l'extrapolation sous toutes ses formes est dangereuse et condamnée en fin de compte à être fausse.» [17] [9].

Drew McDermott, sans être aussi sévère, s'inquiète des conséquences de ce genre de littérature pour les recherches en Intelligence Articielle : «Bien que je ne pense pas que Kurzweil ait prouvé son affirmation à propos de l'IA (et je n'ai rien à dire à propos de ses arguments concernant la génétique les nano-technologies, la politique ou l'écologie), il pourrait avoir juste. Mais juste ou faux, j'aimerais qu'il arrête d'écrire de tels livres ! Le domaine de l'IA est régulièrement empesté de lubies qui semblent surgir à la moindre perturbation» [18] [19].


Plus simplement, on peut se rappeler que les singularités prévues en histoire de la physique (effondrement de l'atome de Bohr, catastrophe de l'ultraviolet... ) n'ont jamais été observées, mais ont conduit plus simplement à un changement de modèle à leur voisinage.

Structure d'étude

À l'image du Santa Fe Institute créé pour regrouper les recherches sur le sujet de la complexité, mais sur une base d'activité saisonnière, une «université d'été de la Singularité» (Singularity University) a été créée en 2009 avec le concours de Google et de la NASA et offrira chaque été neuf semaines de cours sur le sujet à 120 étudiants[20] pour la somme de 25 000 dollars.

Voir aussi

Bibliographie

Liens externes

Notes et références

  1. Joy, Bill (April 2000), "[Why the future dœsn't need us]", Wired Magazine (8.04), http ://www. wired. com/wired/archive/8.04/joy. html, retrieved 2007-08-07
  2. Ray Kurzweil, The Singularity is Near, Ed. Viking, 2005, p. 10
  3. Kurzweil appuie son propos en rapportant une citation apocryphe de Von Neuman, qui selon l'explication que donne Kurzweil (dans la 3ème note du premier chapitre de son ouvrage The singularity is Near) serait une paraphrase de Von Neuman par Stanislaw Ulam dans "Tribute to John Von Neuman". Bulletin of the American Mathematical Society 64.3, pt. 2 (May 1958). Von Neuman aurait ainsi dit, selon Ulam : «The ever accelerating process of technology [... ] gives the appearance of approaching some essential singularity. (La rapidité toujours croissante des technologies nous donne l'impression d'approcher une singularité principale.» Comme le relève Theodore Modis (dans Technological Forecasting & Social Change 73 (2006) 95–127), ces propos signalent plus une illusion qu'un phénomène réel, ce qui s'éloigne de l'interprétation que donne Kurzweil de la citation de Von Neuman.
  4. http ://www. stanford. edu/group/SHR/4-2/text/interviewvonf. html
  5. Voir les romans Un feu sur l'abîme, Au tréfonds du ciel et La Captive du temps perdu.
  6. introduction de Scruter la Singularité, edition hache
  7. The nanotech pioneers : where are they taking us? Par Steven A. Edwards
  8. Slajov Zizek en conférence a google
  9. Technological Forecasting & Social Change 73 (2006) 95–127
  10. An Interview with Douglas R. Hofstadter, following''I am a Strange Loop''
  11. «the evidence presented indicates that the rate of innovation reached a peak over a hundred years ago and is now in decline. This decline is most likely due to an economic limit of technology or a limit of the human brain that we are approaching. We are now approximately 85% of the way to this limit, and the pace of technological development will diminish with each passing year»
  12. Jonathan Huebner, A envisageable declining trend for worldwide innovation, Technological Forecasting & Social Change 72 (2005) 980–986
  13. Bob Seidensticker, Future Hype : The Myths of Technology Change, Berrett-Kœhler Publishers, Inc., 2006
  14. David Bodanis, Slow Forward, Is the speed of technological change an illusion? Discover, Vol. 27 No. 06, June 2006.
  15. Our world dœs not evolve along a single path but by multiple inter-related networked processes. Singularity Summit 2009 : The Singularity Is Near, Ray Kurzweil
  16. «What I want to say is that Kurzweil and the singularitarians are indulging in some sort of para-science, which differs from real science in matters of methodology and rigor. They tend to overlook rigorous scientific practices such as focusing on natural laws, giving precise definitions, verifying the data meticulously, and estimating the uncertainties. [... ] Kurzweil and the singularitarians are more believers than they are scientists»
  17. «Kurzweil makes an impressive argument about the acceleration of change. He uses many exponential growth curves, primarily drawn from electronics, nano-technology and computers, but including Internet and biology. He shows similar growth in real US GDP and GDP per capita. He also uses as one major source work by Modis on the shortening time between paradigm shifts. He argues for the acceleration of the past rate of acceleration and by implication the inevitability that this momentum will carry on. However, extrapolation in any guise is dangerous and ultimately bound to be wrong»
  18. «Although I don't think Kurzweil has proved his case about AI (and I have had nothing to say about his arguments on genetics, nanotechnology, politics, or ecology), he may be right. But right or wrong, I wish he would stop writing these books! The field of AI is periodically plagued by “hype hurricanes” that seem to surge up from the slightest perturbation»
  19. D. McDermott, Kurzweil's argument for the success of AI, Artificial Intelligence 170 (2006) 1227–1233
  20. http ://www. sfgate. com/cgi-bin/article. cgi?f=/c/a/2009/02/02/BUQO15LUGH. DTL&type=tech

Recherche sur Amazon (livres) :



Ce texte est issu de l'encyclopédie Wikipedia. Vous pouvez consulter sa version originale dans cette encyclopédie à l'adresse http://fr.wikipedia.org/wiki/Singularit%C3%A9_technologique.
Voir la liste des contributeurs.
La version présentée ici à été extraite depuis cette source le 09/03/2010.
Ce texte est disponible sous les termes de la licence de documentation libre GNU (GFDL).
La liste des définitions proposées en tête de page est une sélection parmi les résultats obtenus à l'aide de la commande "define:" de Google.
Cette page fait partie du projet Wikibis.
Accueil Recherche Aller au contenuDébut page
ContactContact ImprimerImprimer liens d'évitement et raccourcis clavierAccessibilité
Aller au menu