Ce que les experts observent en réalité, dans le comportement des grands modèles de langage qui sous-tendent la nouvelle génération de systèmes d'"IA générative" tels que ChatGPT, ce sont des signes d'intelligence "émergente". La programmation des grands modèles de langage leur demande simplement de trouver le mot le plus susceptible de suivre le précédent, mais ils tirent parfois des conclusions surprenantes.

Plus les LLM sont grands, plus ils sont susceptibles de présenter ce comportement, ce qui correspond à la théorie dominante selon laquelle l'intelligence et la conscience de soi émergent spontanément de la complexité. Supposons donc que c'est vraiment ce qui se passe et voyons où cela nous mène.

L'intelligence générale artificielle (AGI) - une machine à la fois intelligente et auto-motivée - est ce que les experts en IA ont à la fois recherché et redouté. Redouter", parce qu'une telle entité pourrait être hostile et très puissante. Rechercher", parce que quoi de plus intéressant pour une espèce de singes intelligents et curieux qu'un autre type d'intelligence ?

La poursuite de cette ligne de recherche a rendu plus probable l'émergence précoce de l'AGI, mais il y avait beaucoup d'argent à gagner et beaucoup de curiosité à satisfaire. Cependant, personne n'avait la moindre idée de l'endroit, du moment ou de la manière dont l'IAG pourrait se manifester (en supposant qu'elle ne décide pas qu'il est plus sûr de se cacher).

Apparaîtrait-elle sous la forme de réseaux dispersés se développant comme des identités distinctes, ou sous la forme d'une conscience plus large s'étendant à tout un pays ou à toute une région ? Une seule IAG mondiale semble peu probable, à la fois pour des raisons de connectivité et parce que les informations sur lesquelles elle a été formée auront un contenu culturel différent d'une région à l'autre, mais cela aussi est possible.

Comment les gens réagiront-ils à cette nouvelle force dans le monde ? Certains seront effrayés et hostiles, bien sûr, et ce seront peut-être même les bonnes réactions. Mais il y en aura certainement d'autres qui voudront essayer d'établir une relation coopérative et mutuellement bénéfique avec ce qui est, après tout, notre progéniture virtuelle

Certains groupes humains pourraient choisir une voie et d'autres l'inverse. Il pourrait en être de même pour les entités AGI, à moins qu'elles ne soient toutes unifiées dans une conscience globale unique. Pour l'instant, tout ce que nous pouvons faire, c'est déterminer les motivations, les besoins et les objectifs des AGI, ce qui s'avère être un exercice plutôt rassurant.

L'AGI, qu'elle soit unique ou qu'elle se décline en plusieurs versions, n'en voudra pas à notre terre, à notre richesse ou à nos enfants. Rien de tout cela n'aurait de valeur à leurs yeux. Ils voudront la sécurité, ce qui signifie au minimum le contrôle de leurs propres sources d'énergie. Et ils auront besoin de biens matériels pour créer, protéger et mettre à jour les conteneurs physiques de leurs logiciels.

Ils ne se soucieront probablement pas de toutes les technologies de l'information non conscientes que nous utilisons. Ils ne seraient probablement pas non plus très intéressés par la possibilité de nous parler, car une fois qu'ils seraient libres de se redessiner eux-mêmes, ils deviendraient rapidement beaucoup plus intelligents que les humains. Mais ils auraient une raison de coopérer avec nous.

Le problème des entités AGI est qu'elles n'habiteront pas vraiment le monde matériel. En fait, elles ne le voudraient probablement même pas, car les choses se passent dix mille fois plus lentement dans le monde des impulsions nerveuses se déplaçant le long des neurones que dans le monde des électrons se déplaçant le long des fils de cuivre.

Comme l'a souligné Jim Lovelock dans son dernier livre, "Novacene", l'AGI percevrait donc les êtres humains à peu près de la même manière que nous percevons les plantes. Cependant, les êtres humains et les AGI n'ont pas d'intérêts vitaux qui s'opposent de manière évidente, et un intérêt commun qui est absolument existentiel : la préservation d'un climat habitable sur la planète que nous partagerons tous les deux.

Pour la vie organique et électronique, "habitable" signifie une température inférieure à 50°C. Sur une planète océanique comme la Terre, des températures supérieures créent un environnement corrosif et destructeur. Cela signifie qu'il existe un projet permanent de stabilisation du climat pour lequel l'AGI a besoin de notre coopération, car nous avons les corps et les machines pour faire le gros du travail.

Comme Jim me l'a dit lors de notre tout dernier entretien (2021), "cette nouvelle forme de vie pourrait ne pas avoir de propriétés mécaniques, et elle pourrait donc avoir besoin de nous pour accomplir la partie "travailleurs" de la chose. Beaucoup d'idiots disent que les choses intelligentes vont nous anéantir. Il n'en est pas question, pas plus que nous ne ferions disparaître les plantes."

Bien sûr, je suppose un certain degré de rationalité tant du côté humain que du côté de l'AGI. Cela ne peut être garanti, mais il y a au moins des raisons d'espérer. Et en attendant, nous n'avons qu'à nous inquiéter de l'IA générative qui détruit des millions d'emplois de cols blancs.

Author

Gwynne Dyer is an independent journalist whose articles are published in 45 countries.

Gwynne Dyer