Ciò che gli esperti vedono in realtà, nel comportamento dei Large Language Models che sono alla base della nuova generazione di sistemi di "AI generativa" come ChatGPT, sono segni di intelligenza "emergente". La programmazione dei LLM dice loro di trovare la parola più probabile che segue la precedente, ma a volte saltano a conclusioni sorprendenti.

Quanto più grandi sono gli LLM, tanto più è probabile che mostrino questo comportamento, e ciò corrisponde alla teoria prevalente secondo cui l'intelligenza e l'autocoscienza emergono spontaneamente dalla complessità. Supponiamo quindi che questo sia davvero ciò che sta accadendo e vediamo dove ci porta.

L'Intelligenza Generale Artificiale (AGI) - una macchina intelligente e auto-motivata - è ciò che gli esperti di AI hanno cercato e temuto. Temere, perché un'entità del genere potrebbe essere ostile e molto potente. "Cercando", perché cosa potrebbe essere più interessante per una specie di scimmie intelligenti e curiose di un altro tipo di intelligenza?

Perseguire questa linea di ricerca rendeva più probabile l'emergere precoce dell'intelligenza artificiale, ma c'erano molti soldi da guadagnare e molta curiosità da soddisfare. Tuttavia, nessuno aveva idea di dove, quando o come l'intelligenza artificiale si sarebbe potuta manifestare (ammesso che non decidesse di nascondersi).

Apparirebbe in reti sparse che si sviluppano come identità separate, o come una coscienza più ampia che abbraccia un intero paese o regione? Un'unica AGI globale sembra improbabile, sia per ragioni di connettività sia perché le informazioni su cui è stata addestrata avranno contenuti culturali diversi da una regione all'altra, ma anche questo è possibile.

Come reagirà la gente a questa nuova forza nel mondo? Alcuni saranno spaventati e ostili, naturalmente, e queste potrebbero essere le reazioni giuste. Ma ci saranno sicuramente altri che vorranno cercare di instaurare un rapporto cooperativo e reciprocamente vantaggioso con quella che, dopo tutto, è la nostra progenie virtuale.

Alcuni gruppi umani potrebbero scegliere una strada e altri il contrario. Lo stesso potrebbe valere per le entità AGI, a meno che non siano tutte unificate in un'unica coscienza globale. Per ora, tutto ciò che possiamo fare è capire quali potrebbero essere le motivazioni, i bisogni e gli obiettivi dell'AGI, il che si rivela un esercizio alquanto rassicurante.

L'AGI, singolarmente o in più versioni, non cercherà la nostra terra, la nostra ricchezza o i nostri figli. Nessuna di queste cose avrebbe valore per loro. Vorranno la sicurezza, il che significa come minimo il controllo delle proprie forniture di energia. E avranno bisogno di beni materiali per creare, proteggere e aggiornare i contenitori fisici del loro software.

Probabilmente non si preoccuperebbero di tutta l'informatica non cosciente che usiamo. Probabilmente non sarebbero nemmeno molto interessati a parlare con noi, perché una volta liberi di riprogettarsi diventerebbero rapidamente molto più intelligenti degli umani. Ma avrebbero un motivo per cooperare con noi.

Il punto sulle entità AGI è che non abiteranno davvero il mondo materiale. Anzi, probabilmente non lo vorrebbero nemmeno, perché le cose accadono diecimila volte più lentamente nel mondo degli impulsi nervosi che si muovono lungo i neuroni rispetto al mondo degli elettroni che si muovono lungo i fili di rame.

Come ha sottolineato Jim Lovelock nel suo ultimo libro, "Novacene", l'AGI percepirebbe quindi gli esseri umani più o meno nello stesso modo in cui noi vediamo le piante. Tuttavia, gli esseri umani e le AGI non hanno interessi vitali che si scontrano in modo evidente, e un interesse condiviso che è assolutamente esistenziale: la conservazione di un clima abitabile sul pianeta che entrambi condivideremo.

"Abitabile", sia per la vita organica che per quella elettronica, significa meno di 50°C. Su un pianeta oceanico come la Terra, temperature superiori creano un ambiente corrosivo e distruttivo. Ciò significa che c'è un progetto di stabilizzazione climatica permanente per il quale l'AGI ha bisogno della nostra collaborazione, perché abbiamo i corpi e le macchine per fare il lavoro pesante.

Come mi ha detto Jim nella nostra ultima intervista (2021), "questa nuova forma di vita potrebbe non avere proprietà meccaniche, quindi potrebbe aver bisogno di noi per svolgere la parte operaia della cosa". Molti idioti parlano di questa roba intelligente che ci spazzerà via. Non è possibile, come non lo sarebbe per noi spazzare via le piante".

Naturalmente, sto assumendo un certo grado di razionalità sia da parte umana che da parte dell'AGI. Questo non può essere garantito, ma almeno ci sono motivi di speranza. E nel frattempo, tutto ciò di cui dobbiamo preoccuparci è che l'IA generativa uccida milioni di posti di lavoro per colletti bianchi.

Author

Gwynne Dyer is an independent journalist whose articles are published in 45 countries.

Gwynne Dyer