Ci troviamo sulla soglia di un'accelerazione del progresso tecnologico, in particolare del rapido avanzamento della tecnologia AI.
L'IA generativa è ora in grado non solo di parlare fluentemente ma anche di scrivere programmi. Questo non solo promuove l'efficienza e il miglioramento del lavoro umano, ma si riflette anche nel potenziamento della stessa IA generativa.
Questo non riguarda solo il rafforzamento della struttura del modello di IA generativa o dei metodi di pre-addestramento.
Man mano che aumenta il numero di applicazioni software a cui l'IA generativa può connettersi e che può utilizzare, essa sarà in grado di fare molto di più che semplicemente chattare. Inoltre, se si crea un software che consente all'IA generativa di raccogliere la conoscenza di cui ha bisogno per un compito e di recuperarla al momento opportuno, essa potrà comportarsi in modo più intelligente utilizzando la conoscenza giusta senza pre-addestramento.
In questo modo, il progresso della tecnologia AI accelera l'intero campo della tecnologia AI, incluse le tecnologie applicate e i sistemi applicati. Questa accelerazione, a sua volta, porta ricorsivamente a un'ulteriore accelerazione della tecnologia AI. Man mano che la tecnologia AI accelera e l'IA diventa capace di più cose, i luoghi e le situazioni in cui viene utilizzata aumenteranno naturalmente in modo esponenziale.
Ciò aumenterà inevitabilmente il numero di investitori e ingegneri interessati alla tecnologia AI. Così, l'accelerazione della tecnologia AI viene rafforzata anche da una prospettiva socio-economica.
D'altra parte, tale progresso tecnologico ci influenza in vari modi, sia indirettamente che direttamente.
Generalmente, il progresso tecnologico tende ad essere visto come una cosa positiva. Sebbene vengano sollevate preoccupazioni sui rischi delle nuove tecnologie, gli effetti positivi del progresso di solito li superano, e i rischi possono essere mitigati nel tempo, quindi i benefici complessivi sono considerati significativi.
Tuttavia, questo è vero solo quando il ritmo del progresso tecnologico è moderato. Quando l'accelerazione del progresso tecnologico supera un certo limite, i benefici non superano più i rischi.
Innanzitutto, nemmeno gli sviluppatori stessi comprendono appieno tutte le caratteristiche o le potenziali applicazioni di una nuova tecnologia. Specialmente per quanto riguarda le applicazioni, non è raro che altri scoprano usi sorprendenti o combinazioni con altre tecnologie che gli sviluppatori non avevano previsto.
Inoltre, se allarghiamo la nostra prospettiva per includere queste applicazioni e consideriamo quali benefici e rischi la tecnologia comporta per la società, praticamente nessuno può comprenderli appieno.
Tali punti ciechi sociali nella tecnologia, quando il progresso è graduale, vengono gradualmente colmati nel tempo. Alla fine, la tecnologia viene applicata nella società con questi punti ciechi sociali sufficientemente affrontati.
Tuttavia, quando il progresso tecnologico supera una certa velocità, anche il periodo di grazia per affrontare i punti ciechi sociali si accorcia. Dal punto di vista del colmare i punti ciechi sociali, l'accelerazione del progresso tecnologico appare come se si fosse verificata una relativa compressione del tempo.
Nuovi cambiamenti tecnologici sorgono uno dopo l'altro, verificandosi simultaneamente in numerose tecnologie, causando il ritardo del compito cognitivo sociale di affrontare i punti ciechi sociali.
Di conseguenza, ci troviamo circondati da varie tecnologie con persistenti punti ciechi sociali.
I potenziali rischi posseduti da tali tecnologie possono emergere improvvisamente dai nostri punti ciechi e causare danni alla società. Poiché rischi per i quali non siamo preparati o non abbiamo contromisure appaiono improvvisamente, l'impatto del danno tende ad essere maggiore.
Questa situazione altera l'entità dei benefici e dei rischi del progresso tecnologico. A causa dell'effetto di compressione del tempo, i rischi si materializzano prima che i punti ciechi sociali possano essere colmati, aumentando così il rischio associato a ogni tecnologia.
L'accelerazione auto-rinforzante del progresso dell'IA generativa potrebbe alla fine dare origine a innumerevoli tecnologie con punti ciechi sociali quasi impossibili da colmare, alterando drasticamente l'equilibrio tra rischi e benefici.
Questa è una situazione che non abbiamo mai sperimentato prima. Pertanto, nessuno può stimare con precisione l'entità dei potenziali rischi come punti ciechi sociali o quanto significativo possa essere il loro impatto. L'unica certezza è la struttura logica che più rapida è l'accelerazione, più i rischi aumentano.
Società Cronoscrambler
Inoltre, non possiamo comprendere con precisione il ritmo attuale del progresso tecnologico, né tantomeno come sarà in futuro.
Questo vale anche per i ricercatori e gli sviluppatori di IA generativa. Ad esempio, esistono differenze significative di opinione tra gli esperti su quando emergerà l'AGI, un'IA che supera le capacità umane in tutti gli aspetti.
Inoltre, i ricercatori e gli sviluppatori di IA generativa sono distinti dagli esperti in tecnologie applicate e sistemi applicati. Pertanto, pur essendo ben informati sullo stato più recente della ricerca e sulle prospettive future dell'IA generativa, non possono comprendere appieno quali tecnologie applicate e sistemi applicati che utilizzano l'IA generativa esistano già, o quali possibilità potrebbero aprirsi in futuro.
E quando si tratta di tecnologie applicate e sistemi applicati, le possibilità sono virtualmente infinite a causa delle combinazioni con vari meccanismi esistenti. Anche tra coloro che ricercano e sviluppano tecnologie applicate e sistemi applicati, sarebbe difficile comprendere tutto, inclusi elementi di generi diversi.
È ancora più difficile inferire o prevedere come tali tecnologie applicate e sistemi applicati si diffonderanno nella società e quali impatti avranno. Ricercatori e ingegneri, in particolare, non sono necessariamente esperti o molto interessati agli impatti sociali. Viceversa, coloro che sono molto interessati agli impatti sociali spesso hanno limitazioni intrinseche nella loro conoscenza tecnica.
Pertanto, nessuno può comprendere appieno lo stato attuale o la visione futura dell'IA generativa. E ci sono discrepanze nella comprensione di ogni persona.
Il problema non è semplicemente che esistono discrepanze, ma che il ritmo del progresso è sconosciuto. Siamo certamente sulla soglia di un'era in cui il progresso tecnologico sta subendo una compressione del tempo accelerata, ma ci manca una comprensione comune della sua velocità.
Ciò che è peggio, ci sono differenze nella percezione tra gli individui riguardo al fatto che il progresso tecnologico sia costante o in accelerazione. Inoltre, anche tra coloro che concordano sull'accelerazione, le percezioni differiscono notevolmente a seconda che credano che l'accelerazione sia guidata unicamente dai progressi nella tecnologia di base dell'IA generativa, o se tengano conto anche dell'accelerazione dovuta a tecnologie applicate e sistemi applicati, nonché dell'afflusso di persone e capitali da una prospettiva socio-economica.
In questo modo, le variazioni nella comprensione della situazione attuale e della visione futura, unite alle discrepanze nella percezione del ritmo del progresso, stanno creando differenze sorprendentemente ampie nelle nostre percezioni individuali.
Quale livello tecnologico e impatto sociale rappresenterà l'agosto 2025? E cosa porteranno il 2027 (tra due anni) e il 2030 (tra cinque anni)? Questo varia notevolmente da persona a persona. Inoltre, questo divario di percezione è probabilmente maggiore ora, nel 2025 (due anni dopo il boom dell'IA generativa nel 2023), di quanto non fosse allora.
Definisco una società in cui gli individui hanno percezioni del tempo molto diverse una Società Cronoscrambler. "Chrono" è greco per tempo.
E all'interno della realtà di questa Società Cronoscrambler, dobbiamo affrontare i problemi della compressione del tempo e dei punti ciechi sociali tecnologici, che non possiamo percepire comunemente e accuratamente.
Visione e Strategia
Per affrontare il problema dei punti ciechi sociali tecnologici — pur nella possibilità che il nostro senso del tempo non si allinei con l'attuale compressione del tempo, e inoltre, in collaborazione con altri le cui percezioni differiscono dalle nostre — una visione e una strategia sono indispensabili.
Una visione qui significa indicare valori e direzioni immutabili, indipendentemente dal senso del tempo prevalente.
Ad esempio, per semplificare la discussione, "garantire che i rischi della tecnologia non superino i suoi benefici" è una visione importante. Questa è una visione su cui più persone possono essere d'accordo rispetto, ad esempio, a "far progredire la tecnologia" o "minimizzare i rischi tecnologici".
Ed è fondamentale consentire al maggior numero possibile di persone di cooperare per raggiungere tale visione. Anche con l'accordo su una visione, essa non può essere realizzata senza azione.
Anche qui, è necessario formulare una strategia comprendendo che ci troviamo in una Società Cronoscrambler dove esistono differenze nel senso del tempo. Ad esempio, una strategia che miri a far sì che il senso del tempo di tutti si allinei con l'effettiva compressione del tempo probabilmente non avrà successo. Imporrebbe un onere di apprendimento significativo agli individui, e l'energia necessaria solo per questo porterebbe all'esaurimento. Inoltre, poiché questo divario si allarga ogni anno, l'energia necessaria aumenterebbe.
Non posso presentare ogni strategia perfetta, ma un esempio di strategia è quello di utilizzare qualcosa che si rafforza automaticamente nel tempo per raggiungere la visione.
Questo è l'uso dell'IA generativa stessa. È un po' complesso perché implica l'uso della stessa cosa che stiamo cercando di affrontare, ma è evidente che, quando si tratta del problema della compressione del tempo, l'approccio convenzionale diventerà sempre più difficile nel tempo. Per contrastare ciò, non c'è altra scelta che sfruttare capacità che stanno anch'esse subendo una compressione del tempo per elaborare contromisure.
E, se siamo fortunati, se alla fine riusciremo a utilizzare le capacità dell'IA generativa stessa per regolare la velocità (調速) dello sviluppo tecnologico guidato dall'IA generativa, e a controllarla in modo che non acceleri oltre i limiti, saremo notevolmente più vicini alla soluzione del problema.
Conclusione
In una Società Cronoscrambler, ognuno di noi avrà molteplici e diversi punti ciechi. Questo perché nessuno può cogliere tutte le informazioni all'avanguardia senza punti ciechi e collegarle in modo appropriato alla stima del presente e alla previsione del futuro.
Poi, a un certo punto, si presenta l'opportunità di rendersi conto improvvisamente dell'esistenza di un punto cieco. Questo accade ripetutamente, ogni volta che un punto cieco emerge e il suo divario viene colmato.
Ogni volta, la nostra percezione dell'asse temporale per la nostra posizione attuale e per la prospettiva futura viene notevolmente compressa. Ci si sente come se si fosse improvvisamente balzati nel tempo — un percepito salto temporale verso il futuro.
In alcuni casi, più punti ciechi possono rendersi evidenti nell'arco di un singolo giorno. In tali circostanze, si sperimenterebbero ripetuti salti temporali in un periodo molto breve.
In tal senso, a meno che non riconosciamo l'esistenza dei nostri punti ciechi e possediamo una visione robusta capace di resistere a salti temporali multi-fase, diventerà difficile prendere decisioni critiche accurate riguardo al futuro.
In altre parole, pur sforzandoci di avvicinare il nostro senso del tempo alla realtà, la necessità di pensare alle cose basandosi su principi e regole che trascendono le epoche aumenterà sempre di più.
Inoltre, dobbiamo anche affrontare la realtà che, in mezzo alla compressione del tempo, non possiamo più attuare contromisure ai rischi con lo stesso ritmo di prima.
In più, a meno che non rallentiamo la velocità di questa stessa compressione del tempo, essa supererà i limiti della nostra percezione e del nostro controllo.
Per raggiungere questo obiettivo, dobbiamo considerare seriamente di utilizzare la velocità e l'influenza dell'IA stessa, che accelera a causa della compressione del tempo.
Questo è simile a ciò che in economia viene chiamato stabilizzatore automatico, come la tassazione progressiva e i sistemi di sicurezza sociale che frenano un'economia surriscaldata.
In breve, dobbiamo ideare meccanismi affinché l'IA funzioni non solo come acceleratore tecnologico, ma anche come stabilizzatore automatico sociale.