Ci troviamo sull'orlo di un progresso tecnologico accelerato, in particolare l'avanzamento esponenziale della tecnologia AI.
L'IA generativa non solo può parlare fluentemente, ma anche scrivere programmi. Questo non solo promuove l'efficienza e il miglioramento del lavoro umano, ma si autoalimenta nel potenziamento dell'IA generativa stessa.
Non si tratta solo di rafforzare la struttura del modello o i metodi di pre-addestramento dell'IA generativa.
Man mano che l'IA generativa ottiene accesso a più software a cui può connettersi e utilizzare, sarà in grado di fare più che semplicemente chattare. Inoltre, se si sviluppa un software che consente all'IA generativa di raccogliere le conoscenze necessarie per i suoi compiti e recuperare tali conoscenze nei momenti appropriati, potrà comportarsi in modo più intelligente utilizzando le conoscenze giuste, anche senza pre-addestramento.
In questo modo, l'avanzamento della tecnologia AI accelera l'intero campo della tecnologia AI, comprese le tecnologie e i sistemi applicati. Questa accelerazione, a sua volta, porta ricorsivamente a un'ulteriore accelerazione della tecnologia AI. Inoltre, man mano che la tecnologia AI accelera e l'IA diventa capace di più cose, i luoghi e le situazioni in cui viene utilizzata aumenteranno naturalmente a un ritmo accelerato.
Questo non può che aumentare il numero di investitori e ingegneri interessati alla tecnologia AI. In questo modo, l'accelerazione della tecnologia AI è rinforzata anche da una prospettiva socio-economica.
D'altra parte, tale progresso tecnologico ci influenza in vari modi, sia indirettamente che direttamente.
In generale, il progresso tecnologico tende ad essere visto come una cosa positiva. Sebbene vengano sollevate preoccupazioni sui rischi delle nuove tecnologie, gli effetti positivi del progresso generalmente li superano, e i rischi possono essere mitigati nel tempo, quindi, nel complesso, i benefici sono considerati significativi.
Tuttavia, questo è vero solo quando il ritmo del progresso tecnologico è graduale. Quando il ritmo del progresso tecnologico accelera e supera un certo limite, i benefici non superano più i rischi.
In primo luogo, anche gli stessi sviluppatori non comprendono appieno la natura o l'intera gamma di applicazioni delle nuove tecnologie. Soprattutto per quanto riguarda l'ambito delle applicazioni, non è raro che altri scoprano usi o combinazioni con altre tecnologie che sorprendono persino gli sviluppatori.
Inoltre, allargando il campo per includere come tali applicazioni beneficeranno e rischieranno la società, quasi nessuno conosce l'intera portata.
Quando il progresso è graduale, tali punti ciechi sociali nella tecnologia vengono gradualmente colmati nel tempo, e alla fine, la tecnologia viene applicata nella società con sufficienti punti ciechi eliminati.
Tuttavia, quando il progresso tecnologico supera una certa velocità, si accorcia anche il periodo di grazia per colmare i punti ciechi sociali. L'accelerazione del progresso tecnologico appare, dal punto di vista del riempimento dei punti ciechi sociali, come se il tempo fosse stato relativamente compresso.
Nuove modifiche tecnologiche si verificano una dopo l'altra, e queste avvengono simultaneamente in numerose tecnologie, rendendo impossibile per il processo cognitivo sociale di colmare i punti ciechi sociali di tenere il passo.
Di conseguenza, saremo circondati da varie tecnologie che rimangono in uno stato di punti ciechi sociali.
I potenziali rischi posseduti da tali tecnologie possono emergere improvvisamente dai nostri punti ciechi e causare danni alla società. Poiché i rischi per i quali non siamo preparati o non abbiamo preso contromisure appaiono improvvisamente, l'impatto del danno tende ad essere maggiore.
Questa situazione cambia la grandezza dei benefici e dei rischi del progresso tecnologico. A causa dell'effetto di compressione del tempo, man mano che i rischi si materializzano prima che i punti ciechi sociali siano colmati, i rischi di ogni tecnologia aumentano.
L'accelerazione auto-rinforzante del progresso dell'IA generativa potrebbe alla fine creare innumerevoli tecnologie con punti ciechi sociali quasi incolmabili, potenzialmente alterando significativamente l'equilibrio tra rischio e beneficio.
Questa è una situazione che non abbiamo mai sperimentato. Pertanto, nessuno può stimare con precisione il grado di rischio che potenzialmente esisterà come punti ciechi sociali, né quanto significativo sarà il loro impatto. L'unica certezza è la struttura logica che più accelera, più i rischi aumenteranno.
Società Crono-Scrambler
D'altra parte, non possiamo cogliere con precisione il ritmo attuale del progresso tecnologico, né quello che sarà in futuro.
Questo vale anche per i ricercatori e gli sviluppatori di IA generativa. Ad esempio, esiste un'ampia divergenza di opinioni tra gli esperti riguardo a quando emergerà l'AGI, un'IA che supera le capacità umane in tutti gli aspetti.
Inoltre, i ricercatori e gli sviluppatori di IA generativa sono persone diverse dagli esperti nelle sue tecnologie e sistemi applicati. Pertanto, sebbene possano essere a conoscenza dello stato più recente della ricerca e delle prospettive future dell'IA generativa, non possono comprendere tutto ciò che riguarda le tecnologie e i sistemi applicati che utilizzano l'IA generativa già esistenti o quali possibilità future si stanno aprendo.
Inoltre, quando si tratta di tecnologie e sistemi applicati, le possibilità sono praticamente illimitate se combinati con vari meccanismi esistenti. Anche tra le persone che ricercano e sviluppano tecnologie e sistemi applicati, sarebbe difficile cogliere tutto, compresi quelli di generi diversi.
È ancora più difficile inferire o prevedere come tali tecnologie e sistemi applicati si diffonderanno nella società e quale impatto avranno. In particolare, ricercatori e ingegneri non sono necessariamente esperti o altamente interessati all'impatto sociale. D'altra parte, le intuizioni tecnologiche di coloro che sono altamente interessati a tale impatto sociale hanno inevitabilmente dei limiti.
Quindi, nessuno può cogliere l'intera situazione attuale dell'IA generativa o la sua visione futura. E ci sono discrepanze nella comprensione di ogni persona.
Il problema non è meramente che ci siano discrepanze, ma che il ritmo del progresso è sconosciuto. Siamo certamente sulla soglia di un'era in cui il progresso tecnologico sta accelerando e il tempo viene compresso, ma non abbiamo una comprensione comune di quanto sia veloce questo ritmo.
A peggiorare le cose, ci sono differenze nella percezione tra le persone riguardo al fatto che il ritmo del progresso tecnologico sia costante o accelerato. Inoltre, anche tra coloro che concordano sull'accelerazione, le percezioni differiscono notevolmente a seconda che riconoscano che l'accelerazione è causata unicamente dal progresso della tecnologia fondamentale dell'IA generativa, o se considerino anche l'accelerazione dovuta a tecnologie e sistemi applicati, così come l'accelerazione dovuta all'afflusso di persone e capitali da fattori socio-economici.
In questo modo, la variabilità nella percezione dello stato attuale e della visione futura, e la discrepanza nella percezione del ritmo del progresso, creano differenze sorprendentemente ampie nelle nostre singole comprensioni.
Qual è il livello tecnologico e l'impatto sociale nell'agosto 2025? E come sarà nel 2027 (due anni dopo) o nel 2030 (cinque anni dopo)? Queste variano ampiamente da persona a persona. Inoltre, la differenza in questa percezione è probabilmente maggiore ora nel 2025, due anni dopo l'arrivo del boom dell'IA generativa nel 2023.
Chiamo una società in cui le percezioni individuali dell'era differiscono così notevolmente una "Società Crono-Scrambler". Chronos è la parola greca per tempo.
E all'interno della realtà di questa Società Crono-Scrambler, dobbiamo affrontare i problemi della compressione del tempo e dei punti ciechi sociali tecnologici, che non possiamo percepire comunemente e correttamente.
Visione e Strategia
In una situazione in cui il proprio senso del tempo potrebbe non allinearsi con l'effettiva compressione temporale, e dovendo affrontare il problema dei punti ciechi sociali tecnologici con altri che hanno prospettive diverse, visione e strategia diventano indispensabili.
Qui, visione significa mostrare valori e direzioni immutabili, indipendentemente dal proprio senso del tempo.
Ad esempio, per semplificare la discussione, "assicurare che i rischi della tecnologia non superino i suoi benefici" è una visione importante. Questa è una visione su cui più persone possono essere d'accordo rispetto a visioni come "avanzare la tecnologia" o "minimizzare i rischi tecnologici".
Ed è cruciale consentire a quante più persone possibile di cooperare per la realizzazione di tale visione. Anche se una visione è concordata, non può essere raggiunta senza azione.
Anche qui, una strategia deve essere formulata con la consapevolezza che siamo in una Società Crono-Scrambler con diversi sensi del tempo. Ad esempio, una strategia che miri a far sì che il senso del tempo di tutti si allinei con l'effettiva compressione temporale non funzionerebbe. Imporrebbe un enorme onere di apprendimento sugli individui, esaurendoli solo con l'energia necessaria a tal fine. Inoltre, man mano che questo divario si allarga di anno in anno, anche l'energia necessaria aumenterà.
Non posso presentare tutte le strategie perfette, ma un esempio di strategia è quello di sfruttare qualcosa che si rafforza automaticamente nel tempo per raggiungere la visione.
Questo si riferisce all'uso dell'IA generativa stessa. Sebbene sia in qualche modo complicato utilizzare proprio ciò che si sta cercando di affrontare, è chiaro che quando si tratta del problema della compressione temporale, i metodi convenzionali diventeranno sempre più difficili da gestire nel tempo. Per contrastare ciò, non c'è altra scelta se non considerare contromisure utilizzando capacità che vengono anch'esse compresse nel tempo.
E, si spera, se alla fine riusciremo a sfruttare le capacità dell'IA generativa stessa per regolare lo sviluppo tecnologico causato dall'IA generativa e controllarlo affinché non acceleri oltre i suoi limiti, saremo notevolmente più vicini alla risoluzione del problema.
Conclusione
In una Società Crono-Scrambler, ognuno di noi avrà molteplici punti ciechi diversi. Questo perché nessuno può cogliere tutte le informazioni di prima linea senza punti ciechi in ogni aspetto e collegarle in modo appropriato alle stime attuali e alle previsioni future.
E a un certo punto, si presenterà improvvisamente l'opportunità di rendersi conto che lì esisteva un punto cieco. Questo accadrà ripetutamente, ogni volta che si forma un punto cieco e il divario viene colmato.
Ogni volta, la nostra percezione della linea temporale della nostra posizione attuale e della visione futura sarà significativamente compressa. Sembra come se avessimo improvvisamente fatto un salto nel tempo. È un salto temporale cognitivo verso il futuro.
In alcuni casi, più punti ciechi possono essere rivelati in un solo giorno. In tali istanze, si sperimentano più salti temporali in un periodo molto breve.
In tal senso, a meno che non riconosciamo l'esistenza dei nostri punti ciechi e possediamo una visione robusta capace di resistere a salti temporali a più stadi, diventerà difficile prendere decisioni critiche accurate riguardo al futuro.
In altre parole, mentre ci sforziamo di avvicinare il nostro senso del tempo alla realtà, la necessità di pensare basandoci su principi e precetti che trascendono le epoche crescerà sempre di più.
E in mezzo alla compressione del tempo, dobbiamo anche riconoscere la realtà che le contromisure ai rischi non possono essere implementate allo stesso ritmo di prima.
Inoltre, se la velocità di questa stessa compressione temporale non viene rallentata, supererà i limiti della nostra percezione e del nostro controllo.
Per raggiungere questo obiettivo, dobbiamo considerare seriamente di utilizzare la velocità e l'influenza dell'IA stessa, che sta accelerando a causa della compressione del tempo.
Questo è simile a meccanismi come la tassazione progressiva o i sistemi di sicurezza sociale che frenano un'economia surriscaldata, quelli che sono noti come "stabilizzatori automatici".
In altre parole, dobbiamo pensare a meccanismi che consentano all'IA di funzionare non solo come acceleratore tecnologico ma anche come stabilizzatore automatico sociale.