Encontramo-nos no limiar de um progresso tecnológico acelerado, particularmente o rápido avanço da tecnologia de IA.
A IA generativa já consegue não só falar fluentemente, mas também escrever programas. Isto não só promove a eficiência e a melhoria do trabalho humano, como também retroalimenta o aprimoramento da própria IA generativa.
Isto não se trata meramente de fortalecer a estrutura do modelo de IA generativa ou os métodos de pré-treino.
À medida que o número de aplicações de software às quais a IA generativa se pode ligar e utilizar aumenta, ela será capaz de fazer mais do que apenas conversar. Além disso, se for criado software que permita à IA generativa reunir o conhecimento de que precisa para uma tarefa e recuperá-lo no momento apropriado, ela poderá comportar-se de forma mais inteligente utilizando o conhecimento certo sem pré-treino.
Desta forma, o progresso da tecnologia de IA acelera todo o campo da tecnologia de IA, incluindo tecnologias aplicadas e sistemas aplicados. Esta aceleração, por sua vez, leva recursivamente a uma maior aceleração da tecnologia de IA. À medida que a tecnologia de IA acelera e a IA se torna capaz de mais coisas, os locais e situações onde é utilizada aumentarão naturalmente de forma exponencial.
Isto aumentará inevitavelmente o número de investidores e engenheiros interessados na tecnologia de IA. Assim, a aceleração da tecnologia de IA é também reforçada de uma perspetiva socioeconómica.
Por outro lado, tal progresso tecnológico afeta-nos de várias formas, tanto indireta como diretamente.
Geralmente, o progresso tecnológico tende a ser visto como algo positivo. Embora as preocupações com os riscos das novas tecnologias sejam levantadas, os efeitos positivos do progresso geralmente superam-nos, e os riscos podem ser mitigados ao longo do tempo, pelo que os benefícios gerais são considerados significativos.
No entanto, isto só é verdade quando o ritmo do progresso tecnológico é moderado. Quando a aceleração do progresso tecnológico excede um certo limite, os benefícios deixam de superar os riscos.
Em primeiro lugar, nem mesmo os próprios desenvolvedores compreendem totalmente todas as características ou potenciais aplicações de uma nova tecnologia. Especialmente no que diz respeito às aplicações, não é incomum que outros descubram usos surpreendentes ou combinações com outras tecnologias que os desenvolvedores não anteciparam.
Além disso, se alargarmos a nossa perspetiva para incluir estas aplicações e considerarmos os benefícios e riscos que a tecnologia representa para a sociedade, praticamente ninguém consegue compreendê-los totalmente.
Tais pontos cegos sociais na tecnologia, quando o progresso é gradual, são gradualmente preenchidos ao longo do tempo. Eventualmente, a tecnologia é aplicada na sociedade com esses pontos cegos devidamente abordados.
No entanto, quando o progresso tecnológico excede uma certa velocidade, o período de carência para abordar os pontos cegos sociais também se encurta. Da perspectiva de preencher os pontos cegos sociais, a aceleração do progresso tecnológico aparece como se uma compressão do tempo tivesse ocorrido relativamente.
Novas mudanças tecnológicas surgem uma após a outra, ocorrendo simultaneamente em inúmeras tecnologias, fazendo com que a tarefa cognitiva social de abordar os pontos cegos sociais fique para trás.
Consequentemente, encontramo-nos rodeados por várias tecnologias com pontos cegos sociais persistentes.
Os riscos potenciais que tais tecnologias possuem podem surgir subitamente dos nossos pontos cegos e causar danos à sociedade. Uma vez que os riscos para os quais não estamos preparados ou não temos contramedidas surgem subitamente, o impacto dos danos tende a ser maior.
Esta situação altera a magnitude dos benefícios e riscos do progresso tecnológico. Devido ao efeito de compressão do tempo, os riscos materializam-se antes que os pontos cegos sociais possam ser preenchidos, aumentando assim o risco associado a cada tecnologia.
A aceleração de auto-reforço do progresso da IA generativa poderá, eventualmente, dar origem a inúmeras tecnologias com pontos cegos sociais quase impossíveis de preencher, inclinando drasticamente o equilíbrio entre riscos e benefícios.
Esta é uma situação que nunca antes experienciámos. Por conseguinte, ninguém pode estimar com precisão a extensão dos riscos potenciais como pontos cegos sociais ou quão significativo o seu impacto poderá ser. A única certeza é a estrutura lógica de que quanto mais rápida a aceleração, mais os riscos aumentam.
Sociedade Chronoscramble
Além disso, não conseguimos compreender com precisão o ritmo atual do progresso tecnológico, muito menos o que será no futuro.
Isto é verdade mesmo para investigadores e programadores de IA generativa. Por exemplo, existem diferenças significativas de opinião entre os especialistas quanto à altura em que surgirá a IAG, uma IA que supera as capacidades humanas em todos os aspetos.
Além disso, os investigadores e programadores de IA generativa são distintos dos especialistas em tecnologias aplicadas e sistemas aplicados. Por conseguinte, embora possam ter conhecimentos sobre o estado mais recente da investigação e as perspetivas futuras da IA generativa, não conseguem compreender totalmente que tecnologias aplicadas e sistemas aplicados que utilizam IA generativa já existem, ou que possibilidades poderão surgir no futuro.
E quando se trata de tecnologias aplicadas e sistemas aplicados, as possibilidades são praticamente infinitas devido às combinações com vários mecanismos existentes. Mesmo entre aqueles que investigam e desenvolvem tecnologias aplicadas e sistemas aplicados, seria difícil abranger tudo, incluindo itens de diferentes géneros.
É ainda mais desafiador inferir ou prever como tais tecnologias aplicadas e sistemas aplicados proliferarão na sociedade e que impactos terão. Investigadores e engenheiros, em particular, não estão necessariamente bem versados ou muito interessados nos impactos sociais. Inversamente, aqueles altamente interessados nos impactos sociais muitas vezes têm limitações inerentes no seu conhecimento técnico.
Assim, ninguém consegue compreender totalmente o estado atual ou a visão futura da IA generativa. E existem discrepâncias na compreensão de cada pessoa.
O problema não é meramente que existam discrepâncias, mas que o ritmo do progresso é desconhecido. Estamos certamente no limiar de uma era em que o progresso tecnológico está a sofrer uma compressão do tempo acelerada, mas falta-nos uma compreensão comum da sua velocidade.
Pior ainda, existem diferenças de perceção entre os indivíduos quanto a saber se o progresso tecnológico é constante ou acelerado. Além disso, mesmo entre aqueles que concordam com a aceleração, as perceções diferem grandemente dependendo se acreditam que a aceleração é impulsionada unicamente pelos avanços na tecnologia central da IA generativa, ou se também consideram a aceleração devido a tecnologias aplicadas e sistemas aplicados, bem como o influxo de pessoas e capital de uma perspetiva socioeconómica.
Desta forma, as variações na compreensão da situação atual e da visão futura, juntamente com as discrepâncias na perceção do ritmo do progresso, estão a criar diferenças surpreendentemente grandes nas nossas perceções individuais.
Que nível tecnológico e impacto social representará agosto de 2025? E o que trarão 2027 (daqui a dois anos) e 2030 (daqui a cinco anos)? Isto varia muito de pessoa para pessoa. Além disso, esta lacuna de perceção é provavelmente maior agora, em 2025 (dois anos após o boom da IA generativa em 2023), do que era na altura.
Eu chamo a uma sociedade onde os indivíduos têm perceções muito diferentes dos tempos de Sociedade Chronoscramble. "Chrono" é grego para tempo.
E dentro da realidade desta Sociedade Chronoscramble, devemos confrontar os problemas de compressão do tempo e os pontos cegos sociais tecnológicos, que não conseguimos percecionar de forma comum e precisa.
Visão e Estratégia
Para considerar como abordar o problema dos pontos cegos sociais tecnológicos — dentro da possibilidade de que o nosso próprio sentido de tempo possa não se alinhar com a compressão do tempo real e, além disso, em colaboração com outros cujas perceções diferem das nossas — uma visão e uma estratégia são indispensáveis.
Uma visão aqui significa indicar valores e direções imutáveis, independentemente do sentido de tempo predominante.
Por exemplo, para simplificar a discussão, "garantir que os riscos da tecnologia não superem os seus benefícios" é uma visão importante. Esta é uma visão com a qual mais pessoas podem concordar do que, digamos, "avançar a tecnologia" ou "minimizar os riscos tecnológicos".
E é crucial permitir que o maior número possível de pessoas coopere para alcançar essa visão. Mesmo com o acordo sobre uma visão, ela não pode ser alcançada sem ação.
Aqui novamente, é necessário formular uma estratégia, compreendendo que estamos numa Sociedade Chronoscramble onde existem diferenças no sentido do tempo. Por exemplo, uma estratégia de fazer com que o sentido de tempo de todos se alinhe com a compressão do tempo real provavelmente não seria bem-sucedida. Imporia um fardo de aprendizagem significativo aos indivíduos, e a energia necessária para isso por si só levaria ao esgotamento. Além disso, como esta lacuna se alarga a cada ano, a energia necessária apenas aumentaria.
Não posso apresentar todas as estratégias perfeitas, mas um exemplo de estratégia é utilizar algo que se fortalece automaticamente ao longo do tempo para alcançar a visão.
Essa é a própria utilização da IA generativa. É um pouco complexo porque envolve usar a mesma coisa que estamos a tentar abordar, mas é evidente que, ao lidar com o problema da compressão do tempo, a abordagem convencional se tornará cada vez mais difícil ao longo do tempo. Para contrariar isso, não há outra escolha senão aproveitar as capacidades que também estão a sofrer compressão do tempo para desenvolver contramedidas.
E, com sorte, se conseguirmos, em última análise, utilizar as capacidades da própria IA generativa para 調速 (regular a velocidade) do desenvolvimento tecnológico impulsionado pela IA generativa, e controlá-la para que não acelere para além dos limites, estaremos consideravelmente mais perto de resolver o problema.
Conclusão
Numa Sociedade Chronoscramble, cada um de nós terá múltiplos e diferentes pontos cegos. Isto deve-se ao facto de ninguém conseguir apreender toda a informação de ponta sem pontos cegos e conectá-la adequadamente à estimativa do presente e à previsão do futuro.
Então, a dado momento, surge uma oportunidade para subitamente nos apercebermos da existência de um ponto cego. Isto acontece repetidamente, cada vez que um ponto cego surge e a sua lacuna é preenchida.
De cada vez, a nossa perceção do eixo temporal para a nossa posição atual e perspetiva futura é grandemente comprimida. Sente-se como se tivéssemos subitamente saltado no tempo — um salto temporal percebido em direção ao futuro.
Em alguns casos, múltiplos pontos cegos podem tornar-se evidentes num único dia. Nesses casos, a pessoa experimentaria repetidos saltos temporais num período muito curto.
Nesse sentido, a menos que reconheçamos a existência dos nossos próprios pontos cegos e possuamos uma visão robusta capaz de resistir a saltos temporais em múltiplas etapas, tornar-se-á difícil tomar decisões críticas e precisas sobre o futuro.
Por outras palavras, enquanto nos esforçamos para aproximar o nosso sentido de tempo da realidade, a necessidade de pensar as coisas com base em princípios e regras que transcendem as eras crescerá cada vez mais.
Além disso, devemos também confrontar a realidade de que, em meio à compressão do tempo, já não podemos implementar contramedidas de risco ao mesmo ritmo de antes.
Ademais, a menos que diminuamos a velocidade dessa compressão do tempo em si, ela excederá os limites da nossa perceção e controlo.
Para conseguir isso, devemos considerar seriamente a utilização da velocidade e influência da própria IA, que acelera devido à compressão do tempo.
Isto é semelhante ao que são chamados de estabilizadores incorporados na economia, como a tributação progressiva e os sistemas de segurança social que refreiam uma economia sobreaquecida.
Em suma, precisamos de conceber mecanismos para que a IA funcione não só como um acelerador tecnológico, mas também como um estabilizador incorporado social.