Nous nous trouvons au seuil d'une accélération du progrès technologique, en particulier de l'avancement exponentiel de la technologie de l'IA.
L'IA générative peut non seulement s'exprimer avec fluidité, mais aussi écrire des programmes. Cela favorise non seulement l'efficacité et l'amélioration du travail humain, mais renforce également l'IA générative elle-même.
Il ne s'agit pas seulement de renforcer la structure du modèle ou les méthodes de pré-entraînement de l'IA générative.
À mesure que l'IA générative aura accès à davantage de logiciels auxquels elle pourra se connecter et qu'elle pourra utiliser, elle sera capable de faire bien plus que simplement converser. De plus, si des logiciels sont développés pour permettre à l'IA générative de collecter les connaissances nécessaires à ses tâches et de les récupérer au moment opportun, elle pourra se comporter plus intelligemment en utilisant les bonnes connaissances, même sans pré-entraînement.
De cette manière, l'avancement de la technologie de l'IA accélère l'ensemble du domaine de la technologie de l'IA, y compris les technologies et systèmes appliqués. Cette accélération, à son tour, conduit récursivement à une accélération supplémentaire de la technologie de l'IA. De plus, à mesure que la technologie de l'IA s'accélère et que l'IA devient capable de davantage de choses, les lieux et les situations où elle est utilisée augmenteront naturellement à un rythme accéléré.
Cela ne peut qu'accroître le nombre d'investisseurs et d'ingénieurs intéressés par la technologie de l'IA. Ainsi, l'accélération de la technologie de l'IA est également renforcée d'un point de vue socio-économique.
D'autre part, un tel progrès technologique nous affecte de diverses manières, à la fois indirectement et directement.
En général, le progrès technologique a tendance à être considéré comme une bonne chose. Bien que des préoccupations concernant les risques des nouvelles technologies soient soulevées, les effets positifs du progrès les dépassent généralement, et les risques peuvent être atténués avec le temps, de sorte que, globalement, les avantages sont jugés significatifs.
Cependant, cela n'est vrai que lorsque le rythme du progrès technologique est graduel. Lorsque le rythme du progrès technologique s'accélère et dépasse une certaine limite, les avantages ne l'emportent plus sur les risques.
Premièrement, même les développeurs eux-mêmes ne comprennent pas entièrement la nature ou l'étendue complète des applications des nouvelles technologies. En ce qui concerne particulièrement la portée des applications, il n'est pas rare que d'autres découvrent des utilisations ou des combinaisons avec d'autres technologies qui surprennent même les développeurs.
De plus, en élargissant la portée pour inclure la manière dont de telles applications bénéficieront à la société et la mettront en danger, presque personne n'en connaît l'étendue totale.
Lorsque le progrès est graduel, de tels angles morts sociétaux dans la technologie sont progressivement comblés avec le temps, et finalement, la technologie est appliquée dans la société avec des angles morts suffisamment éliminés.
Cependant, lorsque le progrès technologique dépasse une certaine vitesse, le délai de grâce pour combler les angles morts sociétaux se raccourcit également. L'accélération du progrès technologique apparaît, du point de vue du comblement des angles morts sociétaux, comme si le temps avait été relativement compressé.
De nouveaux changements technologiques se produisent les uns après les autres, et ce, simultanément pour de nombreuses technologies, ce qui rend impossible pour le processus cognitif social de combler les angles morts sociétaux de suivre le rythme.
En conséquence, nous serons entourés de diverses technologies qui restent dans un état d'angles morts sociétaux.
Les risques potentiels que possèdent de telles technologies peuvent soudainement émerger de nos angles morts et causer des dommages à la société. Étant donné que des risques pour lesquels nous ne sommes pas préparés ou n'avons pas pris de contre-mesures apparaissent soudainement, l'impact des dommages a tendance à être plus important.
Cette situation modifie l'ampleur des avantages et des risques du progrès technologique. En raison de l'effet de compression du temps, à mesure que les risques se matérialisent avant que les angles morts sociétaux ne soient comblés, les risques de chaque technologie augmentent.
L'accélération auto-renforçante des progrès de l'IA générative pourrait éventuellement créer d'innombrables technologies avec des angles morts sociétaux presque impossibles à combler, ce qui pourrait modifier de manière significative l'équilibre entre risque et bénéfice.
C'est une situation que nous n'avons jamais vécue. Par conséquent, personne ne peut estimer avec précision le degré de risque qui existera potentiellement sous forme d'angles morts sociétaux, ni l'importance de leur impact. La seule certitude est la structure logique selon laquelle plus l'accélération est rapide, plus les risques augmenteront.
Société Chronos-Brouillée
D'un autre côté, nous ne pouvons pas appréhender avec précision le rythme actuel du progrès technologique, ni ce qu'il sera à l'avenir.
Cela est vrai même pour les chercheurs et développeurs en IA générative. Par exemple, il existe une grande divergence d'opinions parmi les experts quant à la date d'émergence de l'AGI, une IA qui surpassera les capacités humaines dans tous les aspects.
De plus, les chercheurs et développeurs en IA générative sont distincts des experts en technologies et systèmes appliqués. Par conséquent, bien qu'ils puissent être bien informés de l'état actuel de la recherche et des perspectives futures de l'IA générative, ils ne peuvent pas saisir l'intégralité des technologies et systèmes appliqués utilisant l'IA générative qui existent déjà ou des possibilités futures qui s'ouvrent.
De surcroît, en ce qui concerne les technologies et systèmes appliqués, les possibilités sont pratiquement illimitées lorsqu'ils sont combinés avec divers mécanismes existants. Même parmi les personnes qui recherchent et développent des technologies et systèmes appliqués, il serait difficile de tout saisir, y compris ceux de genres différents.
Il est encore plus difficile d'inférer ou de prédire comment ces technologies et systèmes appliqués se propageront dans la société et quel impact ils auront. En particulier, les chercheurs et ingénieurs ne sont pas nécessairement bien informés ou très intéressés par l'impact sociétal. D'autre part, les connaissances technologiques de ceux qui sont très intéressés par un tel impact sociétal ont inévitablement des limites.
Ainsi, personne ne peut saisir l'intégralité de l'état actuel de l'IA générative ou de sa vision future. Et il existe des divergences dans la compréhension de chaque personne.
Le problème n'est pas simplement qu'il y a des divergences, mais que le rythme du progrès est inconnu. Nous sommes certes au seuil d'une ère où le progrès technologique s'accélère et le temps est compressé, mais nous n'avons pas de compréhension commune de la rapidité de ce rythme.
Pour aggraver les choses, il existe des différences de perception parmi les gens quant à savoir si le rythme du progrès technologique est constant ou accélère. De plus, même parmi ceux qui s'accordent sur l'accélération, les perceptions diffèrent grandement selon qu'ils reconnaissent que l'accélération est causée uniquement par les progrès de la technologie fondamentale de l'IA générative, ou s'ils considèrent également l'accélération due aux technologies et systèmes appliqués, ainsi que l'accélération due à l'afflux de personnes et de capitaux provenant de facteurs socio-économiques.
De cette manière, la variabilité dans la perception de l'état actuel et de la vision future, et la divergence dans la perception du rythme du progrès, créent des différences étonnamment importantes dans nos compréhensions individuelles.
Quel sera le niveau technologique et l'impact sociétal en août 2025 ? Et comment cela se présentera-t-il en 2027 (deux ans plus tard) ou en 2030 (cinq ans plus tard) ? Cela varie considérablement d'une personne à l'autre. De plus, la différence dans cette perception est probablement plus grande aujourd'hui en 2025, deux ans après l'arrivée du boom de l'IA générative en 2023.
J'appelle une société où les perceptions individuelles de l'ère diffèrent si grandement une « Société Chronos-Brouillée ». Chronos est le mot grec pour le temps.
Et dans la réalité de cette Société Chronos-Brouillée, nous devons faire face aux problèmes de compression du temps et d'angles morts sociétaux technologiques, que nous ne pouvons pas percevoir communément et correctement.
Vision et Stratégie
Dans une situation où notre propre perception du temps pourrait ne pas correspondre à la compression temporelle réelle, et où il est nécessaire d'aborder le problème des angles morts sociétaux technologiques avec d'autres personnes ayant des perspectives différentes, la vision et la stratégie deviennent indispensables.
Ici, la vision signifie la présentation de valeurs et de directions immuables, quelle que soit notre perception du temps.
Par exemple, pour simplifier la discussion, "s'assurer que les risques de la technologie ne l'emportent pas sur ses avantages" est une vision importante. C'est une vision sur laquelle plus de gens peuvent s'accorder que des visions comme "faire avancer la technologie" ou "minimiser les risques technologiques".
Et il est crucial de permettre à un maximum de personnes de coopérer à la réalisation de cette vision. Même si une vision est acceptée, elle ne peut être atteinte sans action.
Ici aussi, une stratégie doit être formulée en comprenant que nous sommes dans une Société Chronos-Brouillée avec des perceptions du temps différentes. Par exemple, une stratégie visant à aligner la perception du temps de chacun sur la compression temporelle réelle ne fonctionnerait pas. Elle imposerait une charge d'apprentissage énorme aux individus, les épuisant par la seule énergie requise pour cela. De plus, à mesure que cet écart se creuse d'année en année, l'énergie nécessaire augmenterait également.
Je ne peux pas présenter toutes les stratégies parfaites, mais un exemple de stratégie est de tirer parti de quelque chose qui se renforce automatiquement avec le temps pour atteindre la vision.
Cela fait référence à l'utilisation de l'IA générative elle-même. Bien qu'il soit quelque peu complexe d'utiliser ce que l'on essaie de réguler, il est clair que face au problème de la compression du temps, les méthodes conventionnelles deviendront de plus en plus difficiles à gérer au fil du temps. Pour contrer cela, il n'y a pas d'autre choix que d'envisager des contre-mesures en utilisant des capacités qui sont également compressées dans le temps.
Et, espérons-le, si nous pouvons finalement exploiter les capacités de l'IA générative elle-même pour réguler le développement technologique causé par l'IA générative et l'empêcher d'accélérer au-delà de ses limites, nous nous rapprocherons considérablement de la résolution du problème.
Conclusion
Dans une Société Chronos-Brouillée, chacun de nous aura de multiples angles morts différents. C'est parce que personne ne peut saisir toutes les informations de première ligne sans angles morts dans chaque aspect et les relier de manière appropriée aux estimations actuelles et aux prédictions futures.
Et à un moment donné, une occasion se présentera soudainement de réaliser qu'un angle mort existait. Cela se produira de manière répétée, chaque fois qu'un angle mort se formera et que l'écart sera comblé.
Chaque fois, notre perception de la chronologie de notre position actuelle et de notre vision future sera considérablement compressée. On a l'impression d'avoir soudainement sauté dans le temps. C'est un saut temporel cognitif vers l'avenir.
Dans certains cas, plusieurs angles morts peuvent être révélés en une seule journée. Dans de telles situations, on fait l'expérience de plusieurs sauts temporels en très peu de temps.
En ce sens, à moins que nous ne reconnaissions l'existence de nos propres angles morts et que nous ne possédions une vision robuste capable de résister à des sauts temporels multi-étapes, il deviendra difficile de prendre des décisions critiques précises concernant l'avenir.
En d'autres termes, tout en nous efforçant de rapprocher notre perception du temps de la réalité, la nécessité de penser sur la base de principes et de préceptes qui transcendent les époques augmentera de plus en plus.
Et au milieu de la compression du temps, nous devons également reconnaître la réalité que les contre-mesures aux risques ne peuvent pas être mises en œuvre au même rythme qu'auparavant.
De plus, si la vitesse de cette compression temporelle elle-même n'est pas ralentie, elle dépassera les limites de notre perception et de notre contrôle.
Pour y parvenir, nous devons sérieusement envisager d'utiliser la vitesse et l'influence de l'IA elle-même, qui s'accélère en raison de la compression du temps.
Cela est similaire aux mécanismes tels que l'imposition progressive ou les systèmes de sécurité sociale qui freinent une économie en surchauffe, ce que l'on appelle des "stabilisateurs automatiques".
En d'autres termes, nous devons réfléchir à des mécanismes qui permettent à l'IA de fonctionner non seulement comme un accélérateur technologique, mais aussi comme un stabilisateur automatique social.