跳到内容
本文已通过AI从日语翻译
阅读日语原文
本文属于公共领域(CC0)。请随意自由使用。 CC0 1.0 Universal

时间压缩与盲点:调速的必要性

我们正站在技术进步加速的悬崖边缘,尤其是人工智能技术的指数级发展。

生成式人工智能不仅能流利对话,还能编写程序。这不仅提高了人类工作的效率和改进,也反过来促进了生成式人工智能自身的增强。

这不仅仅关乎增强生成式人工智能的模型结构或预训练方法。

随着生成式人工智能获得更多可连接和利用的软件,它将能够做的事情远不止聊天。此外,如果开发出允许生成式人工智能为其任务收集必要知识并在适当时刻检索这些知识的软件,即使未经预训练,它也能利用正确的知识表现得更智能。

通过这种方式,人工智能技术的进步加速了整个人工智能领域,包括应用技术和系统。这种加速反过来又递归地导致人工智能技术的进一步加速。而且,随着人工智能技术加速发展,人工智能能够做更多事情,其应用场所和场景自然会以加速的速度增加。

这只会增加对人工智能技术感兴趣的投资者和工程师的数量。因此,从社会经济角度来看,人工智能技术的加速也得到了强化。

另一方面,这种技术进步以各种方式影响着我们,既有间接影响,也有直接影响。

一般来说,技术进步往往被视为一件好事。尽管人们对新技术的风险提出担忧,但进步的积极效应通常会超过风险,而且风险可以随着时间推移得到缓解,因此总体而言,其益处被认为是显著的。

然而,这仅在技术进步速度缓慢时才成立。当技术进步速度加快并超过一定限度时,益处将不再超过风险。

首先,即使是开发者自己也无法完全理解新技术的性质或其全部应用范围。尤其是在应用范围方面,其他人发现的用途或与其他技术的组合常常令开发者感到惊讶。

此外,当将范围扩大到包括这些应用将如何造福社会并带来风险时,几乎没有人能完全了解其广度。

当进步是渐进的,技术中的这些社会盲点会随着时间逐渐被填补,最终,该技术会在社会中应用,且盲点已得到充分消除。

然而,当技术进步超过一定速度时,填补社会盲点的宽限期也会缩短。从填补社会盲点的角度来看,技术进步的加速看起来就像时间被相对压缩了。

新的技术变革接踵而至,并且这些变革同时发生在众多技术领域,使得填补社会盲点的社会认知过程无法跟上。

结果是,我们将被各种处于社会盲点状态的技术所包围。

这些技术所蕴含的潜在风险可能突然从我们的盲点中出现,并对社会造成损害。由于我们未曾准备或未采取对策的风险突然出现,损害的影响往往更大。

这种情况改变了技术进步的益处和风险的大小。由于时间压缩效应,当社会盲点尚未填补时风险就已显现,每项技术的风险都会增加。

生成式人工智能进展的自我强化加速最终可能产生无数几乎无法填补社会盲点的技术,这可能会显著打破风险与益处的平衡。

这是一种我们从未经历过的情况。因此,没有人能准确估计作为社会盲点潜在存在的风险程度,也无法估计其影响有多大。唯一确定的是,从逻辑结构上讲,它加速得越快,风险就会增加越多。

克罗诺斯式混乱社会(Chronos-Scramble Society)

另一方面,我们无法准确掌握当前技术进步的速度,也无法预知未来的速度。

即使是生成式人工智能的研究人员和开发者也同样如此。例如,关于AGI(一种在所有方面超越人类能力的人工智能)何时出现,专家们的看法存在巨大分歧。

此外,生成式人工智能的研究人员和开发者与应用技术和系统领域的专家是不同的人。因此,尽管他们可能了解生成式人工智能的最新研究现状和未来前景,但他们无法完全掌握使用生成式人工智能的现有应用技术和系统,或者未来可能出现的新可能性。

更何况,当涉及到应用技术和系统时,如果与各种现有机制结合,其可能性几乎是无限的。即使是在研究和开发应用技术和系统的人员中,也很难掌握包括不同领域在内的所有情况。

推断或预测这些应用技术和系统将如何在社会中传播以及会产生什么影响则更加困难。特别是,研究人员和工程师不一定对社会影响有深入的了解或高度的兴趣。另一方面,那些对社会影响高度关注的人所拥有的技术见解,其局限性是不可避免的。

因此,没有人能完全掌握生成式人工智能的当前状态或其未来愿景。而且每个人的理解都存在差异。

问题不仅仅在于存在差异,而在于进步的速度是未知的。我们确实正处于一个技术进步加速、时间被压缩的时代门槛,但我们对于这种速度有多快并没有共同的理解。

更糟糕的是,人们对于技术进步的速度是恒定还是加速存在认知差异。此外,即使是那些认同加速的人,他们的看法也大相径庭,这取决于他们是否认为加速仅仅是由生成式人工智能基础技术的进步引起的,或者他们是否也考虑到了应用技术和系统带来的加速,以及社会经济因素导致的人员和资本涌入带来的加速。

通过这种方式,对当前状态和未来愿景认知的多样性,以及对进步速度认知的差异,在我们的个体理解中产生了惊人的巨大差异。

2025年8月的技术水平和社会影响会是怎样的?两年后的2027年或五年后的2030年又会是怎样的?这些因人而异,差异巨大。而且,这种认知差异可能在2025年,即生成式人工智能热潮于2023年到来两年后,变得更大了。

我将这种个人时代感知差异如此之大的社会称为“克罗诺斯式混乱社会”(Chronos-Scramble Society)。克罗诺斯(Chronos)是希腊语中“时间”的意思。

在这种克罗诺斯式混乱社会的现实中,我们必须面对时间压缩和技术社会盲点的问题,而这些问题是我们无法普遍和正确感知的。

愿景与策略

在个人时间感可能与实际时间压缩不符,并且需要与持有不同观点的人共同解决技术社会盲点问题的情况下,愿景和策略变得不可或缺。

在这里,愿景意味着无论个人时间感如何,都要展示不变的价值观和方向。

例如,简单来说,“确保技术风险不超过其益处”是一个重要的愿景。与“推进技术”或“最小化技术风险”等愿景相比,这是一个更容易获得多数人认同的愿景。

而关键在于,要尽可能让更多人合作,共同实现这一愿景。即使达成共识的愿景,若无实际行动也无法实现。

同样,在这里,制定策略时必须理解我们正处于一个时间感各异的“克罗诺斯式混乱社会”中。例如,让所有人的时间感与实际时间压缩保持一致的策略是行不通的。那将给个人带来巨大的学习负担,仅仅为此所需的精力就会让人筋疲力尽。此外,随着这种差距逐年扩大,所需的精力也将随之增加。

我无法提出所有完美的策略,但一个策略的例子是利用某种会随时间自动增强的事物来实现愿景。

这指的是利用生成式人工智能本身。虽然利用你试图解决的问题本身听起来有些复杂,但很明显,在处理时间压缩问题时,传统方法将随着时间的推移变得越来越难以应对。为了抵消这种影响,别无选择,只能考虑利用那些同样在时间中被压缩的能力来制定对策。

如果最终我们能利用生成式人工智能自身的能力来规范由生成式人工智能引起的技术发展,并控制其不超越极限加速,那么我们将大大接近问题的解决。

结论

在“克罗诺斯式混乱社会”中,我们每个人都将拥有多个不同的盲点。这是因为没有人能够在各个方面毫无盲点地掌握所有前沿信息,并将其恰当地与当前估计和未来预测联系起来。

在某个时刻,我们会突然有机会意识到那里存在一个盲点。这种情况会反复发生,每一次盲点形成并被填补,都会如此。

每一次,我们对当前位置和未来愿景时间线的感知都会被显著压缩。感觉就像我们突然穿越了时间。这是一种认知上的时间跳跃,奔向未来。

在某些情况下,一天之内可能会揭示多个盲点。在这种情况下,一个人会在很短的时间内经历多次时间跳跃。

从这个意义上讲,除非我们承认自身盲点的存在,并拥有一种能够承受多阶段时间跳跃的强大愿景,否则将难以对未来做出准确的关键决策。

换句话说,在努力使我们的时间感更接近现实的同时,基于超越时代之原则和戒律进行思考的必要性将日益增长。

而在时间压缩之中,我们也必须承认一个现实,即风险对策无法再像以前那样以相同的速度实施。

此外,如果这种时间压缩本身的速度不放缓,它将超出我们的感知和控制极限。

为了实现这一点,我们必须认真考虑利用人工智能自身的速度和影响力,而人工智能正是因时间压缩而加速的。

这类似于累进税制或社会保障系统等能够抑制经济过热的机制,即所谓的“内在稳定器”。

换言之,我们需要思考使人工智能不仅作为技术加速器,还能作为社会内在稳定器发挥作用的机制。