Мы стоим на пороге ускоряющегося технологического прогресса, особенно стремительного развития ИИ-технологий.
Генеративный ИИ теперь может не только свободно говорить, но и писать программы. Это не только способствует повышению эффективности и улучшению работы человека, но и само по себе служит обратной связью для совершенствования генеративного ИИ.
Речь идет не только об усилении структуры модели генеративного ИИ или методов предварительного обучения.
По мере увеличения числа программных приложений, к которым генеративный ИИ может подключаться и которые может использовать, он сможет делать больше, чем просто общаться. Более того, если создать программное обеспечение, которое позволяет генеративному ИИ собирать необходимые для задачи знания и извлекать их в нужный момент, он сможет действовать более интеллектуально, используя правильные знания без предварительного обучения.
Таким образом, прогресс ИИ-технологий ускоряет всю область ИИ-технологий, включая прикладные технологии и прикладные системы. Это ускорение, в свою очередь, рекурсивно ведет к дальнейшему ускорению ИИ-технологий. По мере ускорения ИИ-технологий и расширения их возможностей, места и ситуации, в которых они используются, естественным образом будут расти в геометрической прогрессии.
Это неизбежно приведет к увеличению числа инвесторов и инженеров, заинтересованных в ИИ-технологиях. Таким образом, ускорение ИИ-технологий также усиливается с социально-экономической точки зрения.
С другой стороны, такой технологический прогресс различными способами, как косвенно, так и напрямую, влияет на нас.
В целом, технологический прогресс имеет тенденцию восприниматься как нечто позитивное. Хотя высказываются опасения по поводу рисков новых технологий, положительные эффекты прогресса обычно перевешивают их, а риски со временем можно смягчить, поэтому общие выгоды считаются значительными.
Однако это верно лишь при умеренных темпах технологического прогресса. Когда ускорение технологического прогресса превышает определенный предел, выгоды перестают перевешивать риски.
Во-первых, даже сами разработчики не до конца понимают все характеристики или потенциальные применения новой технологии. Особенно в отношении применений, нередко другие люди находят удивительные способы использования или комбинации с другими технологиями, которые разработчики не предвидели.
Более того, если мы расширим нашу перспективу, включив эти применения, и рассмотрим, какие выгоды и риски технология несет для общества, то практически никто не сможет полностью это понять.
Такие социальные слепые пятна в технологии, когда прогресс идет постепенно, со временем постепенно заполняются. В конечном итоге, технология применяется в обществе после того, как эти слепые пятна будут достаточно устранены.
Однако, когда технологический прогресс превышает определенную скорость, время, отводимое на устранение социальных слепых пятен, также сокращается. С точки зрения заполнения социальных слепых пятен, ускорение технологического прогресса выглядит так, как будто произошло относительное сжатие времени.
Новые технологические изменения возникают одно за другим, происходя одновременно во множестве технологий, что приводит к отставанию социальной когнитивной задачи по устранению социальных слепых пятен.
Следовательно, мы оказываемся окружены различными технологиями с сохраняющимися социальными слепыми пятнами.
Потенциальные риски, присущие таким технологиям, могут внезапно возникнуть из наших слепых зон и нанести вред обществу. Поскольку риски, к которым мы не готовы или против которых у нас нет контрмер, появляются внезапно, воздействие ущерба, как правило, оказывается большим.
Эта ситуация меняет масштабы выгод и рисков технологического прогресса. Из-за эффекта сжатия времени риски материализуются до того, как социальные слепые пятна могут быть заполнены, тем самым увеличивая риск, связанный с каждой технологией.
Самоусиливающееся ускорение прогресса генеративного ИИ в конечном итоге может привести к появлению бесчисленных технологий с социальными слепыми пятнами, которые почти невозможно заполнить, что резко нарушит баланс между рисками и выгодами.
Это ситуация, с которой мы никогда раньше не сталкивались. Поэтому никто не может точно оценить масштабы потенциальных рисков как социальных слепых пятен или насколько значительным может быть их влияние. Единственная уверенность заключается в логической структуре: чем быстрее ускорение, тем больше возрастают риски.
Общество хроноскрамбла
Более того, мы не можем точно оценить ни текущий темп технологического прогресса, ни тем более то, каким он будет в будущем.
Это относится даже к исследователям и разработчикам генеративного ИИ. Например, среди экспертов существуют значительные разногласия относительно того, когда появится AGI — ИИ, превосходящий человеческие возможности во всех аспектах.
Кроме того, исследователи и разработчики генеративного ИИ отличаются от экспертов в области прикладных технологий и прикладных систем. Поэтому, хотя они могут быть хорошо осведомлены о текущем состоянии исследований и будущих перспективах генеративного ИИ, они не могут полностью comprehend, какие прикладные технологии и прикладные системы с использованием генеративного ИИ уже существуют или какие возможности могут открыться в будущем.
А когда речь заходит о прикладных технологиях и прикладных системах, возможности практически бесконечны благодаря комбинациям с различными существующими механизмами. Даже среди тех, кто исследует и разрабатывает прикладные технологии и прикладные системы, было бы трудно охватить все, включая элементы из разных жанров.
Ещё сложнее делать выводы или предсказывать, как такие прикладные технологии и прикладные системы будут распространяться в обществе и какое воздействие они окажут. Исследователи и инженеры, в частности, не обязательно хорошо разбираются или сильно заинтересованы в социальных последствиях. Напротив, те, кто очень заинтересован в социальных последствиях, часто имеют врождённые ограничения в своих технических знаниях.
Таким образом, никто не может полностью охватить ни текущее состояние, ни будущее видение генеративного ИИ. И в понимании каждого человека существуют расхождения.
Проблема не только в наличии расхождений, но и в том, что темпы прогресса неизвестны. Мы, безусловно, стоим на пороге эпохи, когда технологический прогресс переживает ускоряющееся сжатие времени, но у нас нет общего понимания его скорости.
Что ещё хуже, существует разница в восприятии между людьми относительно того, является ли технологический прогресс постоянным или ускоряющимся. Кроме того, даже среди тех, кто согласен с ускорением, восприятие сильно различается в зависимости от того, считают ли они, что ускорение обусловлено исключительно достижениями в базовой технологии генеративного ИИ, или они также учитывают ускорение, вызванное прикладными технологиями и прикладными системами, а также приток людей и капитала с социально-экономической точки зрения.
Таким образом, различия в понимании текущей ситуации и будущего видения, в сочетании с расхождениями в восприятии темпов прогресса, создают поразительно большие различия в нашем индивидуальном восприятии.
Какой технологический уровень и социальное воздействие будет представлять август 2025 года? А что принесут 2027 год (через два года) и 2030 год (через пять лет)? Это сильно варьируется от человека к человеку. Более того, этот разрыв в восприятии, вероятно, больше сейчас, в 2025 году (через два года после бума генеративного ИИ в 2023 году), чем тогда.
Общество, в котором у людей сильно различаются представления о времени, я называю Обществом хроноскрамбла. «Хронос» по-гречески означает время.
И в реальности этого Общества хроноскрамбла мы должны противостоять проблемам сжатия времени и технологических социальных слепых пятен, которые мы не можем общепринято и точно воспринимать.
Видение и стратегия
Для того чтобы рассмотреть, как решать проблему технологических социальных слепых пятен — учитывая, что наше собственное ощущение времени может не совпадать с фактическим сжатием времени, и, кроме того, в сотрудничестве с другими людьми, чьи восприятия отличаются от наших, — необходимы видение и стратегия.
Видение в данном случае означает указание неизменных ценностей и направлений, независимо от преобладающего ощущения времени.
Например, упрощая обсуждение, «обеспечение того, чтобы риски технологий не перевешивали их преимущества» является одним из важных видений. Это видение, с которым больше людей могут согласиться, чем, скажем, «продвижение технологий» или «минимизация технологических рисков».
И крайне важно обеспечить сотрудничество как можно большего числа людей для достижения этого видения. Даже при согласии с видением его невозможно достичь без действий.
И здесь снова необходимо разработать стратегию, понимая, что мы находимся в Обществе хроноскрамбла, где существуют различия в ощущении времени. Например, стратегия приведения ощущения времени каждого человека в соответствие с фактическим сжатием времени, вероятно, не увенчается успехом. Она наложит значительную нагрузку на обучение отдельных людей, и энергии, необходимой только для этого, хватит для полного истощения. Более того, поскольку этот разрыв с каждым годом увеличивается, необходимая энергия будет только расти.
Я не могу представить каждую идеальную стратегию, но одним из примеров стратегии является использование того, что автоматически усиливается со временем, для достижения видения.
Это использование самого генеративного ИИ. Это немного сложно, потому что это подразумевает использование того самого, с чем мы пытаемся справиться, но самоочевидно, что при решении проблемы сжатия времени традиционный подход со временем будет становиться все более сложным. Чтобы противостоять этому, нет другого выбора, кроме как использовать возможности, которые также подвергаются сжатию времени, для разработки контрмер.
И, если нам повезет, если мы в конечном итоге сможем использовать возможности самого генеративного ИИ, чтобы 調速 (регулировать скорость) развития технологий, управляемых генеративным ИИ, и контролировать его так, чтобы оно не ускорялось сверх пределов, мы значительно приблизимся к решению проблемы.
Заключение
В Обществе хроноскрамбла у каждого из нас будут множественные, различающиеся слепые пятна. Это потому, что никто не может охватить всю передовую информацию без слепых пятен и должным образом связать ее с оценкой настоящего и предсказанием будущего.
Затем, по какому-то триггеру, появляется возможность внезапно осознать существование слепого пятна. Это происходит неоднократно, каждый раз, когда возникает слепое пятно и заполняется его пробел.
Каждый раз наше восприятие временной оси для нашего текущего положения и будущих перспектив значительно сжимается. Это ощущается так, будто мы внезапно прыгнули сквозь время — воспринимаемый скачок во времени в будущее.
В некоторых случаях несколько слепых пятен могут проявиться в течение одного дня. В таких ситуациях человек пережил бы повторные скачки во времени за очень короткий период.
В этом смысле, если мы не признаем существование наших собственных слепых пятен и не обладаем надежным видением, способным выдержать многоступенчатые скачки во времени, нам будет трудно принимать точные критические решения относительно будущего.
Иными словами, стремясь приблизить наше ощущение времени к реальности, необходимость мыслить на основе принципов и правил, которые превосходят эпохи, будет постоянно возрастать.
Кроме того, мы должны также столкнуться с реальностью, что в условиях сжатия времени мы больше не можем внедрять меры по снижению рисков в прежнем темпе.
Более того, если мы не замедлим саму скорость этого сжатия времени, оно превысит пределы нашего восприятия и контроля.
Для достижения этого мы должны серьезно рассмотреть возможность использования скорости и влияния самого ИИ, который ускоряется из-за сжатия времени.
Это аналогично так называемым встроенным стабилизаторам в экономике, таким как прогрессивное налогообложение и системы социального обеспечения, которые сдерживают перегрев экономики.
Короче говоря, нам необходимо разработать механизмы, чтобы ИИ функционировал не только как технологический акселератор, но и как социальный встроенный стабилизатор.