Мы стоим на пороге ускоряющегося технологического прогресса, в особенности экспоненциального развития технологий искусственного интеллекта.
Генеративный ИИ не только свободно говорит, но и пишет программы. Это не только способствует повышению эффективности и улучшению человеческого труда, но и оказывает обратное влияние на улучшение самого генеративного ИИ.
Речь идет не только об усилении структуры модели или методов предварительного обучения генеративного ИИ.
По мере того как генеративный ИИ получает доступ к большему количеству программного обеспечения, с которым он может взаимодействовать и использовать его, он сможет делать больше, чем просто общаться. Более того, если будет разработано программное обеспечение, которое позволит генеративному ИИ собирать необходимые знания для своих задач и извлекать эти знания в подходящие моменты, он сможет вести себя более разумно, используя правильные знания, даже без предварительного обучения.
Таким образом, развитие технологии ИИ ускоряет всю область технологии ИИ, включая прикладные технологии и системы. Это ускорение, в свою очередь, рекурсивно приводит к дальнейшему ускорению технологии ИИ. Кроме того, по мере ускорения технологии ИИ и увеличения возможностей ИИ, места и ситуации, где он используется, естественным образом будут увеличиваться ускоренными темпами.
Это может только увеличить число инвесторов и инженеров, заинтересованных в технологии ИИ. Таким образом, ускорение технологии ИИ также усиливается с социально-экономической точки зрения.
С другой стороны, такой технологический прогресс влияет на нас различными способами, как косвенно, так и напрямую.
В целом, технологический прогресс, как правило, воспринимается как нечто хорошее. Хотя высказываются опасения по поводу рисков новых технологий, положительные эффекты прогресса обычно перевешивают их, а риски со временем могут быть снижены, поэтому в целом выгоды считаются значительными.
Однако это верно только тогда, когда темпы технологического прогресса постепенны. Когда темпы технологического прогресса ускоряются и превышают определенный предел, выгоды перестают перевешивать риски.
Во-первых, даже сами разработчики не до конца понимают природу или полный спектр применений новых технологий. Особенно в отношении сферы применения, нередко другие обнаруживают такие способы использования или комбинации с другими технологиями, которые удивляют даже самих разработчиков.
Более того, если расширить область рассмотрения, включив в нее то, как такие применения будут приносить пользу и представлять риск для общества, то почти никто не знает полного масштаба.
Когда прогресс постепенен, такие социальные «слепые зоны» в технологии постепенно заполняются со временем, и в конечном итоге технология применяется в обществе с достаточным устранением «слепых зон».
Однако, когда технологический прогресс превышает определенную скорость, льготный период для заполнения социальных «слепых зон» также сокращается. Ускорение технологического прогресса, с точки зрения заполнения социальных «слепых зон», выглядит так, как будто время относительно сжалось.
Новые технологические изменения происходят одно за другим, и это происходит одновременно во многих технологиях, что делает невозможным для социального когнитивного процесса заполнения социальных «слепых зон» успевать за ними.
В результате мы будем окружены различными технологиями, которые остаются в состоянии социальных «слепых зон».
Потенциальные риски, присущие таким технологиям, могут внезапно выйти из наших «слепых зон» и причинить вред обществу. Поскольку риски, к которым мы не готовы или не приняли меры, появляются внезапно, последствия ущерба, как правило, оказываются более значительными.
Эта ситуация меняет величину выгод и рисков технологического прогресса. Из-за эффекта сжатия времени, поскольку риски проявляются до того, как заполняются социальные «слепые зоны», риски каждой технологии увеличиваются.
Самоусиливающееся ускорение прогресса генеративного ИИ может в конечном итоге создать бесчисленные технологии с почти невосполнимыми социальными «слепыми зонами», потенциально значительно нарушив баланс между риском и выгодой.
Это ситуация, которую мы никогда не переживали. Поэтому никто не может точно оценить степень риска, который потенциально будет существовать как социальные «слепые зоны», а также насколько значительным будет их воздействие. Единственная уверенность — это логическая структура, согласно которой чем быстрее происходит ускорение, тем больше возрастают риски.
Общество Хронос-Скрэмбла
С другой стороны, мы не можем точно понять ни текущие темпы технологического прогресса, ни то, какими они будут в будущем.
Это верно даже для исследователей и разработчиков генеративного ИИ. Например, среди экспертов существуют большие расхождения во мнениях относительно того, когда появится AGI — ИИ, превосходящий человеческие возможности во всех аспектах.
Более того, исследователи и разработчики генеративного ИИ — это не те же люди, что эксперты в его прикладных технологиях и системах. Поэтому, хотя они могут быть хорошо осведомлены о последних исследованиях и будущих перспективах генеративного ИИ, они не могут охватить все, что касается уже существующих прикладных технологий и систем, использующих генеративный ИИ, или открывающихся будущих возможностей.
Кроме того, когда речь заходит о прикладных технологиях и системах, возможности практически безграничны при их сочетании с различными существующими механизмами. Даже среди людей, исследующих и разрабатывающих прикладные технологии и системы, было бы трудно охватить все, включая те, что относятся к разным жанрам.
Еще труднее вывести или предсказать, как такие прикладные технологии и системы будут распространяться в обществе и какое влияние они окажут. В частности, исследователи и инженеры не обязательно хорошо осведомлены о социальном воздействии или сильно заинтересованы в нем. С другой стороны, технологические знания тех, кто сильно заинтересован в таком социальном воздействии, неизбежно имеют ограничения.
Таким образом, никто не может охватить всю полноту текущего состояния генеративного ИИ или его будущего видения. И в понимании каждого человека есть расхождения.
Проблема не просто в наличии расхождений, а в том, что темпы прогресса неизвестны. Мы, безусловно, находимся на пороге эры, когда технологический прогресс ускоряется, а время сжимается, но у нас нет общего понимания того, насколько быстры эти темпы.
Что еще хуже, существуют различия в восприятии людьми того, являются ли темпы технологического прогресса постоянными или ускоряющимися. Кроме того, даже среди тех, кто согласен с ускорением, восприятие сильно различается в зависимости от того, признают ли они, что ускорение вызвано исключительно прогрессом фундаментальной технологии генеративного ИИ, или они также учитывают ускорение, вызванное прикладными технологиями и системами, а также ускорение, вызванное притоком людей и капитала из социально-экономических факторов.
Таким образом, изменчивость в восприятии текущего состояния и будущего видения, а также расхождения в восприятии темпов прогресса создают удивительно большие различия в наших индивидуальных пониманиях.
Каков будет технологический уровень и социальное воздействие в августе 2025 года? А какими они будут в 2027 году (через два года) или в 2030 году (через пять лет)? Эти оценки сильно различаются от человека к человеку. Более того, разница в этом восприятии, вероятно, больше сейчас, в 2025 году, спустя два года после того, как бум генеративного ИИ пришел в 2023 году.
Общество, в котором индивидуальные представления об эпохе так сильно различаются, я называю «Обществом Хронос-Скрэмбла». Хронос — греческое слово, означающее время.
И в рамках реальности этого Общества Хронос-Скрэмбла мы должны столкнуться с проблемами сжатия времени и технологических социальных «слепых зон», которые мы не можем общепринято и правильно воспринимать.
Видение и стратегия
В ситуации, когда собственное ощущение времени может не совпадать с фактическим сжатием времени, и при необходимости решения проблемы технологических «слепых зон» общества с другими людьми, имеющими различные точки зрения, видение и стратегия становятся незаменимыми.
Здесь видение означает демонстрацию неизменных ценностей и направлений, независимо от чьего-либо ощущения времени.
Например, упрощая обсуждение, «обеспечение того, чтобы риски технологий не перевешивали их преимущества» является одним из важных видений. Это видение, с которым может согласиться больше людей, чем с такими видениями, как «развитие технологий» или «минимизация технологических рисков».
И крайне важно дать возможность как можно большему числу людей сотрудничать в направлении реализации этого видения. Даже если видение согласовано, оно не может быть достигнуто без действий.
Здесь также необходимо разработать стратегию, понимая, что мы находимся в Обществе Хронос-Скрэмбла с различными ощущениями времени. Например, стратегия согласования ощущения времени каждого с фактическим сжатием времени не сработает. Это наложит огромную нагрузку на обучение отдельных людей, истощая их одной лишь энергией, необходимой для этого. Более того, поскольку этот разрыв будет увеличиваться год от года, необходимая энергия также будет возрастать.
Я не могу представить все идеальные стратегии, но одним из примеров стратегии является использование чего-то, что автоматически усиливается со временем, для достижения видения.
Это относится к использованию самого генеративного ИИ. Хотя использовать то, что пытаешься решить, несколько сложно, ясно, что при работе с проблемой сжатия времени традиционные методы будут становиться все более трудными в использовании со временем. Чтобы противостоять этому, нет другого выбора, кроме как рассмотреть контрмеры, используя возможности, которые также сжимаются во времени.
И, надеюсь, если мы в конечном итоге сможем использовать возможности самого генеративного ИИ для регулирования развития технологий, вызванного генеративным ИИ, и контролировать его, чтобы он не ускорялся сверх своих пределов, мы значительно приблизимся к решению проблемы.
Заключение
В Обществе Хронос-Скрэмбла у каждого из нас будет множество различных слепых зон. Это связано с тем, что никто не может охватить всю передовую информацию без слепых зон во всех аспектах и адекватно связать ее с текущими оценками и будущими прогнозами.
И в какой-то момент внезапно появится возможность осознать, что там существовала слепая зона. Это будет происходить многократно, каждый раз, когда образуется слепая зона и заполняется пробел.
Каждый раз наше восприятие временной шкалы нашего текущего положения и будущего видения будет значительно сжиматься. Возникает ощущение, будто мы внезапно перепрыгнули через время. Это когнитивный скачок во времени в будущее.
В некоторых случаях в течение одного дня может быть выявлено несколько слепых зон. В таких случаях человек переживает несколько скачков во времени за очень короткий период.
В этом смысле, если мы не признаем существование наших собственных слепых зон и не обладаем надежным видением, способным выдерживать многоступенчатые скачки во времени, нам станет трудно принимать точные критические решения относительно будущего.
Иными словами, стремясь приблизить наше ощущение времени к реальности, все более возрастает необходимость мыслить, основываясь на принципах и предписаниях, которые превосходят эпохи.
И в условиях сжатия времени мы также должны признать реальность того, что меры по снижению рисков не могут быть реализованы в том же темпе, что и раньше.
Более того, если скорость самого этого сжатия времени не будет замедлена, она превысит пределы нашего восприятия и контроля.
Для достижения этого мы должны серьезно рассмотреть возможность использования скорости и влияния самого ИИ, который ускоряется из-за сжатия времени.
Это аналогично таким механизмам, как прогрессивное налогообложение или системы социального обеспечения, которые сдерживают перегрев экономики, что известно как «встроенные стабилизаторы».
Иными словами, нам нужно подумать о механизмах, которые позволят ИИ функционировать не только как технологический ускоритель, но и как социальный встроенный стабилизатор.