Ми стоїмо на порозі прискорення технологічного прогресу, особливо експоненційного розвитку технології ШІ.
Генеративний ШІ може не тільки вільно розмовляти, але й писати програми. Це не тільки сприяє ефективності та покращенню людської праці, але й впливає на вдосконалення самого генеративного ШІ.
Йдеться не лише про посилення структури моделі чи методів попереднього навчання генеративного ШІ.
Оскільки генеративний ШІ отримує доступ до більшої кількості програмного забезпечення, з яким він може підключатися та використовувати, він зможе робити більше, ніж просто спілкуватися в чаті. Крім того, якщо буде розроблено програмне забезпечення, що дозволяє генеративному ШІ збирати необхідні знання для своїх завдань і отримувати ці знання у відповідні моменти, він зможе поводитися розумніше, використовуючи правильні знання, навіть без попереднього навчання.
Таким чином, розвиток технології ШІ прискорює всю галузь технологій ШІ, включаючи прикладні технології та системи. Це прискорення, у свою чергу, рекурсивно призводить до подальшого прискорення технології ШІ. Більше того, у міру прискорення технології ШІ та зростання можливостей ШІ, місця та ситуації, де він використовується, природно, зростатимуть прискореними темпами.
Це може лише збільшити кількість інвесторів та інженерів, зацікавлених у технологіях ШІ. Таким чином, прискорення технології ШІ також посилюється із соціально-економічної точки зору.
З іншого боку, такий технологічний прогрес впливає на нас різними способами, як опосередковано, так і безпосередньо.
Загалом, технологічний прогрес, як правило, розглядається як щось добре. Хоча висловлюються занепокоєння щодо ризиків нових технологій, позитивні ефекти прогресу, як правило, переважають їх, а ризики можуть бути зменшені з часом, тому загалом переваги вважаються значними.
Однак це справедливо лише тоді, коли темпи технологічного прогресу є поступовими. Коли темпи технологічного прогресу прискорюються і перевищують певну межу, переваги перестають переважувати ризики.
По-перше, навіть самі розробники не до кінця розуміють природу чи повний спектр застосувань нових технологій. Особливо щодо сфери застосування, нерідко інші відкривають способи використання або комбінації з іншими технологіями, які дивують навіть розробників.
Крім того, при розширенні сфери застосування, щоб включити те, як такі застосування принесуть користь і ризики для суспільства, майже ніхто не знає повного обсягу.
Коли прогрес є поступовим, такі суспільні сліпі зони в технології поступово заповнюються з часом, і згодом технологія застосовується в суспільстві з достатньо усунутими сліпими зонами.
Однак, коли технологічний прогрес перевищує певну швидкість, пільговий період для заповнення суспільних сліпих зон також скорочується. Прискорення технологічного прогресу, з точки зору заповнення суспільних сліпих зон, виглядає так, ніби час був відносно стиснутий.
Нові технологічні зміни відбуваються одна за одною, і це відбувається одночасно в численних технологіях, що унеможливлює для соціального пізнавального процесу заповнення суспільних сліпих зон.
В результаті ми будемо оточені різними технологіями, які залишаються в стані суспільних сліпих зон.
Потенційні ризики, якими володіють такі технології, можуть раптово виникнути з наших сліпих зон і завдати шкоди суспільству. Оскільки ризики, до яких ми не готові або не вжили контрзаходів, раптово з'являються, вплив збитків, як правило, більший.
Ця ситуація змінює величину переваг та ризиків технологічного прогресу. Через ефект стиснення часу, оскільки ризики матеріалізуються до того, як заповнюються суспільні сліпі зони, ризики кожної технології зростають.
Самовідновлювальне прискорення прогресу генеративного ШІ може зрештою створити незліченну кількість технологій з майже незаповнюваними суспільними сліпими зонами, потенційно значно порушуючи баланс між ризиком і вигодою.
Це ситуація, яку ми ніколи не відчували. Тому ніхто не може точно оцінити ступінь ризику, який потенційно існуватиме як суспільні сліпі зони, а також наскільки значним буде їхній вплив. Єдина впевненість полягає в логічній структурі, що чим швидше вона прискорюється, тим більше ризиків зростатиме.
Суспільство Хронос-скрембла
З іншого боку, ми не можемо точно усвідомити ні поточний темп технологічного прогресу, ні те, яким він буде в майбутньому.
Це стосується навіть дослідників та розробників генеративного ШІ. Наприклад, серед експертів існує значна розбіжність думок щодо того, коли з'явиться AGI – ШІ, який перевершить людські можливості в усіх аспектах.
Крім того, дослідники та розробники генеративного ШІ – це не ті ж самі люди, що й експерти з його прикладних технологій та систем. Отже, хоча вони можуть бути обізнані про останній стан досліджень та майбутні перспективи генеративного ШІ, вони не можуть охопити всього, що стосується вже існуючих прикладних технологій та систем, що використовують генеративний ШІ, або які майбутні можливості відкриваються.
Більше того, коли мова йде про прикладні технології та системи, можливості практично безмежні при поєднанні з різними існуючими механізмами. Навіть серед людей, які досліджують та розробляють прикладні технології та системи, було б важко охопити все, включаючи ті, що належать до різних жанрів.
Ще складніше робити висновки або прогнозувати, як такі прикладні технології та системи поширяться в суспільстві та який вплив матимуть. Зокрема, дослідники та інженери не обов'язково обізнані або високо зацікавлені в соціальному впливі. З іншого боку, технологічні знання тих, хто високо зацікавлений у такому соціальному впливі, неминуче мають обмеження.
Таким чином, ніхто не може охопити всю повноту поточного стану генеративного ШІ або його майбутнього бачення. І існують розбіжності в розумінні кожної людини.
Проблема полягає не просто в розбіжностях, а в тому, що темп прогресу невідомий. Ми, безумовно, стоїмо на порозі епохи, де технологічний прогрес прискорюється, а час стискається, але ми не маємо спільного розуміння того, наскільки швидкий цей темп.
Щоб погіршити ситуацію, існують відмінності в сприйнятті серед людей щодо того, чи є темп технологічного прогресу постійним, чи прискорюється. Крім того, навіть серед тих, хто погоджується на прискорення, сприйняття сильно відрізняється залежно від того, чи визнають вони, що прискорення викликано виключно прогресом фундаментальної технології генеративного ШІ, чи вони також враховують прискорення через прикладні технології та системи, а також прискорення через приплив людей та капіталу з соціально-економічних факторів.
Таким чином, мінливість у сприйнятті поточного стану та майбутнього бачення, а також розбіжність у сприйнятті темпів прогресу створюють напрочуд великі відмінності в нашому індивідуальному розумінні.
Який технологічний рівень та соціальний вплив у серпні 2025 року? І яким він буде у 2027 році (через два роки) або 2030 році (через п'ять років)? Ці показники сильно відрізняються від людини до людини. Більше того, різниця в цьому сприйнятті, ймовірно, більша зараз, у 2025 році, через два роки після того, як бум генеративного ШІ розпочався у 2023 році.
Я називаю суспільство, де індивідуальні сприйняття епохи так сильно відрізняються, "Суспільством Хронос-скрембла". "Хронос" – це грецьке слово, що означає час.
І в реаліях цього Суспільства Хронос-скрембла ми повинні зіткнутися з проблемами стиснення часу та технологічних суспільних сліпих зон, які ми не можемо спільно та правильно сприймати.
Бачення та стратегія
У ситуації, коли власне відчуття часу може не збігатися з фактичним стисненням часу, і потрібно вирішувати проблему технологічних суспільних "сліпих зон" з іншими людьми, які мають відмінні точки зору, бачення та стратегія стають незамінними.
Тут бачення означає демонстрацію незмінних цінностей та напрямків, незалежно від власного відчуття часу.
Наприклад, якщо спростити обговорення, "забезпечення того, щоб ризики технологій не перевищували їхні переваги" є одним із важливих бачень. Це бачення, з яким може погодитися більше людей, ніж з такими баченнями, як "просування технологій" або "мінімізація технологічних ризиків".
І вкрай важливо, щоб якомога більше людей могли співпрацювати для реалізації цього бачення. Навіть якщо бачення узгоджено, воно не може бути досягнуто без дій.
Тут також стратегія повинна бути сформульована з розумінням того, що ми живемо в суспільстві "Хронос-Скрембл" з різними відчуттями часу. Наприклад, стратегія, яка змушує всіх узгодити своє відчуття часу з фактичним стисненням часу, не спрацює. Вона накладе величезне навчальне навантаження на окремих осіб, виснажуючи їх лише необхідною для цього енергією. Більше того, оскільки цей розрив розширюється з року в рік, необхідна енергія також зростатиме.
Я не можу представити всі ідеальні стратегії, але одним із прикладів стратегії є використання чогось, що автоматично посилюється з часом для досягнення бачення.
Йдеться про використання самого генеративного ШІ. Хоча дещо складно використовувати саме те, що намагаєшся вирішити, очевидно, що при вирішенні проблеми стиснення часу звичайні методи ставатимуть все складнішими з часом. Щоб протидіяти цьому, немає іншого вибору, окрім як розглянути контрзаходи, використовуючи можливості, які також стискаються в часі.
І, сподіваємося, якщо ми зможемо зрештою використати можливості самого генеративного ШІ для регулювання розвитку технологій, спричинених генеративним ШІ, та контролювати його від прискорення за межі своїх можливостей, ми значно наблизимося до вирішення проблеми.
Висновок
У суспільстві "Хронос-Скрембл" кожен з нас матиме кілька різних сліпих зон. Це тому, що ніхто не може охопити всю передову інформацію без сліпих зон у кожному аспекті та належним чином пов'язати її з поточними оцінками та майбутніми прогнозами.
І в якийсь момент раптово виникне можливість усвідомити, що там існувала сліпа зона. Це буде відбуватися неодноразово, щоразу, коли сліпа зона формується і прогалина заповнюється.
Щоразу наше сприйняття часової шкали нашого поточного становища та майбутнього бачення буде значно стискатися. Відчувається, ніби ми раптово перестрибнули крізь час. Це когнітивний стрибок у часі в майбутнє.
У деяких випадках протягом одного дня може бути виявлено кілька сліпих зон. У таких випадках людина відчуває кілька часових стрибків за дуже короткий період.
У цьому сенсі, якщо ми не визнаємо існування наших власних сліпих зон і не володіємо міцним баченням, здатним витримувати багатоступеневі часові стрибки, нам буде важко приймати точні критичні рішення щодо майбутнього.
Іншими словами, прагнучи наблизити наше відчуття часу до реальності, необхідність мислити на основі принципів і приписів, що виходять за межі епох, буде все більше зростати.
І в умовах стиснення часу ми також повинні усвідомлювати реальність того, що контрзаходи щодо ризиків не можуть бути реалізовані в тому ж темпі, що й раніше.
Крім того, якщо швидкість самого цього стиснення часу не буде сповільнена, вона перевищить межі нашого сприйняття та контролю.
Для досягнення цього ми повинні серйозно розглянути використання швидкості та впливу самого ШІ, який прискорюється через стиснення часу.
Це схоже на такі механізми, як прогресивне оподаткування або системи соціального забезпечення, які приборкують перегрів економіки, відомі як "вбудовані стабілізатори".
Іншими словами, нам потрібно подумати про механізми, які дозволять ШІ функціонувати не тільки як технологічний прискорювач, але й як соціальний вбудований стабілізатор.