Ми стоїмо на порозі прискореного технічного прогресу, зокрема стрімкого розвитку технологій ШІ.
Генеративний ШІ тепер може не тільки вільно розмовляти, але й писати програми. Це не тільки сприяє ефективності та покращенню людської праці, але й повертається до вдосконалення самого генеративного ШІ.
Йдеться не лише про посилення структури моделі генеративного ШІ чи методів попереднього навчання.
Зі збільшенням кількості програмного забезпечення, до якого генеративний ШІ може підключатися та використовувати, він зможе робити більше, ніж просто спілкуватися в чаті. Більше того, якщо буде створено програмне забезпечення, яке дозволить генеративному ШІ збирати знання, необхідні для завдання, та отримувати їх у відповідний момент, він зможе поводитися розумніше, використовуючи правильні знання без попереднього навчання.
Таким чином, прогрес технологій ШІ прискорює всю галузь технологій ШІ, включаючи прикладні технології та прикладні системи. Це прискорення, у свою чергу, рекурсивно призводить до подальшого прискорення технологій ШІ. З прискоренням технологій ШІ та збільшенням можливостей ШІ, місця та ситуації, де він використовується, природно, зростатимуть експоненційно.
Це неминуче збільшить кількість інвесторів та інженерів, зацікавлених у технологіях ШІ. Отже, прискорення технологій ШІ також посилюється з соціально-економічної точки зору.
З іншого боку, такий технологічний прогрес впливає на нас по-різному, як опосередковано, так і безпосередньо.
Загалом, технологічний прогрес схильний розглядатися як позитивна річ. Хоча виникають занепокоєння щодо ризиків нових технологій, позитивні ефекти прогресу зазвичай переважають їх, а ризики можуть бути зменшені з часом, тому загальні переваги вважаються значними.
Однак це вірно лише тоді, коли темпи технологічного прогресу помірні. Коли прискорення технологічного прогресу перевищує певну межу, переваги більше не переважають ризики.
По-перше, навіть самі розробники не повністю розуміють усіх характеристик чи потенційних застосувань нової технології. Особливо щодо застосувань, нерідко інші виявляють несподівані способи використання або поєднання з іншими технологіями, які розробники не передбачали.
Крім того, якщо ми розширимо нашу перспективу, щоб включити ці застосування, і розглянемо, які переваги та ризики технологія становить для суспільства, то практично ніхто не зможе повністю це осягнути.
Такі соціальні сліпі плями в технології, коли прогрес поступовий, з часом поступово заповнюються. Зрештою, технологія застосовується в суспільстві з цими сліпими плямами, які були достатньою мірою враховані.
Однак, коли технологічний прогрес перевищує певну швидкість, час, відведений на усунення соціальних сліпих плям, також скорочується. З точки зору заповнення соціальних сліпих плям, прискорення технологічного прогресу виглядає так, ніби відбулося відносне стиснення часу.
Нові технологічні зміни виникають одна за одною, відбуваючись одночасно в численних технологіях, внаслідок чого суспільне когнітивне завдання з усунення соціальних сліпих плям відстає.
Відповідно, ми опиняємось оточеними різноманітними технологіями, які мають невирішені соціальні сліпі плями.
Потенційні ризики, притаманні таким технологіям, можуть раптово виникнути з наших сліпих зон і завдати шкоди суспільству. Оскільки ризики, до яких ми не готові або не маємо контрзаходів, з'являються несподівано, вплив шкоди, як правило, є більшим.
Ця ситуація змінює величину переваг і ризиків технологічного прогресу. Через ефект стиснення часу, ризики матеріалізуються до того, як соціальні сліпі плями можуть бути заповнені, тим самим збільшуючи ризик, пов'язаний з кожною технологією.
Самопідсилюване прискорення прогресу генеративного ШІ може зрештою призвести до появи незліченних технологій з соціальними сліпими плямами, які майже неможливо заповнити, що різко порушить баланс між ризиками та перевагами.
Це ситуація, якої ми ніколи раніше не переживали. Тому ніхто не може точно оцінити масштаби потенційних ризиків як соціальних сліпих плям або наскільки значним може бути їхній вплив. Єдиною впевненістю є логічна структура, що чим швидше прискорення, тим більше зростають ризики.
Суспільство хроноскремблу
Крім того, ми не можемо точно усвідомити поточний темп технологічного прогресу, не кажучи вже про те, яким він буде в майбутньому.
Це стосується навіть дослідників і розробників генеративного ШІ. Наприклад, серед експертів існують значні розбіжності в думках щодо того, коли з'явиться AGI — ШІ, який перевершить людські можливості в усіх аспектах.
Крім того, дослідники та розробники генеративного ШІ відрізняються від експертів у прикладних технологіях та прикладних системах. Тому, хоча вони можуть бути обізнані про останній стан досліджень та майбутні перспективи генеративного ШІ, вони не можуть повністю зрозуміти, які прикладні технології та прикладні системи з використанням генеративного ШІ вже існують, або які можливості можуть відкритися в майбутньому.
А коли йдеться про прикладні технології та прикладні системи, можливості практично безмежні завдяки поєднанню з різними існуючими механізмами. Навіть серед тих, хто досліджує та розробляє прикладні технології та прикладні системи, було б важко охопити все, включаючи елементи з різних жанрів.
Ще складніше робити висновки або прогнозувати, як такі прикладні технології та прикладні системи поширюватимуться в суспільстві та який вплив вони матимуть. Дослідники та інженери, зокрема, не обов'язково добре обізнані або дуже зацікавлені в соціальних впливах. І навпаки, ті, хто дуже зацікавлений у соціальних впливах, часто мають вроджені обмеження у своїх технічних знаннях.
Таким чином, ніхто не може повністю охопити поточний стан або майбутнє бачення генеративного ШІ. Існують також розбіжності в розумінні кожної людини.
Проблема полягає не просто в існуванні розбіжностей, а в тому, що темп прогресу невідомий. Ми, безумовно, стоїмо на порозі епохи, коли технологічний прогрес проходить прискорене стиснення часу, але нам бракує спільного розуміння його швидкості.
Що ще гірше, існують відмінності в сприйнятті між окремими особами щодо того, чи є технологічний прогрес постійним або прискореним. Крім того, навіть серед тих, хто погоджується на прискорення, сприйняття сильно відрізняється залежно від того, чи вважають вони, що прискорення зумовлене виключно досягненнями в базовій технології генеративного ШІ, чи вони також враховують прискорення, спричинене прикладними технологіями та прикладними системами, а також приплив людей та капіталу з соціально-економічної точки зору.
Таким чином, розбіжності в розумінні поточної ситуації та майбутнього бачення, у поєднанні з розбіжностями у сприйнятті темпів прогресу, створюють напрочуд великі відмінності в наших індивідуальних сприйняттях.
Який технологічний рівень та соціальний вплив представлятиме серпень 2025 року? І що принесуть 2027 рік (через два роки) та 2030 рік (через п'ять років)? Це сильно відрізняється від людини до людини. Більше того, цей розрив у сприйнятті, ймовірно, більший зараз, у 2025 році (через два роки після буму генеративного ШІ у 2023 році), ніж тоді.
Суспільство, де окремі особи мають дуже різні сприйняття часу, я називаю Суспільством хроноскремблу. «Хроно» грецькою означає час.
І в реальності цього Суспільства хроноскремблу ми повинні протистояти проблемам стиснення часу та технологічним соціальним сліпим плямам, які ми не можемо спільно та точно сприймати.
Бачення та стратегія
Щоб розглянути, як вирішити проблему технологічних соціальних сліпих плям — враховуючи можливість того, що наше власне відчуття часу може не відповідати фактичному стисненню часу, і, крім того, у співпраці з іншими, чиї сприйняття відрізняються від наших — бачення та стратегія є незамінними.
Бачення тут означає вказівку на незмінні цінності та напрямки, незалежно від панівного відчуття часу.
Наприклад, якщо спростити обговорення, «забезпечення того, щоб ризики технологій не переважали їхні переваги» є одним важливим баченням. Це бачення, з яким може погодитися більше людей, ніж, скажімо, «розвиток технологій» або «мінімізація технологічних ризиків».
І вкрай важливо дозволити якомога більшій кількості людей співпрацювати для досягнення цього бачення. Навіть за умови згоди з баченням, його неможливо досягти без дії.
І тут знову ж таки, необхідно сформулювати стратегію, розуміючи, що ми живемо в Суспільстві хроноскремблу, де існують відмінності у сприйнятті часу. Наприклад, стратегія, яка має на меті узгодити відчуття часу кожного з фактичним стисненням часу, ймовірно, не матиме успіху. Вона накладе значний тягар навчання на окремих людей, і енергії, необхідної для цього, буде достатньо, щоб виснажити їх. Більше того, оскільки цей розрив щороку зростає, необхідна енергія буде лише збільшуватися.
Я не можу представити кожну ідеальну стратегію, але одним із прикладів стратегії є використання чогось, що автоматично посилюється з часом, для досягнення бачення.
Це використання самого генеративного ШІ. Це трохи складно, тому що це передбачає використання саме того, що ми намагаємося вирішити, але очевидно, що при вирішенні проблеми стиснення часу звичайний підхід з часом ставатиме все складнішим. Щоб протистояти цьому, немає іншого вибору, окрім як використовувати можливості, які також зазнають стиснення часу, для розробки контрзаходів.
І, якщо нам пощастить, якщо ми зрештою зможемо використати можливості самого генеративного ШІ для 調速 (регулювання швидкості) розробки технологій, керованих генеративним ШІ, і контролювати його так, щоб він не прискорювався понад межі, ми значно наблизимося до вирішення проблеми.
Висновок
У Суспільстві хроноскремблу кожен з нас матиме численні, відмінні сліпі плями. Це тому, що ніхто не може охопити всю найсучаснішу інформацію без сліпих плям і належним чином пов'язати її з оцінкою сьогодення та прогнозуванням майбутнього.
Потім, за певного тригеру, з'являється можливість раптово усвідомити існування сліпої плями. Це відбувається неодноразово, щоразу, коли виникає сліпа пляма, а її пробіл заповнюється.
Щоразу наше сприйняття часової осі для нашого поточного становища та майбутніх перспектив сильно стискається. Це відчувається так, ніби ми раптово перескочили в часі — уявний стрибок у часі до майбутнього.
У деяких випадках протягом одного дня можуть проявитися кілька сліпих плям. У таких випадках людина відчуватиме повторні стрибки в часі за дуже короткий період.
У цьому сенсі, якщо ми не визнаємо існування власних сліпих плям і не матимемо надійного бачення, здатного витримати багатоступінчасті стрибки в часі, нам буде важко приймати точні критичні рішення щодо майбутнього.
Іншими словами, прагнучи наблизити наше відчуття часу до реальності, необхідність мислити на основі принципів і правил, що виходять за межі епох, буде дедалі зростати.
Крім того, ми повинні також протистояти реальності того, що в умовах стиснення часу ми більше не можемо впроваджувати заходи щодо зниження ризиків з тією ж швидкістю, що й раніше.
Більше того, якщо ми не сповільнимо швидкість цього стиснення часу, воно перевищить межі нашого сприйняття та контролю.
Для досягнення цього ми повинні серйозно розглянути можливість використання швидкості та впливу самого ШІ, який прискорюється внаслідок стиснення часу.
Це схоже на так звані вбудовані стабілізатори в економіці, такі як прогресивне оподаткування та системи соціального забезпечення, які приборкують перегріту економіку.
Коротше кажучи, нам потрібно розробити механізми, щоб ШІ функціонував не тільки як технологічний прискорювач, але й як соціальний вбудований стабілізатор.