До Гармонії - Разом!      Детальніше про сайт

Лист до редакції: «Люди навіть не зрозуміють, як стали кіборгами»

Лист до редакції: «Люди навіть не зрозуміють, як стали кіборгами»
Джерело матеріалу:

Головний редактор студії контенту egorcompany.com Єгор Коткін надіслав до редакції vc.ru лист з роздумами про майбутнє людства, небезпеки штучного інтелекту і про те, що потрібно встигнути зробити до настання технологічної сингулярності, щоб не програти перед обличчям прогресу.


Трохи про подвійні стандарти: коли Сергій Стиллавін вимагає від вчених зупинити запуск Великого адронного коллайдера через чутки, що існує ризик виникнення чорної діри, над ним всі сміються. Коли Стівен Хокінг попереджає, що штучний інтелект може поневолити людство — всі напружуються.

Втім, результат в обох випадках однаковий — ВАК запускається, нейронні мережі розвиваються наввипередки з квантовими комп’ютерами. Ви можете мені дорікнути в тому, що порівнювати забобонний жах середньої руки радіоведучого з обережним попередженням світового вченого не зовсім коректно — але в обох випадках це як мінімум привід замислитися, що нам прогрес готує.

Можна зрозуміти, чому попередження Хокінга не вплинуло істотно на зацікавлених в розробці [штучного інтелекту -] ШІ. Річ не тільки в звичайній інерції процесів — коли цілі намічені, плани складені й бюджети виділені, потрібно щось більше, ніж голос стурбованої громадськості, аби зупинити потяг, який розганяється.

На боці дослідників і програмістів здоровий глузд і весь людський досвід: передбачення алармістів ще жодного разу не збулися, а страхи луддитів зробили їх в історичній перспективі посміховиськом. Міста Європи не були вкриті кінським гноєм, паровозний дим не вбив посіви і не отруїв коней, трудові мігранти не знищили ще жодну економіку, 7 мільярдів людей не померли з голоду і навіть не загрузли в багнюці та війні за ресурси, ядерна зброя не спричинила апокаліпсис, 2000 рік не знищив комп’ютерні системи, а ВАК не спровокував створення чорної діри.

Нас продовжують лякати: ГМО заразять усіх раком, якісна медицина призведе до виродження людство, одностатеві шлюби теж посприяють виродженню людства, а штучний інтелект поневолить всіх, хто переживе ГМО, якісну медицину та одностатеві шлюби. Втім, намальована алармістом картина настільки безрадісна, що не виключаю, якщо ШІ при таких вихідних даних просто відмовиться нас поневолювати — мовляв, пішли ви взагалі. Це якщо алармісти мають рацію. Але алармісти завжди помиляються.

Люди можуть до кінця не розуміти, як саме відбуваються ті чи інші процеси, навіть якщо безпосередньо до них причетні — але розуміють закономірності: літаки літають і крилами не махають, а прогрес робить життя людей кращим. І чим швидше розганяється прогрес, тим швидше зростає якість життя.

Головним чином тому, що завжди бачать один бік речей, недооцінюючи той факт, що будь-який рух призводить до наслідків не тільки безпосередньо, але і від зворотного, охолоджуючи запал любителів екстраполяції.

Припустимо, більш-менш очевидно, що, вийшовши заміж, наречена на якийсь час заспокоюється — наявність одного чоловіка скасовує потребу в нових. В крайньому разі, в один і той самий момент часу. Система сама себе врівноважила. Менш очевидний, однак тим не менш широко визнаний факт — підвищення рівня життя не провокує нескінченне розмноження.

Сплеск приросту населення спостерігається на порівняно короткому історичному проміжку — 2-3 десятиліття, життя одного покоління, після чого збільшилася тривалість життя і падіння смертності врівноважується падінням народжуваності. Простіше кажучи, оцінюючи наслідки тієї чи іншої події, треба ставити не тільки запитання «що буде, коли», але й «чого не буде, коли». Як та наречена, люди розуміють, що їм не потрібно багато дітей, якщо вони впевнені у виживанні вже наявної.

Властивістю будь-якої системи є прагнення рівноваги. Без цього система не може бути системою. Які б сюрпризи не підносив прогрес, на тому чи іншому рівні баланс і гармонія завжди відновлюються — на рівні людини, суспільства, цивілізації або людства в цілому.

Втім, для будь-якої системи існує виклик, що може бути погашений тільки рівнем вище. Припустимо, вважається, що глобальне потепління — процес, який не може бути врівноважений самим людством, і тому на нас чекає балансування на планетарному рівні — скажімо, танення арктичних льодів і затоплення промислових районів і міст, які зазвичай розташовані саме в низових прибережних районах — як зручно, хіба ні? — потужно стримає запал і можливості людства підігрівати нашу кульку в подальшому. Бац, і баланс знову відновлений.

Багато хто вважає, що кліматичні цикли взагалі від людської діяльності не залежать, а проблема вихлопів владнається на цивілізаційному рівні, не викликаючи втручання планетарних сил. Так це чи ні — питання спірне, але принцип, гадаю, зрозумілий. Прогрес теоретично може породжувати виклики, які не вийде врівноважити на цивілізаційному рівні, зберігаючи рух людства на краще.

Матінку-Землю не варто будити, якщо не хочемо розділити долю динозаврів. До речі, той-таки Хокінг вважає, що глобальна техногенна катастрофа в найближчі тисячу або десять тисяч років неминуча — тож треба якнайшвидше облаштовувати житлоплощу поза межами рідної планети. Хто б сперечався, ми всі за. Але це все-таки відносно далека перспектива.

Повертаючись же до теми статті, щоб зрозуміти, чи загрожує нам поневолення штучним інтелектом, потрібно зрозуміти, чи можна віднести ШІ до викликів, що будуть врівноважені цивілізацією або все-таки він буде урівноважений за рахунок цивілізації?


Шанс об’їхати сингулярність на кривій козі

Але до настання сингулярності людство, найімовірніше, дасть відкоша будь-яким шансам ШІ остаточно його врятувати або знищити. Хокінг зауважив, що людство намагається себе поліпшити генетично — але недостатньо швидко. Однак це не єдиний спосіб еволюції. Крім еволюції біологічної, яка рано чи пізно — швидше рано — стане керованою — є також еволюція технологічна.

Колись давно фантасти вважали, буцімто кіборги можуть покласти край людській расі. Але на практиці кіборгізація швидше за все стане наступним етапом розвитку людства, чимось, описуваним не словами «впровадження», «прорив» або «наступний щабель», що за визначенням має на увазі якесь зусилля, насильство і надлом, а [те,] у що людство зануриться легко і радісно, як зараз пірнуло в соціальні мережі. Більш того, повальна айфонізація і соціалізація людей породжує попит на кіборгізацію, можливість стати кіборгами очікується сильніше [від] нового айфона.

Звісно, жодна фокус-група вам такого не скаже. Як в 2006 році вона б не сказала, що їй потрібен iPhone:

Створювати продукт, спираючись на фокус-групи, по-справжньому важко. Найчастіше люди не розуміють, що їм насправді потрібно, доки сам їм цього не покажеш.

Стів Джобс, BusinessWeek (25 травня 1998 року)

Однак зараз шукати новий iPhone або навіть новий інтернет довго не треба: пляшковим горлечком всієї ІТ-индустрия є інтерфейси. Обчислювальні потужності й можливості наших пристроїв, можливості софта обробляти наші запити істотно перевищують наші можливості їм ці запити повідомляти.

Обробка найпростіших масивів даних — наприклад, зібрати статистику по всіх статтях на «Хабрі» й ранжувати їх за переглядами — вимагають навичок програмування, хоча зрозуміти, що потрібно зробити, може навіть дитина, а виконати роботу здатен середній комп’ютер за лічені хвилини. Та от на етапі між «зрозуміти» і «виконати» — важкоподоланий бар’єр у вигляді необхідності наявних навичок програмування. Пляшкове горлечко, що не дає нам користуватися можливостями, які у нас є. Популярна цитата дорікає в цьому нам:

У нас в кишені пристрій, за допомогою якого можна отримати доступ до найбільших знань людства, а ми використовуємо його для перегляду фото з котиками.

Але доступ до знань не має особливої цінності без уміння ними користуватися. Ще до всяких ЕОМ математиків вчили, що важливо не пам’ятати формули — вони всі є в довідниках — а вміти їх застосовувати. Зараз же найбільші знання людства основній масі доступні в режимі read only — робити вони з ними нічого без спеціальних знань не можуть, навіть найпростішу категоризацію і аналіз.

Винахід способу комунікації з машинами без посередництва коду — чи хоча б його ручного введення — може стати проривом рівня створення інтернету як такого. Людство отримає не просто необмежений доступ до знань, а доступ до найширших можливостей цими знаннями оперувати та народжувати нове знання. Те, що зараз називається big data і годує обмежену кількість високооплачуваних фахівців, має і стане доступним кожному — як колись масова освіта винищили під корінь професію писаря.

Вибухове зростання інтелектуальної потужності людства стане неминучим. Є ще один популярний жарт — про те, що кожне кладовище натоптанто невизнаними геніями. Я не вважаю це жартом. Безліч геніальних ідей, талановитих книг і корисних винаходів ніколи не побачили світу просто тому, що не всі здатні присвячувати їм своє життя або іноді просто не в змозі їх як слід сформулювати. Мотиваційні статті та книги сповнені прикладами людей, які втратили руки і навчилися писати, ходити і грати музику ногами. Або згадаємо знов того ж таки Хокінга.

Але багато людей не здатні, навіть маючи обидві руки, використовувати свій потенціал повністю. І не варто їх в цьому звинувачувати — очі, руки, голос — це все інтерфейси. Потужні, зручні, але неідеальні. В тій чи іншій мірі вони обмежують творчі можливості людського мозку. Є безліч прикладів того, що ці можливості насправді набагато ширші, ніж може здатися. Велика їхня частка пов’язана саме з технологічним прогресом.

Одна з алармістських страшилок, з ним пов’язаних, полягала в тому, що люди втратять роботу, коли все за них робитимуть машини. Однак, як виявилося, з розвитком технологій, нові види роботи з’являються швидше, ніж згасають старі. І йдеться не тільки про сферу обслуговування, яку раніше було прийнято вважати долею майбутніх людей — мовляв, доки машини нас годують, одягають і лікують, людям залишиться тільки надавати іншим людям різні послуги.

Реальною революцією, вчиненою винаходом iPhone, став не смартфон з сенсорним екраном, а відкрита платформа для створення додатків. Людям дали інтерфейс — і сотні тисяч, якщо вже не мільйони, стали наповнювати його своїми ідеями щодо того, як його можна застосовувати. Додатки — це serious bussiness, тому що змінюють не тільки нашу повсякденність — вони змінюють самі принципи нашого життя. Вони вже зараз могли б дбати про наше здоров’я і безпеку на рівні, який недоступний і найбагатшим людям в світі, але все знову впирається в інтерфейси. Ми занадто відчужені від наших пристроїв.

Google Glass, голосові помічники Siri, Cortana і Google Now і навіть концепти незвичайних клавіатур намагаються вирішити цю проблему.

Але це все надбудови на надбудови — наші руки, очі й голос з усіма їхніми обмеженнями. Реальне і очевидне рішення на поверхні: потрібно підбиратися якнайближче до мозку.

Людство дозріло для кіборгізації, воно прагне кіборгізації, йому потрібна кіборгізація і воно пірне в цей стан так само природно, як зараз влізає в свій смартфон, щоб перевірити пошту або нові лайки у «ВКонтакте».

Найпрекрасніше, що люди навіть не зрозуміють, як стали кіборгами — вони просто придбають черговий Apple iMind або Google Thoughts, яким би чином вони не виглядали і не з’єднувалися з нашою нервовою системою — як черговий гаджет, що глибше затягує нас у всесвітнє павутиння. Зрештою, 90% можливостей розумного годинника — повідомляти нам про надходження повідомлень із соцмереж, пошти і месенджерів — і тільки потім рахувати час, кроки і пульс. Під цим соусом люди приймуть будь-який мозковий інтерфейс — аби він був упакований в коробочці якнайкрасивіше.

Ще одна принада кіборгізаціі в тому, що вона зніме наростаючу нерівність поколінь, що в перспективі могло би стати страшнішою від соціальної нерівності — якщо подумати, всі ці «бабусефони» для старшого покоління — це ж просто принизливо.

А тепер уявіть себе через 30 років перед обличчям майбутніх 10-річних — вже готові до «дідусепедів»? Але ж проблема не в різниці інтелекту (хоча інтелектуальна акселерація теж існує), а в потребі навчання новим, постійно мінливим інтерфейсам взаємодії з обчислювальними машинами. Заклики навчати програмуванню дітей знімають тільки частину проблеми — ті, хто вже навчився чомусь раніше, будуть завжди в позиції тих, хто наздоганяє тих, хто вивчає найновіше і найактуальніше зі стану tabula rasa.

Це схоже на вивчення іноземних мов — ми всі знаємо, що їх треба вивчати, і вивчаємо, в міру можливостей, одну за одною — іноді забуваючи, що сенс не в знанні нових мов як таких, а в спілкуванні й обміні знаннями, думками, почуттями та ідеями з людьми іншої культури. З цієї точки зору мова виявляється не засобом комунікації, а ще одним бар’єром, черговим інтерфейсом, який обмежує можливості людини і людства, і завданням прогресу є не навчитися скакати через цей бар’єр, немов зразкова скакова конячка, але елімінувати його цілковито. Звести на нуль його значення в комунікації.

Те ж саме повинні зробити нейроінтерфейси для людини і машини. І зробити швидко — повертаючись до теми війни людини і машин, точніше, майбутньої людини в реальності наявного та чинного ШІ — можливо, кращою гарантією того, що ми ніколи не програємо еволюційну гонитву машинам, натомість самі станемо машинами. Або хоча б навчимося говорити з ними однією мовою. Звісно, на стороні ШІ будуть великі обчислювальні потужності. Але канали зв’язку з матеріальним світом будуть одні й ті ж самі.

+2
285
RSS
Це одна з перспектив людства… з точки зору людства, а не конкретної країни!
Кіборгізація в першу чергу, прийде на допомогу особам неповносправним. Штучні очі чи вуха вже випробовують. Так само і спеціальні чіпи для з'єднання розривів у спинному мозку.
Голівуд як завжди рулить.
Побачення наосліп
Простенька романтична комедія з елементами кіборгізації.
Подивився. В цілому сподобалось.
Хоча до головного героя маю зауваження: з мого досвіду спілкування із сліпими знаю, що їхні очі не бігають, а завмерли й ніби «дивляться» в одну точку — тоді як у хлопця-актора оченята постійно бігають! Це псує все позитивне враження від фільму.
Гарне зауваження, щодо погляду незрячих. Не допрацювали режисер і актор.
15:31
+2
Прочитав це і я. Ось в чому користь ВИПАДКОВИХ ДОПИСІВ. Дякую, друже Доброславе. Штучний інтелект не навчить дурня бути розумним.
Але може вберегти його від небезпеки. Щоб не зашкодив собі чи іншим.

Випадкові Дописи