Homo Deus - історія майбутнього

Юваль Ной Харари  | Yuval Noah Harari |

конспект книги - дуже коротко

Про безсмертя

Протягом тисячоліть головним прокляттям людини були голод, епідемії і війни. Людству вдалося взяти ці біди під контроль. Скоротивши смертність від голоду, хвороб і насильства, людство буде прагнути подолати старість і навіть саму смерть. Зменшивши страждання в світі, ми будемо намагатися зробити людину активно щасливою. Подолавши необхідність боротьби за виживання, людина розумна захоче вдосконалитися в людину божественну. Вперше в історії більше людей помирають від старості або переїдання, ніж від голоду або від інфекцій, більше людей закінчують життя самогубством, ніж виявляються убитими на війні, терористами і злочинцями разом узятими.

Загальна декларація ООН про права людини проголошує право на життя фундаментальною цінністю. Оскільки смерть явно порушує це право, то смерть є злочином проти людяності, і їй повинна бути оголошена війна. Протягом історії людське життя ніколи особо не цінувалося. Оскільки християнство, іслам та індуїзм дружно наполягали на тому, що сенс нашого існування залежить від нашої долі після смерті, то і смерть розглядалася як природний і позитивний елемент існування.

В очах сучасної людини смерть втратила свого містичного значення і перетворилася на звичайний технічний збій, з яким можна і потрібно впоратися так само, як з будь-якою іншою технічною проблемою. Звичайно, людина не стане безсмертною в найближчі роки, однак досягнення в галузі генної інженерії, регенеративної медицини і нанотехнологій дозволяють сподіватися на значне продовження життя. Харарі пропонує задуматися, що станеться, наприклад, з інститутом шлюбу або з ринком праці, якщо середня тривалість життя стане 150 років.

Про щастя

Кому потрібне нескінченне життя, якщо воно нещасливе? Протягом XIX і XX століть індивідуальне благополуччя нікого сильно не цікавило. Охорона здоров'я та система соціального забезпечення були потрібні не для щастя, а для зміцнення націй, які потребували міцних солдатів, робітників і здорових жінок для відтворення тих же солдатів і робітників.

В наші дні прагнення до щастя знайшло набагато більший сенс, і багато політиків і економістів пропонують доповнити поняття ВВП поняттям «валове внутрішнє щастя». Однак щастя - явище ілюзорне і важкодосяжне. Покінчити зі стражданням простіше, ніж відчути щастя. Шматок хліба був джерелом радості для середньовічного селянина. А як принести щастя нудьгуючому і добре оплачуваному банкіру?

З часів Епікура було відомо, що гроші, слава і задоволення щастя не приносять. У Перу, Гватемалі і Албанії, країнах бідних і політично нестабільних, приблизно 1 людина з 100 000 закінчує життя самогубством. У багатих і благополучних країнах, таких як Швейцарія, Франція, Японія та Нова Зеландія, 25 осіб з 100 000 йдуть з життя добровільно.

Щастя володіє двома складовими: психологічним і біохімічним. На психологічному рівні ми відчуваємо щастя, коли наші очікування відповідають реальності. Проблема, однак, у тому, що зростання наших очікувань завжди випереджає поліпшення об'єктивних умов. Біологія нам говорить, що і наші очікування, і сприйняття щастя визначаються біохімією нашого мозку, а ніяк не нашим економічним або соціальним становищем. Однак наша біохімічна система протягом тисячоліть була призначена для збільшення шансів на виживання, а не для досягнення щастя.

Тоді виходить, що досягти щастя можна тільки шляхом штучних маніпуляцій з нашою біохімією. З цим завданням успішно справляються численні психотропні ліки та наркотики, над удосконаленням яких невтомно працюють дослідні лабораторії, фармацевтичні фірми і злочинні організації. І це лише початок. Фахівці вже проводять експерименти зі зміни біохімічних процесів в організмі як шляхом прямого впливу електродів на певні ділянки мозку, так і за допомогою генної інженерії.

Про душу

Чи справді людина володіє якоюсь магічною іскрою, яка відрізняє нас від курей, свиней і комп'ютерних програм? Якщо так, то звідки береться ця чарівна іскра і чому ми впевнені, що штучний інтелект нею теж не обзаведеться? Якщо такої іскри немає, то чи має сенс продовжувати надавати особливу цінність людського життя, особливо після того, як комп'ютери перевершать інтелектуальні здібності людини?

Віра в безсмертну душу людини протягом століть була стовпом нашої правової, політичної та економічної системи і пояснювала, наприклад, чому немає нічого особливого в убивстві тварин - заради їжі або просто для задоволення. Але до сих пір не з'явилося жодного наукового доказу існування душі, хоча її ретельно шукали в усіх закутках серця і сплетеннях мозку. У свиней душі немає, але і у людини її теж немає.

Згідно з опитуванням Геллопа, тільки 15% американців вважають, що людина з'явилася в результаті природного відбору без будь-якого божественного втручання; 46% вірить, що бог створив людей приблизно 10 тис. років тому; серед випускників коледжів 46% вірять в біблійну історію створення світу.

Відповідно до теорії еволюції, не що інше, як молекула ДНК максимально відображає суть ефемерних понять людської природи, внутрішнього «я», душі і т. д.  Розставання з образом безсмертної душі дається важко не тільки віруючим християнам і мусульманам, але і світським людям. Тому теорія еволюції, на відміну, наприклад, від теорії відносності або квантової механіки, викликає у багатьох таке пристрасне неприйняття.

Про розум і свідомість

Згідно Харарі, розум є потік суб'єктивного досвіду, що складається з відчуттів, емоцій і думок, які, переплітаючись, стають потоком свідомості. Роботи не мають відчуттів і нічого не бажають, відповідно, у них немає свідомості. Наука поки знає напрочуд мало про те, як функціонує людський розум. Поки ніхто не розгадав, як електричні струми в мозку створюють суб'єктивні відчуття і навіщо людині потрібно відчувати голод чи страх. Дивно, що чим краще вчені розуміють, як працює мозок, тим загадковіше стає роль розуму і почуттів. Нікому поки не відомо, чи відбувається в нашому розумі щось відмінне від того, що відбувається в мозку.

Виявляється, на 99% наше тіло, включаючи м'язи і гормони, рухається без участі свідомих відчуттів. Тоді чому нейронам, залозам і м'язам потрібні емоції і відчуття в 1% випадків?

Алгоритми, які контролюють самоврядні автомобілі, з якими експериментують «Тесла» і «Гугл», кожну секунду обробляють величезну кількість інформації про інші автомобілі, пішоходів, знаки дорожнього руху і при цьому не відчувають почуття страху. Жодній системі обробки інформації не потрібні суб'єктивні відчуття для того, щоб нормально функціонувати. Якщо ми не можемо пояснити, як працює наша свідомість, то, може, просто знехтувати нею? Протягом тисячоліть люди пояснювали незрозумілі природні явища волею Божою. Однак в наші дні ніхто не сприймає серйозно існування бога. Та ж доля спіткала і поняття душі. Так може, пора і розум з почуттями відправити на смітник історії?

Вчені все ж погоджуються, що свідомість існує і має моральну цінність, однак вона не виконує ніякої біологічної функції. Можливо, свідомість є біологічно марним побічним продуктом процесів, що відбуваються в мозку. Відповідно до одного з наукових догматів, всі наші відчуття - результат взаємодії електрострумів в мозку. Відповідно, теоретично можливо симулювати нескінченну кількість віртуальних світів, нічим не відрізняються від реальності. І якщо це станеться, то де гарантія, що ми опинимося в реальному світі?

Про співпрацю

Так в чому ж унікальність людини, яка дозволила їй домінувати над світом природи? Визнаючи значення інтелекту і трудових навичок, Харарі стверджує, що вирішальною характеристикою людини, яка порушувала його до рівня володаря планети, стала здатність людини до співпраці з собі подібними. Ніхто з світу тварин не вміє так різноманітно і гнучко співпрацювати з незліченною кількістю незнайомців, як людина.

Історія пропонує безліч прикладів важливості співпраці. Стародавній Рим завоював Грецію не тому, що римляни були розумнішими, а тому, що вони зуміли краще організуватися. Протягом тисячоліть дисципліновані армії легко здобували перемогу над дезорганізований ордою, і добре організовані еліти тримали в підпорядкуванні роз'єднані маси. Для успіху будь-якої революції не так важливо, скільки людей підтримують її ідеї - важливо, яка кількість прихильників революції здатна створити ефективну організацію.

Про значення міфів

Крім об'єктивної реальності (наприклад, сила тяжіння) і суб'єктивної реальності (наші переконання і почуття), є ще третій рівень реальності - інтерсуб'ектівний. Існування об'єкта інтерсуб'єктивної реальності залежить від взаємодії великого числа людей. Наприклад, гроші, закони і імперії мають значимість і цінність тільки до тих пір, поки велика кількість людей домовилися вірити в їхню соціальну значимість. Якби долар перестали приймати касири в супермаркетах, то він швидко перетворився б в непотрібний папір, а Радянський Союз припинив своє існування, тому що так домовилися глави трьох держав.

Будь-якій людині важливо вірити, що його життя має якийсь об'єктивний сенс. Насправді ж життя більшості людей має сенс тільки в рамках тих міфів, якими вони один з одним діляться і в які вірять. Чому весілля в церкві, пост на Рамадан або участь у виборах мають сенс? Тому що так думають наші батьки, друзі, родичі, сусіди і навіть жителі далеких країн, а також їхні друзі, сусіди і родичі. У міру ходу історії люди створювали свою систему міфів і слідували їй всім серцем. Але рано чи пізно кожна така система розсипається, і на її місце приходить нова. Озираючись назад, нам здається повним божевіллям брати участь в хрестових походах в надії потрапити в рай чи загрожувати атомною війною заради збереження віри в комунізм. За такою логікою, Харарі задається питанням, а чи не з'явиться нашим нащадкам років через сто, що сьогоднішня віра в демократію і права людини - теж повна нісенітниця?

Людина править світом тільки тому, що тільки вона вміє створювати інтерсуб'єктивну систему міфів, яка існує тільки в уяві. З її допомогою люди організовували хрестові походи, соціалістичні революції і руху на захист прав людини. Здатність створювати ці інтерсуб'єктивні системи не тільки відрізняє людей від тварин, але і проводить вододіл між гуманітарними науками і природними. З точки зору гуманітарних наук, вкрай важливо розуміти розвиток системи міфів людини, і їх не можна просто зводити до продукту життєдіяльності гормонів і нейронів. Північна і Південна Корея так відрізняються не тому, що гени людей відрізняються, а тому, що в Північній Кореї панує інша система міфів.

Харарі передбачає, що в XXI столітті межа між історією і біологією почне розпливатися, але не тому, що ми знайдемо біологічне пояснення історичних подій, а тому, що на догоду міфам (читай - ідеології) будуть перебудовані спіралі ДНК, на догоду політичним і економічним інтересам змінять кліматичні умови, і інтерсуб'єктивна реальність поглине реальність об'єктивну. Міфи XXI століття можуть стати найпотужнішою силою, і якщо ми хочемо розуміти, яким буде наше майбутнє, нам треба розібратися в тих міфах, які надають сенс життя.

Як створювалися міфи

Приблизно 70 000 років тому люди навчилися говорити, і з'явилися історії про духів, демонів і фей. З розвитком землеробства з'явилися різноманітні боги і богині, від імені яких збиралися податки, в їх честь зводилися храми, їх символи прикрашали будівлі і одяг. Для древніх шумерів їх боги були такою ж реальністю, як для нас «Гугл» і «Майкрософт».

Виникнення писемності та грошей дозволило розширювати межі поселень і збирати податки на величезних територіях. Утворився шар бюрократів і з'явилися величезні царства. Єгипетські фараони набули статусу божества. У порівнянні з шумерськими богами, єгипетські боги і фараони були набагато більш могутніми - вони контролювали життя мільйонів людей, які з їхньої волі зводили міста і піраміди.

Писемність дозволила організувати цілі суспільства за моделлю алгоритму, де окрема людина являє собою крихітну ланку в ланцюзі, і всі важливі рішення приймаються алгоритмом. Алгоритмічна структура будь-якої організації означає: неважливо, хто саме виконує роль виконавця в лікарні, армії, школі, корпорації або королівстві, до тих пір, поки він або вона дотримуються прийнятих правил і протоколів. В ідеально функціонуючому алгоритмі твоя доля знаходиться в руках системи, а не конкретної людини у плоті і крові.

Для грамотної еліти все написане на папері було так само реально, як дерева, корови і люди. Писемність спочатку скромно дозволяла описувати реальність, але з часом вона перетворилося в спосіб зміни реальності. Якщо офіційний звіт суперечить реальності, то, як правило, реальність «коригується» під звіт. Той, хто коли-небудь мав справу з будь-якою складною бюрократичною системою, знає, що текст документа набагато важливіший за правду.

У міру зростання впливу бюрократії збільшувалася значимість письмового тексту. Служителі різних релігій стали складати переліки діянь своїх богів і їх заповіді. Ці записи намагалися дати повний опис «реальності», і покоління вчених мужів стали шукати відповіді на будь-які питання на сторінках Біблії, Корану чи Вед. Забавно, що до сих пір президенти США приймають присягу на Біблії, і свідки в суді обіцяють говорити правду, поклавши руку на Біблію, при тому що Біблія сповнена вигадок, міфів і помилок.

Міфи абсолютно необхідні для нормального функціонування будь-якого суспільства. Суспільство розвалиться без віри в існування, наприклад, держави або корпорації. З іншого боку, віра в національні або релігійні міфи або в міф про необхідність захисту національних інтересів може привести до війни. Тобто виходить, що причина війни - уявна, а страждання людей - абсолютно реальні. Тому, каже Харарі, так важливо вміти відрізняти вигадку від реальності. У XXI столітті міфи будуть ще більш впливовими, а ідеології - ще більш тоталітарними. Ці ідеології за допомогою алгоритмів і біотехнологій будуть не тільки контролювати наші щохвилинні дії, а й формувати наш мозок і створювати віртуальні реальності зі своїм раєм і пеклом. Відрізнити вигадку від реальності і науку від релігії стане ще важче.

Про економічне зростання

Сучасний світ переконаний, що економічне зростання не тільки можливе, а й життєво необхідне. Поки населення продовжує збільшуватися, економічне зростання потрібне хоча б для того, щоб підтримувати наявний рівень життя. В іншому випадку безробіття буде рости, зарплати - падати, а соціальна напруга - наростати. Ідея економічного зростання об'єднує всі релігії, ідеології і політичні рухи. І комуністи, і капіталісти вірили в створення раю на землі за рахунок економічного зростання, тільки розходилися в питанні, якими методами його досягти. І якщо соціальні структури, природне середовище проживання або традиційні цінності постають на шляху зростання економіки, то їх змітають з дороги, не замислюючись.

Але чи може економіка зростати нескінченно? Харарі вважає, що може, оскільки за допомогою науки люди постійно відкривають нові види енергії і матеріалів. У сучасному світі існує три види ресурсів - сировина, енергія і знання. Знання - ресурс невичерпний. Чим більше знання використовуються, тим більше їх стає. Завдяки знанням людство зможе подолати проблему вичерпання ресурсів.

Людство стоїть перед іншою страшною загрозою - екологічною катастрофою. Коли виникає тема зміни клімату, то виявляється, що прихильники економічного зростання в особі президентів, міністрів і директорів вірять, що станеться диво і вчені придумають, як врятувати планету. А якщо і не придумають, то інженери все одно зможуть побудувати високотехнологічний «ковчег», який врятує життя еліти. Легковажна віра в рятівний «ковчег» являє собою одну з найбільших загроз для майбутнього людства і всієї екосистеми.

Про гуманізм

Протягом століть люди різних культур вірили, що вони грають роль в якомусь великому проекті, задуманому всемогутніми богами або законами природи. І це надавало сенс людському життю і створювало психологічний захист від нещасть. Які б біди не випадали на долю людини, вона вірила, що все відбувається згідно з божественним планом, і якщо не в цьому житті, то вже після смерті людина точно знайде щастя. У сучасному світі прийнято вважати, що життя не має сценарію, директора або продюсера - і не має сенсу. Всесвіт сліпий і безцільний, події просто відбуваються одна за іншою, і ніяка вища сила не надає сенсу нашим стражданням. Однак людство зуміло повернути сенс нескінченній порожнечі космосу.

В останні кілька століть поширилися ідеї гуманізму, згідно з якими людина має унікальну і священну сутність, що є джерелом сенсу і значення життя у Всесвіті. Гуманізм передбачає, що людина черпає сенс життя і навколишнього світу зі свого досвіду, зі свого внутрішнього «я». Якщо в середньовіччі бог вирішував, що є добро чи зло, то з розвитком гуманізму людина з його свободою волі стала вищим авторитетом, а людські почуття - критерієм моралі. Вбивство і крадіжка є злом не тому, що бог велів «Не вбий, не вкради», а тому, що це приносить страждання жертві і її близьким. Гуманізм бачить життя як поступовий процес внутрішнього росту, переходу від невігластва до знання через накопичення інтелектуального, емоційного і фізичного досвіду. Гуманістичний погляд на життя ліг в основу багатьох сучасних індустрій. Туристичні агентства, ресторани і художні галереї продають нам не готелі, обіди або картини - вони продають новий досвід.

Три течії гуманізму

Гуманізм, як будь-яка успішна релігія, поступово розділився на конфліктуючі «секти». Ортодоксальна течія робить ставку на індивідуальну свободу. Чим більше свободи, тим багатше, багатогранніше і красивіше світ навколо нас. Вираз індивідуальної волі важливіший за інтереси держави. Ця течія отримала назву «лібералізм». Критики лібералізму задаються питанням: в світі багато індивідів, і кожен має право висловлювати свої почуття, і як поєднати всі конфліктуючі почуття і бажання, наприклад, почуття нещасних біженців в Німеччині і почуття німців, що турбуються за збереження своєї національної ідентичності?

Іншим напрямком гуманізму став соціалістичний гуманізм, фокусом якого є колектив. Соціалісти пропонували припинити «занурення в себе» і задуматися: «Що відчувають інші люди, як мої дії впливають на їх досвід?» Соціалісти закликали створювати партії і профспілки. Якщо ліберали вважають, що виборець на виборах або покупець в супермаркеті завжди правий, то соціалісти впевнені, що партія і профспілка завжди «знають краще», ніж конкретна людина.

Третім розгалуженням гуманізму став гуманізм еволюційний, що спирається у своєму баченні світу на теорію еволюції Дарвіна. З точки зору еволюційних гуманістів, конфлікти служать живильним середовищем для природного відбору, який рухає розвиток вперед. Шляхом природного відбору людство буде ставати все сильніше і здоровіше, і рано чи пізно народиться «надлюдина». А якщо в ім'я соціальної рівності і прав людини людям дозволено «розслабитися», то це може привести до деградації і навіть знищення людської раси.

Харарі зазначає, що аж ніяк не всі еволюційні гуманісти стають нацистами, так само як ідеї соціалізму не зводяться до сталінських таборів. Автор вважає, що ідеї еволюційного гуманізму будуть відігравати значну роль у формуванні культури XXI століття.

Про лібералізм

На початку XXI століття лібералізм, з притаманними йому демократією і вільним ринком, переважає у всіх розвинених країнах і в багатьох країнах, що розвиваються. Однак лібералізм не може спочивати на лаврах, так як в основі його успіху закладені передумови для руйнування цієї ідеології. Коли генна інженерія і штучний інтелект повністю розкриють свій потенціал, цінності лібералізму, демократії та вільного ринку можуть виявитися такими ж непотрібними, як ножі з кременю, магнітофонні касети та комунізм. Що станеться, коли ми зрозуміємо, що у виборців на виборах і покупців в супермаркетах немає свободи вибору, коли з'являться технології, здатні обдурити їх почуття, і людський досвід стане ще одним дизайнерським продуктом, по суті, ні відрізняється від іншого товару в магазині?

Звертаючись до історії, багато, напевно, думають, що падіння царства фараонів і відмова від ідеї про божественне походження світу є подіями позитивними. Можливо, що зникнення гуманізму теж виявиться корисним. Люди зазвичай бояться змін, тому що вони бояться невідомості. Все завжди змінюється.

Про свободу вибору

Ліберали так цінують індивідуальну свободу, тому що вірять, що людина має свободу вибору. Однак сучасна наука довела, що будь-який вчинок людини зумовлений ланцюговою реакцією біохімічних процесів в організмі, а зовсім не є вираженням вільної волі. Аргумент про те, що людина відчуває себе вільним і діє відповідно до своїх бажань, теж не витримує критики, тому що, згідно з науковими даними, людина не вільна у виборі своїх бажань - вони зумовлені біохімічними процесами в мозку, які, в свою чергу, зумовлені його генетичним кодом, який став результатом тривалого еволюційного розвитку і випадкових мутацій. Спостереження за активністю головного мозку показали, що вибір рішення в мозку відбувається на кілька секунд раніше, ніж людина усвідомлює зроблений ним вибір.

Висновок про відсутність свободи волі має не тільки філософський зміст, а й цілком практичне застосування. Якщо у людини немає свободи волі, значить, можна управляти її бажаннями, використовуючи наркотики, генну інженерію або пряму стимуляцію мозку.

Наприклад, вчені працюють з щурами, яким імплантували електроди в область мозку, що відповідає за чуттєве сприйняття. Це дозволяє вченим командувати щурами за допомогою віддаленого пульта управління. Після деякого тренування дослідники навчилися не тільки змушувати щурів повертати направо або наліво і забиратися по сходах, а й стрибати з висоти - заняття, яке «звичайні» щури терпіти не можуть. Цікаво, що щури нічого не роблять проти волі, а навпаки, як показують експерименти, вони відчувають бажання підніматися по сходах і стрибати з висоти.

Харарі, посилаючись на наукові експерименти, стверджує, що, впливаючи на потрібні ділянки мозку, можна маніпулювати людиною і «позбавити» її від таких почуттів, як страх, гнів, любов, від депресії. Коли подібний вплив стане рутиною, можна буде, наприклад, позбутися від такої проблеми, як лінь. Ти хочеш стати піаністом, але замість занять віддаєш перевагу дивитися телевізор? Нічого страшного. Одягни спеціальний шолом, завантаж програмне забезпечення - і ось ти вже сидиш за піаніно.

У XXI столітті ми зіткнемося з потоком дуже розумних пристроїв, які повністю ігнорують поняття вільної волі людини. Чи зможуть демократія, вільний ринок і права людини пережити цей потік?

Про роль людини в майбутньому світі

Харарі передбачає, що в майбутньому люди перестануть розглядатися в якості робочої і військової сили, відповідно, вони втратять свою цінність в майбутній політиці та економіці. Війни буду вестися дронамі і роботами, керованими «розумним» алгоритмом, а кібератака на інфраструктуру «ворога» заподіє більше шкоди, ніж будь-яка армія старого зразка.

Люди втратять свою економічну цінність, тому що інтелект «відокремиться» від свідомості. До недавнього часу було прийнято вважати, що тільки свідомі істоти здатні виконувати високоінтелектуальні завдання. Однак розвиток кібернетики і комп'ютерних технологій говорить про зворотне - виконання складних завдань точно вимагає високого інтелекту, а наявність свідомості - необов'язково. Харарі на різноманітних і дотепних прикладах пояснює, чому з часом цілий ряд професій (водії, транспортні диспетчери, фінансові брокери, фармацевти, юристи, викладачі і лікарі) будуть непотрібними.

Наприклад, першорядне завдання лікаря - поставити правильний діагноз і призначити лікування. «Живий» лікар здатний обробити обмежений обсяг інформації, він втомлюється, і у нього мало часу на спілкування з хворим. На відміну від лікаря «з плоті і крові», штучний інтелект ніколи не втомлюється, може працювати 24 години на добу і здатний швидко обробити повну інформацію про історію хвороби хворого і його генотип, історії хвороб його родичів, проаналізувати всю наявну в світі і щодня оновлювану інформацію про хвороби та способи їх лікування. В результаті комп'ютер швидко поставить точний діагноз і призначить найоптимальніше лікування. Більш того, такий штучний інтелект, спостерігаючи за тиском, активністю мозку та іншими біометричними даними свого пацієнта, зможе набагато краще, ніж «живий» доктор, відчути настрій і стан пацієнта і розмовляти з ним як раз таким тоном і голосом, який найкраще відповідає емоційного настрою пацієнта.

Про алгоритми

На думку Харарі, людина являє собою сукупність органічних алгоритмів, відшліфованих природним відбором протягом мільйонів років. Алгоритмічні обчислення не залежать від матеріалу, з якого зроблений калькулятор. Тому, вважає Харарі, немає підстав думати, що неорганічний алгоритм не зможе досягти або перевершити рівень завдань, які виконуються органічним алгоритмом. Завдяки потужним обчислювальним можливостям комп'ютерів дуже невелике число співробітників «Убер» керують мільйонами водіїв. А в 2014 р штучний інтелект на ім'я Vital став членом ради директорів гонконгського фонду венчурного капіталу, який інвестує в фірми, що займаються регенеративної медициною. Як і інші п'ять членів ради директорів, Vital бере участь в голосуванні по всіх інвестиційним рішенням.

Але звідки беруться ці потужні алгоритми? Якщо спочатку алгоритм був продуктом колективних зусиль команди програмістів, то поступово, вважає Харарі, з появою самонавчальних машин і штучних нейронних мереж алгоритми будуть розвиватися незалежно від людини, навчаючись на своїх помилках і удосконалюючи свої здібності. Вони досягнуть таких висот, що людський розум вже не зможе їх осягнути.

У міру того як алгоритми будуть «видавлювати» людей з ринку праці, багатство і влада зосередяться в руках крихітної еліти, що володіє цими всемогутніми алгоритмами, створюючи нечувану соціальну і політичну нерівність. Більш того, алгоритми зможуть самі стати власниками. Ми давно звикли до таких абстрактних понятть, як корпорація або держава, і нас не дивує, що «Тойота» або Аргентина, не маючи ні фізичного тіла, ні розуму, є суб'єктом права, володіє землею і грошима. Чому тоді не уявити собі, що аналогічний статус буде надано алгоритму?

Про втрату індивідуальності

Загрозу лібералізму Харарі бачить в тому, що людина в майбутньому втратить свою індивідуальність, оскільки «всесвітня мережа» буде знати і розуміти людей краще, ніж вони розуміють себе самі, і, відповідно, приймати за них всі важливі рішення. Якщо ми надамо «Гуглу» вільний доступ до інформації, що прочитується з наших біометричних пристроїв, до наших історій хвороби, скан ДНК, і «Гугл» знатиме, що відбувається з нашими банківськими рахунками, який у нас рівень цукру в крові і як часто ми займаємося сексом, то, звичайно, він буде знати про нас більше, ніж знаємо ми самі. І ми будемо довірливо радитися з «Гуглом», який фільм подивитися, яку професію обрати, чию пропозицію про роботу прийняти і за кого вийти заміж / одружитися.

В обмін за такі всеосяжні консультації ми «всього-навсього» повинні будемо відмовитися від ідеї, що кожна людина індивідуальна і вільна приймати власні рішення. Нам потрібно буде звикнути до думки, що людина більш не є автономною сутністю, а являє собою частинку величезною глобальної мережі. Уже зараз дослідження показало, що алгоритм «Фейсбуку» краще розбирається в особливостях особистості та характеру користувачів, ніж їхні друзі, подружжя і батьки.

На зорі європейського імперіалізму купці і колонізатори купували острова і країни в обмін на різнокольорові намиста. У XXI столітті особиста інформація є, мабуть, найдорожчим ресурсом, який ще залишився у людства, а ми її добровільно віддаємо гігантам інтернету в обмін на відео з котиками.

Про «надлюдину»

Харарі передбачає, що людство може виявитися розділеним на біологічні касти. До елітної касти належатимуть «надлюди», що володіють нечуваним здоров'ям, довголіттям, розумом і творчими здібностями, які дозволять їм приймати всі найважливіші рішення в світі. І буде нижча каста, що складається з решти людства, що перебуває в підпорядкуванні у алгоритмів і еліт. Оскільки «народні маси» втратять свою економічну і політичну значимість, то еліти можуть, наприклад, вирішити, що не варто витрачати час і кошти на медичне обслуговування бідних і непотрібних людей, а краще продовжувати займатися удосконаленням еліт. Еліти розлучаться зі своїми ліберальними корінням і будуть звертатися зі звичайними смертними не краще, ніж ми звертаємося з тваринами.

Про нову релігію

На зміну лібералізму прийде нова релігія, яка оголосить, що Всесвіт складається з потоку даних, і цінність будь-якого явища або суті визначається внеском в обробку даних. Харарі називає її dataism. Датаізм міцніше за все пов'язаний з двома дисциплінами - кібернетикою і біологією. Датаісти впевнені, що будь-який організм, будь то жираф, помідор або людина, є інструментом обробки інформації. І економісти тепер сприймають економіку як систему обробки даних. Політологи теж все частіше дивляться на демократії і диктатури як на конкуруючі механізми збору та аналізу інформації.

Харарі вважає, що сучасні демократичні структури не в змозі швидко збирати і обробляти інформацію, тому вони втрачають контроль над ситуацією і не можуть запропонувати осмислену картину майбутнього. Те ж саме відбувається і з авторитарними режимами. Однак вакуум влади, як правило, заповнюється швидко. Питання в тому, які структури прийдуть на зміну звичним демократичним або авторитарним політичним інститутам, і хто буде їх контролювати?

Якщо розглядати людство як єдину систему обробки інформації, то результатом роботи цієї системи буде ще більш ефективна система під назвою Інтернет Всіх Речей. Основна заповідь датаізма - все повинно бути пов'язано з усім. Людські організми, і автомобілі на вулиці, і кури в курнику, і дерева в джунглях - все повинні бути приєднані до Інтернету Всіх Речей.

З часів французької революції датаізм - перший рух, яке проголосив істинно нову цінність - свободу інформації. Чому американці здоровіше, багатше і щасливіше іранців або нігерійців? Тому що в Америці більше свободи інформації, вважають датаісти. Вільний обмін інформацією може, наприклад, скоротити шкідливі викиди в атмосферу шляхом раціоналізації транспортної системи. Навіщо людині власний автомобіль, коли, як правило, він ним користується пару годин на добу? Набагато розумніше створити пул «розумних» машин, керованих алгоритмом, які будуть подаватися в точно заданий час і місце і відвозити, куди потрібно. В цьому випадку пул з 50 млн машин зможе замінити мільярд приватних автомобілів, відповідно, скоротитися потреба в дорогах, мостах, тунелях і паркувальних місцях. При цьому, правда, доведеться відмовитися від права на приватне життя і постійно повідомляти алгоритму про своє місцезнаходження.

Людям подобається бути частиною потоку інформації, тому що тоді людина відчуває приналежність до чогось великого. Датаізм проповідує, що кожне твоє слово і дія є частиною глобального потоку інформації, а алгоритми за тобою спостерігають і піклуються про тебе. Який сенс робити вчинки або набувати нового досвіду, якщо про це ніхто не знає?

Якщо гуманізм закликав знаходити сенс життя всередині нас, то датаізм вірить, що наш досвід нічого не означає, якщо їм не поділитися з «друзями» онлайн. Помістивши коментарі, блоги і фотографії в інтернет, ми збагачуємо глобальну систему обробки інформації, і в цьому головна цінність людини. Так само, як гуманізм свого часу розвінчав ідею бога, заявивши, що бог - плід уяви людини, датаізм покладе край ідеї про цінність людини, заявляючи, що людська уява - не що інше, як біохімічний потік алгоритмів.

Що станеться з людиною, коли датаізм і Інтернет Всіх Речей охопить весь світ? Харарі вважає, що роль людини буде спочатку зведена до мікросхеми, потім до біта інформації, і в кінці кінців ми «розчинимося в потоці інформації, як грудка землі в бурхливому річковому потоці». Іншими словами, homo sapiens може зникнути, як зникали до нього інші тварини, що не витримали природного відбору.

---

Прочитавши Homo Deus, ми успішно розширили свої уявлення про релігію, про душу, про свідомість і розум, про свободу вибору (або її відсутності), про гуманізм і ліберальної демократії. Харарі зумів логічно і переконливо пов'язати минуле і сьогодення людства і підвести читача до кордону з майбутнім. І ось тут Харарі дозволив своїй уяві розігратися, намалювавши різнопланові, нечіткі, іноді суперечливі і завжди нерадісні картинки недалекого майбутнього. На думку автора, людство або виявиться у владі всемогутніх алгоритмів, або саме «розчиниться» в потоці інформації, ставши її часткою, або перетвориться в «зайвих» людей, підштовхує до вимирання вузької елітою, яка складається з «надлюдей».

При будь-якому сценарії розвитку нашого майбутнього Харарі переконаний, що генетики, біологи і кібернетики навчаться згодом переписувати наші генетичні коди, перенастроювати схему роботи мозку, змінювати біохімічний баланс в організмі, створювати штучні органи і неорганічний штучний інтелект.

Протягом століть, незважаючи на численні революційні зміни в науці і технологіях, людська природа залишалася незмінною. Тому ми до сих пір вчимося у Конфуція, співпереживаємо героям Софокла, Евріпіда і Шекспіра. Однак, як тільки наука навчиться перебудовувати людський розум і психіку, знайомий нам homo sapiens зникне, і почнеться нове буття, зрозуміти і передбачити яке поки нікому не дано. На думку Харарі, наші нащадки будуть відрізнятися від нас настільки ж, наскільки людина розумна відрізнявся від неандертальця.

Якщо читач стурбований такими перспективами, Харарі поспішає заспокоїти. Він звертає нашу увагу на парадоксальний факт: накопичення і обробка інформації відбуваються все швидше, проте наше розуміння загальної картини світу і здатність робити прогнози тільки зменшується. Тому Харарі не намагається передбачити наше майбутнє, а запрошує читача подумати над сьогоднішніми тенденціями і обговорити, поки не пізно, варіанти вибору, який стоїть перед людством.