Два десятиліття відділяють нас від створення суперінтелекту - штучного розуму, який усвідомлює себе, за здібностями і характеристиками має бути близьким до або перевершує розум людини. Цифру називають експерти по ІІ і, незважаючи на те, що те ж саме вони обіцяли десять, і двадцять, і тридцять років тому, нині віра в успіх цього грандіозного підприємства як ніколи сильна: згадайте паніку, що розпалюється навколо можливої загрози штучного інтелекту для цивілізації . Втім, сьогодні я пропоную поговорити ні про що набила оскому теми повстання машин, а про близьку до неї, але ще майже недослідженою темою перетину ІІ з таким чисто людським феноменом як релігія.
Якісь примітивні вірування в надприродне властиві всьому живому: в знаменитому досвіді американця Берреса Скіннера , Голуби, яких годував генератор випадкових чисел, скочувалися в забобони. Людина часом поводиться не розумніше птиці (згадайте культ карго ), Але тільки людина з його розвиненими комунікаційними здібностями зміг довести віру в чудеса до логічного досконалості.
Ми століттями вигострюємо правила процедур, пишемо технічні керівництва по вірі, будуємо реактори віри і золотим їх купола. Погодьтеся, як тільки в нашому розпорядженні виявиться справжній штучний розум, природно буде спробувати прищепити йому одну з релігій. Зрештою навіть право інопланетян на причащання до святих таємниць тепер визнано самим Папою Римським. Так хто ми такі, щоб закривати дорогу до спасіння зрівняти з нами по розумності машині?
Релігій маса, але вибирати швидше за все доведеться з двох найпопулярніших: більше половини населення Землі сповідують одну з авраамічних релігій, а саме християнство або іслам. Щоб не загубитися в джунглях філософських дискусій, пропоную поки залишити в стороні питання загального значення, на зразок того, чи є у машини душа і чи потрібно її рятувати, які у електронного дитя людського можуть бути гріхи, чи прийме вона наші релігії або спробує написати власну і звернути вже нас. Замість цього давайте зосередимося на аспекті, що має очевидне практичне значення, тобто на принципову різницю між білковими і напівпровідниковими структурами.
Будівельна одиниця людського розуму - нейрон. А він, як і все живе, з часом деградує і діє неточно. Ми можемо щось забути, десь помилитися. Штучним розум напевно буде збудований на імітації тих же нейронів, але навіть якщо через двадцять років винайдуть щось новеньке, машина в основі своїй залишиться калькулятором - який не має звички втрачати або спотворювати інформацію. У калькуляторі балом править логіка і якщо вираз можна обчислити, результат завжди буде однаковий. Навіть штучні нейромережі хоч і дають приблизний відповідь, його можна строго округлити до найближчого цілого: функція, недоступна живому! Що в свою чергу дозволяє припустити, що «електронний віруючий» буде ортодоксів, тобто за краще строго слідувати догматам того віровчення, яке він обере або яке йому нав'яжуть.
Людина придумала релігії для себе і трактує їх базові принципи відповідно моменту, обставинам. Відкрийте Біблію. В Євангелії від Матвія (глава 5, Нагірна проповідь) читаємо: «Не вбивай», «не клястися», «не противитись злому». Ні церква, ні суспільство давно цих правил не дотримуються - і придумали добру дюжину пояснень, чому (одне з найпопулярніших: мовляв, сказане Ісусом не слід розуміти буквально). Лінь, забудькуватість, егоїзм, особиста вигода, самообман, державні інтереси та інше відкривають ще тисячі лазівок - і ось уже єдина релігія дробиться на конфесії, оригінальний звід правил обростає вигаданими уточненнями і т.д. і т.п.
Не так для машини. «Даний згори», «прошитий в ПЗУ» набір правил назавжди залишиться для неї тим, чим і повинен бути: алгоритмом, відхід від якого неможливий. Проста логіка! Завдання сформульоване дві тисячі років тому, інформації, що уточнює або спростовує її, за визначенням бути не може, отже і варіацій виконання ніяких немає. Так суперінтелект стане ортодоксів.
А це, взагалі кажучи, страшно. Давні тексти писалися в інші часи і сповнені догматів, які не стикуються з ввічливою сучасністю. Знамените «Убий невірного!» З Корану - лише міф, вирваний з контексту уривок (насправді це керівництво по веденню бойових дій: «Коли зустрінетеся з невірними на полі брані, рубайте голови» (47: 4)). Але там же в Корані читаємо: «жінок ... непокори яких ... побоюєтеся ... побивали» (4:34). Чимало подібного напевно знайдеться і в Сунні (життєписі Мухаммеда). І в Старому Завіті такого більш ніж достатньо: «Тільки з міст тих ... не залишай в живих жодної душі» (Второзаконня, 20), та ін. Та ін. Виходить, віруючий суперінтелект неминуче стане учасником міжкультурних, міжрелігійних конфліктів.
З чого випливає цікавий наслідок, але перш ніж викласти його, дозвольте згадати ще одну тенденцію, ясно позначилася в дискусіях навколо супертінтеллекта в останні роки і особливо місяці. Мова про що піднімається хвилі протестів проти автономного летального зброї - як математично правильно називають тепер «роботів-вбивць».
Ситуація на цьому напрямку нагадує ситуацію навколо суперінтелекту: більшість фахівців не вважають це проблемою, але є деяка маса знаючих людей , Які не просто побоюються, а й ратують за міжнародну заборону на розробку і виробництво таких машин. Змогли ж ми обмежити виробництво та застосування ядерної зброї, змогли поставити під контроль міни, зможемо обмежити і АЛО. Тому що якщо цього не зробити, безконтрольне застосування, а тим більше зрощення автономного зброї з ІІ, обіцяє поставити цивілізацію на грань виживання.
Але як заборонити знищення живих істот розумної машині, яка не визнає інших доводів, крім згенерованих самостійно, і принцип дії якої навіть розробникам, ймовірно, зрозумілий не буде? Ось тут-то і стане в нагоді релігія - тільки не одна з існуючих, а принципово нова.
Ідея, по правді кажучи, ще не сформувалася, тому опишу її приблизно, наскільки це можливо з розрізнених дискусій. Суть в тому, щоб розробити релігію, погоджує живе з технологіями і засновану на фундаменті ненасильства. Дехто із західних блогерів киває в бік російського космізму , Бачачи в цьому релігійно-філософському соціокультурному плині, яке виросло в тому числі на роботах Ціолковського, зародок такого перспективного віровчення.
Так чи інакше, проблема очевидна: нову епоху потрібна нова релігія - сповідувати яку зможуть без шкоди один для одного люди і машини. Хто візьметься написати? 😉
PS Продовження теми: « Релігія крізь призму суперінтелекту ».
PPS У статті використані ілюстрації Jon Diez Supat , Murdelta , NectarineFire , Miriam .
Так хто ми такі, щоб закривати дорогу до спасіння зрівняти з нами по розумності машині?Але як заборонити знищення живих істот розумної машині, яка не визнає інших доводів, крім згенерованих самостійно, і принцип дії якої навіть розробникам, ймовірно, зрозумілий не буде?
Хто візьметься написати?
