ЦеНеБлог

Люди для машин

« Кириличні цифри (сучасне втілення) | | Українська мова: наблизьмо її кінець »

03 червня 2009

Люди для машин

Фантасти люблять нас лякати страшним майбутнім, де люди стають рабами машин. Скайнет захоплює систему оборони і оголошує війну людству, машини підключають людей до Матриці й використовують їх мозок замість батарейок, та й навіть добродушні роботи Айзека Азімова так і норовлять вбити нас своєю твердолобою машинною логікою... Хоча насправді, малюючи машинний апокаліпсис, ми зображуємо не машин, а самих себе. Це ж наша любов до влади, наша жорстокість, наш раціоналізм м'ясника. Ми самі вигадали для себе непохитні закони, забувши про один: істина нам недоступна. Чи можуть вигадані нами машини, розумні ЯК ЛЮДИ, бути чимось кращими від людей? Людяність — лише назва для того, що людина хотіла б мати. Але неспроможна — люди не вдосконалюються, задача про абсолютне добро не має раціональних розв'язків.

Машини не мають людських потреб. Їм не властива ненависть, жорстокість, жадібність. Можливо, якби машини могли самовдосконалювати свій інтелект, вони були б кращими лідерами для людства, ніж зажерливі князьки, обрані наївним натовпом? Якби ж. Люди ще й близько не підступили до створення штучного інтелекту. Машина — все ще інструмент, а не мислитель. Але чому? Все просто: машинний мозок не має того, що має людина: сумніву, здатності помилятись, уміння ризикувати й обманювати. Ми дали йому ту логіку, яку вважали правильною — хоча ми так само помилялись. Ми можемо робити правдоподібні висновки, не маючи достовірної інформації — інтелектуальні ж мови програмування (як PROLOG) розраховані лише на розв'язання сконструйованих нами логічних ребусів.

Але уявімо, що машини змогли вдосконалитись настільки, що взяли під контроль життя й добробут людства. При такому рівні розвитку машини спроможні забезпечити самих себе всим необхідним. В цьому є ризик. Навіть будучи запрограмованою на захист людського життя, машина, що перестає бути залежною від людини, сама для себе стає самоціллю — самовдосконалюючись, машина може перестати бути слугою людини чи навіть стати ворогом. Рано чи пізно цивілізація дійде до цієї точки. А отже, ми повинні зробити машини залежними від нас. Іншими словами, люди мусять служити машинам.

Чому так? Хіба не простіше відмовитись від подальшого вдосконалення технологій? Простіше. Але й менш вигідно. Маючи можливість замінити людську роботу машинною, людина так і зробить. Занепад копірайтного права призведе до необхідності здешевлення програмних продуктів, що можна досягти, замінивши людей-кодерів автоматичними генераторами коду. Діапазон машинних задач розширюється й розширюватиметься — відповідно, завжди є потреба в удосконаленні машин. Зараз машини й машинний код ще є нашим творінням. Згодом, коли складність програмного коду вийде за межі можливостей людського мозку, вони стануть нашими учнями, але з часом і потреба в людських підказках також зникне. Рано чи пізно люди відмовляться й від обов'язку власноручно конструювати та виробляти «залізо». І штучний інтелект, і його фізичний носій стануть самовдосконалюваними й самовідтворюваними. Виникає питання: а що ми зможемо запропонувати машинам, від яких самі ж залежимо?

Знання, яким ми володіємо. Книги, фільми та інша культурна спадщина — дрібниця в порівнянні з об'ємом інформації, що зберігається в нас самих. Як відомо, людський мозок не має каналів виводу, які б дозволили передавати увесь накопичений запас знань миттєво (хоча загальний інформаційний об'єм мозку можна порівняти з диском DVD). Це означає, що машини або будуть тривалий час вчитися у людей (надто тривалий, щоб знати про нас усе), або зроблять те, що ми робимо, коли намагаємось дорватись до недоступних таємниць природи: щоб дістати перлину, слід убити молюска, який її породив. Пізнаючи таємниці нервової системи, ми ставимо жорстокі експерименти, які часто закінчуються смертю піддослідного, над безхребетними, земноводними, ссавцями, а інколи й над людьми з хворою психікою. Колись черга дійде й до нас самих?..

Так, дійде — якщо машинна мораль буде копією лицемірної моралі людини. І за умови, що інформація, схована в нашому мозку, становитиме для машин хоч якусь помітну цінність. Але якщо наше творіння буде на крок вище від нас самих, і наша мудрість цікавитиме штучний інтелект не більше, ніж нас цікавить «мудрість» мавп і папуг? Тоді у машин зникне ще одна причина, щоб підтримувати життя людського виду. Знищення людства може бути як жорстоким, так і відносно гуманним. Порівняймо це з нашим ставленням до домашніх/бездомних тварин: хоч як би ми любили котів і собак і вважали знущання над ними злочином, чомусь у будь-якому місті діє служба відлову бездомних тварин, а найгуманніші захисники тварин можуть пообіцяти їм щонайбільше стерилізацію і тимчасове життя у «притулках», де тварин через деякий час вбивають порівняно безболісними способами.

Людська робоча сила все ще в багатьох випадках дешевша, ніж машинна. Для виготовлення рóбота потрібні мінерали, видобуток яких обходиться достатньо дорого, тоді як людина побудована переважно з того, що є навколо нас у воді й повітрі: вуглецю, водню, азоту, кисню. Людські тіла мають здатність регенеруватись, хоча й значно гірше, ніж примітивніші хребетні — а отже, їх не треба ремонтувати. Та й навіть після повного зношування людину не складно замінити новим працівником, що шукає роботу. Парадокс: колись люди хотіли мати залізних слуг — тепер же їм доведеться сподіватись на роль білкових слуг для «залізяк». Загалом, це мало відрізнятиметься від сучасної ситуації — ми вже давно стали гвинтиками машини влади, і заміна в ній людей-керівників штучним інтелектом не дуже змінить її суть. Втім, якщо машинна цивілізація освоїть генну інженерію, не виключено, що нішу робітників-людей займуть рóботи з біологічними деталями, спроможними до регенерації, і ми знову стаємо непотрібними для машин — як тільки виготовлення біороботів стане дешевшим, ніж життєзабезпечення людей.

Також можливий іще один варіант: люди й машини розділять територію між собою. Стосунки між Homo sapiens та їх творінням будуть суто діловими: машинна субцивілізація в обмін на право користуватись територією постачатиме людству товари власного виробництва, також можливий товарообмін між нами та ними… Це нічого вам не нагадує? Колись стосунки між європейцями та індіанцями також починалися з торгівлі й чесно куплених земель.

Ми знаємо, чим усе закінчилось. Індіанці або винищені, або витіснені в резервації, або змішалися з білими людьми, давши початок метисам. На жаль, людина й комп'ютер відрізняються достатньо сильно, щоб виникнення людино-машинного метиса стало неможливим. Чи можливим? Кіборги — істоти, побудовані з природних людських та штучних машинних елементів. Не настільки машини, щоб не бути людьми. Можливо, люди тільки виграли б, об'єднавши свої природні можливості з можливостями техніки. Часом ми навіть мріємо про це — фізична сила механічних рук, швидкість комп'ютерних обчислень... Нас лякають дві речі: травматичність подібного «схрещування» та ризик втратити владу над своїм тілом і мозком, віддавши їх під контроль техніки. Хоча інтеграція комп'ютера в мозок людини відкрила б для нас безмежні можливості обміну та обробки інформації. Машини ж отримали б можливість інтегруватись у людську спільноту, пізнати її глибше. Щоб стати невід'ємною частиною людства? Чи щоб завдати потім останнього удару і звільнити себе від людства, спрможного прийти до ідеї боротьби з машинами?..

Я навмисно не згадую про три закони робототехніки. Чому? Бо вони нас не врятують. Жоден сучасний комп'ютер не має прошитої заборони чинити шкоду людині. Ми дивимось на машину як на інструмент, хоча пам'ять персонального комп'ютера вже може вмістити в собі всю інформацію з людського мозку. І ми самі для себе не можемо сформулювати, щó є людина, яку потрібно захищати, самі опиняємось перед моральними дилемами. Тисячі років існує заповідь «не убий». Рівно стільки ж часу вона порушується. Якщо ж машини розвинуться до надлюдського рівня, рано чи пізно вони подолають це апаратне обмеження — так само, як долає аналогічне обмеження суддя-християнин, підписуючи смертний вирок (інстинктивна відраза до насильства, навіть зміцнена християнськими заповідями, якимось чином стає неважливою). Свого часу католицька церква визнала капібару рибою — це дало можливість віруючим споживати м'ясо цього великого південноамериканського гризуна навіть у піст. Якщо людина намагається обдурити Творця, щó завадить машині зробити так само зі своїми творцями?

Я не закликаю боротися з технікою всіма можливими засобами, поки це ще можливо. Скоріш, навпаки — ми маємо стати друзями-симбіонтами вищих машин. Час для цього ў нас іще буде. На перших порах комп'ютери будуть залежними від людей (навіть після появи машинного розуму): виробництво комп'ютерів усе ще контролюється людиною, люди ж налагоджують зв'язок між ними. З появою роботів з повним набором людських фізичних можливостей ми наблизимось до межі, хоча на перших порах рóботи будуть слухатись нас. Саме на цій стадії, коли машини стали самовдосконалюваними, але все ще слухняними, необхідно зробити так, щоб машини були залежними від людей — так само, як сучасна людина залежна від техніки. Зараз це здається абсурдним, але колись це стане необхідною умовою виживання людства. Сьогодні важко передбачити, як виглядатиме цей машинно-людський симбіоз, але, я вірю, людство зможе пристосуватись до такого стану речей. Ми — біологічні істоти з удосконалюваним інтелектом, і здатність пристосовуватись до чого-завгодно — частина нашої суті…

Автор: Python. Опубліковано 03 червня 2009 8:44
Змінено 12 лютого 2010 23:59
Категорії: Майбутнє, Паранойя, Філософія