Update перевів статтю Стівена Кейва, виконавчого директора і старшого наукового співробітника Центру вивчення майбутнього інтелекту Кембриджського університету.
Він отримав філософську освіту і працював у дипломатичній службі Великобританії. Стівен пише на філософську і наукову тематики, в тому числі для The New York Times, Guardian, The Atlantic і інших видань.
Поки в другій половині 20-го століття, я проводив своє дитинство в Англії, концепція інтелекту розросталася до небачених масштабів.
Про інтелект говорили, про нього сперечалися, а головне – його вимірювали. Десятки тисяч англійських дітей прямо із залу для настільних ігор вирушили на тест “11-Plus”, щоб виміряти свій IQ.
Результати цих тестів визначать, хто потрапить в гімназію, щоб підготуватися до університету і майбутньої професії; хто створений для технічного училища, щоб стати кваліфікованим робітникам; хто відправиться в середню школу, навчиться працювати з дрилем, і потрапить прямо в світ низькооплачуваної ручної праці.
Коли я проходив тест, що визначає моє місце в світі, ідеї про те, що інтелект може бути виміряний, як артеріальний тиск або розмір ноги, було всього сто років від народження. А ось думка про те, що інтелект може визначити твоє місце в житті, – постарше.
Воно проходить червоною ниткою через Західну філософську школу, від Платона до політики прем’єр-міністра Великобританії Терези Мей. Коли говорять, що хтось розумний або дурний, мають на увазі не тільки розумові здібності. Це також визначає, що їм дозволено. Іншими словами, інтелект стає неполітичним.
Іноді такий поділ розумно: ми хочемо, щоб лікарі, інженери і чиновники не були дурнями. Але є і темна сторона. Інтелект використовують, щоб вказати на рамки дозволеного, таким чином, визначаючи, як інші зможуть поступити по відношенню до вас. Протягом усієї західної історії були ті, кого вважали менш розумними.
У слідстві, їх завоювали, поневолили, стерилізували, вбили, або навіть з’їли (якщо говорити про тварин).
Це дуже стара, мабуть, навіть стародавня історія. Але в 21-му столітті, з розвитком штучного інтелекту (ІІ), проблема прийняла несподіваний поворот. В останні роки, дослідження ІІ досягли видатного прогресу, і багато фахівців вважають, що цей прорив може закінчитися погано. Експерти налякані і завалюють свої Twitter канали посиланнями з Скайнета.
Щоб зрозуміти, що нас так лякає, давайте подивимося на інтелект як на політичну концепцію, зокрема – на її довгу історію, і підгрунтя панування.
Інтелект належить білому чоловіку
Сам термін “інтелект” ніколи не користувався популярністю у англомовних філософів. Він також не має прямого перекладу на німецьку або давньогрецька мови (два великих мови західної філософії). Але це зовсім не означає, що філософи інтелектом не цікавилися.
Насправді, вони були просто одержимі інтелектом, а точніше, його частиною – розумом чи раціональністю. Термін “інтелект” зумів затьмарити свого старомодного попередника в суспільно-політичному дискурсі, тільки з появою відносно нової дисципліни – психології, яка заявила свої права на інтелект.
Розум залишається його основною частиною, хоча багато вчених виступали за більш широке розуміння терміна. Ось чому я згадав цього предка, кажучи про історичну роль інтелекту.
Історія інтелекту починається з Платона. У всіх своїх працях, він приписує величезну цінність мислення, оголошуючи (через уста Сократа), що недосліджена життя не стоїть життя. Платон піднявся зі світу міфів і містики, щоб пред’явити щось нове. Істина реальності може бути відкрита через розум, або завдяки застосуванню інтелекту, як ми вважаємо сьогодні.
У своєму діалозі “Держава”, Платон прийшов до висновку, що ідеальним правителем є “цар-філософ”, оскільки тільки філософ може розрізнити правильний порядок речей. Запустивши ідею, що кращі уми повинні правити над іншими, він запропонував інтелектуальну меритократию, визначальну місце людини по його здібностям.
В ті часи подібна ідея була революційною. Афіни вже експериментували з демократією, правом на народні збори, але тільки для громадян чоловічої статі, не обов’язково розумних. В інших державах правлячі класи складалися з аристократії, або обраних, які отримали божественне повчання (теократія), або просто найсильніших (тиранія).
Нова ідея Платона потрапила у вуха спраглих інтелектуалів, включаючи його учня Аристотеля. Він завжди був більш практичним, системним мислителем. Аристотель розумів перевагу інтелекту, і використовував його для, так званої, природної соціальної ієрархії.
У своїй книзі “Політика” він пояснює: “Хтось повинен правити, а хтось підкорятися, це не тільки необхідно, але і доцільно; з моменту народження, деяким дано бути суб’єктом, а другим- джерелом влади”.
Владику визначає саме наявність “раціонального елемента”.
“У освічених чоловіків це найбільш виражено, і природно, вони повинні правити жінками, а також людьми, що живуть ручною працею”, які тому “за своєю природою є рабами”. Спускаючись вниз по сходах, ми все ще можемо побачити тварин, які так нерозумні, що “набагато краще, якщо ними керує людина”.
На зорі західної філософії символом інтелекту став освічений європеєць, звичайно ж чоловік. Це стає аргументом на користь домінування над жінками, нижчими класами, нецивілізованими народами і тваринами.
У той час як Платон боровся за перевагу розуму, він помістив його в рамки досить незграбною утопії. Тільки сто років по тому, Аристотель запропонує правило мислячої людини, як очевидне і природне.
Минуло більше двох тисяч років з тих пір, але нам тільки належить розвінчати це переконання.
Покійний австралійський філософ і захисник природи, Вал Плумвуд стверджував, що гіганти грецької філософії створили ряд взаємозв’язаних дуалізм, які продовжують живити наші думки і сьогодні.
Протилежні категорії, такі як: розумний / дурний, раціональний / емоційний і розум / тіло, неявно або явно пов’язані з іншими, такими як: чоловік / жінка, цивілізований / примітивний і людина / тварина. Ці дуалізм не є ціннісно нейтральними. Вони об’єднуються в дуалізм за Арістотелем – домінуючий / підлеглий або пан / раб.
Разом вони створюють відношення панування, а поняття патріархату і рабства стають частиною природного порядку речей.
Дуальний підхід
Західна філософія, в її сучасному вигляді, почалася з спритного дуалістів, Рене Декарта. На відміну від Арістотеля, він навіть не допускав континууму інтелекту серед тварин. За його словами, розум – виключно доля людини.
Також він розмірковував про ідеї християнського богослов’я. Більше тисячі років тому інтелект був відданий у власність душі з іскрою Божою, зарезервований для щасливців, створених за “образом і подобою”.
Декарт зобразив природу буквально безглуздою, настільки позбавленої внутрішньої цінності, що тим самим узаконив пригнічення інших видів без всякої за це провини.
Ідея про те, що інтелект визначає людяність, зберігається і в “Освіті”. Його з ентузіазмом підтримав Кант, мабуть, найвпливовіший філософ тих часів. Тільки розумні істоти мали моральне значення для Канта.
Раціональні створення повинні називатися “особистостями” і мати “мета в самих собі”. Істоти, які не наділені розумом, з іншого боку, мали “лише відносну цінність, і в слідстві, можуть називатися речами”. Ви можете зробити з ними все, що захочете.
На думку Канта, людина розумна має нескінченну цінність і гідність, тоді як у нерозумного або дурного – немає нічого. Його аргументи більш великі, але по суті, він приходить до такого ж висновку, що і Аристотель: є за своєю природою королі і раби, а інтелект – це те, що їх відрізняє.
Ця думка була розвинена, щоб стати серцем логіки колоніалізму.
Аргументи були такі: небілі народи – менш розумні, тому у них немає компетенцій, щоб управляти своїми людьми і своїми ж землями. Тому абсолютно законно можна знищити їх культури, і зайняти їх територію. Це навіть подавалося у вигляді долга- “тягар білої людини”.
Оскільки інтелект визначав людяність, а ці народи були менш розумні – вони були і менш людяні, тому їх було легко вбити або поневолити.
Подібну логіку застосовували і до жінок, які вважалися занадто легковажними і сентиментальними, щоб користуватися привілеями “людини раціонального”. В Англії 19-го століття жінки були захищені законом менше, ніж домашні тварини, як показала історик Джоанна Бoурк з університету Біркбек в Лондоні.
Як виправдати насильство
Сер Френсіс Гальтон зазвичай згадується, як засновник психометрії, “науки” вимірювання розуму. Його надихнула робота “Походження видів” (1859), написана його двоюрідним братом Чарльзом Дарвіном. Це наштовхнуло Гальтона на думку, що інтелектуальні здібності спадкові, і можуть бути посилені за допомогою селекційного розмноження.
Він вирішив науково ідентифікувати найбільш інтелектуальних членів суспільства, і заохочувати їх до розмноження один з одним. Менш інтелектуально розвинені індивіди повинні бути відсторонені від розмноження, заради самого ж виду. Таким чином, євгеніка і тест інтелекту разом з’явилися на світло.
У наступні десятиліття, після поганого проходження цих тестів, величезна кількість жінок в Європі та Америці були піддані примусової стерилізації. В одній тільки Каліфорнії – понад 20 тисяч осіб.
Оцінка інтелекту використовувалася для виправдання найжахливіших варварських епізодів нашої історії.
Але у “правила розуму” завжди були свої критики. Від Девіда Юма до Фрідріха Ніцше, від Зигмунда Фрейда до постмодернізму – існувало безліч філософських традицій, які кидали виклик твердженням, що ми так само розумні, як нам хотілося б вважати, що інтелект – це найвища чеснота.
Ми сподіваємося, що наші чиновники розумні, але ми не завжди вибираємо найрозумніших політиків. Проте, навіть такий популіст, як Дональд Трамп, відчуває необхідність заявити, що його адміністрація “на сьогоднішній день є кабінетом з найвищим IQ за всю історію”.
Замість того, щоб кинути виклик ідеї ієрархії інтелекту як такої, багато критики атакують систему, яка дозволила піднятися на п’єдестал еліті, що складається з білих чоловіків.
Чому ми не довіряємо штучного інтелекту
Іспит “11+”, який я проходив, являє собою цікавий, і дуже двозначний приклад однієї з таких системи. Він був створений для виявлення яскравих молодих обдарувань всіх шарів і віросповідань.
Насправді ті, хто пройшов тест успішно, були з білих сімей середнього класу, непропорційно більше забезпечених ресурсами. Тим самим, учасники самі утвердилися в своєму положенні і переваги.
Розмірковуючи про ідею інтелекту, як про виправдання привілеїв і панування більше 2000 років поспіль, не дивно, що неминуча перспектива надрозумних роботів наповнює нас страхом.
2001 рік, “Космічна одіссея”, фільм “Термінатор”. Письменники фантазували про те, що машини повстануть проти нас. Тепер ми можемо зрозуміти, чому.
Якщо ми звикли вважати, що верхні позиції в суспільстві повинні займати самі тямущі, то, звичайно ж, ми можемо очікувати, що це будуть роботи з величезними мізками, а ми природно підемо на дно.
Якщо ми ввібрали ідею про те, що більш розумні можуть колонізувати менш розумних, тим більш імовірно, що ми будемо боятися стати поневоленими нашими надрозумні творіннями. Якщо за допомогою інтелекту, ми виправдали власні позиції влади, звичайно ж, ми побачимо ІІ, як екзистенціальну загрозу.
Ця розповідь про привілеї може пояснити, чому страх перед штучним інтелектом є переважаючим серед білих чоловіків на Заході. Інші групи пережили довгу історію панування начальників-самозванців, а також продовжують боротися з реальними гнобителями.
З іншого боку, білі люди звикли бути на вершині ієрархії. Якщо прийдуть нові істоти, що перевершують саме в тому, що завжди використовувалися для виправдання чоловічого панування, вони втратять більше всіх.
Я не хочу припускати, що все наше занепокоєння з приводу ІІ необгрунтовано. Існують реальні ризики, пов’язані з використанням передових технологій, так само як і величезні переваги. Але шанс опинитися пригнобленим роботами також, як корінні народи Австралії гнобили європейськими колоністами, не є номером один у цьому списку.
Краще подумати про те, що ми можемо створити з ІІ, замість того, що він може зробити сам по собі. Ми, люди, набагато більш схильні розгортати розумні системи один проти одного, або ставати надзвичайно залежними від них.
Якщо ІІ і завдасть нам шкоди, то швидше за все, тому, що ми поставимо йому неправильні цілі, а не тому, що вони хочуть перемогти нас. Найбільшим ризиком все ще залишається природна дурість, а не штучний інтелект.
Цікаво поміркувати про те, як би ми дивилися на розвиток ІІ, маючи інший погляд на інтелект. Платон вважав, що філософів будуть вмовляти стати королями, оскільки вони природним чином воліють споглядати над тим, як панувати людьми.
Інші традиції, особливо східні, бачать розумної людини котрі зневажають атрибути влади, віддаляється від дрібниць, негараздів і справ мирських.
Уявіть, якби такі погляди були широко поширені: все б думали, що найрозумніший не той, хто стверджує право на владу, а той, хто пішов медитувати на самоті, щоб звільнитися від мирських бажань.
Що якби найрозумнішим вважався той, хто повернувся, щоб нести мир і просвітлення. Ми все б ще боялися роботів, що розумніші за нас?
