они повинні бути такими. З іншого боку, можливо, що комп'ютери доб'ються свого роду перемоги над людьми, успішно служачи і стаючи незамінними, так само як і автомобілі, які в певному сенсі завоювали промислово розвинений світ. Розглянемо один сценарій, який заслуговує додаткового аналізу. І. Дж. Гуд писав в одному зі своїх творів наступне. Дамо визначення сверхінтеллектуальной машині як здатної набагато перевершити у всіх областях розумової діяльності будь-якої людини, яким би розумним він не був. А оскільки проектування машин є одним з таких напрямків розумової діяльності, то сверхінтеллектуальная машина зможе проектувати ще більш інтелектуальні машини; це, безумовно, призведе до «вибуху інтелектуальності» та інтелект людини залишиться далеко позаду. Таким чином, перший винахід сверхінтеллектуальной машини стане останнім винаходом, яке коли-небудь зможе зробити людина, і то, якщо тільки машина буде достатньо люб'язна, щоб повідомити людині, як тримати її під контролем. Цьому «вибуху інтелектуальності» професор математики і автор науково-фантастичних творів Вернор Віндж присвоїв інша назва - технологічну перевагу; він писав: «Протягом тридцяти років люди отримають технологічні засоби для створення надлюдського інтелекту. Незабаром після цього ера людей закінчиться ». Гуд і Віндж (і багато інших) правильно відзначають, що в даний час крива технологічного зростає експоненціально (досить згадати закон Мура). Однак прогноз, що ця крива буде і далі підніматися вгору, слідуючи законам майже нескінченного зростання, був би занадто сміливим. Досі будь-яка технологія розвивалася по S-подібної кривої, згідно з якою експоненціальне зростання в кінцевому підсумку сходить нанівець. Віндж стурбований і стурбований прийдешнім технологічною перевагою, але інші фахівці в галузі комп'ютерних наук, що займаються прогнозами, радіють його наступу. Ханс Моравек у своїй книзі Robot: Mere Machineto Transcendent Mind пророкує, що роботи зрівняються за інтелектуальності з людиною за 50 років, після чого його перевершать. У своїй книзі він пише наступне. Досить скоро вони стануть здатними витіснити нас з життя. Але я не дуже стривожений такою можливістю, оскільки вважаю, що майбутні машини - це наше потомство, «породження нашого розуму», створене за нашим образом і подобою; це ми, нов більш розвинутій формі. Як і біологічні діти попередніх поколінь, вони втілять в собі кращі надії людства на довгострокове майбутнє. Це спонукає нас надати їм все можливе сприяння, а потім відійти в сторону, після того, як ми більше не в змозі будемо робити щось корисне [1085]. Рей Курцвейл у своїй книзі The Age of Spiritual Machines пророкує, що до 2099 намітиться «потужна тенденція до злиття людського мислення з миром машинного інтелекту, який був спочатку створений родом людським. Більше не буде якого-небудь чіткого відмінності між людьми і комп'ютерами ». Виникло навіть нове слово, трансгуманізм, для позначення активного соціального руху, яке охоплює тих, хто готується до такого майбутнього. Досить сказати, що зазначені питання стають викликом для більшості теоретиків моралі, які вважають єдино можливим шляхом розвитку збереження існування людини і самого людського роду. Нарешті, розглянемо цю проблему з точки зору робота. Якщо роботи знайдуть свідомість, то трактування їх просто як «машин» (Тобто подальше їх приниження) може стати аморальною. Роботи самі повинні також діяти морально - нам буде потрібно запрограмувати в них теорію, за якою вони змо...
