людьми, лікарі можуть стати юридично відповідальними, якщо вони не використовують рекомендації експертної системи. Така передумова розглядається в.Пріобретают також важливе значення аналогічні питання, що стосуються використання інтелектуальних агентів в Internet. Наприклад, досягнутий певний прогрес у частині впровадження обмежень в інтелектуальні агенти, щоб вони не могли, припустимо, пошкодити файли інших користувачів. Проблеми стають ще важливішими, коли мова йде про грошові угодах. Якщо фінансові операції виконуються інтелектуальним агентом «від чийогось імені», то хто відповідатиме за завдані збитки? Чи існуватиме така можливість, щоб інтелектуальний агент сам мав активи і брав участь в електронних торгах від свого імені? Створюється враження, що такі питання досі ще повністю не вивчені. Наскільки відомо авторам даної книги, ще жодної програмі не було надано правовий статус як індивідуума, здатного брати участь у фінансових операціях; в даний час таке рішення, очевидно, було б нерозсудливим. Крім того, програми ще не розглядаються як «водії», коли мова йде про контроль за виконанням правил дорожнього руху на реальних автомагістралях. Принаймні, в Каліфорнії не передбачено жодних юридичних санкцій, які виключали б можливість перевищення автоматизованим транспортним засобом швидкісних меж, хоча у випадку аварії повинен нести відповідальність проектувальник механізму управління транспортним засобом. Як і у випадку технології клонування людей, законодавцям ще належить включити нові розробки в правове поле.
) Успіх штучного інтелекту може стати початком кінця людської раси.
Майже будь-яка технологія, потрапляючи в зловмисні руки, виявляє потенційні можливості для заподіяння шкоди, але коли мова йде про штучний інтелект і робототехніці, виникає нова проблема, пов'язана з тим, що ці зловмисні руки можуть належати самої технології . Попередження про те, яку небезпеку несуть роботи або роботизовані кіборги-гуманоїди, що вийшли з-під контролю, стали сюжетом незліченних науково-фантастичних творів. До числа найбільш ранніх прикладів таких творів відносяться книга Frankenstein, or the Modern Prometheus Мері Шеллі і п'єса RUR Карела Чапека A921 рік, в яких описано, як роботи завойовують світ. У кінематографі цій темі присвячені фільм «The Terminator» (Термінатор), що вийшов на екрани в 1984 році, в якому використовуються кліше «про роботів, завойовують світ» і сюжет про подорож у часі, і фільм «The Matrix» (Матриця), що вийшов в1999 році, в якому об'єднані сюжети «про роботів, завойовують світ» і «про мозок, зростаючому в колбі». Мабуть, роботи є головними героями такої великої кількості художніх творів про завоювання світу в основному через те, що вони втілюють у собі невідоме, точно так само, як відьми та приведення в казках, якими лякали людей в більш ранні епохи. Але чи справді роботи створюють більш реальну загрозу, ніж відьми та приведення? Якщо роботи правильно спроектовані як агенти, які дотримуються інтереси свого власника, то вони не створюють таких загроз: роботи, що розвиваються на основі постійного удосконалення поточних проектів, будуть служити своїм господарям, а не боротися проти них. Люди іноді використовують свій інтелект в агресивних формах, оскільки вони володіють деякими вродженими агресивними тенденціями, зумовленими природним відбором. Але машини, створені людьми, не потребують рисах вродженої агресивності, якщо тільки самі люди не вирішать, що в...
