ку нададуть великий позитивний вплив на підвищення якості повсякденного життя, хоча вони в короткостроковій перспективі і можуть викликати деякі економічні негаразди. Крім того, технологічні можливості, що відкриваються на цьому рівні, можуть бути також застосовані для створення автономного зброї, поява якого багато хто вважає небажаним.
Нарешті, здається цілком імовірним, що великомасштабний успіх у створенні штучного інтелекту (поява інтелекту на рівні людини і переважаючого його) вплине на існування більшості представників роду людського. Зміниться сам характер нашої роботи і розваг, так само як і наші уявлення про інтелект, свідомості і майбутню долю людства. На цьому рівні системи штучного інтелекту можуть створити більш безпосередню загрозу самовизначення, свободу і навіть виживанню людей. З цих причин не можна розглядати дослідження в галузі штучного інтелекту у відриві від їх етичних наслідків.
2. Етичні та моральні наслідки розробки ШІ
До цих пір в цьому розділі в основному розглядалося питання про те, чи може бути розроблений штучний інтелект, але необхідно також присвятити час аналізу питання, чи повинен він все ж таки бути розроблений. Якщо наслідки створення технології штучного інтелекту з більшою ймовірністю будуть негативними, ніж позитивними, то люди, що працюють у цій галузі, несуть моральну відповідальність, що зобов'язує їх направити свої пошуки в інші області. Непередбачені негативні побічні ефекти стали наслідком впровадження багатьох нових технологій: двигуни внутрішнього згоряння послужили причиною забруднення повітря і повсюдного будівництва доріг, навіть в самих райських куточках; ядерні технології стали причиною вибухів в Чорнобилі і на острові Тримайл Айленд створили загрозу глобального руйнування. Всі вчені та інженери стикаються з етичними міркуваннями, які вони повинні враховувати, виконуючи свою роботу, вибираючи проекти, які повинні або не повинні бути реалізовані, а також способи здійснення цих проектів. На цю тему була навіть написана книга Ethics of Computing. Але штучний інтелект, мабуть, стає джерелом деяких небачених раніше проблем, у тому числі перерахованих нижче, крім, скажімо, будівництва мостів, які падають під власною вагою.
. В результаті автоматизації може збільшитися кількість безробітних.
. Може зменшитися (або збільшитися) кількість вільного часу, наявного в розпорядженні людей.
. Люди можуть втратити почуття власної унікальності.
. Люди можуть втратити деякі зі своїх прав на особисте життя.
. Використання систем штучного інтелекту може призвести до того, що люди стануть більш безвідповідальними.
. Успіх штучного інтелекту може стати початком кінця людської раси.
Розглянемо кожну з цих проблем по черзі.
) В результаті автоматизації може збільшитися кількість безробітних.
Сучасна індустріальна економіка стала повністю залежною від застосування комп'ютерів у цілому і окремих програм штучного інтелекту зокрема. Наприклад, значна частина економіки залежить від доступності споживчого кредиту. Перевірка заявок на випуск кредитних карт, видача дозволів на здійснення платежів і розкриття шахрайських угод, а також інші операції тепер виконуються програмами штучного інтеле...
