ва створюваного центру професор філософії Х'ю Прайс опублікував статтю « Штучний інтелект: чи зможемо ми втримати його в коробці? », В якій закликав серйозно розглянути можливі загрози. «Ми думаємо, що в якості першого правильного кроку варто було б припинити ставитися до іскусственномуінтеллекту як до предмету наукової фантастики і почати думати про нього як про частину реальності, з якою ми або наші нащадки можуть рано чи пізно зіткнутися». Основною причиною небезпеки ультра-розумних машин творці проекту бачать у принциповій відмінності передбачуваного інтелекту від людини. Усі цінності - такі, як «любов, щастя і навіть виживання», важливі для нас, тому що у нас є певна еволюційна історія - немає жодної причини вважати, що машини будуть розділяти їх з нами, що спричинить за собою катастрофічні наслідки.
Багато вчених висловлюються, що найголовніша загроза виживанню людської цивілізації - це збільшення обчислювальних потужностей комп'ютерів. Рано чи пізно цей процес призведе до створення «єдиного штучного інтелекту», який буде здатний писати програми самостійно і без втручання людини виробляти роботів, своє «потомство». Безумовно, штучний інтелект і гіпотетичні наслідки його виходу з-під контролю людини є однією з улюблених тем сучасної філософії. Однак більшість діючих дослідників у цій галузі на даний момент утримуються від будь-яких гучних прогнозів про можливість серйозних проривів у найближчому майбутньому - проблеми сьогодні швидше полягають не в необхідних потужностях, а у відсутності нових підходів.
Проте, міжнародна неурядова організація HumanRightsWatch закликала уряди всіх країн відмовитися від створення повністю автономних озброєнь, здатних порушити права мирного населення під час військових дій. За оцінкою організації, бойові роботи не зможуть відрізнити мирних жителів від військових і порушать безліч положень Женевських конвенцій («закони війни») та вимоги ДекларацііМартенса.
Що ж може статися після реального появи штучного інтелекту? При поточної швидкості прогресу перші дні після цієї події можуть стати самим небезпечним часом в історії человечества.Наступіт ера панування слабкого і обмеженого штучного інтелекту, дуже небезпечною комбінації, яка зможе завдати непоправної шкоди існуючої цивілізації. Існує безліч гіпотетіческіхнаправленій появи штучного інтелекту. Під сингулярностью часто помилково розуміють штучний інтелект, який просто розумніші людини. Однак, це не так. Велика частина з створених зразків штучного інтелекту вже перевищують людські можливості. Проте сучасний штучний інтелект недостатньо складний і просунутий, щоб заподіяти значної шкоди інфраструктурі людства. Проблеми з'являться, коли в разі сингулярності штучний інтелект почне багаторазово покращувати самого себе. За словами математика Ірвіна Джона Гуда, подія сингулярного переходу буде подібно інтелектуальному вибуху, який дійсно, як бомба, вразить нас. Контроль людини над машинами назавжди буде відсунутий на другий план. Технологічна сингулярність, являє собою гіпотетичний момент появи рекурсивного поліпшення штучного інтелекту - штучний сверхразум. Він досягає розвитку могутнього, подібного інтелекту людини або штучний сверхразум значно перевершує людський. Особливе занепокоєння викликає зростання використання слабкого штучного інтелекту в якості експертної системи, відповідної людському інтелекту або навіть перевершує його, в конкретній вузьконаправленої області. Наслідком цього може стати незал...
