Наука сьогодні знаходиться на такому етапі розвитку, коли створюються роботи принципово нічим не відрізняються від людей. Штучний інтелект (ШІ) вже вміє блефувати, обігрує людини в шахи, покер, він розпізнає голос і синхронно перекладає на безліч мов.
Все частіше з’являються нові повідомлення про ШІ досягнення: він ставитб медичні діагнози, малює, співає, пише тексти. У роботів з’явилася людська етика.
В останні роки в зв’язку зі стрімким розвитком і підвищенням потужності комп’ютерів почали бурхливо розвиватися нейронні мережі. Про терміни появи машин з повноцінним ШІ можна сперечатися, але вже зараз людству треба осмислити безпечне напрямок розвитку ШІ.
Британський фізик Стівен Хокінг у своїй статті писав, що недооцінка загрози з боку штучного інтелекту може стати найбільшою помилкою в історії людства. Звертаючи увагу на реальні досягнення людства, такі як суперкомп’ютери, самокеровані автомобілі, голосові помічники, Хокінг очікував успішне створення ШІ в найближчі десятиліття. Але разом з тим він вважав, що це може бути останнім досягненням людства.
Самовдосконалення машин з ШІ буде відбуватися безперервно, якщо цей процес не зупинимо, що, цілком ймовірно, може призвести до технологічної сингулярності, коли технологічний прогрес стане недоступним розумінню людини. Цей момент цілком може настати після створення самовідтворюваних машин, інтеграції людини з комп’ютерами або збільшення можливостей людського мозку за рахунок біотехнологій. А, може бути, ШІ вже починає управляти свідомістю людей.
Само собою, що перевершують людини у всьому машини будуть, наприклад, управляти фінансовими ринками, людьми, розробкою зброї. Якщо врахувати, що сукупність всіх цих процесів буде недоступна розумінню людини, велике питання, чи зможе людство управляти ІІ взагалі. Адже Люди навіть не зможуть усвідомити цілі розвитку та напрямки прогресу ІІ.
Наприклад, легко уявити машину, яка аналізує дані відеоспостереження, телефонні переговори, листування, соціальні мережі, банківські рахунки та на їх основі пророкує майбутні терористичні акти. Надалі машина також зможе передбачати звичайні цивільні злочину та їх майбутні жертви. Але настає момент, коли машина настільки перевершує людини, що перевірити її дії стані неможливо, тоді вона починає сама керувати діями людей, адже вони звикли довіряти машині і не бачать приводу сумніватися в ній.
Якщо ж замислитися над тим, каже експерт, що в процесі розвитку генної інженерії зявляються нові генетичні види ДНК, то стане зрозуміло, що в кінці кінців генно модифіковані людино-машини, кіборги, біороботи, чисті машини або машинно-людські гібриди розвинуться настільки, що чисто людська раса не витримає конкуренції співіснування і вимре, як вимерли багато представників флори і фауни на Землі.
