В последните години наблюдаваме как учени и визионери разкриват изцяло ново поколение от апокалиптични заплахи. Теоретичните възможности включват: катастрофално разрушение, вследствие на съзнателно конструирани патогени, самопроизвеждаща се молекулярна нанотехнология, която излиза извън контрол (т.е. роботи, които се размножават, консумирайки цялата биомаса на Земята), климатични промени и фатално програмиран изкуствен интелект. 

Предсказанията на проф. Стивън Хокинг

Няколко са начините, които Стивън Хокинг посочва като най-вероятни да предизвикат края на света, който познаваме. На първо място той призовава към повече съпричастност. В противен случай човешката агресия, съчетана с технологичния напредък в ядреното оръжие, може да доведе до изчезването ни с началото на ядрена война. Именно агресията, която преди ни е била необходима, за да оцелеем, намирайки си храна или подслон, е днес, недостатъкът, който той би искал да поправи, преди да доведе до унищожението ни.

Вторият фатален сценарий е свързан с генетично модифицираните вируси. Хокинг предупреждава, че гените действат по начини, които все още не са напълно разбрани. Промяната на една част от ДНК невинаги има желания резултат – вместо това тя може да създаде други непредвидени последици, като например развитието на неконтролируеми вируси. Вируси, устойчиви на антибиотици, за които не сме си и помисляли, в действителност биха могли да съществуват, твърди той.

Професор Хокинг поставя изменението на климата редом с ядреното унищожение и генетично модифицираните вируси, като една от най-големите заплахи за човечеството. В най-лошия сценарий, Земята ще стане като нейната сестра планета Венера – с температура 250 градуса и валежи от сярна киселина – условия, при които човешката раса не може да оцелее.

Известният астрофизик даде ужасяващия краен срок от 1000 години за намиране на нова планета, която да наречем свой дом. Според него Земята ще ни бъде благодарна, ако се разкараме, заедно с вещите си – не след 1000 години, а в близките 100. За целта, Хокинг се е заел с проекта Starshot, в който заедно с Марк Зукърбърг, ще търсят живот на друга планета, изпращайки малки космически съдове на 25 трилиона мили в космоса. С подкрепата на руския инвеститор Юри Милнър, най-леките космически апарати ще бъдат изпратени в системата Алфа Кентавър. Те биват задвижвани от светлината и оборудвани с камери и комуникационна система и ще пропътуват необходимото разстояние само за 20 години. Целта е да се заснемат потенциалните светове, които биха могли да поддържат живот, в едни от най-отдалечените региони, познати ни до момента.

По време на откриването на проекта в обсерваторията One World в Ню Йорк, проф. Хокинг казва: "Няма по-големи висоти, към които да се стремим, от звездите." Професорът продължава: "Какво прави човеците единствени по рода си? Има много теории. Някои казват, че това са езиците или инструментите ни, други – логичното мислене. Очевидно те не познават много хора.(…) Вярвам, че това, което ни прави уникални, е това, че можем да се издигнем над възможностите си. Гравитацията ни придържа към Земята, и въпреки това аз прелетях до Америка. Загубих гласа си, но мога да говоря. Как се издигаме над възможностите си? С нашите умове и с нашите машини. (…) Следващата граница, която е пред нас, е огромната празнота между нас и звездите, но сега ние можем да я прекрачим, с лазерни лъчи и леки платна, с най-леките космически кораби, правени някога, можем да отидем на мисия до Алфа Кентавър за едно поколение време."

Освен климатичните промени и възможностите за ядрена или биологична война, Хокинг предупреждава, че разумът, който той определя като най-добрата защита, с която разполагаме, ще ни е необходим също и в развитието на изкуствения интелект (A.I.).

В отворено писмо, подписано от Хокинг и негови колеги, се твърди, че създаването на автономни оръжия, т.е. оръжия, управлявани чрез изкуствен интелект, в бъдеще би довело до световно състезание по въоръжаване. Автономните оръжия са описани като третата революция във военните сили, след откриването на барута и ядрените оръжия. Отвореното писмо призовава петиция за забрана на такива оръжия, които остават отвъд значимия човешки контрол. Текстът предупреждава, че изграждането на такива оръжейни системи е практически възможно в рамките на следващите няколко години и лесно би довело до масово производство и употреба на същите.

И все пак проф. Хокинг осъзнава потенциалните ползи от технологиите с изкуствен интелект. В статия за Independent, той пише: "Всичко, което цивилизацията може да предложи, е продукт на човешката интелигентност. Не можем да предвидим това, което бихме могли да постигнем, когато тази интелигентност се увеличи от инструментите, които A.I. технологиите могат да осигурят, но изкореняването на войните, болестите и бедността биха били в списъка на всеки. Успешното създаване на A.I. би било най-голямото събитие в човешката история. За съжаление, то би могло да бъде и последното, освен ако не научим как да избегнем този риск."

"Можем да си представим как такава технология надхитрява финансовите пазари, изобретява нови човеци-изследователи, манипулира световните лидери и разработва оръжия, които дори не можем да разберем. Докато краткосрочното въздействие на A.I. зависи от това кой го контролира, то дългосрочното въздействие зависи от това дали то въобще може да бъде контролирано.“

В интервю за BBC, той заявява: "Развитието на изкуствения интелект може да означава края на човешката раса.“ Признавайки този си страх, все пак Хокинг залага на варианта, в който A.I. остава положителна сила.

И докато проф. Хокинг и колегите му, учени, насърчават повече научна дейност в областта и насочват общественото внимание към проблема, за да предотвратят неприятната изненада от нежелано развитие на събитията,други обществено значими личности изглежда вече изпадат в паника.

Страховете на Илон Мъск, наречени още “Кръстоносния поход на Илон срещу A.I.“

Илон Мъск, основател на Tesla Motors и SpaceX, набира скорост с далеч по-крайниизказвания по темата за A.I. Определяйки прогресивното развитие на изкуствения интелект като "призоваване на демон" още през 2014 г., основателят на Tesla – Илон Мъск, предизвика редица подигравателни коментари в Силициевата долина. Направен бе дори Twitter акаунт с име "Отегчения Илон Мъск" @BoredElonMusk, където фалшивият Илон хвърля из пространството всякакви нелепи идеи и чуденки. 

Мъск влиза в заглавията и с твърдото си убеждение, че светът, в който живеем, е плод на далеч по-еволюирала цивилизация, където е била създадена компютърна симулация, позната ни още като Матрицата. Или нещо като съвършена версия на видео играта The Sims. Убедеността му в тази идея се простира дотолкова, че според Мъск шансът това да не е истина, е едно на милиард.

Опасенията на Мъск идват не само от бързия прогрес на A.I. технологиите, но и от възможността някой от работещите в сектора дотолкова да се обсеби от работата си, че неволно да предизвика унищожаването на човешката раса. Мъск определено звучи като верен фен на киберпънк жанра. Кой е този вманиачен учен? Елдон Тайлър от Блейд Рънър? (бел.ред. филм от 1982 г. по романа "Сънуват ли андроидите електрически овце?" от 1968 г.) Мъск всъщност наистина е почитател на научната фантастика. Любимата му книга "Фондацията" от Айзък Азимов разказва за процеса по издигането на една цивилизация след унищожаването на една галактика. Мъск признава, че тази книга го е окуражила за стремежа към мечтата му – човечеството да насели Космоса. Но ако фикс идеята на Мъск е толкова обсебваща, въпреки нелепия начин, по който звучи за мнозинството в Силициевата долина, честно е да допуснем, че фикс идеите на A.I. специалистите биха могли да бъдат също толкова обсебващи, и съответно опасни.

Къде всъщност са A.I. технологиите днес? 

Да, със сигурност те са във фокуса на лидерите в Силициевата долина, но не са ли далеч от самостоятелната заплаха, която преследва Мъск? Facebook използва A.I. софтуер за таргетирането на реклами, тагването в снимки и подреждането на нюз фийдовете ни. Microsoft и Apple си имат помощниците Cortana и Siri. Търсачката на Google винаги е била базирана на A.I. софтуер. Но извън видимите за всички приложения на изкуствения интелект, знаем ли какво всъщност се случва в A.I. лабораториите? 

Далеч по-запознат с материята, Мъск има пазарска кошница, пълна с инвестиции в сектора (като например тази в DeepMind Technologies), които дори не целят възвръщаемост, а по-скоро наблюдение на всичко, което се случва, отблизо. Те играят ролята на неговото предпазливо око, което ще алармира при всяка вероятност за излизане на A.I. извън контрол. Към момента Мъск споделя, че развитието и подобрението на този тип технологии се случва много по-бързо, отколкото хората могат да предположат. Именно този поглед отблизо е причината неговите страхове да се увеличават, реципрочно и предпазните мерки, които предприема. 

Подобно на проф. Хокинг, Илон Мъск също преследва Космоса с идеята за междупланетна колонизация. Неговата компания SpaceX изстрелва ракети с цел да насели Червената планета, и то в обозримо бъдеще. Идеята е да се привлекат хора към Марс, които да започнат изграждането на нова цивилизация. Първоначално, според думите на Мъск, хората ще живеят в стъклопакети с рамки от въглеродни влакна, за да изградят стъклени геодезични куполи на повърхността. Ще имат и роботи, които да изграждат пространство под налягане за промишлени зони. 

Мотивирани от усещането за екзистенциална заплаха от A.I., Илон Мъск и Сам Алтман (президент на Y combinator) основават OpenAI, компания с нестопанска цел в размер на милиарди долари, която работи за по-безопасно разработване на изкуствен интелект. Организацията има за цел да си сътрудничи с други институции и изследователи, за да направи изследванията в областта достъпни за обществеността. 

Освен плана за бягство към Марс и превантивните мерки за безопасност в сектора, Мъск има и план за адаптация. Според него, ако искат да останат релевантни в бъдеще, доминирано от изкуствен интелект, хората ще трябва да се превърнат в киборги. Той твърди, че все по-сложно устроеният изкуствен интелект ще доведе до масова безработица, тъй като роботите ще извършват работата в много сфери все по-добре от хората. За да дадат своя принос към икономиката, хората ще трябва да подобрят способностите си чрез "сливане на биологичната си интелигентност с машинна интелигентност“. В противен случай, хората ще се превърнат в "домашните котки“ на машините, безпокои се Мъск. 

В търсене на симбиоза между човека и машината, той стартира нов проект на име Neuralink, който се заема със задачата да свърже човешкия мозък с дигиталното пространство и компютърните машини. Това свързване той представя като най-обикновено елиминиране на посредника – т.е. вече няма да се налага да използваме ръката или гласа си, за да подадем команда към цифровото си устройство. Компанията ще проектира невронни мрежи, които съединяват мозъка с вградени електроди, способни да прехвърлят мислите ни на компютър. Това означава, че микро мрежата ще бъде инжектирана в мозъка, за да му даде цифрови изчислителни възможности. За създаването на такъв работещ комбиниран интерфейс, Мъск си слага срок от 4-5 години. За да се реализира такъв проект обаче се изисква много по-подробно разбиране на мозъчната ни мрежа, което надхвърля знанията за основите на моторния контрол и разгадава по-сложните когнитивни способности като език и метафора. Ще достигнем ли необходимите знания, за да се реализира визията на Mъск? Тези и други съмнения относно позициите му откриваме в Силициевата долина. 

Съпротивата на Марк Зукърбърг 

Паническото поведение на Илон силно дразни неговия колега Марк Зукърбърг, който е истински оптимист относно бъдещето на A.I. технологиите. Двамата често се сочат с пръст в социалните мрежи Facebook и Twitter. Марк обвинява Илон в скептицизъм, ненужен негативизъм и дори безотговорност. Илон пък определя вижданията на Марк по темата като ограничени. 

Тази открита индиректна комуникация между двама от изпълнителните директори на едни от най-големите публично търгувани технологични компании в света наподобява вражда от типа Кание Уест и Тейлър Суифт – вербален стил, който е доста непривичен за Силициевата долина. Някои журналистически анализи дори разглеждат това поведение като метод за изграждане на имидж. Подобна позиция не звучи особено правдоподобно, взимайки предвид усилията и ентусиазма, с които Илон подхожда към проектите си по темата. Колкото до оптимизма на Марк Зукърбърг по отношение на възхода на A.I. технологиите, той го обяснява с потенциала им за научни пробиви в сферата на медицината и автономните коли. Каква ирония, че именно в компанията на Илон Мъск - Tesla Motors, способността за самоуправление е един от най-стойностните признаци на автомобила, който продава. Все пак има неща, за които двамата споделят мнение. Марк също е съгласен, че A.I. ще се отрази върху доходите и пазара на труда. 

Прогнозите на Зукърбърг за бъдещето  също понякога изглеждат пресилени, но той намира съмишленици в кръг от футуристи и учени. Посоката, в която те работят, е към бъдеще, в което изкуственият интелект, телепатията и виртуалната реалност са нещо обичайно. Всъщност, някои от тези технологии вече съществуват, но не и измерението, в което Зукърбърг си ги представя. Една от най-смелите му цели е да осъществи изпращане на мисли до друг човек. Днешните технологии поставят фокус върху пълноценните комуникационни изживявания, твърди той. С подобряването на този вид технологии, основателят на Facebook предвижда комуникация, която да се извършва чрез силата на ума ни и без посредничеството на смарт устройствата ни. Телепатията ще можем да осъществим не само помежду си, но и между нас и интернет. Според Ред Кързвейл, компютърен учен и футурист, скоро ще можем да свържем умовете си с "облака" и да общуваме чрез използването на малки ДНК роботи. Тази идея не е особено различна от тази на Илон Мъск да управляваме устройствата си с мисъл, благодарение на инжектирана невронна мрежа. Разликата тук е, че Марк поставя акцент върху технологична еволюция в междучовешката комуникация, а не в тази между човека и машината. 

В близко бъдеще Зукърбърг предвижда също компютри, които са способни да опишат видео и картина с говор. Екипът му разработва системи, които разпознават хора, обекти, сцени и други – същата A.I. базирана технология, която позволява разпознаването на профили във Facebook в снимки и предполага съответните тагове. Доразвиването им обаче, изисква системите да разбират контекста на изображенията и видеоклиповете. Целта е да разпознават всичко възможно и в детайл. 

Оптимизмът на Марк няма край. 

По време на открито задаване на въпроси във Facebook страницата му, проф. Стивън Хокинг го пита: "На кой от големите въпроси в науката бихте искали да знаете отговора и защо?" Отговорът на Зукърбърг посочи очарованието му от хората и надеждите му за медицински постижения, които да ни превърнат в Супермен. "Най-много се интересувам от въпроси за хората", каза той. "Какво ще ни позволи да живеем завинаги? Как да лекуваме всички болести, как работи мозъкът? Как се учим и как да дадем възможност на хората да научат милион пъти повече?“ Но къде всъщност са A.I. в медицината? Watson, машината на IBM, която победи световния шампион по шахмат Гари Каспоров през 1996 г. и световният шампион Кейн Дженингс през 2011 г., се завръща - по-добра от всякога, но не над шахматната дъска, а в болницата. Watson подпомага лекарите в болница "MD Anderson" с разработването на планове за лечение на пациенти с левкемия. 

Медицината е индустрията, която много A.I.специалисти смятат за узряла за промяна, и в която A.I. може да направи реална разлика. Умната машина, която би се заела с тежката задача, би събирала данни от милиони хора, за да измери симптомите и да нареди пъзела. Разполагайки с огромно количество информация и способността да я анализира, при третирането на конкретен пациент, медицинският робот би трябвало да даде много по-точна диагноза от истинско медицинско лице. Освен това, взимайки предвид цялата информация, която има за този конкретен човек, машината би могла да извърши по-персонализирано лечение. 

Оправдани ли са очакванията на младия магьосник на социалните медии? Да живеем ли тогава и ние с надеждата за по-добро и по-справедливо бъдеще? Или да запретнем ръкави и да полетим към Марс? Изграждането на нова цивилизация не е шега работа. Екзистенциалната заплаха за едни е надежда за други. Илон Мъск е готов с план А (за бягство), план B (за превенция) и план C (за адаптация). Зукърбърг ще го подкрепи само в последния – приемете мисълта, че скоро може и да се превърнете в киборги. Проф. Хокинг ще се издигне за пореден път над възможностите си и ще ги чака там – на 25 трилиона мили в Космоса. А ние ще изключим ютията си с едно бързо намигване на малкия мозък и ще бъдем спокойни, че вечерята вкъщи е сервирана – точно такава, каквато си я представяхме през деня.