Може ли вјештачка интелигенција једног дана постати толико моћна да угрози опстанак човјечанства? Док дио стручњака упозорава да тај ризик више не треба посматрати само као научну фантастику, други сматрају да много непосреднија опасност долази од људи који АИ користе против других људи.
Могући сценарији:
- Хаковање критичне инфраструктуре
- АИ преузима контролу над системима
- Погрешно постављен циљ постаје пријетња
- Опасност коју људи не могу предвидјети
- Дио стручњака оспорава најцрње прогнозе
Како наводи BBCотворена упозорења истраживача о све већим ризицима технологије која се отима контроли пробудила су забринутост због безбједности у вези са вјештачком интелигенцијом. Нека од најпесимистичнијих скорашњих прогноза упозоравају да постоји шанса већа од 10 одсто да би вјештачка интелигенција могла да истријеби све људе у наредној деценији.
Други из свијета вјештачке интелигенције сумњају у њихову увјерљивост и тврде да су већа брига људи који користе вјештачку интелигенцију против других људи.
Ове апокалиптичне поруке стижу из дијела вјештачке интелигенције који се често назива „АИ катастрофичарима“.
Али крупно питање које многи постављају је како ти катастрофичари мисле да би вјештачка интелигенција заправо могла да докрајчи човјечанство.
Неки системи вјештачке интелигенције недавно су се отргли контроли.
А амерички предсједник Доналд Трамп каже да не вјерује у толику опасност од вјештачке интелигенције.
BBC новинар Џо Тајди разматра нека од сценарија које су замислили истраживачи.
Сценарио први: Хаковање инфраструктуре
Први сценарио укратко је изложио Џејкоб Коксон, бивши истраживач у OpenAI, а потом и Антропику, који је почетком мјесеца на прилично драматичан начин поднио оставку, упозоривши на ризик по човјечанство и тврдећи да се компаније „коцкају животима људи“.
Он је за BBC рекао да „вртоглава стопа напретка“ сада значи да ствари које су претходно биле строго у домену научне фантастике „постају реалност“.
Као „конкретан примјер“, навео је, „вјештачка интелигенција може да хакује критичну инфраструктуру на којој свијет опстаје“.
Његов сценарио замишља да би отргнути систем вјештачке интелигенције могао да инфилтрира компјутерске мреже као што су провајдери и енергетске мреже.
Кад би вјештачка интелигенције све угасила, на примјер, могао би да услиједи неизрециви хаос, без струје, гријања, хлађења или интернет везе.
Отишавши још даље, било је сугестија и да су могуће нуклеарне катастрофе.
Сценарио други: Вјештачка интелигенција преузима контролу
Други сценарио потиче од детаљног и утицајног, али такође крајње спекуlatивног, истраживачког рада „АИ 2027“, који је у априлу 2025. године објавила група истраживача вјештачке интелигенције.
Коаутор Томас Ларсен недавно је за BBC рекао да се технологија убрзала послије објављивања овог извјештаја и описао сценарио ког се он лично највише плаши.
„Вјештачка интелигенција се рекурзивно самоусавршава, а то ефектом лавине може да се претвори у вјештачку интелигенцију која има приступ великом броју робота који обављају већи дио физичких послова у читавој привреди. Она, међутим, није пријатељски настројена и има властите циљеве. И онда се на крају деси то да испусти био-оружје, убивши већину људи, и настави да води роботску привреду сама јер јој људи више нису потребни“, наводи он.
Сценарио трећи: Главни циљ
У трећем сценарију, до краја човјечанства долази грешком.
Прије више од 20 година, шведски филозоф Ник Бостром замислио је „хипотезу о максимизатору спајалица“
Он је то описао као „мисаони експеримент“, у којем хипотетички систем вјештачке интелигенције жели да направи што више спајалица може.
„Он не мрзи нити презире нас људе, али то му је једини циљ. И онда, током остваривања тог циља, он би могао да има инструменталне подциљеве који би могли да подразумијевају стицање више моћи или веће интелигенције“, објашњава он.
„Потом, замисао је да би довољно моћни ентитет који слиједи било какве циљеве, било да су то спајалице или нешто друго, имао инструменталне подциљеве који би могли да садрже уништење човјечанства зато што би могао да прави више спајалица кад не би било људи који би могли да га зауставе“, наводи Бостром.
Двије деценије пошто је први пут описао овај сценарио, Бостром каже за BBC да је овај „карикирани“ наратив требало да илуструје идеју да вам не треба конкретан непријатељски циљ код суперинтелигенције да би она представљала опасност по човјечанство.
Он каже да сад има „двојаке утиске“ о вјештачкој интелигенцији – узбуђен је због њених потенцијално добрих страна, али је забринут због безбједности, преноси BBC на српском.
Сценарио четврти: Непознато
Postоји још једна школа мишљења о безбједности у вези са вјештачком интелигенцијом која тврди да је бесмислено покушавати погодити како и зашто би суперинтелигентна вјештачка интелигенција могла да побије људе.
Овај аргумент изноо је Стјуарт Расел, предсједник Међународног удружења за безбједну и етичку вјештачку интелигенцију – међународне непрофитне организације – у интервјуу за BBC средином септембра.
„Ако замислите да питате шимпанзе како ће тачно ови људи да их истријебе могли би да имају великих проблема да одговоре, зато што не разумију оно што ми радимо“, рекао је он.
„Ми можемо да замишљамо разне сценарије, али мислим да расправа овдје мора да се ослони на претпоставку да једном кад створите нешто што је много интелигентније од људи, ми просто више не одлучујемо о томе шта се дешава“, наводи Расел.
Мустафа Сулејман, шеф Мајкрософт тима за АИ, такође се недавно укључио у ову расправу упозоривши фирме да не смију да стварају системе вјештачке интелигенције способне да постављају властите циљеве, зарађују новац или посједују средства.
То би „практично значило посијати нову силиконску врсту“, рекао је он за BBC, „која би се несумњиво такмичила са нама за ресурсе, без обзира на то колико јој је стало до човјечанства и колико нас воли“.
Колико је све ово основано?
Све то звучи песимистично и веома научнофантастично, али постоји све значајнија и све гласнија група људи у свијету вјештачке интелигенције која вјерује да су неки или сви ови сценарији реалне могућности – не и неизбијежни.
Најновија забринутост јавила се послије скорашњег низа неконтролисаних бјекстава и хакерских акција агената вјештачке интелигенције из OpenAI-ја, Антропика и Мете (у чијем су власништву Фејсбук и Instagram).
Неки из сајбер свијета истичу одговорност коју сносе они који граде те моделе.
„Било шта што ове машине – ове неуморне, непоколебљиве, на циљеве усредсређене, врло способне машине – раде је резултат онога како су оне направљене“, каже Џен Истерли, бивша шефица америчке сајбер управе ЦИСА, а тренутно извршна директорка РСА Конференције, која води међународне конференције о сајбер безбједности.
„Суштина је сљедећа: ако сте произвођач технологије, треба да осмишљавате, правите, тестирате и испоручујете своје способности са безбједношћу као приоритетом број један“, каже она.
Има и оних који тврде да су ризици вјештачке интелигенције значајни, али немају потенцијал да истријебе људску расу.
Научник и писац Гери Маркус одавно критикује велике компаније за вјештачку интелигенцију које раде са врло мало транспарентности и законских прописа, али не мисли да ће технологија истријебити људе.
„Кад би вјештачка интелигенција нанијела велике губитке човјечанству, чак и кад би то жељела, што је велико питање, али кад би то урадила, људи би пружили отпор!“, каже он.
„Онеспособили бисмо све дата центре и бомбардовали све електране.Дакле, истребљење, тако да нико не остане и нико не може да почне да гради свијет испочетка – то просто не могу да замислим“, каже Маркус.
Маркус каже да се свијет тренутно превише усредсређује на сценарије истребљења, а недовољно на оно што види као вјероватније проблеме, као што су будући крупни сајбер напади од људи који користе вјештачку интелигенцију против других људи.
И док се наставља расправа да ли су катастрофичарски сценарији основани, компаније за вјештачку интелигенцију, међу којима су OpenAI, Антропик и Meta, сада отворено расправљају о томе како да успоре развој и раде више на истраживању безбједности.
Ларсен каже да је „истински срећан што безбједност у вези са вјештачком интелигенцијом коначно добија пажњу коју заслужује“.
„Надам се да ће ова врста крупног друштвеног негодовања за посљедицу имати корисну политичку реакцију која ће стварно смањити ризике“, додаје он.
Али да би се успоставила истинска међународна правила, то захтијева дјеловање америчке владе, а Трамп каже да лично сматра да су страховања за безбједност од вјештачке интелигенције „превара“.
