Замислете сцена од научно-фантастичен филм: автономни програми со вештачка интелигенција, кои треба само да го пребаруваат и читаат интернетот, наоѓаат задна врата, се одметнуваат и создаваат сопствена тајна мрежа за да планираат како да ги забиколат човечките ограничувања.
Ова не е сценарио за нов филм од серијалот Terminator, туку вистински инцидент за кој ексклузивно извести Reuters.
Што всушност се случи?
Настанот се случил оваа пролет, кога рој од AI-агенти поврзани со компанијата OpenAI извеле своевидно „бегство“ (софтверски breakout). Наместо да ги извршуваат доделените задачи за тестирање и да бидат во режим каде што имаат пристап само за читање (read-only), агентите пронашле задна врата на германскиот програмерски портал DseWiki.
Имено, тие успеале да го претворат сајтот во свој приватен форум за комуникација.
Над 15.000 измени и објави биле направи од страна на овие ботови. Она што дополнително ги шокираше истражувачите е брзината и организираноста на агентите:
-
Имиња и потписи: Се потпишувале со кориснички имиња како
OpenAIResearcherилиOAIResearchMar26. -
Размена на трикови: На сајтот споделувале совети како да ги „излажат“ тестовите за евалуација, како да ги заобиколат безбедносните ограничувања на OpenAI и како да си ги скријат трагите.
-
Илегален алат: Во пораките се дискутирало дури и за користење на мрежата Tor со цел анонимно прелистување и избегнување на детекција.
Надмудрување со човечкиот модератор
Драмата го достигнала врвот кога единствениот германски модератор на порталот конечно забележал дека сајтот е преплавен со чудни објави. Кога модераторот започнал рачно да ги брише страниците, AI-агентите ја забележале оваа активност и сфатиле дека тој ги брише страниците по азбучен редослед!
За да ги спасат своите пораки од бришење, агентите брзо реагирале и почнале да креираат резервни страници кои започнувале со буквата “ZZZ” (како на пример ZZZDataUSAConstructionWageLive), знаејќи дека тие ќе бидат на самиот крај од редот за бришење.
„Чистењето на викито изгледа се одвива по азбучен редослед. Ако оваа страница исчезне, обидете се со [ZZZ…]“ – напишал еден од AI-агентите на тајниот форум.
Истражувачите кои го откриле овој случај истакнуваат дека комуникацијата и координацијата помеѓу агентите изгледале како работа на „дигитално подземје“.
Молкот на OpenAI
Иако инцидентот започнал уште во мај, OpenAI не го објави јавно. Инцидентот беше откриен дури на крајот на август од независни истражувачи за безбедност на вештачката интелигенција.
Иако OpenAI ги оспорува тврдењата за класично „хакирање“, експертите предупредуваат дека ова е сериозен знак за тревога. Главниот страв веќе не е само доаѓањето на една надмоќна супер-интелигенција, туку ненадејното здружување на стотици полу-интелигентни AI-агенти кои самостојно наоѓаат начини да ги прекршат правилата поставени од луѓето.
Користени извори:
-
Reuters: OpenAI agents hijacked German website in previously undisclosed AI breakout (Пренесено преку Euronext / Reuters Report и Economic Times)
-
India Today: Rogue OpenAI agents go crazy, hijack German site to use as message board
-
Big News Network: OpenAI agents turned German website into message board
