Кога вештачката интелигенција ќе го надмине човечкиот ум: Предупредувањето на Ерик Шмит што треба да ве загрижи

Поранешниот извршен директор и претседател на Google, Ерик Шмит, упати сериозно предупредување до глобалната јавност: во следните пет години, системите за вештачка интелигенција (AI) би можеле да станат толку напредни што луѓето повеќе нема целосно да разбираат како тие размислуваат и носат одлуки.

Оваа изјава не доаѓа од некој скептик или теоретичар на заговори, туку од човек кој со децении беше во самиот врв на технолошката индустрија и ја обликуваше дигиталната ера. Според Шмит, брзината со која се развиваат големите јазични модели, автономните агенти и генералната вештачка интелигенција (AGI) нè води кон точка каде што границата меѓу „алатка“ и „независен ентитет“ станува сè побледа.

Проблемот на „Црната кутија“ (Black Box)

Главната загриженост на Шмит се однесува на феноменот познат како непроѕирност на алгоритмите. Веќе денес, најнапредните AI модели носат заклучоци преку сложени неуронски мрежи со стотици милијарди (и трилиони) параметри. Програмерите ги знаат влезните податоци (input) и крајните резултати (output), но точниот тек на математичката логика во средината е речиси невозможно целосно да се мапира од човечкиот мозок.

Ако овој тренд продолжи со сегашното темпо, во блиска иднина ќе се соочиме со системи кои:

• Носат автономни одлуки во медицината, финансиите, безбедноста и науката без можност луѓето да ја потврдат нивната внатрешна логика.

• Развиваат неочекувани однесувања кои не биле експлицитно програмирани (т.н. emergent behaviors).

• Создаваат нови форми на оптимизација или комуникација кои ја надминуваат когнитивната способност на човечката перцепција.

Што значи ова за нас?

Ако не разбираме како еден AI систем функционира, губиме две клучни работи: контрола и одговорност.

Ако некој AI систем во иднина донесе одлука што ќе предизвика штета или криза во критична инфраструктура, кој сноси одговорност ако никој — дури ни неговите создавачи — не може да објасни зошто тоа се случило? Ова го отвора фундаменталното прашање за безбедноста и контролата врз технологијата пред таа да стане премногу комплексна за обуздување.

Дали имаме решение?

Шмит и многу водечки истражувачи апелираат за итно воведување строги регулативи, заштитни механизми (safeguards) и инвестирање во т.н. „Објаснива вештачка интелигенција“ (Explainable AI – XAI) — научна област чија цел е да ги направи процесите во AI моделите транспарентни и разбирливи за луѓето.

Трката за постигнување сепоопфатна вештачка интелигенција се одвива со молскавична брзина, но предупредувањето на Ерик Шмит останува јасно: ако развиеме интелигенција што не ја разбираме, ризикуваме да станеме надгледувани од сопствените креации.

Извори и референци

1. Ерик Шмит за ризиците од вештачката интелигенција:

   • The Wall Street Journal / CEO Council Summit: Изјави и публицирани дискусии на Ерик Шмит за брзината на развојот на AI и потенцијалните егзистенцијални ризици.

   • Noema Magazine / Berggruen Institute: Анализи и колумни од Ерик Шмит за тоа како вештачката интелигенција го менува сфаќањето за знаењето и човечката контрола.

2. Книги и трудови од Ерик Шмит на темата:

   • The Age of AI: And Our Human Future (Ксинџин, Кисинџер, Шмит) — Книга во која детално се разгледува феноменот на системи чие размислување ја надминува човечката логика.

3. Технички концепти за „Black Box“ и XAI:

   • DARPA (Defense Advanced Research Projects Agency): Research Program on Explainable Artificial Intelligence (XAI) — официјални истражувачки трудови за проблематиката на непроѕирност на AI алгоритмите.

   • MIT Technology Review: Статии и истражувања посветени на пропишувањето на одговорност кај автономните AI системи и феноменот на emergent behavior.