UMOJA WA MATAIFA, Machi 6 (IPS) – Wakati ujasusi wa bandia (AI) unatishia kutawala kila nyanja ya maisha ya binadamu – ikiwa ni pamoja na kisiasa, kiuchumi, kijamii na kiutamaduni – pia kuna hatari ya uwezekano wa kutokea kijeshi kwa AI.
Wakati huo huo, Umoja wa Mataifa umechukua msimamo thabiti kwamba maamuzi kuhusu utumiaji wa silaha za nyuklia lazima yabaki kwa wanadamu, sio mashine, na kuonya kwamba kuunganisha Intelligence Artificial (AI) katika amri, udhibiti na mawasiliano ya nyuklia (NC3) ni hatari isiyokubalika kwa usalama wa kimataifa.
Kuunganishwa kwa AI katika mifumo ya amri ya nyuklia, udhibiti, na mawasiliano (NC3), pamoja na matumizi yake katika kufanya maamuzi ya kijeshi, huleta hatari kubwa, zisizo na kifani kwa usalama wa kimataifa, kulingana na ripoti moja.
Athari kuu mbaya ni pamoja na kuongeza kasi ya kufanya maamuzi kwa “kasi ya mashine” (kuacha muda mfupi wa uamuzi wa kibinadamu), kuongezeka kwa hatari ya mashambulizi ya mtandao, na mmomonyoko wa uthabiti wa kimkakati.
Kulingana na Bulletin of the Atomic Scientists, amri na udhibiti wa silaha za nyuklia ni mfumo dhaifu na mgumu, iliyoundwa kuzuia makosa wakati wa kuhakikisha kutegemewa chini ya hali ya shinikizo kubwa.
Katika mazingira ambapo idadi kubwa ya data inaunda matokeo ya kiwango cha juu, akili ya bandia imekuwa jambo la kawaida.
“Muunganisho wa teknolojia inayoendelea kukua kwa kasi huibua maswali ya msingi kuhusu uwajibikaji, ubora wa data na utegemezi wa mfumo. Wakati kosa moja linaweza kuwa na matokeo yasiyoweza kutenduliwa, imani inawezaje kujengwa kuhusiana na ujumuishaji wa kujifunza kwa mashine kwenye mifumo ambayo kwa muda mrefu imekuwa ikitegemea uamuzi na uangalizi wa binadamu?”
“Ni ulinzi gani unapaswa kudumishwa? Fursa za ushirikiano wa kimataifa na maafikiano ziko wapi?”
Tariq Rauf, Mkuu wa zamani wa Sera ya Uhakiki na Usalama katika Wakala wa Kimataifa wa Nishati ya Atomiki (IAEA) wenye makao yake makuu mjini Vienna (IAEA), aliiambia IPS jukumu na ujumuishaji wa Ujasusi Bandia wa Kuzalisha (AGI) unaibua baadhi ya maswali muhimu zaidi ya zama zetu za kiteknolojia.
Ujumuishaji wa AGI katika mifumo ya amri, udhibiti na mawasiliano ya nyuklia (NC3) sio changamoto ya kihandisi tu – ni ya ustaarabu.
Tatizo la kasi ya mashine
Labda jambo la kutisha zaidi la ujumuishaji wa AGI katika mifumo ya NC3, alidokeza, ni kubana kwa muda wa kufanya maamuzi kwa “kasi ya mashine.” Mkakati wa nyuklia kihistoria umetegemea uamuzi wa kimakusudi wa kibinadamu – uwezo wa watoa maamuzi kusitisha, kutathmini data yenye utata, kushauriana na washauri, na kuchagua kujizuia hata chini ya shinikizo au kushambuliwa.
Mifumo ya AGI, kwa kulinganisha, imeundwa kuchakata na kujibu kwa kasi ambazo hakuna mwanadamu anayeweza kulingana. Katika shida, hii inazua kitendawili cha hatari: kasi ile ile inayoifanya AGI kuvutia pia hufanya uangalizi wa maana wa mwanadamu kuwa karibu kutowezekana.
“Iwapo mfumo wa AGI utabaini makosa ya kitambuzi kama kombora linalokuja – jambo ambalo limetokea na mifumo inayoendeshwa na binadamu hapo awali, kama tukio la kengele ya uwongo la Soviet ya 1983 inavyoonyesha – dirisha la marekebisho linaweza kupungua kutoka dakika hadi sekunde.”
Upeo wa makosa katika kufanya maamuzi ya nyuklia daima umekuwa mwembamba usio na raha; AGI ina hatari ya kuiondoa kabisa, alisema Rauf.
Ubora wa Data na Kuegemea Mfumo
Ubora wa data na uadilifu ni masuala ya msingi kuhusu AGI. Mifumo ya kujifunza kwa mashine ni ya kuaminika tu kama data ambayo wamefunzwa, alisema.
“Mazingira ya nyuklia yanaleta changamoto changamano za kipekee: yanahusisha matukio adimu, yenye viwango vya juu na data finyu ya kihistoria, watendaji wapinzani ambao wanaweza kusambaza taarifa potofu kimakusudi kwenye mitandao ya vitambuzi, na miktadha ya kijiografia ambayo hubadilika haraka kuliko seti za data za mafunzo zinavyoweza kunasa”.
Mfumo wa AGI ambao hushughulikia data iliyopotoshwa au iliyowasilishwa vibaya katika muktadha wa nyuklia unaweza kusababisha kuongezeka kwa msingi wa hadithi za uwongo. Mbaya zaidi, uwazi wa mifano mingi ya kujifunza mashine – kinachojulikana kama “sanduku nyeusi” – inamaanisha kwamba hata wabunifu wa mfumo hawawezi kueleza kwa nini pato fulani lilitolewa, sembuse kusahihisha kwa wakati halisi, alitangaza Rauf.
Vladislav Chernavskikh, Mtafiti, Mpango wa Silaha za Uharibifu wa Umati, katika Taasisi ya Kimataifa ya Utafiti wa Amani ya Stockholm (SIPRI) aliiambia IPS mbinu zilizopo za serikali kuhusu AI-nyuklia ambazo tayari zimeunganishwa kwa upana juu ya kanuni ya kubakiza udhibiti wa binadamu katika kufanya maamuzi ya nyuklia, lakini hakuna makubaliano juu ya jinsi hii inapaswa kufafanuliwa au kutekelezwa.
Utambuzi rasmi wa kanuni hii na mataifa yenye silaha za nyuklia na ufafanuzi wa kile ambacho udhibiti wa binadamu unajumuisha katika muktadha huu na jinsi unavyoweza kudhihirika katika kikoa cha silaha za nyuklia inaweza kuwa moja ya hatua za kwanza za kupunguza hatari, alitangaza.
Katika Mkutano wa Kilele wa Athari za AI huko New Delhi mwezi uliopita, Katibu Mkuu wa Umoja wa Mataifa Antonio Guterres alisema mustakabali wa AI hauwezi kuamuliwa na nchi chache na matakwa ya mabilionea wachache.
Mwaka jana, Baraza Kuu lilichukua hatua mbili madhubuti, alisema.
Kwanza, kwa kuunda Jopo Huru la Kimataifa la Kisayansi kuhusu Ujasusi Bandia, na pili, kwa kuzindua Mazungumzo ya Kimataifa kuhusu Utawala wa AI ndani ya Umoja wa Mataifa, ambapo nchi zote, pamoja na sekta binafsi, wasomi na mashirika ya kiraia, zote zinaweza kuwa na sauti.
Aliwaambia washiriki katika mkutano huo kwamba athari halisi inamaanisha teknolojia ambayo inaboresha maisha na kulinda sayari. Na alitoa wito kwao kujenga AI kwa kila mtu, kwa heshima kama mpangilio chaguo-msingi.
Msemaji wa Umoja wa Mataifa Stephane Dujarric aliwaambia waandishi wa habari mwezi uliopita, Katibu Mkuu hataki Umoja wa Mataifa kutawala AI. Anatoa wito – na ameweka – usanifu kwa usaidizi wa Nchi Wanachama ili kujaribu kuhakikisha kuwa kila mtu anapata kiti kwenye meza.
Na kama alivyosema: “AI itakuwa na tayari imetuathiri sisi sote. Ni muhimu kwamba nchi ambazo hazina teknolojia pia ziwe na sauti na kwamba sayansi na haki ziwekwe katikati ya AI.”
Wajibu na Uwajibikaji
Katika uchanganuzi zaidi, Rauf alisema wakati mapendekezo ya AGI au vitendo vya uhuru vinapochangia matokeo mabaya, suala la uwajibikaji linakuwa tatizo kubwa.
Minyororo ya kitamaduni ya amri inapeana uwajibikaji wazi wa kibinadamu katika kila hatua ya uamuzi. Ujumuishaji wa AGI huvunja uwazi huu. Je, ni msanidi programu, kamanda wa kijeshi, serikali iliyotuma mfumo, au kanuni yenyewe ambayo inawajibika kwa ukokotoaji usio sahihi? Aliuliza.
Kutokuwepo kwa mifumo iliyo wazi ya uwajibikaji si tu tatizo la kisheria au kimaadili – ni la kimkakati, kwa sababu wapinzani na washirika wanahitaji kuelewa ni nani anayedhibiti na ni mantiki gani ya uamuzi inatumika.
Hatari ya Mashambulizi ya Mtandaoni
Mifumo iliyoimarishwa ya AGI au tegemezi ya NC3 pia hupanua sehemu ya mashambulizi kwa wapinzani. Mashambulizi ya kisasa ya mtandao – ikiwa ni pamoja na pembejeo za wapinzani iliyoundwa kudhibiti matokeo ya AGI – zinaweza kuharibu au kupofusha mifumo hii kwa njia ambazo ni ngumu kugundua hadi kuchelewa sana. Kuunganishwa kwa AGI kwa hivyo kunaunda vekta mpya za kudhoofisha ambazo hazikuwepo katika usanifu wa mapema wa nyuklia, alisema Rauf.
Kesi ya Ushirikiano wa Kimataifa
Licha ya changamoto hizi za kutisha, ushirikiano wa kimataifa unaweza kuwa njia inayowezekana ya kudhibiti hatari. Hatua za kujenga imani, viwango vya kiufundi vilivyoshirikiwa, na mikataba ya nchi mbili au kimataifa ‘inayotekelezeka’ juu ya mipaka ya uhuru wa AGI katika mifumo ya nyuklia inaweza kusaidia kuhifadhi uthabiti wa kimkakati.
Historia ya udhibiti wa silaha, alisema Rauf, inaonyesha kwamba hata wapinzani wanaweza kukubaliana juu ya sheria zinazotumikia maslahi ya pande zote katika kuishi. Kupanua utamaduni huo kwa mifumo ya NC3 inayowezeshwa na AGI kunahitajika haraka – kabla ya teknolojia kupita diplomasia kabisa.
“Kuunganishwa kwa AGI katika mifumo ya nyuklia kitaalam kunaweza kuepukika. Kama inasimamiwa kwa busara ni chaguo la kisiasa na kimaadili ambalo linabaki wazi sana na linaonekana zaidi ya uwezo wa kiakili, kimaadili/kimaadili wa ‘viongozi’ wa kiraia na kijeshi wa leo, alitangaza Rauf.
Makala haya yameletwa kwenu na IPS NORAM, kwa ushirikiano na INPS Japani na Soka Gakkai International, katika hali ya mashauriano na Baraza la Uchumi na Kijamii la Umoja wa Mataifa (ECOSOC).
Ripoti ya Ofisi ya Umoja wa Mataifa ya IPS
© Inter Press Service (20260306065643) — Haki Zote Zimehifadhiwa. Chanzo asili: Inter Press Service
