Kila siku, kwa hiari tunaacha habari juu yetu wenyewe kwa mashine. Hii hufanyika wakati tunakubali kuki mkondoni au tumia injini ya utaftaji. Hatufikirii wazi jinsi data yetu inauzwa na kutumika kabla ya kubonyeza “Kukubaliana” kufika kwenye ukurasa tunaotaka, tukijua kuwa itatumika kutulenga kama watumiaji na kutushawishi kununua kitu ambacho hatukujua tunahitaji.
Lakini vipi ikiwa mashine zilikuwa zinatumia data kuamua ni nani wa kulenga kama maadui ambao wanahitaji kuuawa? UN na kikundi cha mashirika yasiyokuwa ya kiserikali wana wasiwasi kuwa hali hii iko karibu kuwa ukweli. Wanatoa wito kwa udhibiti wa kimataifa wa silaha zinazojitegemea (sheria) ili kuepusha siku za usoni ambapo mashine zinaamuru uchaguzi wa maisha na kifo.
Vita kubwa ya drone inayojitokeza huko Ukraine
Kwa miezi kadhaa, mkoa wa Kherson wa Ukraine umepatikana shambulio endelevu Kutoka kwa drones zilizo na silaha zinazoendeshwa na jeshi la Urusi, haswa kulenga wasio wapiganaji. Zaidi ya raia 150 wameuawa, na mamia kujeruhiwa, kulingana na vyanzo rasmi. Huru isiyo na alama Uchunguzi wa haki za binadamu imehitimisha kuwa mashambulio haya yanaunda uhalifu dhidi ya ubinadamu.
Jeshi la Kiukreni pia linategemea sana drones na inaripotiwa kutengeneza “ukuta wa drone” – safu ya kujihami ya magari ya angani isiyo na silaha (UAVs) – kulinda sehemu zilizo hatarini za mipaka ya nchi hiyo.
Mara tu uhifadhi wa mataifa tajiri zaidi ambayo inaweza kumudu UAV za hali ya juu na ghali, Ukraine imethibitisha kuwa, kwa ustadi mdogo, drones za bei ya chini zinaweza kubadilishwa kuwa athari mbaya. Kama migogoro kote ulimwenguni inaangazia mabadiliko haya, asili ya mapigano ya kisasa inaandikwa tena.
© UNICEF/OLESII Filippov
Kutambaa ‘dehumanisation ya dijiti’
Lakini, kama vile aina hii ya vita ya kisasa inaweza kuwa, kuongezeka kwa drones ambazo hazijapangwa au silaha zingine zinazojitegemea zinaongeza uharaka mpya kwa wasiwasi unaoendelea juu ya ‘muuaji roboti’ kunyesha kifo kutoka mbinguni, wakiamua wenyewe ambao wanapaswa kushambulia.
“Katibu Mkuu amekuwa akisema kila wakati mashine zilizo na nguvu iliyokabidhiwa kikamilifu, kufanya uamuzi wa kuchukua maisha ya mwanadamu ni mbaya tu kiadili“
Haki ya Binadamu, NGO ya kimataifa, imesema kuwa matumizi ya silaha za uhuru itakuwa mfano wa hivi karibuni, mbaya zaidi wa kuingiza “dehumanisation ya dijiti,” ambayo AI hufanya maamuzi mengi ya mabadiliko ya maisha juu ya maswala yanayoathiri wanadamu, kama vile polisi, utekelezaji wa sheria na udhibiti wa mpaka.
“Nchi kadhaa zilizo na rasilimali kubwa zinawekeza sana katika akili bandia na teknolojia zinazohusiana kukuza, mifumo ya silaha za ardhini na bahari. Huu ni ukweli, “ Anaonya Mary Wareham, mkurugenzi wa utetezi wa Idara ya Silaha juu ya Human Rights Watch. “Inaendeshwa na Merika, lakini nchi zingine kubwa kama Urusi, Uchina, Israeli na Korea Kusini, zimekuwa zikiwekeza sana katika mifumo ya silaha za uhuru.”
Mawakili wa vita vinavyoendeshwa na AI mara nyingi huashiria mapungufu ya wanadamu kuhalalisha upanuzi wake. Askari wanaweza kufanya makosa katika uamuzi, kutenda kwa hisia, kuhitaji kupumzika, na, kwa kweli, mahitaji ya mshahara – wakati mashine, wanasema, huboresha kila siku katika kutambua vitisho kulingana na tabia na mwelekeo wa harakati. Hatua inayofuata, watetezi wengine wanapendekeza, inaruhusu mifumo ya uhuru kuamua wakati wa kuvuta trigger.
Kuna pingamizi mbili kuu za kuruhusu mashine zichukue kwenye uwanja wa vita: Kwanza, teknolojia ni mbali na ujinga. Pili, UN na mashirika mengine mengi huona utumiaji wa sheria kama zisizo na maadili.
“Ni rahisi sana kwa mashine kukosea malengo ya wanadamu,” anasema Bi Wareham wa Human Rights Watch. “Watu wenye ulemavu wako katika hatari fulani kwa sababu wanahama. Viti vyao vya magurudumu vinaweza kukosea kwa silaha. Kuna wasiwasi pia kuwa teknolojia ya utambuzi wa usoni na vipimo vingine vya biometri haziwezi kutambua kwa usahihi watu walio na tani tofauti za ngozi. AI bado ina makosa, na inaleta upendeleo wa watu waliopanga mifumo hiyo.”
Kuhusu pingamizi za maadili na maadili, Nicole van Rooijen, mkurugenzi mtendaji wa Acha roboti za muuajiumoja unaofanya kampeni ya sheria mpya ya kimataifa juu ya uhuru katika mifumo ya silaha, inasema kwamba itafanya kuwa ngumu sana kujua jukumu la uhalifu wa kivita na ukatili mwingine.
“Ni nani anayewajibika? Ni mtengenezaji? Au mtu aliyeandaa algorithm? Inazua maswala na wasiwasi, na itakuwa shida ya maadili ikiwa wangetumiwa sana.”
Marufuku ifikapo 2026?
Kasi ambayo teknolojia inaendelea, na ushahidi kwamba AI iliwezesha mifumo ya kulenga tayari inatumika kwenye uwanja wa vita, inaongeza kwa uharaka nyuma ya wito wa sheria za kimataifa za teknolojia.
Mei, majadiliano yasiyo rasmi zilifanyika katika makao makuu ya UN, ambayo Bwana Guterres alitaka nchi wanachama kukubali makubaliano ya kisheria ya kudhibiti na kupiga marufuku matumizi yao ifikapo 2026.
Jaribio la kudhibiti na kupiga marufuku sheria sio mpya. Kwa kweli, UN ilishikilia mkutano wa kwanza ya wanadiplomasia mnamo 2014, katika Mataifa ya Palais des huko Geneva, ambapo mwenyekiti wa mazungumzo ya mtaalam wa siku nne, Balozi Jean-Hugues Simon-Michel wa Ufaransa, alielezea sheria kama “shida inayoibuka juu ya ajenda ya silaha hivi sasa,” ingawa hakuna mifumo ya silaha inayojitegemea ilikuwa ikitumika katika migogoro wakati huo. Mtazamo wakati huo ulikuwa kwamba hatua ya kabla ya kutekelezwa ilihitajika kupata sheria mahali katika tukio kwamba teknolojia hiyo ingefanya sheria kuwa za kweli.
Miaka 11 baadaye, mazungumzo yanaendelea, lakini bado hakuna makubaliano juu ya ufafanuzi wa silaha za uhuru, achilia mbali kanuni zilizokubaliwa juu ya matumizi yao. Walakini, NGOs na UN zina matumaini kuwa jamii ya kimataifa inaingia polepole kuelekea uelewa wa kawaida juu ya maswala muhimu.
“Hatuko mahali popote karibu na kujadili maandishi,” anasema Bi Rouijen kutoka Stop Killer Robots. “Walakini, mwenyekiti wa sasa wa Mkutano juu ya silaha fulani za kawaida (Chombo cha sheria ya kibinadamu ya UN ya kupiga marufuku au kuzuia utumiaji wa aina maalum za silaha ambazo zinazingatiwa kusababisha mateso yasiyokuwa ya lazima au yasiyoweza kutekelezeka kwa wapiganaji au kuathiri raia bila ubaguzi) imeweka mbele maandishi ambayo yanaahidi kabisa na kwamba, ikiwa kuna utashi wa kisiasa na ujasiri wa kisiasa, unaweza kuunda msingi wa mazungumzo. “
Bi Wareham kutoka Human Rights Watch pia anaona mazungumzo ya Mei huko UN kama hatua muhimu mbele. “Angalau nchi 120 ziko kwenye bodi kamili na wito wa kujadili sheria mpya ya kimataifa juu ya mifumo ya silaha za uhuru. Tunaona riba nyingi na msaada, pamoja na kutoka kwa amani, wataalam wa AI, wafanyikazi wa teknolojia, na viongozi wa imani.”
“Kuna makubaliano yanayoibuka kuwa mifumo ya silaha ambayo ina uhuru kabisa inapaswa kupigwa marufuku,” anasema Bi Nakamitsu, kutoka Ofisi ya UN kwa Masuala ya Silaha. “Linapokuja vita, mtu lazima awajibike.”
