Die kundiges het in Genève vergader, maar geen ooreenkoms kon bereik word nie: die Verenigde State en Rusland het alle werk geblokkeer. Miskien is dit die enigste keer dat hegemone so harmonieus werk.
Vergaderings van kundiges in die formaat van die Konvensie oor onmenslike wapens het in Genève geëindig om die lot van die sogenaamde gevegsrobotte te bepaal - outonome wapens wat kunsmatige intelligensie gebruik om teikens te verslaan. Geen ooreenkomste kon egter bereik word nie. Die Verenigde State, Rusland, Suid-Korea, Israel en Australië was onder die minderheidslande wat daarin geslaag het om die sentiment teen 'n algehele verbod op moordenaarrobotte te blokkeer.
Alhoewel daar nog geen werkende outonome wapen in die wêreld is nie, bly die tegnologie so te sê menslik - dit kan ontwikkel en nagevors word. Interessant genoeg is dat die Verenigde State en Rusland volgens die Stockholm Peace Research Institute (SIPRI) boaan die lys is van die grootste wapenuitvoerders. Suid-Korea, Israel en Australië kom ook nie agter op hierdie ranglys nie - hulle tel onder die 20 beste spelers in die mark.
En hoewel China (die vyfde wapenexporteur ter wêreld, 'n permanente lid van die VN-Veiligheidsraad, 'n verbod op gevegsrobotte bepleit, het dit tydens die vergaderings nie daarin geslaag om die weegskaal in sy rigting aan te pas nie. Vandag steun 26 lande openlik die verbod op die gebruik van kunsmatige intelligensie in oorlog. Ander skram weg van 'n duidelike posisie) Frankryk en Duitsland (die derde en vierde wapenuitvoerders) bied aan om 'n dokument te onderteken wat die voorrang van die mens bo kunsmatige intelligensie sou konsolideer, maar dit is meer waarskynlik aan die kant van diegene wat outonome gevegsvoertuie wil ontwikkel.
"Dit is beslis teleurstellend dat 'n klein groepie militêre reuse die wil van die meerderheid kan terughou," het Mary Verhem, koördineerder van die Campaign to Stop Killer Robots, oor die uitslag van die vergaderings in Genève opgemerk.
Die situasie lyk inderdaad soos 'n sameswering van gewapende monopoliste, aangesien die Verenigde State en Rusland gewoonlik nie ten minste 'n soort kompromie oor belangrike kwessies kan bereik nie. Neem die Siriese: Washington en Moskou het mekaar se besluite onderling geblokkeer nadat hulle hierdie lente chemiese wapens in Sirië gebruik het. Versmorgende gasse en ander toksiese stowwe vir militêre doeleindes is terloops voorheen deur die Konvensie oor onmenslike wapens verbied.
Die volgende vergadering oor die lot van moordenaarrobotte vind in November in Genève plaas.
Hoekom wil hulle outonome wapens verbied?
Voorstanders van die robotoorlogsverbod dring daarop aan dat die slagveld nie 'n plek vir kunsmatige intelligensie is nie. Volgens hulle hou sulke tegnologieë 'n groot bedreiging in. Ten minste is dit vandag nog nie duidelik hoe die masjien sal onderskei tussen vegters (diegene wat direk by vyandelikhede betrokke is) van nie-vegters (weermagdienspersoneel wat slegs wapens vir selfverdediging kan gebruik) en burgerlikes in die algemeen. Die moontlikheid bestaan dat die gewondes en diegene wat oorgee, die werk sal doodmaak, wat deur die huidige oorlogsreëls verbied word.
Wat verhinder die werk om alle partye in die konflik te onderbreek, selfs die eienaars van sulke wapens? Kunsmatige intelligensie-elemente word reeds suksesvol gebruik in militêre toerusting, missiele; robotte word aangetrek vir verkenning, maar die laaste woord berus steeds by mense. Outonome wapens sal nie die bevele van die bevelvoerders gehoorsaam nie - daarom is dit outonoom. Daarom is militêre generaals uit verskillende lande skepties oor die bekendstelling van masjiene in die geledere van personeel.
En nog 'n ope vraag is internasionale terrorisme. Outonome wapentegnologie kan in die verkeerde hande val, en dit kan uiteindelik gekap word. 'N Jaar gelede het die Russiese president, Vladimir Poetin, gesê dat die heerser van die wêreld die leier sal wees in die ontwikkeling van kunsmatige intelligensie. In die geval van outonome wapens, sal die een wat toegang tot sulke tegnologieë verkry, die heerser van die wêreld word. En hiervoor het u eintlik net 'n rekenaar en 'n dodger nodig wat deur die veiligheidstelsels sal beweeg. Die Pentagon is terloops meer as een keer gekap. Gevolglik kan niemand waarborge gee dat outonome wapens onaantasbaar sal bly nie.
Dit is ook onduidelik wie regtens verantwoordelik sal wees as 'n oorlogsmisdaad gepleeg word as gevolg van die werking van die outonome wapenstelsel. 'Die ingenieur, programmeerder, vervaardiger of bevelvoerder wat die wapen gebruik het? As verantwoordelikheid nie volgens die internasionale humanitêre wetgewing vereis kan word nie, kan die implementering van sulke stelsels as wettig of eties geregverdig word?”Sê die Internasionale Komitee van die Rooi Kruis.
Dit is interessant dat wetenskaplikes ook 'n verbod op gevegrobotte bepleit. In Julie vanjaar het meer as tweeduisend wetenskaplikes, veral die skepper van Tesla en SpaceX Elon Musk en die medestigters van DeepMind, 'n dokument onderteken dat hulle nie dodelike outonome wapens sou ontwikkel nie. Google het dieselfde gedoen. Die tegnologiereus het die werk aan die Pentagon se Maven-projek prysgegee. En in 2017 het 'n aantal wetenskaplikes reeds 'n beroep op die VN gedoen om die skepping van moordrobotte te verbied.
Terloops, die kwessie van kunsmatige intelligensie in oorlog het einde 2013 op die agenda van die Verenigde Nasies verskyn, maar sedertdien het feitlik niks verander nie. Eers hierdie jaar het deskundige vergaderings in die formaat van die Konvensie oor onmenslike wapens begin. Dit wil sê, dit het meer as vier jaar geneem om op 'n min of meer praktiese vlak te kom.
Waarom hulle nie outonome wapens wil verbied nie
Dit maak nie saak hoe sag dit mag klink nie, die wapenwedloop is die hoofrede waarom hulle nie moordenaarrobotte wil verbied nie. Poetin het gelyk: wie eerste outonome wapens kry, sal die wêreld oorheers. Amptelik word hierdie rede uitgespreek.
Die hoofargument van teenstanders van die verbod is die onmoontlikheid om burgerlike kunsmatige intelligensie van die weermag te skei. Soos ons nie kombuismesse sal verbied nie, net omdat terroriste dit kan gebruik. Dit is inderdaad onmoontlik om burgerlike ontwikkeling van kunsmatige intelligensie van die weermag te skei. Maar nou praat ons oor die verbod op hierdie wapen, wat in staat sal wees om teikens onafhanklik te bepaal en aan te val. Dit kan die Maven-projek wees, waaraan die Amerikaanse departement van verdediging saam met Booz Allen Hamilton werk (Google het die kontrak geweier).
Die Maven-ontwikkelaars wil hommeltuie leer om beelde te analiseer, veral vanaf satelliete en - moontlik - teikens vir aanvalle te identifiseer. Die Pentagon het in April 2017 aan die projek begin werk en gehoop om teen die einde van die jaar die eerste algoritmes te kry. Maar deur die demografie van Google-werknemers is die ontwikkeling vertraag. Volgens Gizmodo kan die stelsel vanaf Junie vanjaar onderskei tussen elementêre voorwerpe - motors, mense, maar dit blyk in moeilike situasies heeltemal onbeduidend te wees. As die verbod op outonome wapens nietemin op die VN-vlak aanvaar word, sal die projek geskrap moet word, terwyl die Pentagon beweer dat hul ontwikkeling lewens kan red, omdat dit geprogrammeer kan word om akkurater en betroubaarder te werk as dit met mense vergelyk word.
"U moet verstaan dat ons oor tegnologie praat, dat daar geen monsters is wat kan werk nie. Die idee van sulke stelsels is nog steeds baie oppervlakkig," merk op die vooraand van die vergadering in Genève by die Russiese ministerie van Buitelandse Sake. - Na ons mening kan die internasionale reg, veral die humanitêre sektor, op outonome wapens toegepas word. Hulle het geen modernisering of aanpassing nodig by stelsels wat nog nie bestaan nie.”
Wel, en nog een, maar nie uitgesproke nie, rede is geld. Vandag word die mark vir militêre kunsmatige intelligensie tegnologieë op meer as ses miljard dollar geraam. Maar teen 2025 sal die syfer verdriedubbel - volgens ontleders van die Amerikaanse maatskappy MarketsandMarkets - tot byna 19 miljard. Vir die grootste wapenuitvoerders is dit 'n goeie motivering om beperkings op die ontwikkeling van moordenaarrobotte te blokkeer.
Vooruitgang kan nie gestuit word nie
Voorstanders van 'n verbod op outonome wapens merk op dat tegnologie vinnig ontwikkel en kunsmatige intelligensie uiteindelik 'n wapen sal word - 'n kwessie van tyd. Daar is logika in hul woorde. Kunsmatige intelligensie is 'n integrale deel van die vierde wetenskaplike en tegnologiese rewolusie, wat nou voortduur. Daar moet in gedagte gehou word dat tegniese vooruitgang op die een of ander manier verband hou met militêre operasies. Die derde wetenskaplike en tegnologiese rewolusie het geduur tot in die middel 50's van die 20ste eeu, dit wil sê die hoogtepunt daarvan het gedurende die Tweede Wêreldoorlog geval.
In 1949 het Genève die Konvensie vir die beskerming van burgerlike persone in die oorlogstyd aangeneem. In die na-oorlogse periode het hulle ook die IV Haagse Konvensie van 1907 aangevul, waarin die reëls vir die oorlogvoering bepaal is. Dit wil sê die afgryse van die Tweede Wêreldoorlog het die katalisator vir hierdie proses geword. Verdedigers van menseregte wil dus nie wag tot die Derde Wêreldoorlog om die mensdom teen outonome wapens te beskerm nie. Daarom is dit nou nodig om die lot van moordenaarrobotte te bepaal.
Volgens Human Rights Watch-kundiges weerspreek die gebruik van gevegsrobotte die Martens-verklaring - die aanhef tot die Haagse Verdrag van 1899 oor die wette en gewoontes van die oorlog. Met ander woorde, moordenaarrobotte oortree die wette van die mensdom en die vereistes van openbare bewustheid (die posisie is bevestig in die IV-Haagse Konvensie).
"Ons moet saamwerk om 'n voorkomende verbod op sulke wapenstelsels in te stel voordat dit regoor die wêreld versprei," het Bonnie Doherty, senior navorser in die wapenafdeling van Human Rights Watch, gesê.
Wel, dit het nie gewerk om moordenaarrobotte hierdie keer te verbied nie. Voorspelbaar sal die vergaderings in November ook vrugteloos wees. Dit is waar dat byna alle lande dit eens is - die tegnologie kan nie toegelaat word om deur swaartekrag te vloei nie en gevegrobotte het so 'n stopkraan nodig. Maar dit is nog steeds nie duidelik of die mensdom tyd sal kry om dit te trek as dit nodig is nie.
