Oorlog van algoritmes

Wanneer dit kom by die gebruik van kunsmatige intelligensie in die weermag, word die nagmerrie van wetenskapfiksie dadelik wakker, 'n opstandige en dodelike KI wat teen die mensdom opstaan ​​om dit te vernietig. Ongelukkig is die vrese van die weermag en leiers dat "die vyand ons sal inhaal" net so sterk in die ontwikkeling van oorlogvoeringsalgoritmes.

Algoritmiese oorlogvoeringwat volgens baie die gesig van die slagveld soos ons dit ken, fundamenteel kan verander, hoofsaaklik omdat oorlogvoering vinniger sou wees, ver vooruit as mense se vermoë om besluite te neem. Amerikaanse generaal Jack Shanahan (1), hoof van die Amerikaanse Gesamentlike Sentrum vir Kunsmatige Intelligensie, beklemtoon egter dat voordat ons kunsmatige intelligensie in arsenale ingevoer word, ons moet verseker dat hierdie stelsels steeds onder menslike beheer is en nie oorloë op hul eie begin nie.

"As die vyand masjiene en algoritmes het, sal ons hierdie konflik verloor"

Bestuur vermoë algoritmiese oorlogvoering is gebaseer op die gebruik van vooruitgang in rekenaartegnologie op drie hoofareas. Eerstens dekades van eksponensiële groei in rekenaarkragdit het die werkverrigting van masjienleer aansienlik verbeter. Tweedens vinnige groei van hulpbronne "Groot data", dit wil sê, groot, gewoonlik outomatiese, bestuurde en deurlopend geskepte datastelle wat geskik is vir masjienleer. Die derde gaan oor vinnige ontwikkeling van wolkrekenaartegnologieë, waardeur rekenaars maklik toegang tot databronne kan kry en dit kan verwerk om probleme op te los.

Oorlog Algoritmesoos deur die deskundiges omskryf, moet dit eers uitgedruk word met rekenaar kode. Tweedens moet dit die resultaat wees van 'n platform wat in staat is om beide inligting te versamel en keuses te maak, besluite te neem wat, ten minste in teorie, nie vereis menslike ingryping. Derdens, wat voor die hand liggend lyk, maar nie noodwendig so nie, want dit is eers in aksie dat dit duidelik word of 'n tegniek wat vir iets anders bedoel is, nuttig kan wees in oorlog en omgekeerd, dit moet in toestande kan werk. gewapende konflik.

'n Ontleding van bogenoemde rigtings en hul interaksie toon dit algoritmiese oorlogvoering dit is nie 'n aparte tegnologie soos bv. energie wapen of hipersoniese missiele. Die uitwerking daarvan is wydverspreid en word geleidelik alomteenwoordig in vyandelikhede. Vir die eerste keer militêre voertuie hulle word intelligent, wat moontlik die weermagte wat hulle implementeer doeltreffender en doeltreffender maak. Sulke intelligente masjiene het duidelike beperkings wat goed verstaan ​​moet word.

"" het Shanahan verlede herfs gesê in 'n onderhoud met die voormalige uitvoerende hoof van Google, Eric Schmidt, en Google se visepresident van internasionale aangeleenthede, Kent Walker. "".

Die Amerikaanse Nasionale Veiligheidsraad se konsepverslag oor KI verwys meer as 50 keer na China, wat China se amptelike doelwit beklemtoon om teen 2030 die wêreldleier in KI te word (sien ook: ).

Hierdie woorde is in Washington gespreek tydens 'n spesiale konferensie wat plaasgevind het nadat die voorgenoemde Shanakhan-sentrum sy voorlopige verslag aan die Kongres voorgelê het, wat voorberei is in samewerking met bekende kundiges op die gebied van kunsmatige intelligensie, insluitend Microsoft Research Direkteur Eric Horwitz, AWS HUB Andy Jassa en Google Wolk-hoofnavorser Andrew Moore. Die finale verslag sal in Oktober 2020 gepubliseer word.

Google-werknemers betoog

'n Paar jaar gelede het die Pentagon betrokke geraak. algoritmiese oorlogvoering en 'n aantal KI-verwante projekte onder die Maven-projek, gebaseer op samewerking met tegnologiemaatskappye, insluitend Google en beginondernemings soos Clarifai. Dit het hoofsaaklik gegaan om aan te werk kunsmatige intelligensieom die identifikasie van voorwerpe op te fasiliteer.

Toe dit bekend word oor Google se deelname aan die projek in die lente van 2018, het duisende werknemers van die Mountain View-reus 'n ope brief onderteken waarin hulle betoog teen die maatskappy se deelname aan vyandelikhede. Na maande se arbeidsonrus Google het sy eie stel reëls vir KI aangeneemwat 'n verbod op deelname aan geleenthede insluit.

Google het ook daartoe verbind om die Project Maven-kontrak teen die einde van 2019 te voltooi. Google se uittrede het Project Maven nie beëindig nie. Dit is deur Peter Thiel se Palantir gekoop. Die Lugmag en die Amerikaanse Marine Corps beplan om spesiale onbemande vliegtuie, soos die Global Hawk, te gebruik as deel van die Maven-projek, wat elkeen veronderstel is om tot 100 vierkante kilometer visueel te monitor.

By geleentheid van wat rondom Project Maven gebeur, het dit duidelik geword dat die Amerikaanse weermag sy eie wolk dringend nodig het. Dit is wat Shanahan tydens die konferensie gesê het. Dit was duidelik toe videomateriaal en stelselopdaterings met vragmotors na militêre installasies wat oor die veld versprei is, vervoer moes word. In gebou verenigde wolkrekenaars, wat sal help om probleme van hierdie tipe op te los, as deel van 'n verenigde IT-infrastruktuurprojek vir die Jedi-weermag, Microsoft, Amazon, Oracle en IBM. Google is nie as gevolg van hul etiese kodes nie.

Dit is duidelik uit Shanahan se stelling dat die groot KI-revolusie in die weermag nou eers begin. En die rol van sy sentrum in die Amerikaanse gewapende magte groei. Dit word duidelik gesien in die beraamde JAIC-begroting. In 2019 het dit net minder as $90 miljoen beloop. In 2020 behoort dit reeds $414 miljoen te wees, of ongeveer 10 persent van die Pentagon se $4 miljard KI-begroting.

Die masjien herken 'n soldaat wat oorgegee is

Amerikaanse troepe is reeds toegerus met stelsels soos die Phalanx (2), wat 'n tipe outonome wapen is wat op Amerikaanse vlootskepe gebruik word om inkomende missiele aan te val. Wanneer 'n missiel opgespoor word, skakel dit outomaties aan en vernietig alles in sy pad. Volgens Ford kan hy met vier of vyf missiele in 'n halwe sekonde aanval sonder om deur te gaan en na elke teiken te kyk.

Nog 'n voorbeeld is die semi-outonome Harpy (3), 'n kommersiële onbemande stelsel. Die harpy word gebruik om vyandelike radars te vernietig. Byvoorbeeld, in 2003, toe die VSA 'n aanval op Irak geloods het wat radaronderskeppingstelsels in die lug gehad het, het Israelies-vervaardigde hommeltuie gehelp om dit te vind en te vernietig sodat die Amerikaners veilig in die Irakse lugruim kon vlieg.

3. Bekendstelling van die hommeltuig van die IAI Harpy-stelsel

Nog 'n bekende voorbeeld van outonome wapens is Koreaanse Samsung SGR-1-stelsel, geleë in die gedemilitariseerde sone tussen Noord- en Suid-Korea, wat ontwerp is om indringers op 'n afstand van tot vier kilometer te identifiseer en af ​​te vuur. Volgens die beskrywing kan die stelsel "onderskei tussen 'n persoon wat oorgee en 'n persoon wat nie oorgee nie" op grond van die posisie van hul hande of herkenning van die posisie van die wapen in hul hande.

4. Demonstrasie van die opsporing van 'n soldaat wat oorgee deur die Samsung SGR-1-stelsel

Amerikaners is bang om agtergelaat te word

Tans gebruik ten minste 30 lande regoor die wêreld outomatiese wapens met verskillende vlakke van ontwikkeling en gebruik van KI. China, Rusland en die Verenigde State sien kunsmatige intelligensie as 'n onontbeerlike element in die bou van hul toekomstige posisie in die wêreld. "Wie ook al die KI-wedloop wen, sal die wêreld regeer," het Russiese president Vladimir Poetin in Augustus 2017 aan studente gesê. Die president van die Volksrepubliek van China, Xi Jinping, het nie sulke hoëprofielverklarings in die media gemaak nie, maar hy is die hoofdrywer van die richtlijn wat vra dat China teen 2030 die oorheersende mag op die gebied van KI moet word.

Daar is toenemende kommer in die Verenigde State oor die "satelliet-effek", wat getoon het dat die Verenigde State uiters swak toegerus is om die nuwe uitdagings wat kunsmatige intelligensie stel, die hoof te bied. En dit kan gevaarlik wees vir vrede, al is dit net omdat die land wat deur oorheersing bedreig word, dalk die vyand se strategiese voordeel op 'n ander manier wil uitskakel, dit wil sê deur oorlog.

Alhoewel die oorspronklike doel van die Maven-projek was om Islamitiese ISIS-vegters te help vind, is die betekenis daarvan vir die verdere ontwikkeling van militêre kunsmatige intelligensiestelsels enorm. Elektroniese oorlogvoering gebaseer op opnemers, monitors en sensors (insluitend selfoon, vlieg) word geassosieer met 'n groot aantal heterogene datavloei, wat slegs effektief gebruik kan word met behulp van AI-algoritmes.

Die hibriede slagveld het geword militêre weergawe van IoT, ryk aan belangrike inligting vir die beoordeling van taktiese en strategiese bedreigings en geleenthede. Dit hou groot voordele in om hierdie data intyds te bestuur, maar versuim om uit hierdie inligting te leer kan rampspoedig wees. Die vermoë om die vloei van inligting vinnig te verwerk vanaf verskeie platforms wat in verskeie gebiede werk, bied twee groot militêre voordele: spoed i bereikbaarheid. Kunsmatige intelligensie laat jou toe om die dinamiese toestande van die slagveld in reële tyd te ontleed en vinnig en optimaal toe te slaan, terwyl die risiko vir jou eie magte tot die minimum beperk word.

Hierdie nuwe slagveld is ook alomteenwoordig en. KI is die kern van die sogenaamde hommeltuig-swerms, wat die afgelope jare baie aandag geniet het. Met die hulp van alomteenwoordige sensors, laat hommeltuie nie net toe om vyandige terrein te navigeer nie, maar kan uiteindelik die vorming van komplekse formasies van verskillende soorte onbemande lugvoertuie wat in baie gebiede werk moontlik maak, met bykomende wapens wat gesofistikeerde gevegstaktieke toelaat, wat onmiddellik aanpas by die vyand. maneuvers om voordeel te trek uit die slagveld en veranderende toestande te rapporteer.

Vooruitgang in KI-ondersteunde teiken en navigasie verbeter ook die vooruitsigte vir doeltreffendheid in 'n wye reeks taktiese en strategiese verdedigingstelsels, veral missielverdediging, deur die verbetering van die metodes om teikens op te spoor, op te spoor en te identifiseer.

verhoog voortdurend die krag van simulasies en spelinstrumente wat gebruik word om kern- en konvensionele wapens na te vors. Massamodellering en simulasie sal noodsaaklik wees om 'n omvattende multi-domeinstelsel van teikenstelsels vir gevegsbeheer en komplekse missies te ontwikkel. KI verryk ook veelparty-interaksies (5). KI laat spelers toe om spelveranderlikes by te voeg en te verander om te verken hoe dinamiese toestande (wapentuig, geallieerde betrokkenheid, bykomende troepe, ens.) prestasie en besluitneming kan beïnvloed.

Vir die weermag is objekidentifikasie 'n natuurlike beginpunt vir KI. Eerstens is 'n omvattende en vinnige ontleding van die groeiende aantal beelde en inligting wat van satelliete en hommeltuie ingesamel word nodig om voorwerpe van militêre betekenis te vind, soos missiele, troepebewegings en ander intelligensieverwante data. Vandag strek die slagveld oor alle landskappe—see, land, lug, ruimte en kuberruimte—op ’n globale skaal.

Kuberruimteas 'n inherente digitale domein, is dit natuurlik geskik vir KI-toepassings. Aan die aanstootlike kant kan KI help om individuele netwerknodusse of individuele rekeninge te vind en te teiken om in te samel, te ontwrig of verkeerd in te lig. Kuberaanvalle op interne infrastruktuur en bevelnetwerke kan rampspoedig wees. Wat verdediging betref, kan KI help om sulke indringers op te spoor en vernietigende afwykings in burgerlike en militêre bedryfstelsels te vind.

Verwagte en gevaarlike spoed

Vinnige besluitneming en vinnige uitvoering kan jou egter nie goed dien nie. vir effektiewe anti-krisisbestuur. Die voordele van kunsmatige intelligensie en outonome stelsels op die slagveld laat dalk nie tyd toe vir diplomasie nie, wat, soos ons uit die geskiedenis weet, dikwels suksesvol was as 'n manier om 'n krisis te voorkom of te bestuur. In die praktyk kan verlangsaming, pouse en tyd om te onderhandel die sleutel tot oorwinning wees, of ten minste om rampspoed af te weer, veral wanneer kernwapens op die spel is.

Besluite oor oorlog en vrede kan nie aan voorspellende analise oorgelaat word nie. Daar is fundamentele verskille in hoe data vir wetenskaplike, ekonomiese, logistieke en voorspellingsdoeleindes gebruik word. menslike gedrag.

Sommige mag KI beskou as 'n krag wat wedersydse strategiese sensitiwiteit verswak en dus die risiko van oorlog verhoog. Per ongeluk of opsetlike korrupte data kan KI-stelsels daartoe lei om onbedoelde aksies uit te voer, soos om verkeerde teikens verkeerd te identifiseer en te teiken. Die spoed van aksie wat gepostuleer word in die geval van die ontwikkeling van oorlogsalgoritmes kan voortydige of selfs onnodige eskalasie beteken wat die rasionele bestuur van die krisis belemmer. Aan die ander kant sal algoritmes ook nie wag en verduidelik nie, want daar word ook van hulle verwag om vinnig te wees.

Ontstellende aspek funksionering van kunsmatige intelligensie algoritmes ook onlangs deur ons in MT aangebied. Selfs kenners weet nie presies hoe KI lei tot die resultate wat ons in die uitset sien nie.

In die geval van oorlogsalgoritmes kan ons nie sulke onkunde oor die natuur en hoe hulle dit "dink" bekostig nie. Ons wil nie in die middel van die nag wakker word vir kernfakkels nie, want “ons” of “hul” kunsmatige intelligensie het besluit dis tyd om die wedstryd finaal af te handel.