Kabinet van Gruwels

Die opkoms van die masjiene en die oorname van mag deur kunsmatige intelligensie. 'n Wêreld van volledige toesig en sosiale beheer. Kernoorlog en die degenerasie van die beskawing. Baie donker toekomsvisioene, baie jare gelede geskilder, was op die punt om vandag te gebeur. Intussen kyk ons ​​terug en dit blyk dat hulle nooit bestaan ​​het nie. Is jy seker?

Daar is 'n redelik stereotipiese repertoire van gewilde distopiese profesieë (oor die swart toekomsvisie). Benewens die algemeenste wat verband hou met die vernietiging van die natuurlike omgewing en hulpbronne, word daar algemeen geglo dat opkomende tegnologieë nadelig is vir interpersoonlike kommunikasie, verhoudings en die samelewing.

Virtuele ruimte sal bedrieglik werklike deelname aan die wêreld vervang. Ander distopiese sienings beskou tegnologiese ontwikkeling as 'n manier om sosiale ongelykheid te verhoog, mag en rykdom in die hande van eng groepe te konsentreer. Die hoë eise van moderne tegnologie konsentreer kennis en vaardighede in nou kringe van bevoorregte individue, verhoog toesig oor mense en vernietig privaatheid.

Volgens baie toekomskundiges kan hoër produktiwiteit en verhoogde sigbare keuse 'n persoon se lewenskwaliteit benadeel, stres veroorsaak, werksgeleenthede bedreig, wat ons toenemend materialisties oor die wêreld maak.

Een van die bekende tegnologiese "dystopians", James Gleick, gee die oënskynlik triviale voorbeeld van 'n TV-afstandsbediening as 'n klassieke uitvinding wat nie 'n enkele beduidende probleem oplos nie, wat aanleiding gee tot baie nuwes. Gleick, wat 'n historikus van tegnologie aanhaal Edward Tenner, skryf dat die vermoë en gemak om kanale te verander met die afstandbeheer hoofsaaklik dien om die kyker meer en meer af te lei.

In plaas van tevredenheid is mense toenemend ontevrede met die kanale waarna hulle kyk. In plaas daarvan om behoeftes te bevredig, is daar 'n gevoel van eindelose teleurstelling.

Sal masjiene ons op besprekings hou?

Sal ons hierdie ding kan beheer wat onvermydelik is en waarskynlik binnekort sal verskyn? Oor kunsmatige intelligensie? As dit die geval moet wees, soos baie distopiese visioene verkondig, dan nee. (1).

Dit is moeilik om iets te beheer wat baie keer sterker as ons is. namate die aantal take toeneem. Twintig jaar gelede sou niemand geglo het dat hulle emosies in 'n persoon se stem en gesig baie meer akkuraat sou kon lees as wat ons self kan doen nie. Intussen is tans opgeleide algoritmes reeds daartoe in staat, deur gesigsuitdrukkings, timbre en die manier waarop ons praat te ontleed.

Rekenaars teken prente, komponeer musiek, en een het selfs 'n poësiekompetisie in Japan gewen. Hulle klop mense al lank by skaak en leer die spel van voor af. Dieselfde geld vir die veel meer komplekse spel Go.

dit gehoorsaam die wette van steeds vinniger versnelling. Wat KI bereik het - met menslike hulp - oor die afgelope dekades sal in die volgende paar jaar verdubbel, miskien net maande, en dan sal dit net weke, dae, sekondes neem ...

Soos dit onlangs geblyk het, is die algoritmes wat in slimfone of in lughawens gebruik word om foto's van alomteenwoordige kameras te ontleed in staat om nie net iemand in verskillende rame te herken nie, maar ook uiters intieme sielkundige kenmerke te identifiseer. Om te sê dit is 'n groot privaatheidsrisiko is 'n understatement. Dit gaan nie oor eenvoudige toesig, monitering van elke stap nie, maar oor inligting wat ontstaan ​​as gevolg van die einste voorkoms van 'n persoon, oor sy verborge begeertes en persoonlike voorkeure. 

Algoritmes kan dit relatief vinnig leer deur honderde duisende gevalle te ontleed, wat baie meer is as wat selfs die slimste persoon in 'n leeftyd kan sien. Gewapen met so 'n magdom ervaring, is hulle in staat om 'n persoon meer akkuraat te skandeer as selfs die mees ervare sielkundige, lyftaal- en gebareanalis.

Die werklike koue distopie is dus nie dat rekenaars skaak speel of teen ons gaan nie, maar dat hulle ons siel dieper kan sien as enigiemand anders as onsself, vol verbode en blokkasies om daardie of ander neigings te herken.

Elon Musk glo dat "intelligensie" iewers kan ontwikkel namate KI-stelsels op steeds groter skaal begin leer en redeneer diep in weblae, ongemerk deur ons.

Volgens 'n Amerikaanse studie wat in 2016 gepubliseer is, het kunsmatige intelligensie 'n 45 persent kans om mense in alle take binne die volgende 50 jaar te oortref. Voorspellers sê dat ja, KI sal die probleem van kanker oplos, die ekonomie verbeter en versnel, vermaak verskaf, die kwaliteit en lengte van lewe verbeter, ons opvoed sodat ons nie daarsonder kan lewe nie, maar dit is moontlik dat eendag, sonder haat, net gebaseer op logiese berekening, dit verwyder ons eenvoudig. Dit is dalk nie fisies moontlik nie, want in elke stelsel is dit die moeite werd om hulpbronne te versamel, te argiveer en te berg wat "eendag handig te pas kan kom." Ja, dit is die hulpbron wat ons vir KI kan word. Beskermde menslike reservate?

Optimiste troos hulself met die feit dat daar altyd die geleentheid is om die prop uit die sok te trek. Alles is egter nie so eenvoudig nie. Die menslike lewe het reeds so afhanklik van rekenaars geword dat 'n radikale stap teen hulle katastrofies vir ons sou wees.

Ons skep immers toenemend besluitnemingstelsels gebaseer op KI, wat hulle die reg gee om vliegtuie te loods, rentekoerse vas te stel, kragsentrales te bestuur – ons weet dat algoritmes dit baie beter as ons sal doen. Terselfdertyd verstaan ​​ons nie ten volle hoe hierdie digitale besluite geneem word nie.

Daar is vrese dat super-intelligente bevelstelsels soos Verminder opeenhoping hulle kan lei tot die gevolgtrekking dat die enigste doeltreffende manier om die werk gedoen te kry, is ... om die bevolking met 'n derde of selfs die helfte te verminder.

Ja, dit is die moeite werd om die masjien die belangrikste instruksie te gee soos "Eerstens, red menselewens!" Wie weet egter of digitale logika dan sal lei tot die gevangenskap van die mensdom of na 'n skuur, waar ons veilig kan wees, maar beslis nie vry nie.

Kubermisdaad as 'n diens

In die verlede was distopieë en beelde van 'n post-apokaliptiese wêreld in literatuur en film gewoonlik in die post-kernoorlog-era geleë. Vandag blyk kernvernietiging nie nodig te wees om die wêreld soos ons dit ken te verwoes en te vernietig nie, hoewel nie op die manier wat ons dit voorstel nie. , dit is onwaarskynlik dat dit die wêreld sal vernietig soos in "The Terminator," waar dit gekombineer is met kernvernietiging. As sy dit gedoen het, sou sy nie 'n superintelligensie wees nie, maar 'n primitiewe krag. Selfs die mensdom het immers nog nie die globale scenario van 'n vernietigende kernkonflik besef nie.

'n Regte masjienapokalips kan baie minder indrukwekkend wees.

Kuberoorlogvoering, virusaanvalle, stelselkrakery en losprysware, losprysware (2) verlam en vernietig ons wêreld net so effektief soos bomme. As hul skaal uitbrei, kan ons 'n fase van allesomvattende totale oorlog betree, waarin ons slagoffers en gyselaars van masjiene sal word, hoewel hulle nie verplig is om outonoom op te tree nie, en dit is moontlik dat mense steeds agter alles sal sit.

Verlede somer het die Amerikaanse kuberruimte- en infrastruktuursekuriteitsagentskap (CISA) ransomware-aanvalle "die mees prominente kuberveiligheidsbedreiging" genoem.

CISA voer aan dat baie aktiwiteite waarin 'n kubermisdadiger 'n persoon of organisasie se data onderskep en enkripteer en dan losprys daarvoor afdwing, nooit aangemeld word nie omdat die slagoffer die kubermisdadigers betaal en nie bereid is om probleme met hul onveilige stelsels bekend te maak nie. Op mikrovlak teiken kubermisdadigers dikwels ouer volwassenes wat probleme ondervind om tussen eerlike en oneerlike inhoud aanlyn te onderskei. Hulle doen dit met wanware wat in 'n e-posaanhangsel of opspringvenster op 'n besmette webwerf ingebed is. Terselfdertyd neem aanvalle op groot korporasies, hospitale, regeringsinstansies en regerings toe.

Laasgenoemde is veral geteiken weens die sensitiewe data wat hulle gehad het en die potensiaal vir hoë losprysbetalings.

Sommige inligting, soos gesondheidsinligting, is baie meer waardevol vir die eienaar as ander en kan meer geld vir misdadigers bring. Diewe kan groot blokke kliniese data wat belangrik is vir pasiëntsorg onderskep of in kwarantyn plaas, soos toetsuitslae of medikasie-inligting. Wanneer lewens op die spel is, is daar nie plek vir onderhandeling in die hospitaal nie. Een Amerikaanse hospitaal is verlede November permanent gesluit ná die terreuraanval in Augustus.

Dit sal seker mettertyd net erger word. In 2017 het die Amerikaanse departement van binnelandse veiligheid aangekondig dat kuberaanvalle kritieke infrastruktuur soos waternutsdienste kan teiken. En die gereedskap wat nodig is om sulke aksies uit te voer, is toenemend beskikbaar vir kleiner operateurs, aan wie hulle losprysware-stelle soos Cerber- en Petya-sagteware verkoop en 'n losprys hef ná suksesvolle aanvalle. Gebaseer op kubermisdaad as 'n diens.

Gevaarlike versteuring in die genoom

Een van die gewilde temas van distopie is genetika, DNA-manipulasie en teling van mense - boonop op die regte manier "geprogrammeer" (deur owerhede, korporasies, die weermag).

Die moderne beliggaming van hierdie angs is 'n metode van popularisering CRISPR geen redigering (3). Die meganismes wat dit bevat is hoofsaaklik kommerwekkend. verlangde funksies afdwing in daaropvolgende generasies en hul potensiaal versprei na die hele bevolking. Een van die uitvinders van hierdie tegniek, Jennifer Doudna, het selfs onlangs gevra vir 'n moratorium op sulke kiemlyn-redigeringstegnieke weens die potensieel katastrofiese gevolge.

Laat ons onthou dat 'n paar maande gelede 'n Chinese wetenskaplike Oor Jiankui is wyd gekritiseer vir die redigering van die gene van menslike embrio's om hulle teen die VIGS-virus te immuniseer. Die rede was dat die veranderinge wat hy gemaak het van geslag tot geslag oorgedra kon word met onvoorspelbare gevolge.

Wat veral kommerwekkend is, is die sogenaamde d (gene herskrywing, gene drive), m.a.w. genetiese ingenieursmeganisme, wat bestaan ​​uit die kodering van 'n redigeerstelsel in die DNA van 'n gegewe individu CRISPR/CAS9 genoom deur dit te stel om hierdie variant van die ongewenste geen te wysig. Danksy dit herskryf afstammelinge outomaties (sonder die deelname van genetici) die ongewenste geenvariant met die gewenste een.

'n Ongewenste geenvariant kan egter deur die nageslag as 'n "geskenk" van die ongemodifiseerde ander ouer ontvang word. So die gene-drywing laat jou toe om te breek Mendeliaanse erfeniswettewat aandui dat die helfte van die dominante gene deur die nageslag van een ouer geërf word. Kortom, dit sal uiteindelik daartoe lei dat die betrokke geenvariant deur die hele bevolking versprei.

Bioloog by Stanford Universiteit Christina Smolke, terug by 'n paneel oor genetiese ingenieurswese in 2016, het gewaarsku dat hierdie meganisme skadelike en, in uiterste gevalle, verskriklike gevolge kan hê. 'n Geenaandrywing het die vermoë om te muteer soos dit deur generasies gaan en genetiese afwykings soos hemofilie of hemofilie veroorsaak.

Soos ons gelees het in 'n artikel gepubliseer in Nature Reviews deur navorsers aan die Universiteit van Kalifornië, Riverside, selfs al werk 'n aandrywing soos ontwerp in een populasie van 'n organisme, kan dieselfde oorerflike eienskap skadelik wees as dit op een of ander manier in 'n ander bevolking ingebring word. dieselfde siening.

Daar is ook 'n gevaar dat wetenskaplikes geen-aandrywings agter geslote deure en sonder portuurbeoordeling skep. As iemand opsetlik of onbedoeld 'n skadelike geen-aandrywing in die menslike genoom ingebring het, soos die een wat ons weerstand teen griep vernietig, kan dit selfs die einde van die spesie homo sapiens beteken...

Toesigkapitalisme

’n Weergawe van distopie wat voormalige wetenskapfiksieskrywers skaars kon dink, is die realiteit van die internet, en veral sosiale media, met al sy wyd beskryfde gevolge wat mense se privaatheid, verhoudings en sielkundige integriteit vernietig.

Hierdie wêreld word net gekleur deur nuwer artistieke optredes, soos wat ons in die TV-reeks Black Mirror, in die 2016-episode “The Dive” (4) kon sien. Shoshana Zuboff, 'n Harvard-ekonoom, noem hierdie werklikheid heeltemal afhanklik van sosiale selfbevestiging en heeltemal "gedeprivatiseer". toesigkapitalisme (), en terselfdertyd die kroon van Google en Facebook.

4. Toneel uit "Black Mirror" - episode "Dive"

Volgens Zuboff is Google die eerste uitvinder. Boonop brei hy voortdurend sy toesigaktiwiteite uit, byvoorbeeld deur oënskynlik onskuldige “slimstad”-projekte. 'n Voorbeeld is die "World's Most Innovative District"-projek deur Sidewalk Labs, 'n filiaal van Google. pier in Toronto.

Google beplan om elke minuut data in te samel oor die lewe van inwoners van die waterfront, hul bewegings en selfs hul asemhaling deur gebruik te maak van alomteenwoordige moniteringsensors.

Dit is ook moeilik om 'n internetdistopie te kies wat nie op Facebook ter sprake is nie. Toesigkapitalisme is dalk deur Google uitgevind, maar dit was Facebook wat dit na 'n heel nuwe vlak geneem het. Dit is gedoen deur sosiale en emosionele virale meganismes en die meedoënlose teiken van selfs nie-gebruikers van Zuckerberg se platform.

Bewaakte KI, gedompel in virtuele realiteit, saam met UBI

Volgens baie toekomskundiges word die toekoms van die wêreld en tegnologie deur vyf akronieme aangedui - AI, AR, VR, BC en UBI.

Lesers van MT weet seker goed wat dit is en waaruit die eerste drie bestaan. Die bekende blyk ook die vierde te wees, "Son," wanneer ons verstaan ​​waarvan ons praat. En die vyfde? UBD is 'n afkorting van die begrip wat beteken "universele basiese inkomste" (5). Dit is 'n regeringsvoordeel wat van tyd tot tyd gepostuleer word en wat aan elke persoon wat van werk vrygemaak word, verskaf sal word namate ander tegnologieë, veral KI, ontwikkel.

5. Universele Basiese Inkomste - UBI

Switserland het selfs verlede jaar die idee na 'n referendum gebring, maar sy burgers het dit verwerp uit vrees dat die instelling van 'n gewaarborgde inkomste die land met immigrante sou oorstroom. UBI hou ook 'n aantal ander gevare in, insluitend die risiko om bestaande sosiale ongelykhede voort te sit.

Elkeen van die tegnologiese revolusies agter die akroniem (sien ook:) - as dit in die verwagte rigting versprei en ontwikkel - hou groot gevolge vir die mensdom en ons wêreld in, insluitend natuurlik 'n groot dosis distopie. Daar word byvoorbeeld geglo dat dit verkiesingsiklusse van vier jaar kan vervang en tot referendums oor ’n magdom kwessies kan lei.

Virtuele werklikheid is op sy beurt in staat om 'n deel van die mensdom van die werklike wêreld te "uitsluit". Dit is wat byvoorbeeld gebeur het met die Koreaanse vrou Chan Ji Sun, wat, ná die dood van haar dogter in 2016 aan ’n ongeneeslike siekte, sedertdien haar avatar in VR ontmoet het. Virtuele ruimte skep ook nuwe soorte probleme, of dra in werklikheid al die ou bekende probleme oor na 'n "nuwe" wêreld of selfs baie ander wêrelde. In ’n mate kan ons dit reeds op sosiale netwerke sien, waar dit gebeur dat te min likes op plasings tot depressie en selfmoord lei.

Profetiese verhale min of meer

Die geskiedenis van distopiese visioene leer immers ook omsigtigheid in die formulering van voorspellings.

6. Voorblad van "Eilande in die Net"

Ridley Scott se bekroonde sci-fi meesterstuk "Android Jagter» Sedert 1982. ’n Mens kan debatteer oor die vervulling al dan nie van baie spesifieke elemente, maar dit is onbetwisbaar dat die belangrikste profesie oor die bestaan ​​in ons tyd van intelligente, mensagtige androïede, verhewe bo mense in baie opsigte, nog nie 'n werklikheid geword het nie.

Ons sal bereid wees om baie meer profetiese treffers toe te laat.”Neuromansiers"dit wil sê, romans William Gibson sedert 1984, wat die konsep van "kuberruimte" gewild gemaak het.

Daar het egter in daardie dekade ’n effens minder bekende boek verskyn (in ons land feitlik heeltemal, omdat dit nie in Pools vertaal is nie), wat vandag se tye baie meer akkuraat voorspel het. Ek praat van die roman"Eilande op die web«(6) Bruce Sterling vanaf 1988, speel af in 2023. Dit bevat 'n wêreld wat gedompel is in iets soortgelyk aan die internet bekend as die "web". Dit word deur groot internasionale korporasies beheer. "Eilande van die Net" is opvallend vir hul beheer, toesig en monopolisering van die veronderstelde gratis internet.

Dit is ook interessant om te voorsien dat militêre operasies uitgevoer word met behulp van onbemande vliegtuie (drones) teen aanlyn seerowers/terroriste. Operateurs duisende kilometers ver met veilige rekenaars - hoe weet ons dit? Die boek handel nie oor die eindelose konflik met Islamitiese terrorisme nie, maar oor die stryd teen die magte wat globalisering teëstaan. Die wêreld van Islands in the Net is ook gevul met verbruikerstoestelle wat baie soos slimhorlosies en slim sportskoene lyk.

Daar is nog 'n boek uit die 80's wat, hoewel sommige van die gebeure meer fantasties lyk, ons moderne distopiese vrese goed illustreer. Hierdie "Georadar sagteware", Geskiedenis Rudiego Rucker, wat in 2020 plaasvind. Die wêreld, die toestand van die samelewing en sy konflikte lyk ongelooflik soortgelyk aan waarmee ons vandag te doen het. Daar is ook robotte bekend as boppers wat selfbewus geword het en na stede op die maan ontsnap het. Hierdie element het nog nie gerealiseer nie, maar die opstand van die masjiene word 'n konstante refrein van swart voorspellings.

Die boeke se visioene van ons tyd is ook in baie opsigte treffend akkuraat. Octavia Butler, veral inGelykenisse van die Saaier"(1993). Die verhaal begin in 2024 in Los Angeles en speel af in 'n Kalifornië wat geteister word deur vloede, storms en droogtes wat deur klimaatsverandering veroorsaak is. Middel- en werkersklasgesinne ontmoet mekaar in omheinde gemeenskappe en probeer om die buitewêreld te ontsnap deur verslawende dwelms en virtuele realiteitsstelle. Nuwe gelowe en samesweringsteorieë kom na vore. ’n Karavaan vlugtelinge mik noord om omgewings- en sosiale ineenstorting te ontsnap. 'n President kom aan bewind wat die veldtog slagspreuk "Make America Great Again" gebruik (dit is Donald Trump se slagspreuk) ...

Butler se tweede boek,Gelykenis van die talente", vertel hoe lede van 'n nuwe godsdienskultus die aarde op 'n ruimteskip verlaat om Alpha Centauri te koloniseer.

***

Wat is die les uit hierdie uitgebreide oorsig van voorspellings en visioene wat dekades gelede gemaak is en wat ons daaglikse lewens beïnvloed?

Miskien is die punt dat distopieë dikwels voorkom, maar meestal slegs gedeeltelik.