Vertel jou katjie wat jy binne dink - die swart boks effek

Die feit dat gevorderde KI-algoritmes soos 'n swart boks (1) is wat 'n resultaat weggooi sonder om te verklap hoe dit ontstaan ​​het, bekommer sommige en ontstel ander.

In 2015 is 'n navorsingspan by die Mount Sinai-hospitaal in New York gevra om hierdie metode te gebruik om 'n uitgebreide databasis van plaaslike pasiënte te ontleed (2). Hierdie groot versameling bevat 'n oseaan van pasiëntinligting, toetsuitslae, doktersvoorskrifte, en meer.

Wetenskaplikes het die analitiese program genoem wat in die loop van die werk ontwikkel is. Dit is opgelei op data van ongeveer 700 XNUMX mense. mens, en wanneer dit in nuwe registers getoets word, het dit bewys dat dit uiters doeltreffend is om siektes te voorspel. Sonder die hulp van menslike kundiges het hy patrone in hospitaalrekords ontdek wat aandui watter pasiënt op pad is na 'n siekte, soos lewerkanker. Volgens kenners was die prognostiese en diagnostiese doeltreffendheid van die stelsel baie hoër as dié van enige ander bekende metodes.

2. Mediese kunsmatige intelligensiestelsel gebaseer op pasiëntdatabasisse

Terselfdertyd het die navorsers opgemerk dat dit op 'n geheimsinnige manier werk. Dit het byvoorbeeld geblyk dat dit ideaal is vir erkenning van geestesversteuringssoos skisofrenie, wat uiters moeilik is vir dokters. Dit was verbasend, veral omdat niemand enige idee gehad het hoe die KI-stelsel geestesongesteldheid so goed kon sien nie, net op grond van die pasiënt se mediese rekords. Ja, die spesialiste was baie tevrede met die hulp van so 'n doeltreffende masjiendiagnostikus, maar hulle sou baie meer tevrede wees as hulle verstaan ​​hoe die KI tot sy gevolgtrekkings kom.

Lae van kunsmatige neurone

Van die begin af, dit wil sê vanaf die oomblik dat die konsep van kunsmatige intelligensie bekend geword het, was daar twee standpunte oor KI. Die eerste het voorgestel dat dit die mees redelike sou wees om masjiene te bou wat redeneer in ooreenstemming met bekende beginsels en menslike logika, wat hul innerlike werking deursigtig vir almal maak. Ander het geglo dat intelligensie makliker sou ontstaan ​​as masjiene deur waarneming en herhaalde eksperimentering geleer word.

Laasgenoemde beteken om tipiese rekenaarprogrammering om te keer. In plaas daarvan dat die programmeerder opdragte skryf om 'n probleem op te los, genereer die program eie algoritme gebaseer op voorbeelddata en die gewenste resultaat. Masjienleermetodes wat later ontwikkel het tot die kragtigste KI-stelsels wat vandag bekend is, het pas die pad gegaan van, in werklikheid, die masjien self programmeer.

Hierdie benadering het in die 60's en 70's op die rand van KI-stelselnavorsing gebly. Eers aan die begin van die vorige dekade, na 'n paar baanbrekersveranderings en verbeterings, "Diep" neurale netwerke begin om 'n radikale verbetering in die vermoëns van outomatiese persepsie te demonstreer. 

Diep masjienleer het rekenaars met buitengewone vermoëns toegerus, soos die vermoë om gesproke woorde amper so akkuraat soos 'n mens te herken. Dit is 'n te komplekse vaardigheid om voor die tyd te programmeer. Die masjien moet sy eie "program" kan skep deur opleiding oor groot datastelle.

Diep leer het ook rekenaarbeeldherkenning verander en die kwaliteit van masjienvertaling aansienlik verbeter. Vandag word dit gebruik om allerhande sleutelbesluite in medisyne, finansies, vervaardiging en meer te neem.

Met dit alles egter jy kan nie net binne 'n diep neurale netwerk kyk om te sien hoe "binne" werk nie. Netwerk redenasieprosesse is ingebed in die gedrag van duisende gesimuleerde neurone, georganiseer in dosyne of selfs honderde ingewikkelde onderling verbinde lae..

Elkeen van die neurone in die eerste laag ontvang 'n inset, soos die intensiteit van 'n pixel in 'n beeld, en voer dan berekeninge uit voordat die uitset uitgevoer word. Hulle word in 'n komplekse netwerk na die neurone van die volgende laag oorgedra – ensovoorts, tot die finale uitsetsein. Daarbenewens is daar 'n proses bekend as die aanpassing van die berekeninge wat deur individuele neurone uitgevoer word sodat die opleidingsnetwerk die gewenste resultaat lewer.

In 'n dikwels aangehaalde voorbeeld wat verband hou met hondebeeldherkenning, ontleed die laer vlakke van AI eenvoudige eienskappe soos vorm of kleur. Die hoëres hanteer meer komplekse kwessies soos pels of oë. Slegs die boonste laag bring dit alles bymekaar, wat die volledige stel inligting as 'n hond identifiseer.

Dieselfde benadering kan toegepas word op ander soorte insette wat die masjien aandryf om self te leer: klanke waaruit woorde in spraak bestaan, letters en woorde waaruit sinne in geskrewe teks bestaan, of 'n stuurwiel, byvoorbeeld. bewegings wat nodig is om 'n voertuig te bestuur.

Die kar slaan niks oor nie.

Daar word gepoog om te verduidelik wat presies in sulke stelsels gebeur. In 2015 het navorsers by Google 'n diepleer-beeldherkenningsalgoritme gewysig sodat in plaas daarvan om voorwerpe in foto's te sien, dit dit gegenereer of gewysig het. Deur die algoritme agteruit te laat loop, wou hulle die kenmerke ontdek wat die program gebruik om byvoorbeeld 'n voël of 'n gebou te herken.

Hierdie eksperimente, in die openbaar bekend as die titel, het wonderlike uitbeeldings van (3) groteske, bisarre diere, landskappe en karakters opgelewer. Deur sommige van die geheime van masjienpersepsie te openbaar, soos die feit dat sekere patrone herhaaldelik teruggekeer en herhaal word, het hulle ook gewys hoe diep masjienleer verskil van menslike persepsie – byvoorbeeld in die sin dat dit artefakte uitbrei en dupliseer wat ons ignoreer in ons proses van persepsie sonder om te dink . .

3. Beeld geskep in die projek

By the way, aan die ander kant het hierdie eksperimente die raaisel van ons eie kognitiewe meganismes ontrafel. Miskien is dit in ons persepsie dat daar verskeie onverstaanbare komponente is wat ons dadelik iets laat verstaan ​​en ignoreer, terwyl die masjien geduldig sy iterasies op "onbelangrike" voorwerpe herhaal.

Ander toetse en studies is uitgevoer in 'n poging om die masjien te "verstaan". Jason Yosinski hy het 'n instrument geskep wat optree soos 'n sonde wat in die brein vassit, enige kunsmatige neuron teiken en op soek is na die beeld wat dit die sterkste aktiveer. In die laaste eksperiment het abstrakte beelde verskyn as gevolg van die "loer" van die netwerk op heterdaad, wat die prosesse wat in die stelsel plaasvind selfs meer geheimsinnig gemaak het.

Vir baie wetenskaplikes is so 'n studie egter 'n misverstand, want, na hulle mening, om die stelsel te verstaan, om die patrone en meganismes van 'n hoër orde om komplekse besluite te neem, te erken, alle berekeningsinteraksies binne 'n diep neurale netwerk. Dit is 'n reuse doolhof van wiskundige funksies en veranderlikes. Op die oomblik is dit vir ons onverstaanbaar.

Rekenaar wil nie begin nie? Hoekom?

Waarom is dit belangrik om die besluitnemingsmeganismes van gevorderde kunsmatige intelligensiestelsels te verstaan? Wiskundige modelle word reeds gebruik om te bepaal watter gevangenes op parool vrygelaat kan word, wie 'n lening kan kry en wie werk kan kry. Diegene wat belangstel wil graag weet hoekom hierdie en nie 'n ander besluit geneem is nie, wat is die gronde en meganisme daarvan.

hy het in April 2017 in die MIT Technology Review erken. Tommy Yaakkola, 'n MIT-professor wat aan toepassings vir masjienleer werk. -.

Daar is selfs 'n regs- en beleidstandpunt dat die vermoë om die besluitnemingsmeganisme van KI-stelsels te ondersoek en te verstaan, 'n fundamentele mensereg is.

Sedert 2018 werk die EU daaraan om maatskappye te vereis om verduidelikings aan hul kliënte te verskaf oor besluite wat deur outomatiese stelsels geneem word. Dit blyk dat dit soms nie moontlik is nie, selfs met stelsels wat relatief eenvoudig lyk, soos toepassings en webwerwe wat diepwetenskap gebruik om advertensies te wys of liedjies aan te beveel.

Die rekenaars wat hierdie dienste bestuur, programmeer self, en hulle doen dit op maniere wat ons nie kan verstaan ​​nie... Selfs die ingenieurs wat hierdie toepassings skep, kan nie volledig verduidelik hoe dit werk nie.