Splošno

IBM napravil velik korak naprej pri odpiranju “črne skrinjice” umetne inteligence

 

IBM (NYSE: IBM) je v teh dneh predstavil tehnologijo, ki poslovnim uporabnikom prinaša transparentnejši vplogled v umetno inteligenco (AI) ter jim omogoča, da še bolj izkoristijo njeno moč.

Programska storitev, ki samodejno zaznava pristranskost ter pojasnjuje, kako se odločitve sprejemajo s pomočjo umetne inteligence, teče na IBM-ovem oblaku in pomaga organizacijam upravljati AI sisteme za različna poslovna področja. V IBM Services bodo sodelovali s podjetji ter jim pomagali izkoristiti novo programsko storitev. Poleg tega bo IBM Research odprtokodni skupnosti omogočil AI orodje za zaznavanje in zmanjševanje pristranskosti. Z orodji in izobraževanjem želi IBM tako spodbuditi globalno sodelovanje pri obravnavanju pristranskosti v umetni inteligenci.

„IBM je vodilni pri vzpostavljanju načel zaupanja in transparentnosti v razvoju novih AI tehnologij,“je dejala Beth Smith, IBM generalna direktorica zaWatson AI.„Čas je, da načela prenesemo v prakso. Podjetjem, ki uporabljajo umetno inteligenco, a se soočajo z visoko stopnjo tveganja zaradi pomanjkljivega sprejemanja odločitev, dajemo novo transparentnost in nadzor.“

Ta razvoj je izpostavljen tudivnovi raziskavi, ki jo je opravil IBM Institute for Business Value. Ta razkriva, da 82 odstotkov podjetij razmišlja o uporabi umetne inteligence, a se jih 60 odstotkov boji morebitnih težav z odgovornostjo, 63 odstotkov pa pomanjkanja lastnih človeških virov in znanja za samozavestno upravljanje z AI tehnologijo.

Vpogled v odločitve umetne inteligenceIBM-ove nove možnosti za zagotavljanje zaupanja in transparentnosti v IBM-ovem oblaku delujejo z modeli, ki so zgrajeni s številnimi različnimi ogrodji za strojno učenje, ter z AI okolji, kot so Watson, Tensorflow, SparkML, AWS SageMaker in AzureML. To pomeni, da lahko podjetja izkoristijo prednost novih možnosti nadzora skupaj z večino priljubljenih AI ogrodij. Programska storitev je poleg tega lahko programirana, da nadzira edinstvene faktorje odločanja pri kakršnemkoli poteku dela. To pomeni, da jo je mogoče prilagoditi specifikam posameznega podjetja.

Popolnoma avtomatizirana programska storitev pojasnjuje način sprejemanja odločitev ter zaznava pristranskost v AI modelih v samem času delovanja – takrat, ko se odločitve dejansko sprejemajo. S tem zaznava morebitne nepravilne odločitve takoj, ko se zgodijo. Pomembno pa je tudi, da samodejno predlaga, katere podatke dodati modelu, da bi se zmanjšala pristranskost, ki je bila zaznana.

Vsa pojasnila so podana z enostavno razumljivimi izrazi, prikazano pa je tudi, kateri dejavniki so prevesili odločitev na eno ali drugo stran. Prikazana je tudi prepričanost v priporočilo ter dejavniki, ki so vplivali na prepričanost. Omogočena je tudi enostavna sledljivost oziroma vpogled v zapise o natančnosti modela, njegovi zmogljivosti in poštenosti ter poreklu AI sistemov kadar je to potrebno zaradi uporabniške podpore, regulatornih zahtev ali skladnosti z zakonodajo – na primer uredbo GDPR.

Dostop do vseh teh možnosti poteka prek grafičnih vmesnikov, kar daje poslovnim uporabnikom izjemno možnost, da razumejo, pojasnjujejo ter sami upravljajo z AI odločanjem, s čimer se zmanjša njihova odvisnost od specializiranih AI znanj. Poleg tega IBM predstavlja tudi nove storitve svetovanja za pomoč podjetjem pri oblikovanju poslovnih procesov in človeških-umetnointeligenčnih vmesnikov za še dodatno zmanjšanje vpliva pristranskosti pri sprejemanju odločitev.

Opolnomočenje odprtokodne skupnosti za izdelavo bolj poštene AIPoleg naštetega daje IBM odprtokodni skupnosti na voljo zbirko orodijAI Fairness 360 toolkit. Gre za knjižnico izvirnih algoritmov, kode in vodičev, ki bo akademikom, raziskovalcem in podatkovnim znanstvenikom dala orodja in znanje za integracijo zaznavanja pristranskosti v njihove modele strojnega učenja. Medtem ko se ostali odprtokodni viri osredotočajo zgolj na preverjanje pristranskosti v podatkih uporabljenih za učenje, pa IBM AI Fairness 360 toolkit, ki so ga ustvarili v oddelku IBM Research, pomaga odkrivati in zmanjševati pristranskost v samih AI modelih. S tem je celotna globalna odprtokodna skupnost povabljena k skupnemu delovanju v korist napredka znanosti in enostavnejšega naslavljanja pristranskosti v umetni inteligenci. Več o tem lahko preberete v blog zapisutukaj.

Študija razkriva prioritete in ovire za široko uporabo umetne inteligencePo podatkih nedavne študije, ki jo je med 5.000 vodstvenimi kadri opravil IBM Institute for Business Value ter je objavljena vporočilu AI 2018 Report(infografika z izsledki študije), prihaja do velikega premika v tem, kako vodilni v podjetjih zaznavajo potencial za rast poslovanja in prihodkov, ki ga prinaša umetna inteligenca.

Ključne ugotovitve študije:- 82% podjetij ter 93% zelo uspeših podjetij razmišlja o umetni inteligenci ali jo že uvaja, pri čemer se osredotočajo na ustvarjanje in rast prihodkov.- 60% se jih boji težav z odgovornostjo, 63% pa pomanjkanja znanja, da bi lahko izkoristili potencial umetne inteligence.- Direktorji ocenjujejo, da uvedba umetne inteligence največ koristi prinaša za IT, informacijsko varnost, inovacije, podporo uporabnikom ter upravljanje s tveganji.- Uvajanja umetne inteligence je vse več ter bo najverjetneje potekalo hitreje v bolj digitaliziranih sektorjih, kot je na primer sektor finančnih storitev.

Uporabniki nove IBM tehnologije za zaznavanje in zmanjševanje pristranskosti umetne inteligence v IBM Cloudlahko pridobijo pojasnila, zakaj je bilo priporočilo sprejeto. Pojasnila prikazujejo, kateri dejavniki so prevesili odločitev na eno ali drugo stran. Prikazana (infografika v priponki) je tudi prepričanost v priporočilo ter dejavniki, ki so vplivali na prepričanost.

 

Amyer Mccann

25. 9. 2018

Avtor

Administrator


Dodaj odgovor

Vaš e-naslov ne bo objavljen. * označuje zahtevana polja