"Maskinlæring blir allestedsnærværende og brukes for programmer med mer alvorlige konsekvenser, det er behov for folk å forstå hvordan det er å forutsi så de vil stole på det. når det gjør mer enn serverer en annonse," sier Jonathan Su, en medlem av den tekniske staben i MIT Lincoln-laboratoriet informatikk og beslutning støttegruppe.
Foreløpig bruke forskere enten post hoc teknikker eller interpretable modellen for eksempel en beslutningsstruktur for å forklare hvordan en black-box modell når sin konklusjon. Med post hoc teknikker, forskerne observere en algoritme innganger og utganger og prøv å konstruere en omtrentlig forklaring på hva som skjedde i den svarte boksen. Problemet med denne metoden er at forskerne kan bare gjette på det indre arbeidet, og forklaringer kan ofte være galt. Beslutningstrær, som kart valg og potensielle konsekvenser i en trelignende konstruksjon, fungerer fint for kategoriske som funksjoner er meningsfylt, men disse trærne er ikke interpretable i viktige domener, for eksempel datamaskinen visjon og andre komplekse dataproblemer.
Et nettverk er et datasystem som består av mange sammenhengende behandlingselementer. Disse nettverkene brukes vanligvis for bildet analyse og objekt gjenkjenning. For eksempel en algoritme kan belært å gjenkjenne om et fotografi inkluderer en hunden av første vises bilder av hunder. Forskere sier problemet med disse nevrale nettverk er at funksjonene er lineære og rekursiv, samt komplisert og forvirrende for mennesker, og sluttresultatet er at det er vanskelig å finne hva nøyaktig nettverket har definert som "dogness" i bilder og hva førte det til denne konklusjonen.
For å løse dette problemet, utvikler laget det de kaller "prototype neural nettverk." Dette er forskjellig fra tradisjonell neural nettverk i at de naturlig kode forklaringer for hver av sine spådommer ved oppretting av prototyper, som er spesielt representant deler av en inndatabildet. Disse nettverkene gjør sine spådommer basert på likheten i deler av inndatabildet hver prototypen.
Det andre området forskerteamet undersøker er BRLs, som er mindre komplisert, ensidig beslutningstrær som er egnet for tabelldata og ofte så nøyaktig som andre modeller. BRLs er laget av en rekke betinget setninger som naturlig danner en interpretable modell. For eksempel hvis blodtrykk er høy, er så risikoen for hjertesykdom høy. Su og kolleger bruker egenskapene til BRLs til at brukere kan angi hvilke funksjoner som er viktig for en forutsigelse. De er også å utvikle interaktive BRLs, som kan tilpasses umiddelbart når nye ankommer fremfor kalibreres på nytt fra bunnen av på et stadig voksende datasett.
Su forklarer: "vi håper å bygge en ny strategisk funksjon for laboratoriet-maskin læring algoritmer som folk tillit fordi de forstår dem."
