Kif It-Teħid ta 'Approċċ Konxju għall-AI Tnaqqas is-Settijiet ta' Dejta Preġudikata

Settijiet ta 'Dejta Preġudikati u AI Etika

Soluzzjonijiet li jaħdmu bl-AI jeħtieġu settijiet ta ’dejta biex ikunu effettivi. U l-ħolqien ta 'dawk is-settijiet ta' dejta huwa mimli problema ta 'preġudizzju impliċita f'livell sistematiku. In-nies kollha jbatu minn preġudizzji (kemm konxji kif ukoll mitlufin minn sensih). Il-preġudizzji jistgħu jieħdu kwalunkwe numru ta 'forom: ġeografiċi, lingwistiċi, soċjoekonomiċi, sessisti, u razzisti. U dawk il-preġudizzji sistematiċi jinħmew f'dejta, li tista 'tirriżulta fi prodotti AI li jipperpetwaw u jkabbru l-preġudizzju. L-organizzazzjonijiet jeħtieġu approċċ konxju biex itaffu kontra l-preġudizzju li jidħol fis-settijiet tad-dejta.

Eżempji Li Jillustraw il-Problema ta 'Preġudizzju

Eżempju notevoli ta 'dan il-preġudizzju tas-sett tad-dejta li ġab ħafna stampa negattiva dak iż-żmien kien soluzzjoni ta' qari mill-ġdid li kien jiffavorixxi kandidati rġiel fuq nisa. Dan minħabba li s-settijiet tad-dejta tal-għodda ta 'reklutaġġ kienu ġew żviluppati bl-użu ta' CV mill-aħħar għaxar snin meta l-maġġoranza tal-applikanti kienu rġiel. Id-dejta kienet preġudikata u r-riżultati rriflettew dik il-preġudizzju. 

Eżempju ieħor irrapportat b'mod wiesa ': Fil-konferenza annwali tal-iżviluppatur tal-I / O tal-Google, Google qasmet preview ta' għodda ta 'għajnuna tad-dermatoloġija li taħdem bl-AI li tgħin lin-nies jifhmu x'inhu għaddej bi kwistjonijiet relatati mal-ġilda, xagħar u dwiefer tagħhom. L-assistent tad-dermatoloġija jenfasizza kif l-AI qed tevolvi biex tgħin fil-kura tas-saħħa - iżda enfasizzat ukoll il-potenzjal li l-preġudizzju jidħol fl-AI wara l-kritika li l-għodda mhix adegwata għal nies tal-kulur.

Meta Google ħabbar l-għodda, il-kumpanija nnutat:

Biex niżguraw li qed nibnu għal kulħadd, il-mudell tagħna jammonta għal fatturi bħall-età, is-sess, ir-razza, u t-tipi ta 'ġilda - minn ġilda pallida li ma tikannix għal ġilda kannella li rarament tinħaraq.

Google, Uża l-AI biex tgħin issib tweġibiet għal kundizzjonijiet komuni tal-ġilda

Iżda artiklu f'Vice qal li Google naqas milli juża sett ta 'dejta inklussiv:

Biex iwettqu l-kompitu, ir-riċerkaturi użaw sett ta 'taħriġ ta' 64,837 immaġni ta '12,399 pazjent li jinsabu f'żewġ stati. Iżda mill-eluf ta 'kundizzjonijiet tal-ġilda murija, 3.5 fil-mija biss ġew minn pazjenti bi tipi ta' ġilda Fitzpatrick V u VI - dawk li jirrappreżentaw ġilda kannella u ġilda kannella skura jew sewda, rispettivament. 90 fil-mija tad-database kienet magħmula minn nies b'ġilda ġusta, ġilda bajda skura, jew ġilda kannella ċara, skond l-istudju. Bħala riżultat tat-teħid ta 'kampjuni preġudikati, id-dermatologi jgħidu li l-app tista' tispiċċa b'dijanjosi żejda jew baxxa ta 'nies li mhumiex bojod.

Viċi, l-App Ġdid tad-Dermatoloġija ta 'Google Ma ġietx Iddisinjata għal Nies b'Ġilda Skura

Google wieġeb billi qal li se jirfina l-għodda qabel ma jirrilaxxaha formalment:

L-għodda tagħna ta 'għajnuna tad-dermatoloġija li taħdem bl-AI hija l-qofol ta' aktar minn tliet snin ta 'riċerka. Peress li x-xogħol tagħna deher fin-Nature Medicine, komplejna niżviluppaw u nirfinaw it-teknoloġija tagħna bl-inkorporazzjoni ta 'settijiet ta' dejta addizzjonali li jinkludu dejta mogħtija minn eluf ta 'nies, u miljuni ta' immaġini ta 'tħassib tal-ġilda aktar ikkurati.

Google, Uża l-AI biex tgħin issib tweġibiet għal kundizzjonijiet komuni tal-ġilda

Kemm nistgħu nittamaw li l-AI u l-programmi ta 'tagħlim awtomatiku jistgħu jikkoreġu għal dawn il-preġudizzji, ir-realtà tibqa': huma biss hekk intelliġenti billi s-settijiet tad-dejta tagħhom huma nodfa. F'aġġornament għall-qawl ta 'programmazzjoni l-qadim żibel ġewwa / żibel barra, Is-soluzzjonijiet tal-AI huma b'saħħithom biss daqs il-kwalità tas-settijiet tad-dejta tagħhom mill-bidu. Mingħajr korrezzjoni mill-programmaturi, dawn is-settijiet tad-dejta m'għandhomx l-esperjenza fl-isfond biex jiffissaw lilhom infushom - peress li sempliċement m'għandhomx qafas ieħor ta 'referenza.

Il-bini ta 'settijiet ta' dejta b'mod responsabbli huwa fil-qalba ta 'kulħadd intelliġenza artifiċjali etika. U n-nies huma fil-qalba tas-soluzzjoni. 

AI konxja hija AI Etika

Il-preġudizzju ma jseħħx fil-vakwu. Settijiet ta 'dejta mhux etiċi jew preġudikati jiġu minn approċċ ħażin matul l-istadju tal-iżvilupp. Il-mod kif jiġu miġġielda l-iżbalji tal-preġudizzju huwa li tadotta approċċ responsabbli, iċċentrat fuq il-bniedem, li ħafna fl-industrija qed isejħu Mindful AI. Mindful AI għandu tliet komponenti kritiċi:

1. L-AI konxja hija Ċċentrata fuq il-Bniedem

Mill-bidu tal-proġett AI, fl-istadji tal-ippjanar, il-ħtiġijiet tan-nies għandhom ikunu fiċ-ċentru ta 'kull deċiżjoni. U dan ifisser in-nies kollha - mhux biss subsett. Huwa għalhekk li l-iżviluppaturi għandhom bżonn jiddependu fuq tim divers ta 'nies ibbażati globalment biex iħarrġu l-applikazzjonijiet tal-AI biex ikunu inklussivi u bla preġudizzju.

Il-crowdsourcing tas-settijiet tad-dejta minn tim globali u divers jiżgura li l-preġudizzji jiġu identifikati u ffiltrati kmieni. Dawk ta 'etniċitajiet, gruppi ta' età, sessi, livelli ta 'edukazzjoni, sfondi soċjoekonomiċi u postijiet differenti jistgħu jidentifikaw aktar faċilment settijiet ta' dejta li jiffavorixxu sett ta 'valuri fuq ieħor, u b'hekk ineħħu l-preġudizzju mhux intenzjonat.

Agħti ħarsa lejn l-applikazzjonijiet tal-vuċi. Meta japplikaw approċċ tal-AI konxju, u billi jużaw il-poter ta 'ġabra ta' talent globali, l-iżviluppaturi jistgħu jagħtu kont ta 'elementi lingwistiċi bħal djaletti u aċċenti differenti fis-settijiet tad-dejta.

L-istabbiliment ta 'qafas ta' disinn iċċentrat fuq il-bniedem mill-bidu huwa kritiku. Tmur triq twila biex tiżgura li d-dejta ġġenerata, ikkurata u ttikkettata tissodisfa l-istennija tal-utenti finali. Iżda huwa wkoll importanti li żżomm il-bnedmin fiċ-ċirku matul iċ-ċiklu kollu tal-iżvilupp tal-prodott. 

Il-bnedmin fil-linja jistgħu wkoll jgħinu lill-magni joħolqu esperjenza AI aħjar għal kull udjenza speċifika. Fil-Pactera EDGE, it-timijiet tal-proġett tad-dejta tal-AI tagħna, li jinsabu globalment, jifhmu kif kulturi u kuntesti differenti jistgħu jkollhom impatt fuq il-ġbir u l-kurazzjoni ta ’dejta ta’ taħriġ tal-AI affidabbli. Huma għandhom l-għodda meħtieġa li għandhom bżonn biex jimmarkaw il-problemi, jimmonitorjawhom, u jirranġawhom qabel soluzzjoni bbażata fuq l-AI tibda taħdem.

L-AI tal-bniedem fil-linja hija "xibka ta 'sigurtà" tal-proġett li tgħaqqad is-saħħiet tan-nies - u l-isfondi diversi tagħhom mal-qawwa mgħaġġla tal-informatika tal-magni. Din il-kollaborazzjoni umana u AI teħtieġ li tiġi stabbilita mill-bidu tal-programmi sabiex dejta preġudikata ma tifformax bażi fil-proġett. 

2. L-AI konxja hija responsabbli

Li tkun responsabbli huwa li tiżgura li s-sistemi tal-AI huma ħielsa minn preġudizzji u li huma bbażati fuq l-etika. Huwa dwar li tkun konxju ta 'kif, għaliex, u fejn tinħoloq id-dejta, kif tiġi sintetizzata minn sistemi AI, u kif tintuża fit-teħid ta' deċiżjoni, deċiżjonijiet li jista 'jkollhom implikazzjonijiet etiċi. Mod wieħed biex negozju jagħmel dan huwa li jaħdem ma ’komunitajiet sottorappreżentati biex ikun aktar inklussiv u inqas preġudikat. Fil-qasam tal-annotazzjonijiet tad-dejta, riċerka ġdida qed tenfasizza kif mudell b'ħafna kompiti b'numru ta 'annotaturi li jittratta t-tikketti ta' kull annotatur bħala subtask separat jista 'jgħin biex itaffi kwistjonijiet potenzjali inerenti f'metodi tipiċi ta' verità fuq l-art fejn nuqqas ta 'qbil fl-annotatur jista' jkun minħabba nuqqas ta 'rappreżentazzjonijiet u jistgħu jiġu injorati fl-aggregazzjoni ta 'annotazzjonijiet għal verità ta' bażi waħda. 

3. Affidabbli

L-affidabbiltà ġejja minn negozju li jkun trasparenti u spjegabbli dwar kif il-mudell AI huwa mħarreġ, kif jaħdem, u għaliex jirrakkomandaw ir-riżultati. Negozju jeħtieġ għarfien espert bil-lokalizzazzjoni tal-AI biex jagħmilha possibbli għall-klijenti tagħha li jagħmlu l-applikazzjonijiet tal-AI tagħhom aktar inklussivi u personalizzati, filwaqt li jirrispettaw sfumaturi kritiċi fil-lingwa lokali u l-esperjenzi tal-utent li jistgħu jagħmlu jew jiksru l-kredibilità ta 'soluzzjoni tal-AI minn pajjiż għall-ieħor . Pereżempju, negozju għandu jiddisinja l-applikazzjonijiet tiegħu għal kuntesti personalizzati u lokalizzati, inklużi lingwi, djaletti, u aċċenti f'applikazzjonijiet ibbażati fuq il-vuċi. B'dan il-mod, app iġġib l-istess livell ta 'sofistikazzjoni tal-esperjenza tal-vuċi għal kull lingwa, mill-Ingliż għal lingwi sottorappreżentati.

Ġustizzja u Diversità

Fl-aħħar mill-aħħar, AI konxja tiżgura li s-soluzzjonijiet huma mibnija fuq settijiet ta ’dejta ġusti u diversi fejn il-konsegwenzi u l-impatt ta’ eżiti partikolari jiġu mmonitorjati u evalwati qabel ma s-soluzzjoni tidħol fis-suq. Billi nkunu konxji u ninkludu l-bnedmin f'kull parti tal-iżvilupp tas-soluzzjoni, aħna ngħinu biex niżguraw li l-mudelli tal-AI jibqgħu nodfa, preġudikati b'mod minimu, u kemm jista 'jkun etiċi.

What do you think?

Dan is-sit juża Akismet biex inaqqas l-ispam. Tgħallem kif il-kumment tiegħek huwa pproċessat.