Connect with us

Upište pojam za pretragu

Tehnologija

Ljudi ili strojevi: tko je pravedniji?

Strojno učenje pomaže u odobravanju kredita, davanju posla, odlučuje i tko će u zatvor. Ali kad je riječ o odlukama koje nam mogu promijeniti život, mogu li računala donijeti poštenu odluku?

Njemačka studija, objavljena u časopisu Patterns, pokazala je kako, uz ljudski nadzor, odluka računala može biti pravedna kao i odluka koju primarno donose ljudi.

Više od tehnologije

“Veliki dio rasprava o pravednosti u strojnom učenju fokusiran je na tehnička rješenja, poput toga kako popraviti nepoštene algoritme i kako sustave učiniti poštenima”, kažu istraživači Sveučilišta u Mannheimu koji su u potrazi za odgovorom otišli korak dalje pa su se zapitali što ljudi misle da je pošteno?

Toplinska karta prikazuje učestalost odgovora ispitanika o pravednosti automatiziranih odluka
Toplinska karta prikazuje učestalost odgovora ispitanika o pravednosti automatiziranih odluka

“Ne radi se samo o razvoju algoritama. Mora ih prihvatiti društvo i moraju zadovoljiti normativna uvjerenja u stvarnom svijetu”, tvrde istraživači.

Razumijevanje pravednosti

Automatizirano donošenje odluka, gdje zaključak donosi isključivo računalo, ističe se u analizi velikih skupova podataka radi otkrivanja obrazaca. Računala se često smatraju objektivnim i neutralnim u usporedbi s ljudima na čiju prosudbu mogu utjecati razne pristranosti.

Uz ljudski nadzor nad automatiziranim odlukama, raste i razina percipirane pravednosti
Uz ljudski nadzor nad automatiziranim odlukama, raste i razina percipirane pravednosti

Štoviše, pristranost se može uvući i u računalne sustave dok uče iz podataka koji odražavaju diskriminatorne obrasce u našem svijetu. Razumijevanje pravednosti u računalnim i ljudskim odlukama presudno je za izgradnju pravednijeg društva.

Hipotetski scenariji

Kako bi razumjeli što ljudi smatraju pravednim u vezi s automatiziranim odlučivanjem, istraživači su ispitali 3930 pojedinaca u Njemačkoj. Ponudili su im hipotetske scenarije vezane uz banke, razne poslove, zatvore i nezaposlenost.

Rezultati ankete koju su proveli istraživači Sveučilišta u Mannheimu
Rezultati ankete koju su proveli istraživači Sveučilišta u Mannheimu

Dakako, pokazalo se kako nitko ne favorizira potpuno automatizirano donošenje odluka. No, uz ljudski nadzor nad automatiziranim odlukama, raste i razina percipirane pravednosti. Jednostavno, ljudi odluke koje donose strojevi doživljavaju pravednijima kada su u proces odlučivanja uključeni i ljudi.

Bitan je kontekst

Ljudi više brine pravednost kad se odluke odnose na sustav kaznenog pravosuđa ili izglede za posao, gdje su ulozi veći. Odluke koje mogu dovesti do pozitivnih ishoda, ljudi smatraju pravednijima od negativnih. Sustavi koji u procesu odlučivanja dodatne, nepovezane podatke, crpe s interneta smatrani su manje poštenima, što potvrđuje važnost transparentnosti podataka i privatnosti.

Bitan je kontekst: automatizirani sustavi donošenja odluka moraju biti pažljivo dizajnirani, zaključuju istraživači koji se u budućnosti po istom principu žele pozabaviti pitanjima pravednosti raspodjele resursa u zajednici.

Centralna.ba