Përdorimi në rritje i inteligjencës artificiale (IA) në punën e policisë rrezikon të shtojë diskriminimin ndaj pakicave, paralajmërojnë studiuesit. Sipas tyre, parashikimet për zonat ku pritet të ndodhin krime mund të bazohen në të dhëna të anshme, që e zmadhojnë paragjykimin ekzistues dhe krijojnë një rreth vicioz.

Ekspertët kërkojnë që përdorimi i IA-së në polici të rishikohet dhe të ketë mbikëqyrje më të madhe njerëzore, përfshirë kontrollin e të dhënave për të gjetur e hequr çdo anshmëri. “Funksionet publike të policisë shtetërore duhet t’i nënshtrohen mbikëqyrjes dhe shqyrtimit njerëzor”, thotë Carolyn McKay, profesoreshë e asociuar në Shkollën e Drejtësisë të Universitetit të Sidneit.

Problemi, sipas saj, është se sistemet e IA-së trajnohen me të dhëna që tashmë përmbajnë paragjykime njerëzore, ndaj mund të shkaktojnë profeci që realizohen vetvetiu. Mekanizmi funksionon kështu: algoritmi shënon zonat ku pritet krim dhe policia patrullon aty. Në ato zona regjistrohen më shumë krime, thjesht sepse ka më shumë oficerë që i vërejnë. Zonat e tjera duken më të sigurta, sepse më pak njerëz po shikojnë. Në parashikimin e radhës, të njëjtat zona shënohen edhe më rëndë. Pra, statistikat e krimit nuk janë lista e plotë e krimeve, por pjesërisht regjistër i vendeve ku policia ka zgjedhur të shikojë.

Sociologia Sarah Brayne nga Universiteti i Teksasit në Austin e studioi këtë dukuri brenda policisë së Los Anxhelesit. Ajo zbuloi se forca e përdorte gjithnjë e më shumë të dhënat për të parashikuar krimin, jo vetëm për të reaguar ndaj tij. Sipas saj, të dhënat ishin të shtrembëruara, pasi krimet në vende publike regjistroheshin më lehtë dhe vëmendja e policisë ishte e pabarabartë ndaj lagjeve me popullsi me ngjyrë. Pasi hyjnë në sistem, thotë ajo, “parashikimet duken të paanshme”.

Pikëpamjen e kundërshton Dimitrios Kollias, profesor i asociuar i IA-së multimodale në Universitetin Queen Mary të Londrës. Ai thotë se teknologjia ka ecur përpara dhe tani merr parasysh anshmërinë e të dhënave historike. Sistemet moderne nuk kopjojnë thjesht shembujt e trajnimit, por mund t’i kombinojnë informacionet në mënyra të reja. Megjithatë, sipas tij, kjo sjell një rrezik tjetër: kur IA merr vendime më të pavarura, duhet siguruar që sjellja e saj të mbetet e sigurt, e besueshme dhe nën kontroll të vërtetë njerëzor.

Burimi: BBC