Viser fordommer mot andre krever ikke et høyt nivå av kognitive og kan lett bli utstilt av kunstig intelligente maskiner, har ny forskning foreslått.
Computer science og psykologi eksperter fra Cardiff University og MIT har vist at grupper av autonome maskiner kan vise fordommer ved å identifisere, kopiere og lære denne oppførselen fra hverandre.
Det kan virke at fordommer er et menneske-spesifikke fenomen som krever menneskelig kognisjon å danne seg en mening av eller stereotypiske, en bestemt person eller gruppe.
Selv om noen typer datamaskinalgoritmer har allerede vist fordommer, som rasisme og sexisme, basert på læring fra offentlige registre og andre data som er generert av mennesker, viser dette nye arbeidet muligheten for AI utvikling skadelig grupper på egenhånd .
De nye funnene, som er publisert i tidsskriftet vitenskapelige rapporter, er basert på datamaskinen simuleringer av hvordan tilsvarende forutinntatt enkeltpersoner eller virtuelle agenter, kan danne en gruppe og samhandle med hverandre.
Medforfatter av studien Professor Roger Whitaker, fra Cardiff Universitys kriminalitet og Security Research Institute og School of Computer Science og informatikk, sa: "ved å kjøre disse simuleringene tusenvis av ganger over, begynner vi å få en forståelse av hvordan fordommer utvikler seg og betingelsene fremme eller hindre den.
"Våre simuleringer viser at fordommer er en mektig kraft til natur og evolusjon, det kan lett bli incentivized virtuelle bestander, på bekostning av bredere tilkobling med andre. Beskyttelse mot skadelig grupper kan utilsiktet føre til personer danne mer skadelig grupper, noe som resulterer i fractured innbyggere. Slike omfattende fordommer er vanskelig å reversere."
En ytterligere interessant funn fra studien var at under bestemte forhold, som omfatter mer distinkt subpopulasjoner å være tilstede i en populasjon, det var vanskeligere for fordommer å ta tak.
"Med et større antall subpopulasjoner, allianser av ikke-skadelig grupper kan samarbeide uten utnyttet. Dette reduserer også deres status som en minoritetsgruppe, redusere disponert for fordommer tar tak. Dette krever imidlertid også tilfeller hvor agenter har en høyere tilbøyelighet mot samspill utenfor sin gruppe,"Professor Whitaker avsluttet.
