"AI-system kan ta fel beslut när de tränas av människor"

I höstsäsongen första avsnitt av AI-podden diskuterar Essy Dahlin och Ather Gattami bland annat AI och etik. Varför är etik ett så aktuellt ämne när det gäller AI? Enligt Essy Dahlin har det sällan funnits en teknik som är så avgörande för mänskligheten som AI. Essy Dahlin tar exempelvis upp dagens teknik inom datorseende (computer vision) där man kan identifiera individer baserat på hudfärg och etnicitet, men även djur. Essy Dahlin lyfter även fram exempel där AI kan vara missvisande i vissa bedömningar av individer i olika sammanhang beroende på individernas bakgrund (det är för övrigt ett generellt problem redan bland mänskliga statistiker idag som använder siffror och förenklar system som gör att man drar helt felaktiga slutsatser). Essy Dahlin förklarar också att trots att fördelen med AI – att vara smartare än människan – så bygger tekniken mestadels idag på data från människor och interaktioner med människor, vilket propagerar de mänskliga bristerna till besluten som AI-systemet tar. Läs mer: https://ai-podden.se/