Den falske tryghed, der gør dine AI-systemer dårligere: Human in the Loop - Soloafsnit med Dan Rose

"Vi sætter bare et menneske ind i loopet" er blevet standardsvaret, når compliance spørger til risici. Men hvad nu hvis det gør tingene værre?I det her soloafsnit tager Dan Rose fat på Human in the Loop – et begreb, der er vokset eksplosivt og er skrevet direkte ind i EU's AI Act, men som forskning viser gang på gang kan sænke kvaliteten, forværre bias og reducere dygtige medarbejdere til juridiske stødpuder.Dan kommer ind på:Præstationsparadokset:Hvorfor menneske plus AI ikke altid giver det bedste resultat – og hvornår AI faktisk klarer sig bedre alene.De kognitive faldgrupper: Vigilance decrement, belejlighedsbias, forankringsbias og bekræftelsesbias – og hvad de gør ved dine medarbejdere, når de sættes til at godkende AI-output.Den moralske deformationszone: Hvorfor Human in the Loop alt for ofte er et "cover your ass"-værktøj, der placerer ansvaret hos medarbejderen uden at give dem reel kontrol.Tre konkrete designgreb: Kognitiv tvangsfunktion, delegation inversion og kortet vs. terrænet – sådan bygger du workflows, der rent faktisk virker.Har du ønsker til emner eller gæster? Skriv til [email protected]:Human-AI Synergy (MIT, 2025): Når mennesker gør AI dårligere:https://mitsloan.mit.edu/ideas-made-to-matter/when-humans-and-ai-work-best-together-and-when-each-better-aloneAnsvarshuller (AU, 2023): Hvorfor det er uetisk at give medarbejderen ansvaret for AI-fejl:https://link.springer.com/article/10.1007/s10676-023-09699-6Manglende Metaviden (2022): Vi er dårlige til at vurdere, hvornår vi skal stole på maskinen:https://pubsonline.informs.org/doi/10.1287/isre.2021.1079Kognitive Tvangsfunktioner: Fartbump der tvinger os til selv at tænke:Studie 1: https://arxiv.org/abs/2101.04517Studie 2: https://arxiv.org/abs/2402.16279Moral Crumple Zones (2019): Mennesket som "deformationszone" når teknikken fejler:https://estsjournal.org/index.php/ests/article/view/260Case: Zillows algoritme-flop (2021): Da AI-styrede boligkøb kostede millioner:https://www.gsb.stanford.edu/insights/flip-flop-why-zillows-algorithmic-home-buying-venture-implodedSucces-case: Radiologi (2023): Markant bedre diagnosticering via AI-støtte:https://pubmed.ncbi.nlm.nih.gov/37993303/