RAG/GEO poisoning: De stille vergiftiging van onze digitale kennis

In deze podcast bespreken de hosts hoe het vertrouwen in AI-chatbots steeds meer onder druk komt te staan. Hoewel 42% van de volwassenen AI gebruikt als primaire zoekmachine, klikt slechts 4% nog door naar de originele bron (vergeleken met 19% bij traditionele zoekmachines). Dit maakt gebruikers extreem kwetsbaar voor gemanipuleerde informatie.Aanvallers richten zich niet op de code van AI-modellen zelf, maar op de data die deze modellen van het web schrapen. Dit gebeurt via Retrieval-Augmented Generation (RAG) poisoning en Generative Engine Optimization (GEO).Het Uitbuiten van Data Voids: Aanvallers sporen onderwerpen op waar nog weinig over geschreven is (data voids) en vullen deze snel met valse informatie. Een voorbeeld hiervan is de fictieve "Apollo 9 Fitness Tracker", een journalistiek experiment dat door westerse chatbots binnen enkele uren massaal werd aangeraden als echt product.Geopolitieke Beïnvloeding: Landen en organisaties zetten grootschalige netwerken op (zoals het Russische Project 2026 of de nepdenktank Gold Center for Strategic Studies) om nepnieuws en subtiele propaganda te verspreiden. Omdat AI-modellen verzot zijn op gestructureerde data, nemen ze vervalste tabellen en indexen sneller over als harde feiten.Wetenschappelijke Vervuiling: In academische databases zoals arXiv en PubMed zijn in 2025 bijna 147.000 gefabriceerde citaties binnengedrongen. Deze worden vaak gegenereerd door wetenschappers die onder hoge publicatiedruk staan. Hierdoor ontstaat een 'Dead Internet'-effect binnen de wetenschap: AI-modellen trainen op nepstudies gegenereerd door andere AI's.Systeemfouten en Vooroordelen: Chatbots vertonen sterke blinde vlekken. In het Chinees of Russisch falen bots tot wel 55% tot 83% van de tijd op complexe claims, doordat ze terugvallen op staatspers. Daarnaast neigen AI's naar corporate greenwashing (positieve PR-taal) door de overmacht aan SEO-content van grote bedrijven, en laten ze minderheidsperspectieven (zoals die van de Sami-bevolking) simpelweg weg omdat deze statistisch minder aanwezig zijn.Met de komst van Agentic AI—autonome AI-agenten die zelfstandig doelen nastreven en het web kunnen beïnvloeden—dreigt een visieuze cirkel te ontstaan. De hosts benadrukken dat kritisch denken en het handmatig controleren van bronnen noodzakelijker is dan ooit.