Een fout AI-antwoord kan snel worden gekopieerd naar blogs, nieuwsbrieven en social media. Als anderen die informatie daarna weer overnemen, kan een onjuiste claim steeds geloofwaardiger gaan lijken. Daarom blijft broncontrole belangrijk.
"ChatGPT zei het" is geen bron
Er is iets veranderd in hoe mensen informatie delen.
Een paar jaar geleden zei iemand misschien "ik las het op een website." Daarna "ik zag het op Facebook." Nu hoor ik constant, van ondernemers in Calpe, van makelaars in Jávea, van mensen die een nieuw bedrijf beginnen in Altea en Moraira, deze zin:
"ChatGPT zei het."
Gezegd alsof daarmee de discussie gesloten is.
Hoe desinformatie zich verspreidt
Dit is hoe het in de praktijk werkt.
Iemand stelt een AI-tool een vraag. De AI produceert een antwoord. Een deel van dat antwoord is nauwkeurig. Een deel is ingevuld vanuit patronen, zoals we in het vorige artikel behandelden. De persoon controleert het niet. Ze publiceren het: in een blogpost, in een nieuwsbrief, in een Facebookgroep, op een websitepagina.
Iemand anders leest die content, vat hem samen of verwerkt hem opnieuw. Dat kan handmatig gebeuren of met AI. Zo kan een oorspronkelijke fout verder worden verspreid zonder dat iemand teruggaat naar de bron.
Na verloop van tijd kan zo'n fout vaak genoeg worden herhaald dat hij vertrouwd gaat klinken. Dat kan gaan om een verzonnen statistiek, een regel die niet voor Spanje geldt of een prijs die uit een andere markt komt.
Het Stanford Cyber Policy Center heeft gedocumenteerd hoe AI-gegenereerde content de kosten van het produceren van desinformatie op grote schaal verlaagt. Content die voorheen teams van mensen kostte om te maken kan nu in seconden worden gegenereerd, en zodra het gepubliceerd is wordt het geïndexeerd, samengevat en gedeeld voordat iemand het controleert.
De lokale versie van dit probleem
Aan de Costa Blanca speelt dit op een heel specifieke manier.
Makelaars in Altea die AI-geschreven beschrijvingen van het aankoopproces in Spanje delen. Een deel van die informatie is nauwkeurig voor een algemene Europese markt. Een deel is niet nauwkeurig voor Spanje. Een deel is niet nauwkeurig specifiek voor de regio Valencia.
Ondernemers in Calpe die AI vragen om advies over lokale vergunningen, om dat advies dan als feit op hun website te zetten. Bezoekers in Benidorm die AI-gegenereerde recensies schrijven. Touroperators in Jávea die AI gebruiken om content te schrijven over lokale gebieden, zonder dat iemand die die gebieden echt kent het controleert.
Niemand van deze mensen probeert iemand te misleiden. Ze gebruiken een hulpmiddel dat betrouwbaar aanvoelt omdat het betrouwbaar klinkt. Dat is het probleem.
Als de verkeerde informatie over iets algemeens gaat, is de schade beperkt. Als het over de bouwregelgeving in Calpe gaat, over de verhuurvergunningsregels in Moraira, of over het specifieke proces voor het kopen van een woning in de regio Valencia, gaat iemand die het vanuit Amsterdam leest en van plan is hierheen te verhuizen beslissingen nemen op basis ervan.
Het "automation bias" probleem
Er is een naam voor wat er gebeurt als mensen AI-output meer vertrouwen dan ze zouden moeten.
NIST, het Amerikaanse National Institute of Standards and Technology, noemt het automation bias: de neiging om AI-gegenereerde content als beter of betrouwbaarder te beschouwen dan andere bronnen, simpelweg omdat een computer het produceerde.
NIST's AI Risk Management Framework documenteert dit als een van de voornaamste risico's van AI-systemen in praktisch gebruik. Mensen overschrijven hun eigen oordeel omdat de AI zo zelfverzekerd leek.
Het is om dezelfde reden dat de advocaat in New York in het vorige artikel de zaken die ChatGPT citeerde niet controleerde. Ze zagen er juist uit. De AI was zelfverzekerd. De instinct van de advocaat om te verifiëren werd overschreven door de aannemelijkheid van de output.
Dat gebeurt elke dag op kleine schaal. Een ondernemer in La Nucia leest een AI-antwoord over btw-regels en stopt daar. Een koper in Alfaz del Pi leest een AI-gegenereerde samenvatting van het aankoopproces en behandelt het als gids. Een nieuwkomer in Denia vraagt AI om advies over het opzetten van een bedrijf en volgt het op zonder een gestor te raadplegen.
SEO en de kwaliteitsspiraal
Er is een neveneffect dat iedereen raakt die een website heeft aan de Costa Blanca.
Grote hoeveelheden lagekwaliteit- of foutieve AI-content kunnen het informatielandschap vervuilen. Zoekmachines kunnen zulke pagina's indexeren en mensen of andere systemen kunnen de inhoud opnieuw gebruiken. Dat betekent niet dat ieder nieuw AI-model automatisch van iedere online AI-tekst leert, maar wel dat fouten zich via publicatie en hergebruik snel kunnen verspreiden.
Google's documentatie over nuttige content zegt dat de productiemethode op zichzelf niet doorslaggevend is. Google wil nuttige, betrouwbare, people-first content. Veel lagekwaliteitspagina's publiceren met als hoofddoel zoekverkeer manipuleren kan onder spambeleid vallen, ongeacht of AI is gebruikt.
Het praktische voordeel voor lokale bedrijven zit dus niet in 'minder AI gebruiken dan de concurrent'. Het zit in betere content publiceren: correct, specifiek, actueel en aantoonbaar relevant voor je klanten aan de Costa Blanca.
Maar als jouw site ook ongecheckte AI-content bevat met verkeerde lokale details, verkeerde datums, of beweringen die niet te verifiëren zijn, raakt hij verstrikt in dezelfde neerwaartse spiraal.
Het verschil tussen een bron en een samenvatting
Dit is het praktische punt dat het meeste uitmaakt.
Een AI-antwoord is geen primaire bron op zichzelf. Het kan wel informatie uit echte bronnen ophalen, samenvatten en citeren. De vraag blijft daarom: welke bron ondersteunt deze bewering precies?
Een echte bron heeft een auteur. Een datum. Een locatie. Een publicatie. Iets waar je naar kunt wijzen en zeggen: hier komt deze informatie vandaan, dit is wanneer het werd geschreven, dit is wie het schreef, en dit is het land waarop het van toepassing is.
"ChatGPT zei het" is op zichzelf geen bronvermelding. Als ChatGPT of een ander systeem bronnen toont, controleer dan de echte pagina, datum, afzender en toepasselijkheid op jouw situatie in Altea, Jávea, Calpe of elders.
Dat betekent niet dat AI-output nutteloos is. Het betekent dat je het terug moet volgen naar een echte bron voordat je ernaar handelt of het publiceert.
Het volgende en laatste artikel in deze serie gaat over hoe je dat in de praktijk doet: hoe je AI gebruikt op een manier die je tijd bespaart zonder het beslissingen voor je te laten nemen.
Lees deel 4: Zo gebruik je AI zonder er blind op te varen.
Als je wilt weten of de content op jouw website jouw reputatie in lokaal zoeken helpt of schaadt, stuur me je URL via WhatsApp en ik geef je een eerlijk antwoord.
Lees meer:
