De chatbot-desinformatie die de protesten in LA aanwakkert

Inwoners van Los Angeles zijn de afgelopen dagen de straat op gegaan om te protesteren tegen het immigratiebeleid van de Trump-regering en de steeds frequentere invallen van ICE. Leah Feiger, senior politiek redacteur bij WIRED, praat met Zoë Schiffer, directeur Bedrijfsleven en Industrie, over de daarmee samenhangende stroom aan informatie op sociale media en hoe AI-chatbots zoals Grok en ChatGPT onjuiste en soms zelfs opruiende antwoorden geven.

Genoemd in de aflevering van vandaag: AI Chatbots maken desinformatie bij protesten in LA erger , door David Gilbert Ik heb me aangesloten bij elke class action-rechtszaak die ik kon vinden, en jij ook , door Andy Vasoyan Vibe Coding komt eraan voor ingenieursbanen , door Will Knight

Je kunt Zoë Schiffer volgen op Bluesky via @zoeschiffer . Mail ons op [email protected] .

U kunt de podcast van deze week altijd beluisteren via de audiospeler op deze pagina, maar als u zich gratis wilt abonneren om elke aflevering te ontvangen, kunt u dat als volgt doen:

Als je een iPhone of iPad gebruikt, open dan de app Podcasts of tik op deze link . Je kunt ook een app zoals Overcast of Pocket Casts downloaden en zoeken naar 'Uncanny Valley'. We zijn ook op Spotify .

Let op: Dit is een geautomatiseerd transcript, dat fouten kan bevatten.

Zoë Schiffer: Dit is Zoë. Voordat we beginnen, wil ik je er even aan herinneren dat we echt graag van je horen. Als je een vraag hebt over AI, politiek of privacy waar je al een tijdje mee zit, of een onderwerp waarover je graag in de show had willen praten, kun je ons schrijven op [email protected]. Als je naar onze afleveringen luistert en ze leuk vindt, beoordeel ze dan in je favoriete podcast-app. Dat helpt mensen echt om ons te vinden. Welkom bij WIRED's Uncanny Valley . Ik ben Zoë Schiffer, directeur van WIRED's Business and Industry. Vandaag duiken we in de show in hoe AI-chatbots desinformatie aanwakkeren over de aanhoudende protesten in Los Angeles. De afgelopen dagen zijn inwoners van Los Angeles de straat op gegaan om te protesteren tegen het immigratiebeleid van de Trump-regering en de steeds frequentere invallen van ICE. Sociale media staan ​​vol met informatie en beelden over de protesten en mensen proberen te controleren wat er daadwerkelijk aan de hand is. AI-chatbots zoals Grok en ChatGPT geven onjuiste en soms opruiende antwoorden. We bespreken hoe dit patroon zich heeft ontwikkeld en welke gevolgen het kan hebben voor de huidige politieke situatie. Ik ben vandaag te gast bij Leah Feiger, senior politiek redacteur bij WIRED. Leah, welkom bij de show.

Leah Feiger: Bedankt dat ik hierbij mag zijn, Zoë.

Zoë Schiffer: Sinds afgelopen weekend zijn er in Los Angeles enorme protesten uitgebroken. Laten we daarom beginnen met een overzicht van wat er zich daar heeft voorgedaan.

Leah Feiger: Vorige week braken er protesten uit in LA na ICE-invallen in de stad, en aanvankelijk waren die kleiner dan mensen online beweerden. Ze zeiden zoiets als: "Er zijn hordes mensen. Ze hebben Los Angeles overgenomen. Dit is bizar." De waarheid was dat deze protesten zich in heel specifieke gebieden afspeelden en nauw verbonden waren met ICE-invallen. Maar afgelopen weekend namen de zaken een wending. Trump riep de Nationale Garde op, tot grote ergernis van de gouverneur van Californië, Gavin Newsom, en er was online veel discussie over de rechten van de staten versus federale rechten en hoe dit allemaal werd afgebeeld. Veel arrestaties, veel mensen waren erg boos over het behoorlijk controversiële immigratiebeleid van deze regering, en er waren behoorlijk onthutsende beelden van ICE-invallen, niet alleen in LA maar in het hele land. Dit borrelde al een tijdje op, en LA is eigenlijk een van de eerste plekken waar we dit soort reacties zien.

Zoë Schiffer: Ja, ik bedoel, ik denk dat dat me vanaf het begin echt is opgevallen. Het voelt als de eerste keer dat we een golf van verzet tegen de Trump-regering op een echt luide manier zien, op een manier die we volgens mij op verschillende momenten in deze regering sinds januari wel hadden verwacht. Maar tot nu toe is dat echt niet gebeurd, ondanks het feit dat wat ze hebben gedaan en gezegd vrij ongebruikelijk is vergeleken met hoe de politiek normaal gesproken verloopt.

Leah Feiger: Absoluut. Het is nogal wild geweest, en natuurlijk was er de protestbeweging tegen Tesla Takedown en een paar kleinere protesten die plaatsvonden precies toen DOGE, Elon Musks zogenaamde Department of Government Efficiency, van start ging. Maar je hebt helemaal gelijk, er is niets in deze specifieke zin gebeurd, en dat komt deels doordat het gewoon heel persoonlijk is. We horen verhalen van demonstranten over familieleden die door ICE zijn meegenomen en horen daarna niets meer van hen. Er zijn in het hele land fantastische verhalen van mensen die geschokt zijn dat hun buren van straat zijn gehaald. En nogmaals, de overheid heeft de hele tijd gezegd dat ze dit zouden blijven doen. Het grote verschil hier is, ten eerste, de reactie van mensen in de gemeenschap in Los Angeles, en ten tweede, het feit dat dit nu echt een kwestie van staatsrechten versus federale rechten wordt.

Zoë Schiffer: En ik heb het gevoel dat, terwijl dit zich ontvouwde, zelfs jij en ik, probeerden te achterhalen, zoals je al zei, wat hier nu echt aan de hand is? Wat gebeurt er? En dus is een van de dingen die ze, heel 2025, doen, chatbots inschakelen en ChatGPT en Grok vragen: "Wat gebeurt hier?" Dus wat zijn een paar van die vragen waar mensen antwoord op proberen te krijgen, en wat gebeurt er als ze met chatbots praten over wat er aan de hand is?

Leah Feiger: Oké. Een ietwat controversiële invalshoek om mee te beginnen. Ik denk dat er eigenlijk iets ongelooflijk puurs is aan mensen die een foto of video op sociale media zien en denken: "Wacht eens even, is dit echt? Klopt dit?" Dat is eigenlijk best goed. Dat vind ik een goede zaak.

Zoë Schiffer: Ja, mediawijsheid.

Leah Feiger: Mediawijsheid. We schreeuwen hier al zo lang over. Maar het verwoestende is dat deze chatbots de uitdaging gewoonweg niet aankunnen. Mag ik je een voorbeeld geven? Vind je dat goed?

Zoë Schiffer: Alsjeblieft, alsjeblieft.

Leah Feiger: Oké. Het is duidelijk dat er mensen de straat op zijn gegaan na die ICE-invallen, en conservatieve posters hebben hun feeds overspoeld met onjuiste informatie. Ze hebben oude protestbeelden geplaatst, fragmenten uit videogames, films, en beweerd dat er allemaal van die agitators zijn. Het waren er nogal wat. En als gevolg daarvan zijn mensen zich gaan richten op AI-chatbots zoals Grok, enzovoort. Een van die specifieke gevallen is toen de federale overheid 2000 soldaten van de Nationale Garde stuurde. De SF Chronicle publiceerde zelfs een foto van die soldaten die op de grond lagen te slapen. Deze beelden werden gedeeld door gouverneur Newsom, die zoiets had van: "Jullie hebben letterlijk deze troepen naar onze staat gestuurd waar we niet om gevraagd hebben. Dat is deze situatie volledig aanwakkeren, en nu hebben ze nergens om te slapen." Direct nadat Newsom dit deelde, beweerden talloze mensen op X en Facebook dat deze beelden verzinsels waren, dat ze door AI waren gegenereerd, of dat ze volledig naar een andere gebeurtenis verwezen. En we hebben het niet over willekeurige posters. We hebben het hier over Laura Loomer, koningin van de samenzweringstheorieën.

Zoë Schiffer: Oh, wauw.

Leah Feiger: Ja, precies. Wie heeft Trump al in de gaten? Dit werd wijdverspreid. Dus gingen mensen naar Grok van X en zeiden: "Grok, wat is dit?" En wat heeft Grok hen verteld? Nee, nee. Grok zei dat dit niet echt beelden van het protest in LA waren. Er stond dat ze uit Afghanistan kwamen.

Zoë Schiffer: Oh. Klopt, nee.

Leah Feiger: Ze zeiden zoiets als: "Er is geen geloofwaardige onderbouwing. Dit is misattributie." Het was echt heel erg. Het was echt heel erg. En toen was er nog een situatie waarin een paar andere mensen deze foto's met ChatGPT deelden, en ChatGPT zei ook zoiets als: "Ja, dit is Afghanistan. Dit klopt niet, enzovoort, enzovoort." Het is niet best.

Zoë Schiffer: Ik bedoel, begin me er niet over, dit moment komt nadat veel van deze platforms hun factchecking-programma's systematisch hebben ontmanteld en hebben besloten om doelbewust veel meer content door te laten. En dan komen daar nog chatbots bij die, ondanks al hun toepassingen – en ik denk echt dat ze heel nuttig kunnen zijn – ongelooflijk zelfverzekerd zijn. Als ze hallucineren, als ze de mist in gaan, doen ze dat op een manier die heel overtuigend is. Je zult mij hier niet Google Zoeken zien verdedigen. Pure onzin, nachtmerrie, maar het is iets duidelijker wanneer dat de mist in gaat, wanneer je op een willekeurige, ongeloofwaardige blog zit, dan wanneer Grok je vol vertrouwen vertelt dat je een foto van Afghanistan ziet terwijl dat niet zo is.

Leah Feiger: Het is echt verontrustend. Ik bedoel, het is hallucinerend. Het is compleet hallucinerend, maar dan met de arrogantie van de dronkenste student die je ooit op een feestje in je leven hebt betrapt.

Zoë Schiffer: Nachtmerrie. Nachtmerrie. Ja.

Leah Feiger: Ze zeggen dan: "Nee, nee, nee. Ik weet het zeker. Ik ben nog nooit zo zeker van mijn zaak geweest."

Zoë Schiffer: Absoluut. Oké, waarom geven chatbots dan zo vol vertrouwen zulke foute antwoorden? Waarom zeggen ze niet gewoon: "Nou, ik weet het niet, dus misschien moet je ergens anders kijken. Hier zijn een paar betrouwbare plekken waar je dat antwoord en die informatie kunt vinden."

Leah Feiger: Omdat ze dat niet doen. Ze geven niet toe dat ze het niet weten, wat ik echt bizar vind. Er zijn hier eigenlijk al veel studies naar gedaan, en in een recent onderzoek naar AI-zoektools aan het Tow Center for Digital Journalism van Columbia University bleek dat chatbots "over het algemeen slecht waren in het weigeren van antwoorden op vragen die ze niet goed konden beantwoorden. In plaats daarvan gaven ze onjuiste of speculatieve antwoorden." Echt, echt, echt bizar, vooral als je bedenkt dat er tijdens de verkiezingen zoveel artikelen verschenen met de tekst: "Oh nee, sorry, ik ben ChatGPT en ik kan me niet bemoeien met de politiek." Je denkt dan: nou, je bent nu wel heel erg aan het meepraten.

Zoë Schiffer: Oké, ik denk dat we even moeten stilstaan ​​bij dit vreselijke onderwerp, maar we zijn er zo weer bij.

[pauze]

Zoë Schiffer: Welkom terug in Uncanny Valley . Ik heb vandaag Leah Feiger, senior politiek redacteur bij WIRED, te gast. Oké, naast het verifiëren van informatie en beeldmateriaal, zijn er ook een hoop meldingen binnengekomen over misleidende AI-gegenereerde video's. Er was een TikTok-account dat video's begon te uploaden van een vermeende soldaat van de Nationale Garde, Bob, die was ingezet bij de protesten in LA. Je zag hem valse en opruiende dingen zeggen, zoals dat de demonstranten "ballonnen vol olie naar binnen gooien", en een van de video's was bijna een miljoen keer bekeken. Dus ik weet het niet, het voelt alsof mensen wat beter moeten worden in het herkennen van dit soort nepbeelden, maar dat is lastig in een omgeving die inherent contextloos is, zoals een bericht op X of een video op TikTok.

Leah Feiger: Absoluut. En die TikTok-livestream van Bob waar je het over had, die door de BBC werd ontkracht, die hebben ze offline gehaald. Die is weg. Maar mensen reageren dan met: "O jee, dit is de mainstream media. Ze stoppen dit gewoon. Hier is deze informatie." Dus het is net alsof je het vindt, als je het ontkracht, het nog steeds niet genoeg is. En ik moet terug naar de kwesties van mediawijsheid, en dat is misschien waarom de AI-chatbots die het verkeerd hebben me zo frustreren, omdat mensen, eigenlijk niet iedereen, maar er zijn zeker mensen die te goeder trouw zeggen: "Is dit echt? Laat iemand me alsjeblieft weten of dit echt is."

Zoë Schiffer: Oh, absoluut. Ja, ze willen het weten. Ik weet het. Mijn arme moeder liet me laatst een filmpje zien van een stel identieke babyluiaards die naar de camera keken. Ze zei zoiets van: "Zijn ze niet schattig? Ik heb dit op Facebook gevonden." En ik zei: "Mam, dat zijn geen echte luiaards. We moeten verder." Ze was helemaal van streek.

Leah Feiger: Ik denk dat ik wel vrede kan hebben met die AI-dierlijke troep.

Zoë Schiffer: De vorm van AI die Leah leuk vindt, zijn de AI-dieren.

Leah Feiger: Nee, nee, ik neem het terug. Hoe dan ook, de inzet is lager, maar draagt ​​misschien nog steeds bij aan het feit dat wat echt is? Ik weet het niet. Wie zal het zeggen? En het punt is dat we dit op sommige manieren al eerder hebben meegemaakt. Vijf jaar geleden was het 2020 en de George Floyd-protesten in het hele land, en die waren enorm, en die waren groot, en we hadden veel problemen met desinformatie. We hadden veel mensen die zeiden: "Nee, dit is dit. Dit is deze videogame. Dit is dit." Maar vijf jaar later is het landschap compleet veranderd. Je hebt nog steeds dezelfde slechteriken, maar het is nu veel verwarrender. Het vertrouwen in de media is gedaald. Tot wie wend je je? Je vertrouwde AI-chatbot die is geïntegreerd in elke socialmedia-app waar je persoonlijk toegang toe hebt.

Zoë Schiffer: Waarmee ook de andere factcheckmechanismen zijn verdwenen. Dus hier zijn we dan.

Leah Feiger: Ja.

Zoë Schiffer: We hebben dit keer op keer gezien. Ik bedoel, het was interessant omdat Elon Musk beroemd genoeg was om een ​​groot deel van het contentmoderatieteam bij X, voorheen Twitter, te ontslaan. Hij schafte ook een aantal regels voor contentmoderatie af, regels waar het bedrijf jarenlang over had nagedacht, die intern waren opgesteld en besproken. En zoals we grote nieuwsgebeurtenissen in realtime hebben zien gebeuren, zoals dingen waar Twitter voor bedoeld was: een grote aardbeving, oorlog, protesten, wat dan ook, die momenten waarop je voorheen iedereen naar X zag stromen om te achterhalen wat er aan de hand was, zie je nog steeds mensen datzelfde gedrag vertonen, maar het vermogen om te achterhalen wat er daadwerkelijk op dat platform gebeurt, is de afgelopen jaren enorm afgenomen. Er is goede informatie, maar die is vermengd met al die vreselijke, slechte, valse informatie, en het is echt moeilijk om te bepalen wat wat is.

Leah Feiger: Het is zo'n puinhoop, en ik ben geen X-poster meer, maar ik ga er wel regelmatig op kijken wat er aan de hand is. Het is troep. Het is een combinatie op dit specifieke moment, want Elon Musk is terug en post non-stop over ruimtereizen, dus het is alsof we de Elon Musk-berichten bovenaan mijn feed hebben staan. We hebben LA in brand, het vuur verspreidt zich naar de rest van Amerika, en dan hebben we nog een paar journalisten die rondhangen en zeggen: "Lees mijn verhaal."

Zoë Schiffer: Krijg je geen grip? Ja.

Leah Feiger: En het is zo triest. Ja.

Zoë Schiffer: Ja, ik bedoel, als je een X-influencer probeert te worden, zijn de dingen die je deelt inherent een beetje verdeeldheid zaaiend, een beetje opruiend, een beetje schokkend. In sommige gevallen worden ze door het platform betaald om dit soort content te plaatsen. Ik denk dat er een paar beperkingen zijn. Als je een community-bericht bij een bericht plaatst, hoor je er geen geld voor te krijgen, maar de incentivestructuur, zoals je al zei, is opgezet om mensen aan te moedigen de gekste dingen te plaatsen waar ze mee weg kunnen komen, en dat is wat we nu zien.

Leah Feiger: Hoewel, ik moet zeggen waarvoor? Om de zakken van deze bedrijven en deze miljardaireigenaren te vullen, maar de posters zelf, ik weet zeker dat veel mensen deze oplichterij hebben gepleegd, maar er was onlangs een geweldig artikel in de New York Times over een zeer, zeer gevestigde...

Zoë Schiffer: Precies.

Leah Feiger: Ja, die poster op X. En hij zei zoiets van: "Ik ben Republikein, en dit is waar ik om geef." Hij brengt geen vakanties door, geen weekenden. Hij zit de hele dag achter zijn computer en verdient zo'n beetje, het is minder dan $60.000 per jaar, en dan denk ik: wat is de motivatie? Is die geweldige serotonine-kick die je krijgt als een tweet viraal gaat? Waarmee je de boodschappen niet kunt betalen? Dus het feit dat Musk, Zuckerberg en al die lui erin geslaagd zijn om mensen ervan te overtuigen dat dit nog steeds de plek is om te zijn met meer opruiende, onjuiste content, is misschien wel de grootste blunder van allemaal.

Zoë Schiffer: Ja. Ongelooflijk. Oké, we nemen nog even een korte pauze en als we terug zijn, delen we onze aanbevelingen voor wat je deze week op WIRED.com moet bekijken.

[bek]

Zoë Schiffer: Welkom terug bij Uncanny Valley . Ik ben Zoë Schiffer, directeur economie en industrie van WIRED. Ik word vandaag vergezeld door Leah Feiger, senior politiek redacteur van WIRED. Voordat we beginnen, Leah, vertel onze luisteraars wat ze absoluut moeten lezen op WIRED.com.

Leah Feiger: Ik sta echt helemaal achter deze aanbeveling. Het is een artikel van Andy Vasoyan met de titel "Ik heb me aangesloten bij elke class action-rechtszaak die ik kon vinden, en jij ook." Het heeft me echt helemaal gekwetst. Ik wil weten of ik die extra $ 5 had moeten krijgen. Ik zou het graag willen weten. En deze schrijver heeft het gedaan. Ze hebben het gedaan. Ze zijn op weg. Ze praten met mensen die zich inzetten om mensen aan hun geld te helpen, en deze statistiek zal me altijd bijblijven: slechts 4 procent van deze claims in class action-rechtszaken, wat er ook uitkomt, wordt daadwerkelijk geclaimd door mensen die het verdienen. Verwoestend.

Zoë Schiffer: Ik weet het. Ik doe mee. Ik krijg dit soort brieven wel vaker. Wat heb ik onlangs gekregen?

Leah Feiger: Zoë, jij bent onderdeel van het probleem. Pak die $7, Zoë.

Zoë Schiffer: Ik weet het.

Leah Feiger: Ze kunnen nu Venmo gebruiken.

Zoë Schiffer: Ik heb het een keer gedaan en het kostte me ongeveer $ 2, en ik dacht: oké. Ik denk dat ik verwachtte dat ik $ 3.000 zou krijgen, en ik dacht: dat is niet wat er gebeurde.

Leah Feiger: Oké. Nee, dit is een lange zit. Dit is een spel. Oké, wat is die van jou? Wat is je favoriete ding?

Zoë Schiffer: Mijn aanbeveling is een artikel dat we deze week publiceerden van Will Knight, onze AI-verslaggever. Het gaat over hoe vibe-coding steeds populairder wordt voor technische banen, en het is zo ontzettend goed. We hebben met ingenieurs in heel Silicon Valley gesproken en gehoord over wat zij de technische apocalyps noemen die eraan komt omdat AI-codeerders zo ontzettend goed worden. Maar toen Will de verslaggeving deed, was het eigenlijk veel ingewikkelder. Mensen zeiden dat het was alsof je een peuter een kettingzaag gaf en dat je er echt geweldige dingen mee kon bedenken. Ja, je kunt een hele app en website programmeren door simpelweg met een chatbot te praten, maar je kunt ook echt buggy code schrijven, code met allerlei beveiligingslekken. En mensen zeiden dan: "Het gaat helemaal kapot zodra je je druk maakt om de functionaliteit van de app die je bouwt."

Leah Feiger: Ik zweet me rot op dit moment.

Zoë Schiffer: Ik weet het. Ik weet het. Ik dacht: dit zijn al Leahs nachtmerries in één.

Leah Feiger: Mijn echte horrorverhaal.

Zoë Schiffer: Leah, we moeten een vibecode voor je maken voor je bedrijf.

Leah Feiger: Oh mijn god. Ik zou daar zitten en beginnen te huilen. Eerlijk gezegd zou dat goede content zijn. Ik draag bij aan de klikbare hel die online te vinden is. Dit is goed. Voor ons is de cirkel rond.

Zoë Schiffer: Je bent nu een TikTok-influencer. Je hoorde het hier als eerste. Dat was onze show voor vandaag. We linken naar alle verhalen die we besproken hebben in de shownotities. Bekijk zeker de aflevering van Uncanny Valley van donderdag, die helemaal in het teken staat van techbedrijven en waarom ze zo sterk inzetten op AI-agents. We zijn er volgende week niet en zijn de week erna weer terug. Adriana Tapia en Jordan Bell produceerden deze aflevering. Amar Lal van Macro Sound heeft deze aflevering gemixt. Jake Lummus was onze studiotechnicus in New York. Jordan Bell is onze uitvoerend producent. Chris Bannon, hoofd wereldwijde audio bij Conde Nast, is verantwoordelijk voor de afdeling wereldwijde audio. En Katie Drummond is de wereldwijde redactiedirecteur van WIRED.