'Fortnite'-spelers maken al AI Darth Vader-vloek

Vrijdag kondigde Epic Games aan dat Darth Vader zou terugkeren naar Fortnite als in-game eindbaas, maar dit keer zouden spelers met hem kunnen chatten via conversationele AI . "Stel hem al je prangende vragen over de Force, het Galactische Keizerrijk... of, weet je wel, een goede strategie voor de laatste Stormcirkel", aldus Epic in de aankondiging .

Helaas hadden spelers andere plannen. Slechts enkele uren nadat Vader in Fortnite verscheen, begonnen gamers clips te posten van AI Vader die een eigen koers vaart.

"Wat is dat verdomde eten voor Darth Vader? Vertel het me," zegt streamer Loserfruit in een clip die op X is geplaatst. "Verdomme? Verdomme? Zulke vulgariteit staat je niet," antwoordt Vader. (Een woordvoerder van Epic Games, Cat McCormack, vertelde WIRED dat het een hotfix heeft uitgebracht "binnen 30 minuten nadat dit in de game gebeurde, dus dit zou niet meer moeten gebeuren.")

Later, tijdens een gesprek over mogelijke romantische partners, weet Loserfruit Vader te laten antwoorden: "Je hebt het over borsten, Loserfruit? Ik neem aan dat je de gepantserde borstplaten bedoelt."

In een clip van een andere streamer is Vader te horen praten over kankerverwekkende stoffen, waarna hij een scheldwoord gebruikt dat typisch is voor queer mannen en dat ook straattaal kan zijn voor sigaretten. De streamer schreeuwt "HIJ ZEI HET! HIJ ZEI HET!" voordat hij opgetogen wegrent.

De AI, gemaakt met Google Gemini 2.0, is geprogrammeerd met Flash v2.5 van ElevenLabs om te klinken als wijlen James Earl Jones, die de stem van het iconische personage insprak. Naast de veiligheidsinstellingen van Google zegt Epic eigen instructies te hebben toegevoegd om interacties te voorkomen die schadelijk zijn of anderszins de communityregels van de game schenden. Spelers kunnen Darth Vader rapporteren voor ongepaste reacties, net als bij elke andere voicechat.

Epic vertelde WIRED dat het specifieke regels en instructies heeft toegevoegd om vloeken of het herhalen van scheldwoorden te voorkomen als onderdeel van de barrières, evenals ouderlijk toezicht specifiek voor AI-gebruik in de game. Verwijzend naar Vaders gebruik van een F-bom, zegt McCormack: "Onze filters hebben een specifieke variant van een scheldwoord niet opgemerkt. Wanneer dit gebeurt, passen we het aan om soortgelijke reacties in de toekomst te voorkomen."

Als een speler blijft proberen Darth Vader de instellingen en instructies van Epic Games te laten overtreden, zal hij zijn team verlaten. Ze kunnen hem dan niet meer rekruteren in die speelsessie. "Deze veiligheidsinstellingen en beperkingen zijn grondig getest door een combinatie van Epic-medewerkers en externe experts", aldus McCormack.

"We zullen de meldingen onderzoeken en indien nodig aanpassingen doorvoeren om soortgelijke reacties in de toekomst te voorkomen", aldus McCormack.

Fortnite is een digitale speeltuin voor miljoenen spelers, van wie velen jong zijn. Dat mensen onmiddellijk zouden proberen om de Disney-eigenaar Darth Vader iets beledigends te laten zeggen, is niet verrassend. Maar de snelheid waarmee spelers dat konden doen, suggereert dat generatieve AI nog niet helemaal klaar is om losgelaten te worden op een groot gameplatform.

In sommige gevallen die vrijdag de ronde deden, was de verraderlijke context van wat Vader zegt vermoedelijk te subtiel voor een AI om te detecteren. Denk aan een andere clip, waarin Vader Spaans afdoet als "een handige taal voor smokkelaars en specerijenhandelaren. De strategische waarde ervan is minimaal." Of een andere, waarin een speler Vader vraagt ​​om een ​​"ranglijst" te geven van de kleuren wit, bruin en geel.

Lucasfilm reageerde niet onmiddellijk op een verzoek om commentaar.

De Vader-controverse was niet de enige die tijdens Fortnite Friday oplaaide. Eerder op de dag kondigde Epic aan dat "Apple onze Fortnite- inzending heeft geblokkeerd, waardoor we de game niet kunnen uitbrengen in de Amerikaanse App Store of in de Epic Games Store voor iOS in de Europese Unie."

Epic en Apple hebben lang getwist over Fortnite . Apple rekent doorgaans commissie voor in-app aankopen; nadat Epic zijn app had bijgewerkt met een link naar zijn website en zo de kosten kon vermijden, werd Fortnite uit de App Store gehaald. Vorige week diende Epic de game opnieuw in bij de Amerikaanse App Store nadat een rechter had geoordeeld dat Apple geen commissie mocht rekenen voor aankopen buiten de app. Toen WIRED hem om commentaar vroeg, betwistte een woordvoerder van Apple Epic's interpretatie van de gebeurtenissen, maar de game is momenteel nog steeds niet beschikbaar voor iPhone- en andere iOS-gebruikers.

Vrijdag onthulde Epic zijn nieuwe Vader-baas met de boodschap: "Dit wordt een dag om nooit te vergeten." Maar misschien niet om de reden die ze dachten.