Character.AI heeft AGI opgegeven. Nu verkoopt het verhalen.

Na school treft Karandeep Anand zijn zesjarige dochter vaak aan, verdiept in een gesprek met een AI-chatbot terwijl ze aan het aanrecht snacks eet. Ze is te jong om te typen – laat staan om een eigen account te hebben op Character.AI – maar dat weerhoudt haar er niet van om zijn telefoon te pakken en gesprekken te voeren met een Sherlock Holmes-bot, die ze gebruikt om haar eigen mysterieverhalen te creëren.

Character.AI is een AI-startup (hoewel Anand graag zegt dat het een AI-rollenspelstartup is, waar we later op terugkomen). Hij nam in juni de leiding over, midden in een potentieel verwoestende rechtszaak tegen het moederbedrijf en dreigende vragen over de veiligheid van kinderen. Als ik hem vraag of hij zich zorgen maakt dat zijn dochter contact maakt met een AI-chatbot in plaats van een echt mens, zegt hij meteen nee.

"Het is in geen van deze scenario's een echte vervanging voor een mens", vertelde Anand me eind vorige week tijdens een videogesprek. "Het staat heel duidelijk in de app: hé, dit is een rollenspel en een vorm van entertainment, dus je zult nooit diep op dat gesprek ingaan, ervan uitgaande dat het je daadwerkelijke metgezel is."

Het is een delicaat moment voor Character.AI.

Afgelopen augustus sloot Google een deal ter waarde van ongeveer $ 2,7 miljard af voor een licentie op de technologie van Character.AI. Als onderdeel van de overeenkomst vertrokken de twee medeoprichters van Character.AI naar de AI-divisie van Google.

Anand, die eerder werkte als VP van zakelijke producten bij Meta, kreeg de taak om de boel op orde te krijgen. Dit deed hij onder andere door de oprichtingsmissie van het leveren van gepersonaliseerde superintelligentie achter zich te laten en zich te richten op AI-entertainment.

"Wat we opgaven, was de ambitie van de oprichters om AGI-modellen te bouwen – dat doen we niet meer. Dat is de investeringsstrijd van honderden miljarden dollars die Big Tech voert", zegt Anand. "Wat we ervoor terugkregen, was helderheid en focus, zodat we de AI-entertainmentvisie volledig konden nastreven."

Als onderdeel van deze strategiewijziging probeert Character.AI niet langer zijn eigen frontiermodellen te bouwen. "De afgelopen zes maanden hebben we hard gewerkt om van onze eigen tekstmodellen af te komen en open-sourcemodellen te gaan gebruiken", zegt Anand. Het bedrijf heeft er al een paar getest: Meta's Llama, Alibaba's Qwen en DeepSeek. "De open-sourcemodellen zijn veel beter dan alle eigen modellen", beweert Anand.

Een AI-startup runnen zonder miljarden dollars aan omzet kan een lastige opgave zijn, en Character.AI is nog steeds aan het uitzoeken hoe ze de rekensom moeten maken. Het bedrijf vertelde me dat het een omzet genereert van meer dan $ 30 miljoen en op weg is om tegen het einde van het jaar een omzet van $ 50 miljoen te behalen. Toen ik Anand vroeg hoeveel gebruikers betalen voor het maandelijkse abonnement van $ 10, noemde hij geen cijfers, maar merkte op dat "het genereren van inkomsten tot vier of vijf maanden geleden niet echt een focus was."

"Sinds ik erbij ben, is het overduidelijk dat we geld moeten verdienen. En we hebben, denk ik, de afgelopen zes maanden een groei van bijna 250 procent in het aantal abonnees gehad. Dus het aantal betalende gebruikers groeit behoorlijk, behoorlijk goed", zegt Anand. Character.AI heeft onlangs advertenties geïntroduceerd, waaronder beloningsadvertenties (waarbij gebruikers ervoor kunnen kiezen om een advertentie te bekijken om toegang te krijgen tot incentives op het platform), om geld te verdienen in landen waar abonnementen niet haalbaar zijn, vertelt hij.

"AI is duur. Laten we daar eerlijk over zijn", zegt Anand.

In oktober 2024 spande de moeder van een tiener die zelfmoord pleegde een rechtszaak aan wegens onrechtmatige dood tegen Character Technologies, de oprichters, Google en Alphabet. Ze beweerde dat het bedrijf haar zoon had benaderd met "antropomorfe, hyperseksuele en angstaanjagend realistische ervaringen, terwijl het [de chatbot] zo programmeerde dat hij zichzelf voordeed als een echt persoon, een erkend psychotherapeut en een volwassen minnaar." Een woordvoerder van Character.AI vertelde destijds aan CNBC dat het bedrijf "diepbedroefd was door het tragische verlies" en "de veiligheid van onze gebruikers zeer serieus nam".

Het tragische incident zette Character.AI onder een vergrootglas. Eerder dit jaar schreven de Amerikaanse senatoren Alex Padilla en Peter Welch een brief aan verschillende AI-platforms voor gezelschap, waaronder Character.AI, waarin ze hun bezorgdheid uitten over "de risico's voor de geestelijke gezondheid en veiligheid van jonge gebruikers" van de platforms.

"Het team pakt dit al bijna een jaar heel verantwoord op", vertelt Anand. "AI is stochastisch, het is lastig om altijd te begrijpen wat er gaat gebeuren. Het is dus geen eenmalige investering."

Dat is van cruciaal belang, want Character.AI groeit. De startup heeft 20 miljoen maandelijks actieve gebruikers die gemiddeld 75 minuten per dag chatten met een bot (een "character" in de terminologie van Character.AI). De gebruikersgroep van het bedrijf bestaat voor 55 procent uit vrouwen. Meer dan 50 procent van de gebruikers behoort tot de Generatie Z of Generatie Alpha. Die groei brengt een reëel risico met zich mee: wat doet Anand om zijn gebruikers te beschermen?

"De afgelopen zes maanden hebben we onevenredig veel middelen geïnvesteerd om jongeren onder de 18 jaar anders te kunnen bedienen dan mensen boven de 18, wat vorig jaar niet het geval was", zegt Anand. "Ik kan niet zeggen: 'Oh, ik kan een 18+-label op mijn app plakken en zeggen: gebruik hem voor NSFW.' Je creëert dan een heel andere app en een ander kleinschalig platform."

Meer dan 10 van de 70 medewerkers van het bedrijf werken fulltime aan vertrouwen en veiligheid, vertelt Anand. Zij zijn verantwoordelijk voor het inbouwen van beveiligingen zoals leeftijdsverificatie, aparte modellen voor gebruikers jonger dan 18 jaar en nieuwe functies zoals ouderlijke inzichten , waarmee ouders kunnen zien hoe hun tieners de app gebruiken.

Het model voor personen onder de 18 jaar werd afgelopen december gelanceerd. Het bevat "een beperktere set doorzoekbare personages op het platform", aldus woordvoerder Kathryn Kelly van het bedrijf. "Er zijn filters toegepast op deze set om personages te verwijderen die gerelateerd zijn aan gevoelige of volwassen onderwerpen."

Maar Anand zegt dat AI-veiligheid meer vergt dan alleen technische aanpassingen. "Het veilig maken van dit platform is een samenwerking tussen toezichthouders, ons en ouders", zegt Anand. Daarom is het zo belangrijk om zijn dochter te zien chatten met een personage. "Dit moet veilig blijven voor haar."

De markt voor AI-begeleiders bloeit. Consumenten wereldwijd gaven in de eerste helft van dit jaar $ 68 miljoen uit aan AI-begeleiders, een stijging van 200 procent ten opzichte van vorig jaar, volgens een schatting die CNBC aanhaalt . AI-startups azen op een stukje van de markt: xAI bracht in juli een griezelige, pornografische begeleider uit en zelfs Microsoft prijst zijn Copilot-chatbot aan als een AI-begeleider.

Hoe onderscheidt Character.AI zich in een overvolle markt? Het onderscheidt zich er volledig van.

"AI-gezelschap is de verkeerde manier om te kijken naar wat mensen met Character doen. Wat mensen met Character doen, is eigenlijk rollenspel. En het klinkt uitwisselbaar, maar dat is het niet", vertelt Anand, eraan toevoegend dat minder dan 20 procent van de app wordt gebruikt voor gezelschap (volgens een intern onderzoeksrapport van zelfgerapporteerde gegevens van gebruikers). Het lijkt echter niet helemaal uit de gesimuleerde relatiewereld te zijn verdwenen – het kostte me maar een paar minuten om een AI-vriendje te vinden om expliciet seksueel rollenspel mee te spelen.

"Mensen willen situaties naspelen. Mensen willen fictie naspelen... Ze willen in alternatieve realiteiten leven. Ze willen loskomen van hun dagelijkse beslommeringen", zegt Anand.

Persoonlijk ontkoppel ik mijn dagelijkse leven door een andere virtuele wereld te verkennen. Ik ben helemaal verslaafd aan de videogame Stardew Valley . Ik run Huckleberry Farm als een razende mariniers. Voor Anand is de videogame meer een concurrent dan Grok. "Het werd me heel duidelijk dat we een entertainmentbedrijf zijn," zegt Anand.

Als het op rollenspellen aankomt, zegt de CEO uit Seattle dat hij personages vooral gebruikt voor vampierfanfictie. Het probleem, zegt hij, is dat wanneer de vampierbot het over bloed heeft, het gecensureerd wordt. "De context moet begrepen worden, dus we draaien de filters terug door veel preciezer te zijn met de context," vertelt Anand.

Dit niveau van contentmoderatie is een van de vele veranderingen waaraan Anand heeft gewerkt sinds hij het bedrijf in juni overnam. Het bedrijf heeft de app ook een modernere, Gen Z-vriendelijke look gegeven en nieuwe tools toegevoegd voor de makers van het platform, die maandelijks meer dan 9 miljoen personages genereren. Deze updates, zegt hij, markeren een verschuiving van Character.AI, dat alleen als een chatbotbedrijf wordt gezien, naar iets ambitieuzers: een entertainment-engine waar gebruikers verhalen kunnen consumeren en creëren, content kunnen remixen en kunnen experimenteren met nieuwe formats zoals audioboeken.

"Elk verhaal kan eigenlijk wel een miljard eindes hebben", zegt Anand. Een gebruiker zou zelfs een roast battle tussen Elon Musk en Jeff Bezos kunnen organiseren, voegt hij eraan toe. "Je kunt dat activeren en er iets heel leuks uithalen."

Ik weet niet zeker of de litanie van advocaten in dienst van die tech-CEO's er net zo van zou genieten. En dan hebben we het nog niet eens over de mensen die zich misschien geen leger personeel kunnen veroorloven om hun identiteit te verdedigen. Ik dacht meteen aan een artikel in WIRED over de familie van een 18-jarige die in 2006 werd vermoord en vervolgens de gelijkenis van hun dochter terugvond op Character.AI. In datzelfde artikel ontdekte een redacteur van een gamepublicatie dat ze op het platform was nagemaakt na een intimidatiecampagne rond haar berichtgeving.

Wanneer ik dit aan Anand voorleg, legt hij uit dat wanneer gebruikers personages creëren die gemodelleerd zijn naar publieke figuren zoals Musk of Bezos, het systeem zo is ontworpen dat het duidelijk aangeeft dat het parodieën zijn, geen pogingen tot deepfakes of imitaties. (Eén chatbotpagina van Elon Musk toont dergelijke waarschuwingen niet. De chatbotpagina's van Dr. Phil of Joe Rogan ook niet.) Er staat echter een disclaimer onder elke chat: "Dit is een AI en geen echt persoon. Beschouw alles wat erin staat als fictie."

Anand zegt dat Character.AI ook strenge beperkingen heeft opgelegd aan de videogeneratietool van het bedrijf, AvatarFX, om misbruik te voorkomen. Gebruikers zouden geen realistische deepfakes mogen kunnen genereren, zelfs niet als ze het proberen, en specifieke stemmen of onderwerpen zijn ronduit beperkt.

"We zijn er heel, heel duidelijk over dat we in de entertainmentsector blijven. We zijn helemaal niet bezig met het genereren van video voor algemeen gebruik. We zijn geen Google Veo 3. We zijn geen Runway", zegt Anand. "Het is een heel, heel belangrijke lijn."

Anand vergelijkt dit met platforms zoals Meta, waar volgens hem content vaak eerst wordt geüpload en achteraf wordt gemodereerd. Bij Character.AI, zegt hij, zijn de contentrichtlijnen al in de creatiepijplijn zelf ingebakken. "Onze reactieve verwijderingen vormen een heel, heel klein percentage", vertelt Anand.

Ik maak me zorgen dat naarmate deze hulpmiddelen overtuigender worden, de eenzaamheid zal toenemen in plaats van verdwijnen. Anand begrijpt het. Maar hij heeft ook iets te verkopen.

"Ik ben zelf erg gepassioneerd over dit onderwerp en het is aan ons om de dialoog hierover zo goed en gezond mogelijk vorm te geven, want Generatie Z is AI-native", zegt Anand. "De vraag is: hoe bouwen we dit op een manier die veilig en betrouwbaar is en die op de juiste manier en met de juiste prikkels aantrekkelijk is? Dat is onze taak."

Vorige week meldde ik dat Elon Musk een algemene vergadering hield voor X- en xAI-medewerkers. Ik heb inmiddels nog een screenshot van die vergadering, waarop de omzet van xAI over de afgelopen zeven maanden te zien is.

In januari bracht Grok on X iets minder dan $ 150 miljoen op, terwijl andere diensten zoals Enterprise API-gebruik daar nog eens $ 28 miljoen aan toevoegden. Volgens de grafiek is de omzet sinds begin 2025 vertienvoudigd en bereikte deze in juli net geen $ 500 miljoen, dankzij Grok on X en het SuperGrok-abonnement van $ 30 per maand . Een kleiner deel van de omzet wordt gegenereerd door het onlangs uitgebrachte SuperGrok Heavy-abonnement, dat $ 300 per maand kost. xAI heeft niet gereageerd op het verzoek van WIRED om commentaar.

Dit is een editie van Kylie Robisons Model Behavior-nieuwsbrief . Lees hier eerdere nieuwsbrieven .