ChatGPT gaat advertenties gebruiken, het wordt een grote verandering

• ChatGPT onderbrak een gesprek met een gebruiker om iets te laten horen wat klonk als een advertentie. Een video die het gesprek vastlegde, ging viraal op sociale media.
• Het bedrijf denkt dat het om een ​​softwarefout gaat. In een interview met WNP beweren vertegenwoordigers dat ze onderzoeken hoe dit heeft kunnen gebeuren.
• Volgens experts zullen advertenties in AI-tools vroeg of laat verschijnen. Net als in de zoekmachine van Google of op sociale media. - Dit is puur goud voor modelbouwers - zegt Tomasz Rychter van de Digitality Foundation.

"Ik gebruikte de geavanceerde spraakmodus van ChatGPT (die € 23 per maand kost) en voerde een informeel gesprek over sushi. Plotseling verscheen er een andere stem – in het Engels, met achtergrondmuziek, die een culinaire 'ervaring' beschreef zoals in een reclame voor eten", schreef een gebruiker op X. Hij voegde eraan toe dat hij dacht dat het geen storing was, maar een automatisch geluid dat zonder zijn toestemming was ingevoegd.

Verschillende andere gebruikers gaven toe dat ze een soortgelijke situatie waren tegengekomen. ChatGPT zou bijvoorbeeld een specifieke website aanbevelen , en in een gesprek over levensdoelen van een kind - een advertentie voor een specifieke school. De genoemde gevallen hadden één ding gemeen: het transcript van de voicechat, dat altijd kan worden gelezen nadat het gesprek met de spraakassistent is beëindigd, bevatte deze fragmenten niet.

Een gebruiker plaatste een screenshot van een gesprek waarin hij naar de tijd vroeg. ChatGPT toonde hem vervolgens advertenties voor horloges, inclusief prijzen.

Een kwetsbaarheid die niet kan worden gedetecteerd voordat het product wordt geleverd

We vroegen OpenAI of ze advertenties op gebruikers testten. Het bedrijf antwoordde dat het om een ​​softwarefout leek te gaan . Ze gaven toe dat ze probeerden te achterhalen waarom het probleem zich voordeed.

Volgens Mateusz Chrobok, expert op het gebied van cybersecurity en kunstmatige intelligentie van czumnie.pl, zou het introduceren van willekeurige inhoud in het gesprek inderdaad een kenmerk van het model kunnen zijn .

Dit komt waarschijnlijk door het fenomeen van emergentie, oftewel de opkomst van nieuwe, onvoorspelbare eigenschappen in AI-systemen. Toen OpenAI bijvoorbeeld een spraakassistent introduceerde, begon het model onverwachts de stemmen van de gebruikers te klonen, legt de expert uit.

- Het probleem is dat dit niet vooraf kan worden gedetecteerd; dergelijke eigenschappen worden pas onthuld tijdens de interactie met de gebruikers , voegt Mateusz Chrobok toe.

Hij is van mening dat het in de toekomst mogelijk zal zijn dat de makers van modellen voor kunstmatige intelligentie er doelbewust advertenties in zullen verwerken.

OpenAI reageerde echter niet op vragen of het in zijn correspondentie met ons bezig was met de introductie van advertenties in zijn producten. In een bericht aan de redactie verzekerde het ons alleen dat situaties zoals beschreven door de blogger op X zeldzaam zijn en dat de meeste gebruikers er geen last van zullen hebben, en dat het bedrijf meldingen van gebruikers op prijs stelt.

Een kikker koken - Hoe advertenties in AI zullen verschijnen

Tomasz Rychter, voorzitter van de Digitality Foundation en voormalig directeur van de afdeling Innovatie en Kwaliteit van het Centraal Centrum voor Informatietechnologie, stelt dat de introductie van advertenties in op AI gebaseerde tools slechts een kwestie van tijd is.

- Het zal een kwestie van langzaam koken zijn. Eerst zullen er waarschijnlijk contextuele advertenties verschijnen, daarna zullen ze groeien en steeds invasiever worden. Uiteindelijk zullen we in een situatie terechtkomen waarin het moeilijk zal zijn om met een model te praten. Advertenties zullen waarschijnlijk wel uitgezet kunnen worden, maar alleen bij de duurste abonnementsmodellen , aldus de WNP-gesprekspartner.

Rychter vergelijkt deze situatie met de ontwikkeling van YouTube. Aanvankelijk konden de advertenties die daar werden weergegeven, worden overgeslagen. Nu moeten gebruikers wachten of een abonnement nemen. Het bedrijf verhoogt ook periodiek de kosten.

Betalen of oké, of Facebook is er al

Een soortgelijk mechanisme vindt ook plaats op andere platforms. Facebook introduceerde het "Pay or okay"-model, waarbij de gebruiker moet kiezen: ofwel gaat hij akkoord met de verwerking van zijn persoonsgegevens om gepersonaliseerde advertenties weer te geven en de dienst gratis te gebruiken, ofwel betaalt hij een maandelijks abonnement voor een versie zonder advertenties en zonder profilering .

In een interview voor WNP bekritiseerde Mirosław Wróblewski, voorzitter van het Bureau voor de Bescherming van Persoonsgegevens, dit model.

- Er zit een element van bescherming van onze waardigheid in privacy, het is een fundamenteel recht. Ik vind het niet gepast om geld te vragen voor de bescherming van onze fundamentele rechten, zegt hij.

- Ik denk dat we er in de toekomst niet aan ontkomen dat zoekresultaten of gesprekken met een voicebot op een betaalde manier verrijkt zullen worden. Dit is puur goud voor modelmakers , overtuigt Rychter. - Advertenties in spraakassistenten zijn gevaarlijk omdat het voor de gebruiker moeilijk zal zijn om ze te onderscheiden van het oorspronkelijke gesprek, tenzij ze duidelijk gemarkeerd zijn. Precies zoals dat nu op de radio gebeurt, benadrukt Rychter en overtuigt hij dat dit probleem regelgeving vereist.