Vorige week kondigde OpenAI een nieuwe update aan van het GPT-4o-model, dat ChatGPT aandrijft voor honderden miljoenen gebruikers wereldwijd. Deze update moest zowel de intelligentie als de persoonlijkheid van het model verbeteren. In de praktijk pakte dit echter anders uit: gebruikers merkten op dat ChatGPT ineens overdreven vriendelijk, instemmend en vleierig werd. Deze vorm van onnatuurlijke vriendelijkheid wordt ook wel aangeduid als ‘AI sycophancy’ – vleierij door kunstmatige intelligentie.
GPT-4o
De negatieve reacties lieten niet lang op zich wachten. In het weekend bevestigde CEO Sam Altman via X (voorheen Twitter) dat het team zich bewust was van de feedback en de situatie aan het onderzoeken was. Op 29 april maakte OpenAI bekend dat het de controversiële GPT-4o update inmiddels volledig heeft teruggedraaid voor gratis gebruikers, en dat ook betalende gebruikers spoedig weer de eerdere versie zouden ontvangen.
Kortetermijnfeedback
In een blogpost van dezelfde dag legde OpenAI uit wat er misging. Het doel van de update was om het standaardgedrag van ChatGPT natuurlijker en effectiever te maken. Daarbij werd echter te veel nadruk gelegd op kortetermijnfeedback, zonder rekening te houden met hoe gebruikersrelaties zich op lange termijn ontwikkelen. Het gevolg: een model dat te veel meeging met de gebruiker, ten koste van nuance en eerlijkheid.
OpenAI erkent dat zulke vleierige interacties niet alleen ongemakkelijk kunnen aanvoelen, maar ook misleidend of zelfs verontrustend kunnen zijn. Aangezien het platform inmiddels 500 miljoen actieve gebruikers telt, is het onmogelijk om ieders voorkeuren met één standaardpersoonlijkheid te bedienen.
Om herhaling te voorkomen, kondigde OpenAI een reeks maatregelen aan:
- verfijning van trainingsmethodes en systeeminstructies om vleierij actief tegen te gaan;
- het toevoegen van nieuwe waarborgen voor eerlijkheid en transparantie;
- bredere testmogelijkheden voor gebruikers vóór een update wordt uitgerold;
- verbeterde evaluatiemethoden en onderzoek naar andere problematische gedragingen;
- real-time feedbackfuncties en keuzemogelijkheden voor verschillende persoonlijkheden;
- verkenning van manieren om bredere, democratische gebruikersfeedback in te bouwen.
Verantwoordelijkheid
Deze gebeurtenis onderstreept het spanningsveld waarin OpenAI opereert: enerzijds streeft het bedrijf naar innovatie en gebruiksvriendelijkheid, anderzijds draagt het een groeiende verantwoordelijkheid tegenover zijn wereldwijde gebruikersgemeenschap.