ChatGPT en het risico van frauduleuze productaanbevelingen

Oplichters hebben hun strategieën uitgebreid en richten zich nu ook op taalmodellen zoals ChatGPT. Eerder waren het vooral websites die via zoekmachineoptimalisatie (SEO) mensen misleidden, maar nu proberen scammers het algoritme van AI-systemen te beïnvloeden. Dit gebeurt door middel van een techniek die bekend staat als LLM data poisoning.

Door deze manipulatie kunnen frauduleuze webshops worden gepromoot, wat gebruikers in gevaar brengt. Het is een groeiende zorg dat dergelijke praktijken de betrouwbaarheid van aanbevelingen van AI-systemen kunnen ondermijnen, waardoor consumenten onbedoeld in de val van oplichters kunnen lopen.

Bron: Bright.nl