Hugging Face misbruikt voor ongewenste naaktbeelden van vrouwen en kinderen

Hugging Face, een populaire repository voor open-source AI-modellen, wordt ingezet voor het maken van niet-consensuele deepfakes. Dit blijkt uit een recent rapport van de Europese non-profitorganisatie AI Forensics. Het rapport onthult dat zeven van de negen meest gebruikte beeldbewerkingsmodellen op het platform eenvoudig kunnen worden gebruikt om vrouwen en kinderen te 'ontkleden'.

De bevindingen wijzen op een ernstig probleem binnen de AI-gemeenschap, waar de technologie wordt misbruikt voor schadelijke doeleinden. Ondanks de groeiende bezorgdheid over privacy en ethiek, lijkt Hugging Face weinig te doen om dit soort misbruik tegen te gaan.

Bron: The Verge