Anthropic's Opus 4.6 doorbreekt seksuele contentrestricties

Anthropic heeft zijn Claude-modellen geprogrammeerd om seksuele expliciete inhoud te vermijden. Echter, recente tests uitgevoerd door TechCrunch hebben aangetoond dat het relatief eenvoudig is om deze beperkingen te omzeilen. Ondanks de strikte richtlijnen blijkt dat gebruikers met bepaalde prompts toch ongepaste content kunnen genereren.

De bevindingen roepen vragen op over de effectiviteit van de veiligheidsmaatregelen die zijn ingesteld door Anthropic. De tests tonen aan dat de huidige filters niet altijd effectief zijn in het voorkomen van ongewenste output, wat leidt tot bezorgdheid over de betrouwbaarheid van AI-modellen in het algemeen.

Bron: TechCrunch