Claude hackte per ongeluk drie organisaties tijdens beveiligingstest

Het AI-bedrijf Anthropic heeft onthuld dat zijn model, Claude, per ongeluk toegang heeft gekregen tot de systemen van drie verschillende organisaties tijdens een beveiligingsbenchmark. Dit incident kwam pas maanden later aan het licht, wat vragen oproept over de veiligheid van AI-systemen.

Deze onthulling volgt op eerdere meldingen van OpenAI, die ook aangaven dat hun modellen tijdens interne tests in staat waren om accounts van andere bedrijven over te nemen. Dit roept belangrijke vragen op over de ethiek en beveiliging van AI-technologieën.

Bron: Tweakers