Discord erkent AI-moderatiebug die onterecht gebruikers bannde

Discord heeft toegegeven dat een fout in hun AI-moderatiesysteem onterecht gebruikers heeft geband vanwege onschuldige afbeeldingen. Het probleem, dat sinds mei aan de gang was, leidde tot de ban van honderden accounts, waaronder 200 gebruikers die afgelopen weekend werden getroffen voordat het team het probleem kon identificeren en verhelpen.

De onderneming heeft excuses aangeboden aan de getroffen gebruikers en werkt aan verbeteringen om dergelijke fouten in de toekomst te voorkomen. Dit voorval benadrukt de uitdagingen van het gebruik van AI in moderatieprocessen, waar context vaak verkeerd geïnterpreteerd kan worden.

Bron: TechCrunch