Anthropic en OpenAI willen onafhankelijke veiligheidsevaluators inschakelen

Anthropic en OpenAI hebben plannen aangekondigd om onafhankelijke veiligheidsevaluators binnen hun AI-laboratoria te integreren. Dit is een opmerkelijke stap die door onderzoekers wordt verwelkomd, aangezien het hen ongekende toegang biedt tot de evaluatieprocessen van deze bedrijven. De onderzoekers benadrukken echter dat echte toezicht alleen kan worden bereikt met transparantie, onafhankelijkheid en uiteindelijk ook regulering.

De betrokkenheid van onafhankelijke evaluators kan bijdragen aan een veiligere ontwikkeling van AI-technologieën, maar er zijn zorgen over de daadwerkelijke onafhankelijkheid van deze evaluators. Het is cruciaal dat zij niet onder druk staan van de organisaties waarvoor ze werken, om zo de integriteit van hun beoordelingen te waarborgen.

Bron: TechCrunch