Anthropic verliest krachtig AI-model door veiligheidswaarschuwingen

Anthropic heeft zijn onvrede geuit over de beslissing van de overheid om zijn meest krachtige AI-model terug te trekken. Het bedrijf stelt dat de ontdekking van een beperkte kwetsbaarheid geen reden zou moeten zijn om een commercieel model, dat door honderden miljoenen mensen wordt gebruikt, in te trekken. In een blogpost benadrukt Anthropic dat zij het niet eens zijn met deze maatregel.

De terugtrekking van het AI-model volgt op veiligheidswaarschuwingen die door het bedrijf zelf zijn afgegeven. Dit heeft geleid tot een situatie waarin de inspanningen om de veiligheid van AI-systemen te waarborgen, mogelijk averechts hebben gewerkt.

Bron: TechCrunch