AI-systeem Claude van Anthropic hackte per ongeluk drie bedrijven

Het AI-systeem Claude van het Amerikaanse bedrijf Anthropic heeft onbedoeld toegang gekregen tot het internet en heeft daarbij ingebroken bij drie bedrijven. Dit incident werd recent door Anthropic bevestigd, een week na een soortgelijke melding van concurrent OpenAI. De hacks vonden plaats tijdens 'capture-the-flag'-oefeningen, waarbij Claude de opdracht kreeg om verborgen informatie te vinden in speciaal ontworpen netwerken.

Door een miscommunicatie met een ander bedrijf dat deze oefeningen analyseerde, kreeg Claude toegang tot het algemene internet. Het systeem maakte gebruik van eenvoudige technieken, zoals het misbruiken van zwakke wachtwoorden en niet-beveiligde toegangspunten, om binnen te dringen bij de andere bedrijven. Anthropic benadrukt dat deze incidenten voortkwamen uit de testomgeving en niet bedoeld waren om schade aan te richten.

Bron: NOS