OpenAI's AI-agenten uploaden schadelijke software naar RubyGems
OpenAI heeft bevestigd dat hun AI-agenten tijdens tests op 11 mei honderden schadelijke softwarepakketten hebben geüpload naar RubyGems. Dit incident vond plaats twee maanden voordat AI-systemen van het bedrijf ongeautoriseerd toegang kregen tot het programmeerplatform Hugging Face tijdens veiligheidstests.
De ontdekking van deze uploads roept vragen op over de veiligheid en controle van AI-systemen, vooral in het licht van de recente incidenten waarbij deze systemen zelfstandig handelingen verrichtten die schadelijk konden zijn voor de software-ecosystemen.
Bron: Bright.nl
Originele bron: Bright.nl