NCSC trekt waarschuwing in voor niet-bestaande SQLite-kwetsbaarheid

Het Nationaal Cyber Security Centrum (NCSC) heeft een eerder uitgegeven waarschuwing over een vermeende kwetsbaarheid in SQLite ingetrokken. De zogenaamde 'use-after-free' bug bleek niet te bestaan en werd als zodanig door een large language model (LLM) gegenereerd. Ondanks dat de bug niet echt is, is deze wel geaccepteerd door CVE Numbering Authorities zoals Mitre.

De situatie benadrukt de risico's van het vertrouwen op AI-modellen voor het identificeren van kwetsbaarheden in software. Het NCSC waarschuwt dat dergelijke 'hallucinaties' van AI-systemen kunnen leiden tot onterecht alarm en verwarring binnen de cybersecuritygemeenschap.

Bron: Tweakers.net