AI-beperkingen hinderen offensieve cybersecurity-onderzoekers

Onderzoekers in de cybersecurity, die zich richten op het ontdekken van onbekende kwetsbaarheden en het ontwikkelen van exploit-tools, ervaren steeds meer hinder door de beperkingen die door AI-platforms zoals OpenAI en Anthropic zijn ingesteld. Deze 'guardrails' zijn ontworpen om misbruik van technologie te voorkomen, maar belemmeren tegelijkertijd het onderzoek naar kwetsbaarheden.

De onderzoekers geven aan dat deze restricties hun vermogen om effectief te werken ondermijnen. Ze kunnen niet altijd de nodige tools en technieken gebruiken die essentieel zijn voor hun onderzoek. Dit leidt tot frustratie en een gevoel van stagnatie in hun zoektocht naar het verbeteren van de digitale veiligheid.

Bron: TechCrunch