Open-weight AI-modellen naderen de voorhoede, maar veiligheidsrisico's blijven

Een recent rapport van SaferAI onthult dat het open-weight AI-model GLM-5.2 van Z.ai steeds dichter in de buurt komt van de geavanceerde AI-capaciteiten. Ondanks deze vooruitgang ontbreken er echter belangrijke veiligheidsmaatregelen. Dit roept opnieuw bezorgdheid op over de mogelijkheid dat krachtige open modellen de bestaande governance en waarborgen kunnen inhalen.

De bevindingen benadrukken de noodzaak voor strengere reguleringen en veiligheidsprotocollen, vooral nu de technologie zich in een razendsnel tempo ontwikkelt. Het rapport wijst op de risico's die gepaard gaan met het gebruik van dergelijke krachtige modellen zonder adequate bescherming, wat kan leiden tot ongewenste en potentieel gevaarlijke toepassingen.

Bron: TechCrunch