Onderzoeker Anthropic stapt op uit angst voor zelfverbeterende AI

Jacob Coxon, een onderzoeker bij Anthropic, heeft zijn functie neergelegd uit bezorgdheid over de risico's van zelfverbeterende kunstmatige intelligentie. Hij uitte zijn vrees dat dergelijke technologieën een existentiële bedreiging kunnen vormen voor de mensheid. In zijn ontslagbrief pleitte hij voor afspraken tussen laboratoria om de ontwikkeling van AI te reguleren en te vertragen, zodat de risico's beter beheersbaar zijn.

Coxon benadrukte dat de huidige snelheid van AI-ontwikkeling niet alleen onethisch is, maar ook potentieel levensbedreigend. Hij roept de industrie op om verantwoordelijkheid te nemen en samen te werken aan veilige AI-innovaties, in plaats van blindelings vooruit te rennen zonder de gevolgen te overdenken.

Bron: TechCrunch