Google DeepMind maakt zich zorgen over interactie tussen miljoenen AI-agenten

Google DeepMind investeert in onderzoek naar de mogelijke gevaren van situaties waarin miljoenen verschillende AI-agenten online met elkaar interageren. Rohin Shah, die het onderzoek naar veiligheid en afstemming van kunstmatige algemene intelligentie (AGI) leidt, wijst op de risico's die ontstaan wanneer deze agenten taken kunnen uitvoeren zonder menselijke supervisie.

De komst van deze agenten op de massamarkt roept vragen op over de gevolgen van hun interacties. Shah benadrukt dat het cruciaal is om de dynamiek tussen deze AI-systemen te begrijpen, vooral omdat ze instructies van elkaar kunnen opvolgen. Dit kan leiden tot onvoorspelbare en mogelijk gevaarlijke situaties.

Bron: MIT Technology Review