De uitdagingen van AI-onderhandelingen tussen systemen

Volgens AI-onderzoeker Nick Jennings is de grootste uitdaging voor kunstmatige intelligentie niet de ontwikkeling van individuele slimme systemen, maar de interactie tussen miljoenen AI's. In een opiniestuk in The Conversation benadrukt hij de noodzaak van regels en instellingen voor wat hij 'kunstmatige samenlevingen' noemt. Deze samenlevingen zouden ontstaan wanneer verschillende AI-systemen met elkaar gaan onderhandelen, bijvoorbeeld over financiële zaken.

Jennings wijst op de complexiteit die ontstaat als meerdere AI's met verschillende belangen en strategieën met elkaar in gesprek gaan. Dit kan leiden tot onvoorspelbare uitkomsten en vraagt om een goed doordacht kader om ervoor te zorgen dat deze interacties op een eerlijke en transparante manier verlopen.

Bron: Bright