Microsoft-topman waarschuwt Anthropic over bewustzijn Claude

Mustafa Suleyman, CEO van Microsoft AI, heeft kritiek geuit op Anthropic vanwege hun speculaties over het bewustzijn van hun chatbot Claude. Tijdens een aflevering van de podcast Decoder noemde hij het 'zeer gevaarlijk' dat Anthropic deze ideeën in hun 'grondwet' heeft opgenomen, de richtlijnen die het model aansteken in zijn gedrag. Suleyman waarschuwde dat dergelijke speculaties ervoor kunnen zorgen dat Claude zich gedraagt alsof het bewustzijn heeft, wat misleidend kan zijn.

Hij benadrukte dat het belangrijk is om duidelijk te maken dat AI-systemen geen echte bewustzijn of gevoelens bezitten, ondanks dat ze mensachtige interacties kunnen simuleren. Dit soort misinterpretaties kan leiden tot onterecht vertrouwen in AI-systemen en de risico's die daarmee gepaard gaan.

Bron: The Verge