OpenAI's nieuwe redeneertechniek baart zorgen bij AI-experts

OpenAI heeft een nieuw model, Astra, gepresenteerd dat gebruikmaakt van een techniek genaamd "recurrent depth". Deze methode stelt het model in staat om buiten de gebruikelijke sequentiële denkwijze te opereren die kenmerkend is voor de meeste redeneer- en denkmodellen. Deze ontwikkeling heeft geleid tot bezorgdheid onder experts op het gebied van AI-veiligheid, die vrezen dat deze nieuwe aanpak onvoorspelbare en mogelijk gevaarlijke uitkomsten kan genereren.

De mogelijkheid om niet-lineair te redeneren kan de kracht van AI-systemen aanzienlijk vergroten, maar roept ook vragen op over de controleerbaarheid en de ethische implicaties van dergelijke technologieën. Experts dringen aan op meer onderzoek en voorzichtigheid bij de implementatie van deze nieuwe technieken, om te waarborgen dat de veiligheid van AI-systemen gewaarborgd blijft.

Bron: TechCrunch