Anthropic onthult verborgen ruimte waar Claude concepten onderzoekt

Het AI-bedrijf Anthropic heeft een nieuwe techniek ontwikkeld die inzicht biedt in de werking van grote taalmodellen tijdens het beantwoorden van vragen of uitvoeren van taken. Deze techniek, genaamd de Jacobian lens, onthult een scala aan bevindingen, variërend van alledaagse tot verontrustende inzichten.

Met deze tool kunnen onderzoekers beter begrijpen hoe taalmodellen zoals Claude omgaan met complexe concepten en hoe ze tot hun antwoorden komen. Dit biedt niet alleen een kijkje in de interne werking van AI-systemen, maar roept ook vragen op over de implicaties van deze technologie.

Bron: MIT Technology Review