« Interprétabilité »

Un neurone d’IA peut-il vraiment révéler ce que le modèle comprend ?

Nick Cammarata avance que certains neurones d’IA s’activent en réponse à des formes communes plutôt qu’à des concepts sans rapport. Cette hypothèse, rapportée par Futura, éclaire une piste d’interprétabilité mais ne démontre ni que les réseaux sont entièrement compris ni que cette approche suffit à les rendre sûrs.