Un recente studio evidenzia che i sistemi di valutazione utilizzati nell’addestramento dei modelli linguistici incoraggiano la produzione di risposte, anche quando inesatte o inventate.
Secondo OpenAI, questo meccanismo penalizza l’ammissione di non sapere e spinge l’IA a “indovinare”. Per affrontare il problema delle cosiddette allucinazioni, l’azienda suggerisce di rivedere i criteri di valutazione, premiando la trasparenza e la capacità di riconoscere i propri limiti.
