Un modello NLP di Google Brain ha ottenuto un punteggio di 90.0 al benchmark SuperGLUE, creato appena un anno fa per rimpiazzare l’ormai superato GLUE.
SuperGLUE serve per determinare l’accuratezza dei modelli di elaborazione del linguaggio naturale, o NLP, che vengono sottoposti a diverse sfide linguistiche per vedere come si comportano. La baseline umana su SuperGLUE si assesta a un punteggio di 89.8, quindi con 90.0 si può dire che il modello di Google – ottenuto attraverso una combinazione di T5 e di Meena – è stato più bravo dell’essere umano medio.
A onor di cronaca negli stessi giorni un team di Microsoft, con il modello DeBERTa / TuringNLRv4 otteneva un punteggio di 89.9, quindi molto vicino al risultato di Google e comunque superiore alla baseline umana.
Le sfide del benchmark sono molteplici. Vi è ad esempio quella nota come schema di Winograd, che presenta una frase ambigua e chiede al modello NLP di capire a chi si riferisce un dato pronome. Ad esempio:
Ho messo la torta nel frigorifero. Ha tanto burro.
(“I put the cake away in the refrigerator. It has a lot of butter in it.”)
Un umano capirebbe senza troppi problemi che il burro si riferisce alla composizione della torta, ma un modello NLP riesce a capire a cosa si riferisce il pronome “it”?
Questa e altre sfide compongono il benchmark SuperGLUE, che oggi si può dire sia stato “sconfitto” dopo un solo anno di esistenza. Ciò significa anzitutto che i nuovi modelli NLP, con i loro miliardi di parametri, stanno arrivando ad approssimare con buoni risultati i livelli di comprensione umana, e poi che al settore servono urgentemente nuovi benchmark più duri da battere.
