Dataset di annotazioni legali per addestrare l’AI a controllare i contratti

Regole AI

The Atticus Project, un’organizzazione no-profit che vuole usare l’intelligenza artificiale per ottimizzare la revisione dei contratti, ha pubblicato “Contract Understanding Atticus Dataset” (CUAD): un corpus contenente più di 13.000 annotazioni da 510 contratti commerciali.

Come sapete i dati correttamente etichettati/annotati sono necessari per realizzare molti sistemi di machine learning. Le annotazioni del CUAD sono state realizzate sotto la supervisione di avvocati esperti al fine di identificare 41 tipi di clausole legali considerate importanti nella revisione dei contatti commerciali.

Scopo del progetto è sia ridurre i costi della revisione dei contratti (la tesi del gruppo è che moltissimi contratti non beneficiano di una revisione accurata in parte a causa dei costi) sia studiare con quale efficacia i modelli NLP generalizzino verso domini specializzati, come quello giuridico.

I risultati di una ricerca sulle prestazioni dei modelli NLP addestrati sul CUAD dimostrano che – come ci si poteva aspettare – i dati sono il principale collo di bottiglia, visto che diminuire la quantità di dati di un ordine di grandezza riduce drasticamente le prestazioni dei modelli di linguaggio presi in esame.

Per approfondire: CUAD Performance Results & Github Code are now available

Il codice è disponibile su Github.

Luca Sambucci lavora da oltre trent'anni nella cybersecurity, occupandosi oggi di sicurezza dell'intelligenza artificiale o AI Security. Ha collaborato come esperto con il Governo italiano, la Commissione europea, il Centro Comune di Ricerca e l'Agenzia Europea per la Difesa. È fondatore di Noctive Security, startup che sviluppa software automatizzati di red teaming per LLM e agenti AI. Questo blog è personale e le opinioni espresse appartengono ai singoli autori.