
Quando Charles Ranson, un esperto chiamato a intervenire in una disputa immobiliare a New York, ha deciso di affidarsi a un chatbot AI – Microsoft Copilot – per calcolare i danni, forse non prevedeva che questa mossa avrebbe scatenato un acceso dibattito. Eppure, il suo utilizzo dell’AI è diventato rapidamente il cuore della questione, gettando ombre sulla sua competenza e sull’affidabilità della tecnologia in contesti delicati come un’aula di tribunale.
Il giudice Jonathan Schopf non ha tardato a esprimere dubbi. Ranson, privo di qualifiche specifiche nel settore immobiliare, non è riuscito a spiegare chiaramente come avesse usato l’intelligenza artificiale per arrivare alle sue conclusioni. Quando il giudice ha deciso di sperimentare Copilot in prima persona, ha ottenuto risposte divergenti a domande identiche, sottolineando la mancanza di coerenza nelle analisi generate dall’AI. Un esperimento che ha messo in luce quanto possa essere pericoloso affidarsi a strumenti che, pur potenti, restano imprevedibili.
La vicenda evidenzia un problema molto attuale: cosa succede quando gli esperti iniziano a fare affidamento su strumenti AI di cui non comprendono pienamente il funzionamento? Come ha osservato ad Ars Technica l’esperto legale Eric Goldman, se l’AI sostituisce la competenza umana, rischiamo di minare l’intera definizione di “esperto”. Se la tecnologia fallisce, poi, la questione della responsabilità si confonde: chi ne risponde? E con quali conseguenze?
Non si può negare che l’automazione possa accelerare processi complessi, ma il rischio di “allucinazioni” – output inaccurati o completamente sbagliati – resta alto. E nella pratica legale, dove la posta in gioco è il destino di persone e proprietà, questi margini di errore sono inaccettabili.
Ma il discorso non si ferma ai tribunali. Qualsiasi professionista che si affidi all’AI, senza essere in grado di comprendere fino in fondo cosa stia facendo la macchina, rischia di perdere la propria autorevolezza. Ranson ne è l’esempio lampante: la sua testimonianza e la sua credibilità sono crollate sotto il peso della sua dipendenza da Copilot.


