Pensando agli algoritmi e all’intelligenza artificiale si deve notare come questi siano costituiti da delle premesse, da una successiva elaborazione e da un risultato finale. Spesso si prende in esame soltanto il risultato finale che promette mirabilia. Si dimentica grandissimamente che la validità o verità del risultato finale dipende in maniera essenziale dalla verità e validità delle premesse nonché dalla correttezza dell’elaborazione.
A questo proposito è molto importante per poter controllare la verità di quanto affermato, conoscere esattamente le premesse che devono essere giudicate da chiunque intenda utilizzare il risultato finale, e deve essere possibile controllare che l’elaborazione sia stata fatta correttamente. La correttezza richiesta può essere per esempio una precisa deduzione, come la dimostrazione di un teorema, ma richiede anche che chiunque sia in grado di controllare che il funzionamento del procedimento di elaborazione e produzione del risultato finale sia esattamente quello previsto. In altri termini chi produce questi risultati deve sapere esattamente che cosa succede in ogni fase della produzione dei risultati ed essere in grado di comunicarlo. A quest’ultimo osta il fatto che spesso anche coloro che elaborano procedure informatiche o simili spesso non sono in grado di dire esattamente che cosa avviene in ogni momento della lavorazione, ovverossia non sanno esattamente in ogni dettaglio, senza esclusione per quanto fine, come e perché avviene la produzione del risultato finale.
Qualcuno osserva che nell’elaborazione di almeno certi algoritmi o risultati di intelligenza artificiale viene usata spesso la probabilità per affrontare certi problemi: anche in questo caso l’assoluto rigore della deduzione del risultato dalle ipotesi può essere verificato, ma il risultato sarà tuttavia a un un vero soggetto a una legge di probabilità.
I problemi fondamentali sono quindi la trasparenza, la conoscibilità delle premesse, che sono le ipotesi da cui si è dedotto il risultato, che debbono essere coerenti con i bisogni di coloro che intendono utilizzare il risultato finale; nonché la controllabilità di che cosa avviene nella produzione del risultato finale. E si deve perciò osservare che il rischio è che non tutte le premesse siano dichiarate, non tutto ciò che viene fatto, cioè il risultato finale, venga dichiarato e infine non siano esclusi comportamenti erratici incontrollabili del prodotto.
Coloro che intendono far affari con questi strumenti di intelligenza artificiale o algoritmi puntano l’attenzione esclusivamente sui risultati finali ignorando completamente quello che abbiamo sottolineato, contando su un buon funzionamento assai frequente e nei casi di maggior interesse. Così viene un po’ alterato il concetto di verità, che merita di essere separatamente esaminato. A molti può sembrare accettabile, ma esistono certamente degli ambiti in cui ciò risulta inaccettabile.
Non intendo citarli tutti, faccio solo un esempio su qualcosa che può essere particolarmente scottante. In ambiente giudiziario questo non è assolutamente accettabile: a qualcuno potrebbe tornare comodo usarla come un aiuto al proprio lavoro ma il rischio è che vengano introdotti elementi estranei in maniera surrettizia, come è molto evidente che può capitare con i metodi di produzione di testi che utilizzano altri testi senza dichiararli. Infatti non basta che quello che viene prodotto da tali strumenti piaccia a qualcuno o no, deve essere dimostrabile al di là di ogni dubbio che le conclusioni sono la necessaria conseguenza della correttezza delle ipotesi e del ragionamento perché tutti dovrebbero essere capaci di seguire il tutto e condividerlo. Così in ambiente giudiziario non si può tollerare alcuna opacità sulle premesse che devono essere perfettamente coerenti con le richieste dell’ambiente stesso.
Sui due aspetti delle premesse e della controllabilità, non solo per uso in ambiente giudiziario, è altamente opportuno un chiaro intervento normativo che li renda accessibili sia alle parti coinvolte, sia a terzi; e deve integrarsi con una generale cura della verità a favore dei cittadini, perché sarebbe troppo facile che venissero surrettiziamente inseriti elementi scorretti, per esempio – sempre in ambiente giudiziario – tramite qualche perizia in cui solo il perito sia in grado di conoscere cosa succede e nessun altro possa controllare ciò: l’estrema specializzazione può essere usata come paravento per una menzogna e dobbiamo essere tutelati dalle falsità dovunque possano presentarsi, anche se questo non significa accettare gli sproloqui degli incompetenti. È proprio un tema che urge discutere.
29/09/2024 – Guido Rossi
Guido Rossi – “Pericoli dell’intelligenza artificiale”
