Chi paga se l’intelligenza artificiale sbaglia?

Chi paga se l’intelligenza artificiale sbaglia?

di Federico Vincenzi

Per prima cosa sfatiamo un mito: l’intelligenza artificiale non è infallibile. E dato che non è infallibile nasce il problema di capire come e quando sbaglia, e soprattutto nasce il problema di capire chi dovrà pagare le conseguenze dell’errore. Non vi annoio con discorsi di filosofia del diritto, non vi dico che secondo qualcuno un domani dovrà esser responsabile la stessa AI: parliamo di un futuro forse troppo lontano e ipotetico.

 

Ma in un futuro più vicino, se sbaglia, chi paga? Beh, è un tema complesso, che affronteremo poco per volta. Innanzitutto, oggi, le soluzioni proposte sono di ripiego, sussidiarie diciamo noi legali: quella del produttore a prescindere dalle sue colpe, una assicurazione, un fondo costituito per risarcire il danno.

 

Sono tentativi di riparazione del danno, ma non risolvono un problema: non rispondono alla domanda “chi ha sbagliato?“. Innanzitutto, per provare a rispondere, fissiamo alcuni punti. Il primo è chiedersi chi interviene nel processo decisionale di una AI. Il programmatore, e qui non ci piove, l’utilizzatore finale, l’eventuale produttore. Ma c’è una figura, che nel machine learning in particolare (vedi qui l’articolo su cosa è un algoritmo di ML), assume una importanza fondamentale: il trainer, colui che seleziona i dati, che “allena” la AI. Sappiamo infatti che un sistema di machine learning generalizza per prevedere. Ebbene, per generalizzare ha bisogno di esempi.

Che accade quindi se gli esempi sono errati? La risposta istintiva sarebbe: ad input errato corrisponde output errato. Giusto, ma non completo. Perchè il danno di un esempio sbagliato non si limita a produrre un risultato non corretto. Immaginiamo un vitellino. Se mangia fieno buono cresce bene, se mangia fieno tossico no. Provate a traslare l’esempio in un sistema di machine learning e capirete: sistemi identici allenati con esempi diversi non solo producono output diversi, ma nello stesso tempo evolvono in modo diverso.

 

Quindi, l’importanza dei dati è fondamentale. Potrei dilungarmi oltre, cercando anche di ribaltare la responsabilità sul programmatore che non ha previsto la corruzione del sistema se i dati non sono corretti. Ma è un discorso troppo complesso, e per certi versi non corretto.

 

Lancio invece, per chiudere, una provocazione: se i dati sono così importanti, se i dati puliti sono così importanti, perchè non impostare un business tenendo conto anche di questo? Avete mai pensato a quanto potrebbero valere per una AI i dati che possedete? E vi siete mai chiesti se possano aver un valore?

Se vuoi dare una risposta a queste domande compila il nostro form per un contatto immediato e il nostro motore di Artificial Intelligence risponderà al posto nostro 😉 scherziamo ovviamente!

 

Inoltre puoi rispondere ad un semplice questionario per valutare quanto i tuoi dati aziendali sono fruibili per elaborare un algoritmo di Machine Learning.

Clicca qui per svolgere il quiz!

 

Infine, se desideri avere maggiori informazioni sull’argomento, completa il form qui sotto e ti contatteremo presto!

 Accetto l'informativa sulla privacy policy descritta qui

     Desidero iscrivermi alla newsletter

 

 

Abbiamo preparato un semplice quiz per te! Con poche semplici domande capirai quanto la tua azienda può sfruttare i dati per potenziare il business!

Clicca qui