L'intelligenza artificiale che confonde immagini del deserto con nudi

La polizia inglese crede che il suo innovativo software d'intelligenza artificiale sarà in grado di sventare parecchi abusi su minori nei prossimi anni. Allo stato attuale però, il sistema fa estremamente fatica a riconoscere le differenze tra fotografie del deserto e fotografie di corpi nudi!

Le forze di polizia si appoggiano già all'intelligenza artificiale per contribuire a segnalare i contenuti incriminanti sui dispositivi elettronici sequestrati, utilizzando software di riconoscimento immagini personalizzato per scansionare foto di droghe, armi e denaro. Ma quando si parla di nudità, è decisamente inaffidabile.

"A volte il software ci segnala un deserto come un'immagine indecente o pornografica", ha dichiarato Mark Stokes, responsabile del dipartimento di informatica digitale ed elettronica al "The Telegraph". "Per qualche motivo, molte persone intercettate e ricnosciute come sospette, hanno screen-saver di deserti e il software ce lo segnala pensando che sia il colore della pelle."

Stokes ha dichiarato al The Telegraph che il dipartimento sta lavorando con i fornitori della Silicon Valley per aiutare l'addestramento dell'intelligenza artificiale a scansionare con successo immagini di abusi sui minori. Ma come abbiamo visto, anche le aziende tecnologiche più potenti non sembrano implementare algoritmi infallibili.

Anche quando gli esseri umani sovrintendono ai sistemi automatizzati, i risultati sono imperfetti. L'anno scorso, un moderatore di Facebook ha rimosso una fotografia vincitrice del Pulitzer di una ragazza nuda che fuggiva dal sito degli attacchi del napalm durante la guerra del Vietnam, che secondo quanto riferito è stata segnalata da un algoritmo. In seguito la società ha ripristinato l'immagine e ha ammesso che non si trattava di pornografia infantile.

Le macchine non hanno ancora la capacità di comprendere le sfumature del corpo umano e il software della polizia inglese deve ancora dimostrare di aver imparato a differenziare con successo il corpo umano da un deserto arido. D'altra parte non posso dare tutti i torti al software, guardate la foto qua sotto, non sembrano le curve del corpo di una donna? Invece sono le dune di un deserto!