In piena pandemia un papà americano ha scattato inviato al proprio pediatra una foto delle parti intime del figlio, colpito da una brutta irritazione. L’immagine non è però piaciuta all’algoritmo di Google che ha segnalato l’uomo per abuso e sfruttamento minorile, bloccando l’account e privandolo così di tutta la sua vita digitale. Ecco i dettagli della vicenda.
Da una diagnosi all’accusa di pedopornografia
Accade nel febbraio del 2021 negli Stati Uniti, in pieno periodo di pandemia. Mark (il cognome non è stato diffuso per questioni di privacy) una sera si accorge che suo figlio ha un piccolo problema nella zona inguinale: il pene risulta arrossato e dolorante e il bambino non fa altro che lamentarsi.
Dopo aver contattato un’infermiera, prima di poter accedere il giorno successivo ad un consulto medico specialistico on line, la madre del piccolo – sempre su suggerimento dell’operatrice sanitaria – scatta una fotografia alle parti intime del proprio bambino e col cellulare del marito le trasmette al medico in modo da far visionare preventivamente i danni della potenziale infezione.
Fin qua tutto bene. Il dottore verifica le immagini, effettua una corretta diagnosi e prescrive al piccolo una serie di antibiotici che nel giro di qualche giorno portano alla totale guarigione.
Il rovescio della medaglia avviene, però, purtroppo dopo soli due giorni. Mark, padre del bambino, riceve una notifica che gli comunica che il suo account è stato disattivato in quanto contenente contenuti dannosi, illegali e contro le politiche del web.
Dopo ulteriori verifiche, stupito e ignaro, Mark scopre di essere stato segnalato alla polizia da Google per abuso e sfruttamento minorile. Account internet bloccato e sospeso l’accesso alle sue fotografie, ai suoi contatti e al suo calendario. Praticamente tutta la vita digitale di Mark sotto ostaggio e lui indagato dalla polizia di San Francisco.
L’algoritmo di Google giudice impassibile
Avendo intuito il potenziale errore dell’intelligenza artificiale, che probabilmente aveva tacciato Mark di pedopornografia, l’uomo in un primo mento tenta di far ricorso direttamente a Google, appellandosi contro la decisione della piattaforma.
A nulla valgono però i suoi tentativi e Mark viene sottoposto anche diverse perquisizioni, autorizzate da mandati del Dipartimento della Polizia di San Francisco. Ovviamente le indagini accertano che il padre del bambino non rivela nessun comportamento contrario alla legge e che è totalmente innocente. Questo però non è sufficiente per far sì che Google ritiri il suo blocco, anzi, dopo alcune settimane l’account di Mark viene totalmente cancellato.
Ci vorrebbero troppi soldi e parecchio tempo per cercare di riscattare la propria posizione e così Mark, ex tecnico informatico totalmente consapevole di come può funzionare l’algoritmo che lavora sulle immagini di pedopornografia, decide di abbandonare la sua battaglia e di tentare di salvare ciò che resta della sua privacy, già ampiamente violata dal web e dalle varie autorità competenti.
Questo caso è sicuramente uno spunto di riflessione su quelli che potranno essere gli scenari per il nostro futuro. Potremmo rimanere vittime di ingiustizie mediatiche a causa di sistemi di valutazione automatizzati a cui viene data la possibilità di decidere sulle nostre sorti?
Riceviamo a seguito della pubblicazione la posizione di Google, che riportiamo qui seguito:
Il materiale pedopornografico (CSAM) è ripugnante e siamo impegnati per prevenire ogni sua diffusione sulle nostre piattaforme. Seguiamo la legge statunitense nel definire cosa costituisce CSAM e utilizziamo una combinazione di tecnologia di hash matching e di intelligenza artificiale per identificarlo e rimuoverlo. Inoltre, il nostro team dedicato alla sicurezza dei minori esamina l’accuratezza dei contenuti segnalati e si consulta con esperti pediatri per garantire la possibilità di identificare i casi in cui gli utenti potrebbero richiedere un consiglio medico
Il video della settimana
