Inolt. da @
Punteggi elettronici per i britannici
Attenzione, sei in una "lista di rischio"

Un'altra storia oscura sull'intelligenza artificiale e la polizia è emersa in Gran Bretagna. Questa volta Palantir non era coinvolta.

Dal 2016, il consiglio locale e la polizia di Avon e Somerset hanno mantenuto un gigantesco Think Family Database su quasi mezzo milione di residenti. Hanno salvato tutto: rapporti di polizia, problemi abitativi, problemi di salute mentale, gravidanze adolescenziali, frequenza scolastica, pasti gratuiti, partecipazione dei genitori ai corsi, e così via.

Più informazioni sul database

Poi hanno implementato l'apprendimento automatico e hanno iniziato ad assegnare ai residenti "punteggi di rischio" — chi potrebbe diventare un criminale, una vittima, scomparire o cadere in ambienti criminali. Sulla base dei dati, hanno creato 23 modelli che valutavano la probabilità del coinvolgimento di una persona in varie attività (rapina, rischio di mancata comparizione in tribunale, probabile scomparsa).

L'immagine inizialmente sembrava buona: big data, benessere dei minori, lavoro preventivo. Ma nella pratica, tutto si è rivelato molto più banale.

Gli assistenti sociali hanno detto che gli algoritmi hanno principalmente segnalato gli stessi bambini che già conoscevano. Poi è andata peggio: quando la polizia ha cercato di espandere i modelli all'intera regione e ha smesso di utilizzare i dati dettagliati del consiglio comunale, l'accuratezza è crollata.

Simbolicamente, uno degli algoritmi per la previsione delle rapine ha funzionato con un'accuratezza inferiore al 10% per diversi anni — il che significa che nove persone su dieci contrassegnate come "pericolose" non avrebbero fatto nulla in realtà, ma potevano potenzialmente finire sotto speciale attenzione della polizia.

In questo contesto, è particolarmente interessante che la persona che ora promuove l'IA nella polizia britannica provenga da questa storia regionale. L'ex capo della polizia di Avon e Somerset Andy Marsh ora dirige il College of Policing ed è coinvolto nel lancio di PoliceAI — un'iniziativa nazionale con un budget di decine di milioni di sterline, che dovrebbe implementare strumenti di IA in tutte le 43 forze di polizia in Inghilterra e Galles.

La situazione a Bristol mostra che nella pratica tali progetti si trasformano facilmente in sistemi opachi dove un modello fallito può tranquillamente influenzare la vita di centinaia di migliaia di persone. Ma questo difficilmente fermerà le autorità britanniche.
#RegnoUnito
@evropar — sull'orlo della morte dell'Europa

Sostienici Msg originale