Le città europee hanno molto da guadagnare e molto da perdere dal disegno di legge sull’IA dell’UE e vogliono essere nella stanza in cui ciò accade.

Le tecnologie AI come il riconoscimento facciale vengono implementate in luoghi pubblici come supermercati e stazioni della metropolitana in tutta Europa, con grande dispiacere dell’Europa metropolitana. Non aiuta il fatto che i governi municipali abbiano poca autorità per respingere i governi attenti alla sicurezza e le forze dell’ordine nazionali, e persino le società private, a cui i governi centrali aggiudicano appalti.

D’altra parte, le città trarranno i maggiori benefici dall’integrazione delle tecnologie AI nei servizi pubblici come la salute, l’istruzione e i trasporti. Anche lì, i governi municipali vogliono assicurarsi che i politici lo facciano bene.

Si stanno unendo per fare pressione su Bruxelles, dove i legislatori stanno lavorando alla legislazione che regolerà la tecnologia, e anche i governi nazionali.

Il disegno di legge dell’Unione europea sull’intelligenza artificiale , il primo del suo genere, pone restrizioni all’uso delle tecnologie di riconoscimento facciale nei luoghi pubblici per le forze dell’ordine, ma prevede un’esenzione per combattere i “crimini gravi”, che gli attivisti della privacy, i regolatori – e ora le città – la sensazione potrebbe essere una scappatoia per gli stati di sorveglianza e le compagnie ficcanaso.

“Vogliamo un divieto assoluto dei sistemi di sorveglianza biometrica di massa, fino a quando non avremo garanzie che questi sistemi rispettino i diritti fondamentali”, ha affermato in un’intervista il vicesindaco di Barcellona, ​​Laia Bonet.

Barcellona, ​​insieme a Londra, Amsterdam e New York, stanno lanciando un’iniziativa chiamata Urban AI Observatory, che mira a trovare una voce comune tra le città e il modo in cui utilizzano i sistemi di intelligenza artificiale.

“Le città che si uniscono possono fornire questa prova per una migliore legislazione nazionale, perché le città spesso non hanno il potere di fermare le cose, anche se lo volessero”, ha affermato il Chief Digital Officer di Londra Theo Blackwell.

Lotta più ampia

L’iniziativa fa parte di una lunga tradizione di aree metropolitane occidentali generalmente alla sinistra dei loro governi, che si tratti di cambiamenti climatici o migrazioni .

Nel caso dell’IA, le città si stanno unendo agli attivisti per i diritti digitali, ai legislatori europei e ai regolatori della privacy, i quali avvertono che aprire la porta alla tecnologia di riconoscimento facciale dal vivo potrebbe erodere i diritti fondamentali.

Questo mese, il regolatore della privacy del Regno Unito ha avvertito che è necessario un livello elevato per l’identificazione biometrica da soddisfare. Ha condotto indagini sull’uso del riconoscimento facciale dal vivo e ha scoperto che nessuno dei casi in cui è stato applicato potrebbe essere giustificato dalle norme sulla protezione dei dati dell’UE , che il Regno Unito ancora attribuisce.

Alcune città vogliono solo avere più voce in capitolo.

“Siamo i luoghi in cui queste cose saranno sviluppate, che questa sia l’intenzione nazionale o meno”, ha detto Blackwell, il funzionario londinese. “Abbiamo una grande esperienza da dare al governo dicendo: ‘Queste sono le regole che dovresti mettere a posto. E lo sappiamo perché sta accadendo intorno a noi.’”

Londra sostiene la polizia che utilizza la tecnologia di riconoscimento facciale per individuare i criminali, ma teme che l’uso della tecnologia venga esteso alle aziende private. “Una cosa è per una forza di polizia dire: ‘sì, la useremo per prevenire il terrorismo o salvaguardare i bambini.’ È totalmente un’altra cosa per un’entità privata utilizzarlo in un modo completamente aperto e aperto”, ha detto Blackwell.

I piani dell’Osservatorio includono la produzione di politiche sulla governance etica degli algoritmi nelle città, linee guida per l’uso etico del riconoscimento facciale e la condivisione delle migliori pratiche.

Regolamento più ampio

Le città europee vogliono avere più voce in capitolo nell’AI Act dell’UE, che sta attraversando la doppia autorità legislativa di Bruxelles, il Parlamento europeo e il Consiglio dell’UE. Le città stanno spingendo i responsabili politici a chiedere alle autorità indipendenti di verificare se le aziende che implementano i sistemi di intelligenza artificiale soddisfano gli standard etici europei. La proposta della Commissione si basa sull’autovalutazione delle imprese.

Vogliono un posto nel proposto Consiglio europeo per l’intelligenza artificiale, che supervisionerà l’attuazione della legge.

Le città “hanno un’esperienza di prima mano sugli usi dell’IA nelle aree urbane e possiamo fornire questa esperienza per essere sicuri di prendere le decisioni migliori su questo consiglio”, ha affermato Bonet.

Queste garanzie, sostengono, sono fondamentali per evitare disastri come lo scandalo dei sussidi sociali olandese, in cui il governo ha utilizzato un algoritmo per prevedere quali famiglie avevano maggiori probabilità di commettere frodi. Un tribunale ha successivamente stabilito che l’algoritmo ha violato i diritti umani.

Il caso “ci ha mostrato che non sappiamo abbastanza su ciò che sta effettivamente accadendo nel nostro sistema”, ha affermato Aik van Eemeren, che lavora con il chief technology officer di Amsterdam.

“Dobbiamo lavorare molto per assicurarci che non accada di nuovo. Ecco perché dobbiamo lavorare di più a livello internazionale con altre città”, ha affermato Van Eemeren.

Benefici più ampi

Le città non sono scettici sulla tecnologia, tutt’altro. Hanno il massimo da guadagnare dall’integrazione dell’IA nei servizi pubblici come la salute e i trasporti.

Helsinki, ad esempio, sta esplorando l’ assistenza sanitaria predittiva, che analizza i dati per vedere se i pazienti in gruppi a rischio, come quelli con glicemia alta, potrebbero essere chiamati preventivamente per i test.

E Londra ha utilizzato le telecamere a circuito chiuso per analizzare quanto siano occupati alcuni quartieri durante la pandemia di coronavirus per aiutare a creare una strategia di uscita dai blocchi.

“Vogliamo definire una comprensione condivisa di ciò che comporta l’implementazione di un sistema di intelligenza artificiale per migliorare i servizi comunali”, ha affermato Bonet, funzionario di Barcellona.

“Penso che possa essere uno strumento molto utile… se acceleriamo l’uso dei sistemi di intelligenza artificiale per migliorare i nostri servizi comunali, questo garantisce che sia almeno compatibile con il rispetto dei diritti fondamentali”, ha affermato.