Questo articolo fa parte di ” L’era della sorveglianza “, un rapporto speciale sull’intelligenza artificiale.
In arrivo? Fatti un selfie.
È così che i conducenti di Uber devono comunicare all’app di chiamata che si sono registrati. Se il software di verifica facciale utilizzato dall’azienda decide che il conducente sta mentendo sulla sua identità, anche quando non lo è, viene bandito fino a nuovo avviso.
L’algoritmo di Uber monitora anche le prestazioni dei lavoratori e li classifica in base a cinque stelle. Valutazioni costantemente basse significano anche che vengono espulsi dall’app.
Questo non è eccezionale. Le aziende stanno sviluppando e acquistando un numero crescente di strumenti per il posto di lavoro, molti basati sull’intelligenza artificiale, per monitorare e analizzare i propri dipendenti. I politici e i lavoratori affermano che molti degli strumenti sono invadenti, discriminatori e in alcuni casi illegali.
Con milioni di lavoratori costretti a lavorare da casa durante la pandemia di coronavirus, le aziende affermano di aver bisogno di strumenti che garantiscano produttività e comportamenti appropriati quando non c’è un supervisore che passeggia nei corridoi.
“Il nostro controllo dell’identità in tempo reale è progettato per proteggere la sicurezza e la protezione di tutti coloro che utilizzano l’app, assicurando che l’autista o il corriere corretto stia utilizzando il proprio account”, ha affermato un portavoce di Uber, che ha aggiunto che “le revisioni manuali da parte di persone” avvengono prima a qualsiasi decisione di bloccare un conducente Uber dall’app e che chiunque venga rimosso dalla piattaforma può presentare ricorso contro la decisione presso l’azienda.
A febbraio, Amazon ha iniziato a monitorare i suoi conducenti con telecamere dotate di indicatori di feedback biometrico che monitorano quando i conducenti distolgono lo sguardo dalla strada o superano il limite di velocità. Un portavoce di Amazon ha indicato “notevoli miglioramenti della sicurezza dei conducenti e della comunità” a seguito degli indicatori, che hanno portato a una diminuzione del 48% degli incidenti.
“Non credere ai critici interessati che affermano che queste telecamere sono destinate a qualcosa di diverso dalla sicurezza”, ha detto il portavoce, aggiungendo che l’uso della tecnologia di sorveglianza da parte dell’azienda nei suoi luoghi di lavoro è “in linea con le leggi locali e condotto con il pieno conoscenza e sostegno delle autorità locali”.
Il banco di prova
Mentre la sorveglianza sul posto di lavoro continua a crescere in tutti i settori, la gig economy in particolare è diventata un banco di prova per la sorveglianza basata sull’intelligenza artificiale, secondo il commissario per l’occupazione e i diritti sociali della Commissione europea Nicolas Schmit – e la tecnologia si sta “diffondendo rapidamente” ad altre forme di lavoro.
Le aziende stavano già iniziando a fare affidamento sull’analisi del posto di lavoro nel tentativo di aumentare la produttività e l’efficienza, ma queste tendenze hanno avuto un enorme impulso dalla pandemia. Ford ha richiesto ad alcuni dei suoi dipendenti di indossare braccialetti con tracker per garantire il distanziamento sociale nei suoi stabilimenti. Amazon sta pianificando di utilizzare l’intelligenza artificiale per monitorare quali muscoli usano i dipendenti, il che afferma che “ridurrà i movimenti ripetitivi e aiuterà a proteggere i dipendenti dai rischi [di malattie muscoloscheletriche]”.
Un rapporto del Trades Union Congress (TUC) con sede nel Regno Unito suggerisce che la tecnologia di sorveglianza è in aumento. Il quindici percento dei lavoratori intervistati ha affermato di aver sperimentato nuove tecnologie di monitoraggio delle prestazioni e della produttività dall’inizio della pandemia.
I sistemi di intelligenza artificiale sono ben qualificati per la sorveglianza dei lavoratori. Sono efficienti nel contare e identificare le parole digitate e i siti web visitati; il numero di email inviate; il numero di passaggi effettuati in un magazzino; il numero di pause bagno; la loro lunghezza: tutto il necessario per monitorare il comportamento di un dipendente online o offline.
La società tecnologica statunitense Sapience Analytics, che produce software di sorveglianza sul posto di lavoro, afferma che i suoi prodotti aumentano il “coinvolgimento dei dipendenti”, con conseguente “maggiore produttività e maggiore soddisfazione professionale”.
Guida la “trasparenza” e il processo decisionale obiettivo, afferma l’azienda, ed è utilizzato da oltre 90 aziende in 18 paesi. Il CEO di Sapience Analytics, Bradley Killinger, ha affermato che utilizzando il software di sorveglianza dell’azienda, è stato in grado di vedere un numero di dipendenti operare al 145 percento della capacità per sei settimane consecutive.
“Sono al punto che sto ordinando alle persone di prendersi solo tre giorni, fare qualcos’altro”, ha detto.
Ma questi tipi di strumenti hanno ricevuto respingimenti.
La banca britannica Barclays è stata indagata dall’Information Commissioner’s Office, l’organismo di vigilanza sulla privacy del paese, dallo scorso agosto, per le accuse di aver utilizzato il software di sorveglianza di Sapience Analytics per spiare il personale.
Da allora la banca è passata al solo monitoraggio dei dati anonimi attraverso il software, a seguito della copertura mediatica critica.
Nel frattempo, la famosa suite di software per ufficio 365 di Microsoft è stata criticata per la sorveglianza sul posto di lavoro perché ha creato “punteggi di produttività” che hanno consentito ai manager di tenere traccia di quanto attivamente i dipendenti inviano messaggi di posta elettronica o collaborano nei file condivisi.
Da allora ha fatto marcia indietro , anonimizzando anche tali dati in modo che i datori di lavoro non siano più in grado di monitorare i singoli lavoratori.
“In Microsoft, ci impegniamo sia per gli approfondimenti basati sui dati che per la privacy degli utenti”, ha affermato in una nota . “Ci sforziamo sempre di ottenere il giusto equilibrio, ma se e quando manchiamo, ascolteremo attentamente e faremo gli aggiustamenti appropriati”.
Gli esperti avvertono che quello che sembra un aumento della produttività può comportare un rischio maggiore di esaurimento, stress e problemi di salute mentale. Secondo un rapporto commissionato dalla commissione per l’occupazione del Parlamento europeo, le tecnologie di sorveglianza “riducono l’autonomia e la privacy, portano a una maggiore intensificazione del lavoro e offuscano i confini tra lavoro e vita personale/familiare”.
Posso parlare con il manager?
Il problema è che gran parte della sorveglianza sul posto di lavoro non è regolamentata, secondo Aída Ponce Del Castillo, ricercatrice senior presso l’Istituto sindacale europeo.
“Non abbiamo una legge che dice al datore di lavoro… non si va oltre la vita privata. Non andiamo oltre le emozioni. [Le aziende] non si fidano dell’intimità, della privacy e della dignità di un lavoratore umano”, ha detto Ponce Del Castillo.
La Commissione afferma di riconoscere la gravità della sorveglianza basata sull’intelligenza artificiale nei luoghi di lavoro. Schmit ha affermato che la gestione algoritmica – il termine dato agli strumenti e alle tecniche digitali utilizzati per gestire i lavoratori da remoto – “lascia ai lavoratori pochi mezzi per sfidare le decisioni sfavorevoli”.
La tecnologia rappresenta una “sfida fondamentale per il futuro mondo del lavoro nelle società democratiche”, ha affermato Schmit.
La Commissione sta attualmente lavorando a un’iniziativa per migliorare le condizioni di lavoro per i lavoratori delle piattaforme, che dovrebbe in parte affrontare la gestione algoritmica.
Il blocco ha anche introdotto una legge sull’intelligenza artificiale , che regola gli usi “ad alto rischio” della tecnologia. Nella proposta della Commissione, la sorveglianza sul posto di lavoro si qualifica come un uso ad alto rischio, il che significa che i fornitori di intelligenza artificiale dovranno soddisfare determinati standard, come la supervisione umana, per operare legalmente.
Paesi come Francia, Germania e Italia limitano il modo in cui gli strumenti tecnologici possono essere utilizzati per monitorare i lavoratori sul posto di lavoro.
Rabbia contro la macchina
Una linea di difesa per i lavoratori è costituita dalle severe leggi dell’UE in materia di dati, note come Regolamento generale sulla protezione dei dati , che afferma che i lavoratori hanno il diritto di non essere “soggetti a una decisione basata esclusivamente sull’elaborazione automatizzata, compresa la profilazione”.
Questo sembra avere un po’ di mordente. Nel 2020, l’autorità per la protezione dei dati di Amburgo ha multato il gigante svedese dell’abbigliamento H&M di 35 milioni di euro per aver profilato i dipendenti in documenti che includevano dati su credenze religiose, dettagli sulle condizioni di salute e problemi familiari.
In una vittoria per gli attivisti per i dati e i diritti dei lavoratori, la Spagna ha approvato una nuova legge che regola le piattaforme di consegna online come Uber e Deliveroo, che richiede loro di informare i sindacati di come gli algoritmi influenzano le loro condizioni di lavoro e include disposizioni sulla trasparenza algoritmica.
Ponce Del Castillo ha affermato che i lavoratori devono acquisire conoscenze di intelligenza artificiale per proteggersi.
“Non significa che devono diventare esperti di intelligenza artificiale o scienziati informatici, ma possono comprendere bene gli impatti e i rischi di questa tecnologia emergente sul posto di lavoro e nei compiti che producono”, ha affermato.
Anche i sindacati si stanno rendendo conto dei rischi presentati dall’IA sul posto di lavoro.
“La tecnologia è stata la pietra angolare del motivo per cui è emerso il sindacalismo in Europa, perché la rivoluzione industriale ha avviato l’automazione. Ed è esattamente quello che vediamo oggi. È la stessa automazione, ma per cose che non vediamo”, ha detto.