I candidati chiedono trasparenza sull’uso dell’ADM per il reclutamento. Vogliono sapere quali dati vengono elaborati, come vengono prese le decisioni e quando.
I risultati provengono da un nuovo studio dell’Information Commissioner’s Office, pubblicato ieri insieme alla strategia dell’ICO sull’IA e la biometria.
Sono state sollevate preoccupazioni in merito all’equità, alla trasparenza e alla responsabilità, dato che i processi di assunzione utilizzano sempre più l’IA per vagliare i CV e le lettere di candidatura, per condurre i primi colloqui e per valutare l’idoneità dei candidati.
L’ICO è particolarmente interessato all’impatto di queste tecnologie sugli individui, in particolare sui gruppi emarginati che possono essere colpiti in modo sproporzionato da algoritmi distorti.
Revealing Reality è stata incaricata di raccogliere dati qualitativi su come le persone percepiscono gli ADM e i loro effetti. La ricerca ha esaminato le reazioni agli strumenti di ADM di tutti i tipi, indipendentemente dal fatto che i partecipanti li avessero utilizzati o meno.
L’indagine ha anche rivelato le aspettative degli utenti di ADM, soprattutto in relazione all’articolo 22 del Regolamento generale sulla protezione dei dati del Regno Unito, che protegge i diritti degli individui in relazione all’ADM.
Lo studio ha incluso focus group a distanza composti da 33 persone in cerca di lavoro suddivise in quattro gruppi, per rappresentare una varietà di esperienze e atteggiamenti in materia di occupazione.
Molte persone in cerca di lavoro erano consapevoli del crescente utilizzo dell’ADM, ma ne comprendevano poco il funzionamento. Spesso lo percepivano come un sistema binario, completamente automatizzato o con un processo decisionale umano.
Alcuni partecipanti hanno visto dei vantaggi nel filtraggio iniziale dell’ADM, ma erano preoccupati del suo utilizzo per le decisioni e le valutazioni finali. Tutti i partecipanti erano fortemente contrari a un processo decisionale di reclutamento completamente automatizzato.
La maggior parte ha espresso preoccupazione per la natura illogica dei test e per la confusione che causavano. Hanno anche espresso frustrazione per la progettazione di compiti per il reclutamento, come i giochi.
Un laureato ha detto: “Mi sono ricordato di uno dei giochi che ho ricevuto in cui dovevi gonfiare un pallone. Avevi due minuti per gonfiare i palloncini cliccando sul mouse. I palloncini sarebbero poi scoppiati in punti diversi.
Per un posto da laureato, mi sono chiesto: “È davvero… una misura di abilità?”.
I partecipanti che pensavano di aver usato gli strumenti di ADM ritenevano che il processo fosse poco trasparente. Un partecipante ha detto: “La rapidità del tempo di risposta e il fatto che si tratti di un rifiuto automatico mi fanno pensare che si tratti di ADM”.
Un altro ha detto: “Ricevere le stesse e-mail di rifiuto per molti lavori diversi potrebbe essere un segno che si tratta di ADM”.
Nonostante i partecipanti credessero che l’ADM fosse ampiamente utilizzato, non ricordavano di aver mai visto informazioni al riguardo al momento della presentazione della domanda. Molti partecipanti ritengono che i datori di lavoro non siano trasparenti.
Uno dei laureati ha detto: “Sono sicuro che viene utilizzato, ma non ho visto alcuna trasparenza”.
I ricercatori hanno evidenziato le principali aree di preoccupazione e hanno sottolineato la necessità di considerare attentamente le implicazioni etiche e le migliori pratiche quando si progettano e implementano i sistemi ADM.
- La trasparenza nel reclutamento è essenziale: I partecipanti hanno sottolineato che la trasparenza è fondamentale.
- La supervisione umana rimane essenziale: I partecipanti ritengono che, nonostante il riconoscimento delle potenziali efficienze, il coinvolgimento umano sia ancora fondamentale per garantire l’equità, affrontare i pregiudizi e fornire un feedback individuale.
- Ci sono preoccupazioni sui pregiudizi che devono essere affrontate. L’ADM ha il potenziale per perpetuare e amplificare i pregiudizi della società. I sistemi ADM devono essere non discriminatori, equi e imparziali.
- L’esperienza del candidato è importante: le esperienze dei partecipanti durante il processo di reclutamento hanno un impatto significativo sulla loro percezione dei sistemi ADM. La mancanza di comunicazione, un feedback vago e impersonale e un sistema poco reattivo hanno influito negativamente sull’atteggiamento nei confronti dell’ADM.
- L’ADM è appropriato al contesto: Le opinioni dei partecipanti sull’ADM sono contrastanti nelle diverse fasi del reclutamento. Sebbene l’ADM “light-touch” sia stato ritenuto accettabile per il filtraggio iniziale, i partecipanti hanno espresso notevoli preoccupazioni nei confronti di sistemi più completi o completamente automatici.
L’ICO ha annunciato che nel corso del prossimo anno procederà alla consultazione di un aggiornamento delle sue linee guida sull’ADM e la profilazione e allo sviluppo di un codice di legge sull’IA e l’ADM.
Abbonatevi alle nostre notizie e indicazioni settimanali sulle risorse umane
Ogni mercoledì ricevete la newsletter di Personnel Today Direct.
Personnel Today offre un’ampia gamma di opzioni di reclutamento e resourcing.
Sfoglia le offerte di lavoro per il reclutamento e il resourcing
