Liv

Intervjuaren för ditt drömjobb kan snart bli en robot

Jag söker jobb. Men ansökningsprocessen är en Jag har aldrig upplevt förut.

Jag blir inte intervjuad av en person. Istället sitter jag hemma och stirrar på min bärbara dator. Mina svar spelas in på video. Och om jag lyckas få det här jobbet kommer inte att avgöras av en människa, utan av en maskin.

vilken episod är ruby rose i oitnb

Det här kan låta som ett avsnitt av Charlie BrookersSvart spegel, men inom bara några år förväntas det att den här typen av virtuella intervjuer kommer att vara normen. Algoritmiska 'förhandsbedömningar', som de kallas, är redan en mångmiljardaffär och kommer sannolikt att bli en del av företagens anställningsbeslut. HireVue — företaget som genomför min intervju — är en av de ledande på området. Med sitt huvudkontor längs Jordanflodens strand i Utah, inkluderar dess kunder sjuhundra blue-chip-företag, från Hilton Hotels till J.P. Morgan till Unilever. Jag är bara en av över 10 miljoner potentiella anställda HireVues algoritmer har redan bedömt utifrån liknande videointervjuer.

Så här fungerade deras teknik för artificiell intelligens när jag tog min intervju: att implementera nästa gräns för AI - 'emotionell AI' - den 'läser' jobbkandidater genom att analysera deras lexikon, ton, kadens och ansiktsuttryck, med hänsyn tagen till så många som tjugofem tusen separata datapunkter. Resultaten jämfördes sedan med de för en 'ideal' kandidat för rollen.

Det faktum att jag var tvungen att hålla min överkropp på skärmen stadigt inom en prickad siluett under hela intervjun innebar att jag inte bara kände mig som ett mordoffer på en brottsplats, utan jag kunde inte vara mitt autentiska jag.

I praktiken betyder detta att varje andetag jag tog, varje paus, höjden jag höjer på ögonbrynen, hur hårt jag knöt käken, hur brett mitt leende, mitt val av ord, hur högt jag talade, min hållning, hur många gånger Jag sa hm eller eh, min accent, till och med min prepositionsanvändning spelades in och matades in i en svart låda-algoritm för att avgöra om jag var en lämplig anställning för Vodafones forskarutbildningsprogram. Eller snarare, inte jag, utan 'Irina Wertz', min hemliga pseudonym.

Algoritmiska förhandsbedömningar är onekligen en kostnadseffektiv lösning på anställningsbehov i stor skala. Med tanke på att stora företag tar emot långt över hundra tusen sökande varje år, kommer användningen av denna teknik troligen redan att spara tusentals mantimmar. Dessutom hävdar HireVue att andelen kvarhållande och till och med jobbprestationer bland anställda som valts ut av deras system är betydligt högre än genomsnittet. Det kan vara så, men min upplevelse av processen kändes mer än lite främmande.

När jag svarade på frågorna som jag själv såg göra det i hörnet av skärmen, kändes upplevelsen särskilt performativ, med mig kastad i den oroande rollen som både skådespelare och publik.

Det faktum att jag var tvungen att hålla min överkropp på skärmen stadigt inom en prickad siluett under hela intervjun innebar att jag inte bara kände mig som ett mordoffer på en brottsplats, utan jag kunde inte vara mitt autentiska jag. En viss grad av oäkthet är förstås oundviklig i alla anställningsintervjuer, med tanke på att man försöker presentera en utarbetad, bäst möjliga version av sig själv, men detta var annorlunda. Jag är en uttrycksfull person — jag rör mig när jag talar, jag gestikulerar. Fast i min siluett kunde jag inte ens göra det. Och eftersom jag svarade på frågorna som jag såg mig själv göra det i hörnet av skärmen, kändes upplevelsen särskilt performativ, med mig kastad i den oroande rollen som både skådespelare och publik.

Längst upp till höger på skärmen fanns en nedräkningsklocka som bidrog till upplevelsens stressande karaktär. Jag tilldelades tre minuter för att svara på varje fråga, men flygande blind utan alla vanliga signaler man får från en mänsklig intervjuare - ansiktsuttryck, huvudrörelser, gester, leenden, rynkor - jag var inte säker på om jag höll på för länge, eller om jag förväntades använda upp hela tiden. Och inte nog med att jag inte hade någon att fråga, utan utan leenden, inga ögon som flög ner till mitt CV, inget kroppsspråk att analysera, kunde jag inte säga om min 'intervjuare' hade hört tillräckligt av ett visst svar, gillade vad Jag sa, förstod mina skämt, kände empati för mina berättelser, eller kanske bara hade bestämt mig för att jag inte var den typ av kandidat de letade efter.

Borttagen min fullständiga, komplexa mänsklighet, var jag tvungen att imponera på en maskin vars black-box algoritmiska funktioner jag aldrig kunde veta. Vilken av mina 'datapunkter' fokuserade den på och vilken vägde den tyngst?

Så allteftersom intervjun fortskred kände jag mig allt mer driftig, oförmögen att ta reda på om jag skulle fortsätta, sakta ner, växla, byta takt, ändra min stil, le mer, le mindre. Förmodligen ler den idealiska kandidaten för en forskarutbildning inom mänskliga resurser på Vodafone, men hur många gånger och hur länge?

För att vara tydlig, det var inte det att jag interagerade med en maskin i sig som fick mig att känna mig så främmande. Det var snarare maktobalansen mellan kvinna och maskin som var så oroande. Borttagen min fullständiga, komplexa mänsklighet, var jag tvungen att imponera på en maskin vars black-box algoritmiska funktioner jag aldrig kunde veta. Vilken av mina 'datapunkter' fokuserade den på och vilken vägde den tyngst? Min röst, min intonation, mitt kroppsspråk eller innehållet i det jag sa? Vilken formel använde den för att bedöma mig? Och var det rättvist?

var filmades den grunda filmen

Dess algoritm kommer att ha tränats på videofilmer av tidigare eller befintliga 'framgångsrika anställningar', vilket innebär att eventuella historiska fördomar (medvetna eller omedvetna) vid anställning sannolikt skulle replikeras.

Vi tänker normalt inte på ensamhet i samband med hur en interaktion med en maskin får oss att känna. När jag pratade om isoleringen av en kontaktlös tillvaro låg min betoning på bristen på mänsklig kontakt ansikte mot ansikte och dess inverkan. Men om ensamhet också kan orsakas av en känsla av att bli orättvist behandlad och obefogad av staten och av politiker, så kan den också bero på att den behandlas som sådan av Big Business och den nya teknik som den använder.

var filmades akvamarin

För när en arbetsgivare lägger vår professionella framtid i händerna på en algoritm, är det svårt att tro att vi kommer att bli rättvist behandlade eller att vi kommer att ha en meningsfull utväg. Delvis beror det på att det är mycket omtvistat om framtida prestanda faktiskt kan bestämmas av egenskaper som ansiktsuttryck och tonfall. Faktum är att i november 2019 Informationscenter för elektronisk integritet — en känd amerikansk forskningsorganisation för allmänintresse — lämnade in ett formellt klagomål mot HireVue med US Federal Trade Commission, med hänvisning till HireVues 'användning av hemliga, oprövade algoritmer för att bedöma 'kognitiv förmåga', 'psykologiska egenskaper', 'emotionell intelligens' och 'sociala anlag' hos jobbkandidater. Intressant nog sedan början av 2020 har företaget slutat använda ansiktsanalys, och drar slutsatsen att visuell analys har mindre korrelation till arbetsprestation än andra delar av algoritmisk bedömning. Andra företag fortsätter dock att göra det.

CV-sorteraren med artificiell intelligens hade faktiskt lärt sig att ansökningar som inkluderade namnen på högskolor för alla kvinnor eller till och med ordet kvinnor (till exempel 'kapten för damschacklaget') var okvalificerade.

Det är också frågan om partiskhet. För även om HireVue vid den tiden hävdade att dess metodik gör sig av med mänsklig fördom, är det osannolikt att det är så. Detta beror på att algoritmer tränas på videofilmer av tidigare eller befintliga 'framgångsrika anställningar', vilket innebär att eventuella historiska fördomar (medvetna eller omedvetna) vid anställning sannolikt skulle replikeras.

Detta är faktiskt precis vad som hände på Amazon 2018, när det avslöjades att företagets CV-sorterare med artificiell intelligens var rutinmässigt avvisa kvinnors CV , trots att de aldrig fått 'berätta' för de sökandes kön. Varför? Den hade faktiskt lärt sig att ansökningar som inkluderade namnen på högskolor för alla kvinnor eller till och med ordet kvinnor (till exempel 'kapten för damschacklaget') var okvalificerade. Det berodde på att den hade tränats för att utläsa om sökande var 'kvalificerade' eller 'okvalificerade' på basis av tio års anställningsdata i en bransch där män utgör den stora majoriteten av sökande och anställer. Det behöver inte sägas att det var väldigt få kaptener för damschacklag i den gruppen.

Att justera en algoritm för att ta itu med lika uppenbara fördomar som kön är relativt okomplicerat; faktiskt, Amazons ingenjörer kunde enkelt redigera modellen för att sluta använda termer som kvinnors som skäl för diskvalificering. Men utmaningen med maskininlärning är att även om de mest uppenbara källorna till fördomar redovisas (och utan tvivel är det i många sådana system), vad sägs om mindre uppenbara, neutralt verka datapunkter som man kanske inte ens anser kan vara partiska?

Utdrag ur Det ensamma århundradet : Hur man återställer mänsklig anslutning i en värld som drar isär,publicerad av Currency, ett avtryck av Penguin Random House.

The Lonely Century av Noreena Hertz Amazon