Metan on kerrottu valmistautuvan keräämään Yhdysvalloissa työskentelevien työntekijöidensä käyttäytymistietoja – mukaan lukien hiiren liikkeet, klikkaukset, näppäinpainallukset ja näyttökuvat – auttaakseen tekoälyjärjestelmiään käyttämään ohjelmistoja samalla tavalla kuin ihmiset tekevät.
Reutersin(uusi ikkuna) mukaan Model Capability Initiative (MCI) -nimellä tunnettu ohjelma on osa Metan laajempaa pyrkimystä rakentaa tekoälyagentteja, jotka voivat itsenäisesti suorittaa tietokonepohjaisia tehtäviä pudotusvalikoissa liikkumisesta pikanäppäinten käyttöön.
Meta ilmoitti suojaavansa arkaluonteisia tietoja, mutta se ei tarkentanut, mitkä tiedot luokitellaan arkaluonteiseksi materiaaliksi, miten suojaus toimisi tai ulottuuko se ulkopuolisten tahojen tietoihin, joita työntekijät saattavat käsitellä työssään.
Siirto tapahtuu Metan valmistautuessa vähentämään 10 % henkilöstöstään 20. toukokuuta alkaen, ja lisää irtisanomisia odotetaan myöhemmin tänä vuonna.
Tekoälyn uusi kultaryntäys kohdistuu käyttäytymistietoihin
Tekoäly-yhtiöt ovat jo kuluttaneet valtavia määriä julkista internet-dataa, ja Metan MCI on esimerkki siitä, kuinka nämä yritykset pyrkivät yhä syvemmälle etsiessään uusinta tekoälyn koulutusmateriaalia: käyttäytymistietoa(uusi ikkuna).
Käyttäytymistiedoilla tarkoitetaan digitaalisia jälkiä, joita ihmiset jättävät liikkuessaan järjestelmissä: klikkauksia, näppäinpainalluksia, taukoja, korjauksia, pikanäppäimiä ja navigointimalleja, jotka näyttävät, miten tehtävä todellisuudessa suoritetaan. Ne ovat arvokkaita yrityksille, koska ne eivät tallenna vain työn tulosta, vaan sen taustalla olevan prosessin – jotain, mitä tekoälyjärjestelmien on tällä hetkellä vaikea käsitellä ja jäljitellä.
Microsoft Recall noudattaa samaa logiikkaa ottamalla tilannekuvia siitä, mitä ihminen tekee tietokoneellaan. Microsoft esittelee sen tuottavuuden seurantaohjelmistona, ei tekoälyn koulutusputkena. Se kuitenkin osoittaa, kuinka mukavaksi jättiteknologiayhtiöt ovat tulleet muuttaessaan erittäin yksityiskohtaiset käytösjäljet joksikin, mitä järjestelmät voivat tallentaa ja mistä ne voivat oppia. Työpaikoilla valinnaisiksi kuvattuja ominaisuuksia voi olla vaikea hylätä, kun työnantajat valvovat yrityksen käytäntöjä ja muokkaavat suostumukseen liittyvää valtadynamiikkaa.
Metan tapauksessa MCI vaikuttaa yhdeltä rakennuspalikkana laajemman pyrkimyksen tiellä kerätä yhä intiimimpiä ja paljastavampia henkilötietoja. Yhtiö käyttää jo nyt kaikkea Meta AI -vuorovaikutusta Facebookissa, Instagramissa, WhatsAppissa ja muussa ekosysteemissään tuotteiden kehittämiseen, tekoälyn kouluttamiseen ja kohdennettuihin mainoksiin paikoissa, joissa ei ole vahvaa yksityisyydensuojaa, kuten GDPR-alueilla.
Työntekijöiden seuranta voi huonontaa työn laatua
Toinen ongelma siinä, että Meta seuraa työntekijöitä tekoälyn kouluttamiseksi, on se, että se voi huonontaa työn laatua(uusi ikkuna). Kuten napsautuksia seuraavat ohjelmistot, se käsittelee näppäinpainalluksia ja hiiren liikkeitä merkityksellisinä signaaleina. Mutta jopa edistyneemmän tekoälyn ollessa kyseessä, ne ovat silti huonoja mittareita todelliselle suoritukselle, erityisesti tietotyössä, jossa kriittinen ajattelu, suunnittelu, ideoiden yhdistäminen yli toimintarajojen ja ongelmanratkaisu näyttävät ulkopuolisesta usein näkymättömiltä.
Kun työntekijät tietävät, että näitä signaaleja kerätään – varsinkin jos he epäilevät, että heidät voidaan jonain päivänä korvata niillä tekoälyagenteilla, joita he auttavat kehittämään – se luo vääristyneen kannustimen optimoida kiireisiltä näyttämistä tai jopa vääristää tarkoituksella käyttäytymistään merkityksellisen työn tekemisen sijaan. Valvonnasta ja epäluottamuksesta tulee työpaikan normi.
Yksityisyyden etusijalle asettavalla infrastruktuurilla on merkitystä
Tiedonlouhintaan perustuvat alustat saavat jokaisen vuorovaikutuksen näyttämään datalta, joka odottaa kaupallistamista, optimointia tai syöttämistä takaisin toiseen järjestelmään. Kun tekoäly on mukana, kyseistä järjestelmää saatetaan käyttää Teidän tutkimiseenne, matkimiseenne ja lopulta korvaamiseenne.
Yksityisyyden etusijalle asettavilla palveluilla on merkitystä, sillä mitä vähemmän tietoa yrityksellä on käytettävissään, sitä vähemmän tilaa on toiminnan laajentumiselle alkuperäisen tarkoituksen ulkopuolelle. Vahvat suojaukset, kuten päästä päähän -salaus, auttavat rajoittamaan sitä, mitä alusta voi nähdä alun perinkään, kun taas avoin lähdekoodi lisää läpinäkyvyyttä sallimalla riippumattoman tarkastuksen siitä, miten kyseiset järjestelmät todellisuudessa toimivat. Yhdessä ne auttavat suojaamaan sekä työntekijöiden että asiakkaiden luottamusta.
