Facebooki heli transkriptsiooni segu inimesest-AI seisab nüüd Euroopas privaatsuskontrolli ees – TechCrunch


Facebooki omad juhtiv privaatsuse regulaator Euroopas küsib nüüd ettevõttelt üksikasjalikku teavet häälteksti funktsiooni toimimise kohta Facebookis Messenger rakendus ja kuidas see vastab ELi õigusele.

Eile teatas Bloomberg, et Facebook kasutab rakenduse kasutajate helisõnumite transkriptsiooniks inimtöövõtjaid – selle privaatsuseeskirjades ei mainita siiski selgelt, et inimesed võivad teie salvestisi kuulata.

Facebooki abikeskuse lehel on ka märkus, mis ütleb, et Voice to Text kasutab masinõpet – kuid see ei tähenda, et funktsiooni toidavad ka inimesed, kes töötavad Facebooki kaudu.

Iiri andmekaitsekomisjoni pressiesindaja ütles meile: „Lisaks meie pidevale suhtlemisele Google'iga, Apple ja Microsoft seoses isikuandmete töötlemisega helisalvestiste käsitsi transkriptsiooni kontekstis otsime Facebookilt nüüd üksikasjalikku teavet kõnealuse töötlemise kohta ja kuidas Facebook usub, et selline andmete töötlemine vastab nende GDPR-i kohustustele . ”

Bloombergi aruandes järgitakse sarnaseid paljastusi AI abitehnoloogiate kohta, mida pakuvad teised tehnoloogiahiiglased, sealhulgas Apple, Amazon, Google ja Microsoft – millele on viimastel nädalatel pälvinud tähelepanu ka Euroopa privaatsuse regulaatorid.

See ütleb meile, et AI hääleassistentide ümber on hüpe ikka läikiv märksa vähem kõrgtehnoloogiline taust. Isegi kui masinõppega turunduse kinnitusi on kasutatud selleks, et varjata 'mehaaniliste türgi' komponentide (s.o inimeste), mis on tehnika jaoks vajalikud, et väidetele vastata.

See on tõepoolest väga vana lugu. Mõistmine: täielik kümnend tagasi teatati, et Ühendkuningriigi startup Spinvox, mis väitis, et on täiustatud kõnetuvastustehnoloogiat kõneposti tekstisõnumiteks teisendamiseks, kaldub väga tugevalt Lõuna-Aafrika ja Filipiinide kõnekeskustesse… personali moodustavad jepid, tegelikud inimesed.

Naastes tänapäevase tipptasemel tehnoloogia juurde, ütles Bloombergi teatel Facebook, et see peatas inimeste transkriptsioonid juba selle kuu alguses – liitumine Apple'iga ja Google peatavad nende vastavate hääl-AI-de helilõikude käsitsi ülevaatamise. (Amazon on pärast seda lisanud Alexa rakenduse seadetesse loobumise.)

Küsisime Facebookilt, kus Messengeri rakenduses oli see kasutajatele teatanud, et nende töövestlusi võidakse kasutada inimeste vestluste / helisõnumite transkribeerimiseks; ja kuidas kogus Messengeri kasutajate nõusolek selliseks andmetöötluse vormiks – enne inimeste arvustuste peatamist.

Ettevõte ei vastanud meie küsimustele. Selle asemel esitas pressiesindaja meile järgmise avalduse: “Sarnaselt Apple'i ja Google'iga peatasime rohkem kui nädal tagasi inimeste heliülevaate. "

Samuti kirjeldas Facebook helilõike, mida ta töövõtjatele saatis, maskeerituna ja de-identifitseerituna; ütles, et need koguti alles siis, kui kasutajad olid valinud Messengeri transkriptsiooni; ja neid kasutati ainult AI transkriptsioonivõime parandamiseks.

See kordas ka ettevõtte pikaajalist ümberlükkamist kasutajate murele Facebooki üldise pealtkuulamise pärast, öeldes, et see ei kuula kunagi inimeste mikrofone ilma seadme loata ega kasutajate selgesõnalise aktiveerimiseta.

Kuid see, kuidas Facebook andmete töötlemiseks luba kogub, on võtmeküsimus.

Näiteks on ettevõte kasutanud hiljuti näiteks manipuleerivat nõusolekuvoogu, et teadvustada Euroopas kasutajaid näotuvastustehnoloogia sisselülitamisele – tagastades oma varasema hoiaku, mis võeti vastu vastuseks varasemale regulatiivsele sekkumisele, tehnoloogia lülitamiseks kogu blokis.

Niisiis sõltub palju sellest, kuidas täpselt on Facebook kirjeldanud andmetöötlust, kus ta palub kasutajatel lubada oma häälsõnumeid inimeste poolt üle vaadata (eeldades, et ta tugineb nõusolekul kui nende andmete töötlemise õiguslikul alusel).

Toote kasutamise üldistesse tingimustesse liimimise komplekteerimine ei vasta tõenäoliselt ka ELi privaatsusseadustele, kuna bloki üldine andmekaitsemäärus nõuab, et nõusolek peab olema piiratud eesmärgiga, samuti olema täielikult informeeritud ja vabalt antud.

Kui Facebook tugineb Messengeri kasutajate helilõikude töötlemiseks õigustatud huvidele, et oma AI toimivust parendada, peaks ta tasakaalustama oma huvid inimeste privaatsusele avalduva ohu vastu.

Hääl-AI-d on selles osas eriti problemaatilised, kuna helisalvestused võivad hõlmata ka mittekasutajate isikuandmeid – arvestades seadme läheduses asuvaid inimesi (või tõepoolest telefoniliini teises otsas asuvat inimest, kes jätab teile sõnumi) oleks võinud nende isikuandmeid jäädvustada, ilma et meil oleks kunagi olnud võimalust anda nõusolek, et Facebooki töövõtjad saavad seda kuulda.

Google'i assistendi katkendite lekked Belgia ajakirjandusele tõstsid hiljuti meelde nii salvestiste tundlikku olemust kui ka selliste salvestiste põhjustatud uuesti tuvastamise ohtu – ajakirjanikud suudavad tuvastada osa salvestiste inimesi.

Mitmetes pressiteadetes on ka soovitatud, et tehnikahiiglaste palgatud töövõtjad kuuleksid rutiinselt intiimseid detaile, mis on jäädvustatud tootevaliku kaudu, mis hõlmab võimalust salvestada heli ja voogesitada neid isikuandmeid pilve töötlemiseks.