Kibernetska varnost - portal: novice, napadi, zaščita, zakonodaja, izobraževanje, dogodki

Metina AI očala in zasebnost: posnetke naj bi pregledovali v Keniji

Metina pametna očala in zasebnost: posnetke naj bi pregledovali v Keniji Metina pametna očala in zasebnost: posnetke naj bi pregledovali v Keniji
Metina pametna očala in zasebnost: posnetke naj bi pregledovali v Keniji

Nova afera z zasebnostjo: občutljive posnetke iz AI očal naj bi gledali pogodbeni ocenjevalci

Na Metina AI pametna očala so znova v središču kritik. Po medijskih razkritjih naj bi občutljive videoposnetke uporabnikov pregledovali pogodbeni ocenjevalci v Keniji, kar je sprožilo pravne postopke in dodatna vprašanja o zasebnosti.

Meta pod pritiskom: pametna očala, zasebni posnetki in vprašanja o nadzoru podatkov

Pametna očala podjetja Meta so se znašla v središču nove afere, povezane z zasebnostjo uporabnikov. Po poročanju Računalniških novic, ki se sklicujejo na preiskavo švedskih časopisov Svenska Dagbladet in Göteborgs-Posten, naj bi občutljive posnetke iz Metinih AI očal pregledovali pogodbeni delavci v Nairobiju v Keniji. Med njimi naj bi bili tudi zelo zasebni prizori, kot so obiski kopalnice, intimni trenutki in drugi osebni posnetki, ki jih uporabniki verjetno niso pričakovali v rokah tretjih oseb. Primer je hitro prerasel v pravno in regulatorno vprašanje, saj je bila v ZDA vložena predlagana skupinska tožba, britanski informacijski pooblaščenec pa je od Mete zahteval pojasnila. Celotna zgodba znova odpira vprašanje, kako pregledno tehnološka podjetja uporabnikom pojasnijo, kaj se zgodi s podatki, zbranimi z napravami, ki neprestano opazujejo okolico.

Kaj razkriva preiskava o pregledovanju posnetkov?

Osrednje razkritje je, da naj bi pogodbeni sodelavci, vključeni v označevanje podatkov za učenje umetne inteligence, imeli dostop do vsebin, ki so jih zabeležila Metina pametna očala. Po navedbah iz preiskave so ti delavci pregledovali video, zvok in transkripte, ki naj bi pomagali izboljševati delovanje Meta AI sistemov. Eden od delavcev je po navedbah Računalniških novic opisal, da so videli zelo osebne prizore iz vsakdanjega življenja uporabnikov, tudi gole telesa in druge občutljive trenutke. Dodaten problem je, da zamegljevanje obrazov in drugih občutljivih elementov po poročilih ni vedno delovalo brezhibno, zato naj bi bili v nekaterih primerih vidni tudi obrazi ali celo podatki, kot so bančne kartice. To pomeni, da tveganje ni le abstraktno, temveč neposredno povezano z možnostjo razkritja zelo osebnih informacij.

  • Pogodbeni delavci naj bi pregledovali video, zvok in prepise
  • Med vsebinami naj bi bili tudi zelo zasebni prizori
  • Zaščitni mehanizmi naj ne bi vedno delovali brezhibno
  • V ospredju je vprašanje nadzora nad občutljivimi podatki

Zakaj je to posebej občutljivo pri pametnih očalih?

Pametna očala se od številnih drugih naprav razlikujejo po tem, da so ves čas na uporabniku in lahko precej neopazno zajemajo okolico. Uporabniki pogosto dobijo občutek, da gre za osebni pripomoček, podoben telefonu ali slušalkam, v resnici pa naprava z vgrajeno kamero, mikrofonom in AI pomočnikom odpira veliko širše vprašanje stalnega zaznavanja sveta. Ko se takšni podatki pošljejo v oblak ali v nadaljnjo obdelavo, meja med lokalno uporabo in podatki za izboljšanje storitve hitro postane nejasna. V primeru Metinih očal je dodatna skrb povezana s tem, da so bila tržena kot izdelek, zasnovan z mislijo na zasebnost, medtem ko zdaj kritiki opozarjajo, da uporabniki morda niso razumeli celotnega obsega človeškega pregleda vsebin. Prav ta razkorak med trženjskimi obljubami in dejansko prakso je jedro pravnih očitkov.

  • Očala lahko neprekinjeno zajemajo okolico
  • Uporabniki morda ne razumejo celotnega toka podatkov
  • Sporno je razmerje med obljubljeno in dejansko zasebnostjo
  • AI funkcije povečujejo količino občutljivih podatkov

Pravne posledice in odziv regulatorjev

Po objavi razkritij je bila v ZDA vložena predlagana skupinska tožba, ki Meto med drugim bremeni zavajajočega oglaševanja, goljufije in kršitev zasebnosti. Tožniki trdijo, da je Meta očala predstavljala kot zasebnosti prijazen izdelek, pri tem pa naj ne bi ustrezno razkrila, da lahko podatke, posredovane AI funkcijam, pregledujejo človeški ocenjevalci. Vzporedno s tem je britanski informacijski pooblaščenec ICO od podjetja zahteval dodatna pojasnila glede ravnanja s podatki uporabnikov teh očal. Pritisk ne prihaja le iz pravnega sistema, temveč tudi iz organizacij za digitalne pravice, ki opozarjajo, da bi se lahko tveganja še povečala, če bi Meta v prihodnje dodala naprednejše biometrične funkcije, kot je prepoznavanje obrazov. Primer tako ni več le medijska zgodba, ampak potencialni precedens za prihodnjo regulacijo nosljivih AI naprav.

  • V ZDA je bila vložena predlagana skupinska tožba
  • ICO je od Mete zahteval dodatna pojasnila
  • Kritiki opozarjajo tudi na prihodnje biometrične funkcije
  • Primer lahko vpliva na prihodnjo regulacijo AI naprav

Kaj pravi Meta?

Meta je po navedbah javnih poročil poudarila, da posnetki iz očal ostanejo na uporabnikovi napravi, razen če jih uporabnik prostovoljno deli z drugimi ali z Meta AI. Podjetje je tudi priznalo, da včasih uporablja zunanje sodelavce za pregled podatkov, ki jih uporabniki delijo z AI sistemom, pri čemer naj bi šlo za izboljševanje storitev in modelov. Meta obenem trdi, da uporablja filtre in druge ukrepe za zaščito zasebnosti uporabnikov. Kljub tem pojasnilom ostaja osrednje vprašanje, ali so bili uporabniki dovolj jasno obveščeni o tem, kaj pomeni deljenje podatkov z AI funkcijo in kdo vse lahko te podatke vidi. V razpravah o zasebnosti je prav informirana privolitev pogosto tista točka, na kateri se odloča, ali je neka praksa sprejemljiva ali ne.

  • Meta poudarja, da je deljenje vezano na uporabo AI funkcij
  • Podjetje priznava uporabo zunanjih pregledovalcev
  • Navaja filtre in ukrepe za zaščito zasebnosti
  • V središču ostaja vprašanje informirane privolitve

Kaj to pomeni za uporabnike in podjetja?

Ta primer je pomemben precej širše od same Mete, saj kaže, kako hitro lahko nosljive AI naprave prestopijo mejo med uporabnostjo in invazivnim zbiranjem podatkov. Uporabniki bodo morali pri takšnih napravah vedno bolj paziti, katere funkcije imajo vključene, kam se podatki pošiljajo in ali so privzete nastavitve res usmerjene v zaščito zasebnosti. Za podjetja pa je to opomnik, da tehnični varnostni ukrepi niso dovolj, če niso podprti z jasnim obveščanjem, razumljivimi nastavitvami in strogim nadzorom nad pogodbenimi obdelovalci podatkov. Posebej problematično postane, ko se občutljivi osebni podatki prenašajo prek več držav in sodelujejo v kompleksnih verigah zunanjih izvajalcev. Z vidika kibernetske varnosti in zasebnosti je to še en dokaz, da bodo prihodnje generacije AI naprav zahtevale precej strožje standarde preglednosti in odgovornosti.

  • Nosljive AI naprave povečujejo tveganja za zasebnost
  • Pomembne so privzete nastavitve in pregledne razlage
  • Ključna je odgovornost zunanjih izvajalcev
  • Primer kaže potrebo po strožjih standardih

Zaključek

Afera z Metinimi pametnimi očali ni pomembna le zaradi enega izdelka, ampak zato, ker razkriva širši model delovanja sodobnih AI storitev. V ozadju bleščečih funkcij, kot so pomočnik v realnem času, prepoznava okolice in kontekstualni odgovori, pogosto stoji človeško delo pregledovanja in označevanja podatkov, ki ga končni uporabniki skoraj nikoli ne vidijo. Če se izkaže, da so bili uporabniki o tem obveščeni nejasno ali pomanjkljivo, bo ta primer verjetno postal še pomembnejši test za meje dopustne obdelave osebnih podatkov. Pametna očala so morda tehnološko privlačna, toda brez jasnih pravil in nadzora lahko hitro postanejo tudi izjemno občutljivo orodje za zajemanje zasebnega življenja. Za področje digitalne zasebnosti je to zato ena pomembnejših zgodb letošnjega leta.

Viri:

  • The Register
  • SFGATE
  • PC Gamer