e-novice iVarnost
S prijavo se strinjate s
Politiko zasebnosti.
Od e-novic se lahko kadarkoli odjavite.
S prijavo se strinjate s
Politiko zasebnosti.
Od e-novic se lahko kadarkoli odjavite.
Na Metina AI pametna očala so znova v središču kritik. Po medijskih razkritjih naj bi občutljive videoposnetke uporabnikov pregledovali pogodbeni ocenjevalci v Keniji, kar je sprožilo pravne postopke in dodatna vprašanja o zasebnosti.
Pametna očala podjetja Meta so se znašla v središču nove afere, povezane z zasebnostjo uporabnikov. Po poročanju Računalniških novic, ki se sklicujejo na preiskavo švedskih časopisov Svenska Dagbladet in Göteborgs-Posten, naj bi občutljive posnetke iz Metinih AI očal pregledovali pogodbeni delavci v Nairobiju v Keniji. Med njimi naj bi bili tudi zelo zasebni prizori, kot so obiski kopalnice, intimni trenutki in drugi osebni posnetki, ki jih uporabniki verjetno niso pričakovali v rokah tretjih oseb. Primer je hitro prerasel v pravno in regulatorno vprašanje, saj je bila v ZDA vložena predlagana skupinska tožba, britanski informacijski pooblaščenec pa je od Mete zahteval pojasnila. Celotna zgodba znova odpira vprašanje, kako pregledno tehnološka podjetja uporabnikom pojasnijo, kaj se zgodi s podatki, zbranimi z napravami, ki neprestano opazujejo okolico.
Osrednje razkritje je, da naj bi pogodbeni sodelavci, vključeni v označevanje podatkov za učenje umetne inteligence, imeli dostop do vsebin, ki so jih zabeležila Metina pametna očala. Po navedbah iz preiskave so ti delavci pregledovali video, zvok in transkripte, ki naj bi pomagali izboljševati delovanje Meta AI sistemov. Eden od delavcev je po navedbah Računalniških novic opisal, da so videli zelo osebne prizore iz vsakdanjega življenja uporabnikov, tudi gole telesa in druge občutljive trenutke. Dodaten problem je, da zamegljevanje obrazov in drugih občutljivih elementov po poročilih ni vedno delovalo brezhibno, zato naj bi bili v nekaterih primerih vidni tudi obrazi ali celo podatki, kot so bančne kartice. To pomeni, da tveganje ni le abstraktno, temveč neposredno povezano z možnostjo razkritja zelo osebnih informacij.
Pametna očala se od številnih drugih naprav razlikujejo po tem, da so ves čas na uporabniku in lahko precej neopazno zajemajo okolico. Uporabniki pogosto dobijo občutek, da gre za osebni pripomoček, podoben telefonu ali slušalkam, v resnici pa naprava z vgrajeno kamero, mikrofonom in AI pomočnikom odpira veliko širše vprašanje stalnega zaznavanja sveta. Ko se takšni podatki pošljejo v oblak ali v nadaljnjo obdelavo, meja med lokalno uporabo in podatki za izboljšanje storitve hitro postane nejasna. V primeru Metinih očal je dodatna skrb povezana s tem, da so bila tržena kot izdelek, zasnovan z mislijo na zasebnost, medtem ko zdaj kritiki opozarjajo, da uporabniki morda niso razumeli celotnega obsega človeškega pregleda vsebin. Prav ta razkorak med trženjskimi obljubami in dejansko prakso je jedro pravnih očitkov.
Po objavi razkritij je bila v ZDA vložena predlagana skupinska tožba, ki Meto med drugim bremeni zavajajočega oglaševanja, goljufije in kršitev zasebnosti. Tožniki trdijo, da je Meta očala predstavljala kot zasebnosti prijazen izdelek, pri tem pa naj ne bi ustrezno razkrila, da lahko podatke, posredovane AI funkcijam, pregledujejo človeški ocenjevalci. Vzporedno s tem je britanski informacijski pooblaščenec ICO od podjetja zahteval dodatna pojasnila glede ravnanja s podatki uporabnikov teh očal. Pritisk ne prihaja le iz pravnega sistema, temveč tudi iz organizacij za digitalne pravice, ki opozarjajo, da bi se lahko tveganja še povečala, če bi Meta v prihodnje dodala naprednejše biometrične funkcije, kot je prepoznavanje obrazov. Primer tako ni več le medijska zgodba, ampak potencialni precedens za prihodnjo regulacijo nosljivih AI naprav.
Meta je po navedbah javnih poročil poudarila, da posnetki iz očal ostanejo na uporabnikovi napravi, razen če jih uporabnik prostovoljno deli z drugimi ali z Meta AI. Podjetje je tudi priznalo, da včasih uporablja zunanje sodelavce za pregled podatkov, ki jih uporabniki delijo z AI sistemom, pri čemer naj bi šlo za izboljševanje storitev in modelov. Meta obenem trdi, da uporablja filtre in druge ukrepe za zaščito zasebnosti uporabnikov. Kljub tem pojasnilom ostaja osrednje vprašanje, ali so bili uporabniki dovolj jasno obveščeni o tem, kaj pomeni deljenje podatkov z AI funkcijo in kdo vse lahko te podatke vidi. V razpravah o zasebnosti je prav informirana privolitev pogosto tista točka, na kateri se odloča, ali je neka praksa sprejemljiva ali ne.
Ta primer je pomemben precej širše od same Mete, saj kaže, kako hitro lahko nosljive AI naprave prestopijo mejo med uporabnostjo in invazivnim zbiranjem podatkov. Uporabniki bodo morali pri takšnih napravah vedno bolj paziti, katere funkcije imajo vključene, kam se podatki pošiljajo in ali so privzete nastavitve res usmerjene v zaščito zasebnosti. Za podjetja pa je to opomnik, da tehnični varnostni ukrepi niso dovolj, če niso podprti z jasnim obveščanjem, razumljivimi nastavitvami in strogim nadzorom nad pogodbenimi obdelovalci podatkov. Posebej problematično postane, ko se občutljivi osebni podatki prenašajo prek več držav in sodelujejo v kompleksnih verigah zunanjih izvajalcev. Z vidika kibernetske varnosti in zasebnosti je to še en dokaz, da bodo prihodnje generacije AI naprav zahtevale precej strožje standarde preglednosti in odgovornosti.
Afera z Metinimi pametnimi očali ni pomembna le zaradi enega izdelka, ampak zato, ker razkriva širši model delovanja sodobnih AI storitev. V ozadju bleščečih funkcij, kot so pomočnik v realnem času, prepoznava okolice in kontekstualni odgovori, pogosto stoji človeško delo pregledovanja in označevanja podatkov, ki ga končni uporabniki skoraj nikoli ne vidijo. Če se izkaže, da so bili uporabniki o tem obveščeni nejasno ali pomanjkljivo, bo ta primer verjetno postal še pomembnejši test za meje dopustne obdelave osebnih podatkov. Pametna očala so morda tehnološko privlačna, toda brez jasnih pravil in nadzora lahko hitro postanejo tudi izjemno občutljivo orodje za zajemanje zasebnega življenja. Za področje digitalne zasebnosti je to zato ena pomembnejših zgodb letošnjega leta.