Pravo na zaborav

Zašto baš sada?

The New York Times je zatražio od suda da OpenAI sačuva sve korisničke razgovore. 

OpenAI kaže ne može - to bi ugrozilo privatnost korisnika. 

Zaplet, akcija, snimaj. 

Ja, uzmim kokice. 

Šalu na stranu, ovo je stvaran pravni spor iz juna 2025. godine. Rubrika desilo se. Amerika. 

Šta se tačno desilo?

U okviru spora The New York Times protiv OpenAI i Microsoft zbog navodnog kršenja autorskih prava (tačnije: korišćenja novinskih tekstova za treniranje modela), Times je zatražio tzv. preservation order, nalog kojim se kompaniji nalaže da zadrži sav potencijalno relevantan sadržaj.

U prevodu, da se ne briše ništa. Ni postojeće. Ni ono što još nije generisano. Ni ono što je već obrisano. Ni ono što se briše po automatizmu - kao što je to slučaj sa korisničkim interakcijama u ChatGPTju posle 30 dana.

OpenAI se usprotivio. U javnom odgovoru (https://openai.com/index/response-to-nyt-data-demands/) navodi da bi to narušilo privatnost korisnika, bilo u direktnoj suprotnosti s postojećim pravilima o brisanju i (tehnički) teško izvodljivo. Ali sud se s tim nije složio.

U maju 2025. izdat je privremeni nalog. 

Enterprise korisnici sa ugovorenom zero-retention politikom - nisu obuhvaćeni. Ako ste takvi, ne brigajte. 

OpenAI mora da sačuva sve korisničke logove koji se odnose na tzv. consumer i team naloge. Podaci se premeštaju u izdvojeni režim čuvanja. Pod tzv. legal holdom su. Automatsko brisanje se zaustavlja. Korisnici? Nisu obavešteni.

OpenAI pokušava da obori odluku, ali dok se ne odluči (prognoze su - jul), pravilo važi.

.....

Pravo na zaborav, dakle, postaje uslovno. Zavisno od procesa. Od spora. Od toga ko ima dovoljno dobar razlog da tvoj podatak ne nestane.

Da li je ovo presedan? Apsolutno. I ne tiče se samo OpenAIja.

Ako jedan sud može da suspenduje automatizovano brisanje radi potencijalnog dokaznog interesa, može i sledeći. I sledeći. I tvoj?

Razmišljam naglas.

Šta ovo znači u praksi?

Spor postavlja važna pitanja o pravima koja često uzimamo zdravo za gotovo. Pre svega, pravo na privatnost i pravo na zaborav.

Korisnici danas uglavnom veruju da imaju kontrolu nad svojim podacima. Međutim, ovaj slučaj jasno pokazuje kako ta kontrola može nestati preko noći. 

I postavlja mnoga (opravdana) pitanja:

• Mogu li tvoji podaci, tvoj razgovor sa AI alatom, završiti kao dokazni materijal u sudu?

• Ako obrišeš nešto što si napisao/la, znači li to zaista da je nestalo?

• Ili možeš biti primoran/a da ostaneš u sistemu – čak i ako si tražilo/la da te izbrišu?

Da li pravo na zaborav stvarno funkcioniše?

Da bi shvatili koliko je ovo pravo zapravo komplikovano, osvrnuću se na tri aspekta.

1. Pravni 

U postupcima poput ovog, pravo na privatnost ustupa mesto zahtevima suda. Čak i ako je kompanija ranije "obećala" da briše podatke nakon određenog perioda, sudski zahtev (preservation order) može da suspenduje to pravo. To znači da brisanje više nije moguće, iako ga zakon garantuje.

2. Tehnički 

Obrisati podatke tehnički nije jednostavno. 

Bar mislim, inženjeri će me ispraviti ako grešim. 

Ali razmišljam o nekoliko stvari. Npr >

• Veliki je izazov identifikovati svaki trag koji podatak ostavlja u kompleksnim AI sistemima. Zar ne? To nisu samo poruke u nekom inboxu, već i nizovi podataka sačuvani u backup-ima, logovima, modelima ili internim reprezentacijama.

• Čak i kada podaci formalno nestanu iz baze, oni mogu ostati indirektno prisutni kroz težine modela i parametre. Dakle, u tehničkom smislu, podatak možda više nije "čitljiv" (da li je?), ali je njegov uticaj trajan i nemoguće ga je retroaktivno ukloniti. Ispravite me ako grešim.

3. Operativni 

Kompanije često imaju slobodu da određuju šta i kako čuvaju. 

U stvarnosti, to može značiti da se:

• Podaci čuvaju mnogo duže nego što korisnici pretpostavljaju, jer to može biti korisno „za svaki slučaj”.

• Transparentnost tih odluka često je vrlo ograničena ili nejasna.

• Operativno brisanje podataka često je delimično. Briše se ono što je lako dostupno, a ostalo ostaje skriveno u tehničkim slojevima.

Šta kompanije sada treba da razumeju?

Važno je da shvatite da ostvarivanje prava na zaborav nije samo pravno, već i tehničko i operativno pitanje. 

Postoji ozbiljan rizik za kompanije koje nisu potpuno svesne gde su sve podaci koje čuvaju, ne znaju kako da zaista obrišu svaki trag, nemaju operativni sistem za brisanje podataka po jasnim zahtevima korisnika.

Drugim rečima: pravo na zaborav nije samo korisnički benefit, već pravna i operativna obaveza. Nešto što sud može da proveri prilikom veštačenja npr, i nešto što konkurenti, mediji ili regulatori mogu koristiti protiv vas.

I šta sad?

Možemo raspravljati o procedurama i zakonima. 

Možemo se baviti nijansama regulative. I šta bi bilo, kad bi bilo u Evropi.

Ali hajde da ne preskočimo suštinu:

Privatnost nije tehnička opcija. Zaborav nije bag u kodu.

To su prava koja (bi trebalo da) funkcionišu.

...

Zato, evo jedne jednostavne provere koju možete uraditi odmah.

Da ne ostanemo na nivou filozofije.

Postavite pitanja >

1. Znate li gde se podaci fizički nalaze? Ne "u sistemu", već tačno: u kojoj bazi, kom folderu, na kom serveru, u kom backupu.

2. Imate li tehnički mehanizam za brisanje svih kopija? Ne samo u primarnim bazama, već i u logovima, cache strukturama, razvojnim okruženjima i test instancama.

3. Da li brisanje uključuje i podatke u eksternim servisima? Ako koristite treće strane (npr. za analitiku, cloud, CRM), znate li kako se tamo brišu podaci?

4. Da li postoji dokumentovan proces za postupanje po zahtevima korisnika? Postoji li interni postupak koji neko stvarno zna da sprovede? Bez improvizacije?

5. Da li imate jasne rokove za automatsko brisanje neaktivnih ili nepotrebnih podataka?  Ili čuvate sve "za svaki slučaj"?

6. Da li vaši modeli koriste podatke za treniranje ili fino podešavanje? Ako da: da li ste korisniku objasnili da ti podaci možda ne mogu biti potpuno uklonjeni iz ponašanja modela?

7. Da li retenciona politika postoji samo u politici privatnosti  ili se stvarno sprovodi? Možete li to dokazati? Kroz logove i evidenciju?

...

Nemojte samo pisati politike, zvučne fraze na sajtu. 

Implementirajte. 

Ovo je početak. 

ETIK.AI