VISOKORIZIČNI AI SISTEMI - OBAVEZE

Visokorizični AI sistemi - obaveze

Odgovornost u svetu visokorizičnih AI sistema nije jednobojna. Nije jednostavna. 

Svaka karika u lancu, bilo da je pružalac, korisnik sistema, uvoznik ili distributer, nosi specifične obaveze. Razumevanje tih nijansi može biti ključno– ne samo za usklađivanje s regulativama, već i za građenje poverenja u tehnologiju koja može imati dubok uticaj na društvo.

Ko je ko?

Pre nego što zaronimo u konkretne obaveze , ključno je razumeti ko su glavni akteri u lancu snabdevanja visokorizičnih AI sistema:

pružaoci – Pružalac usluga je fizičko ili pravno lice koje razvija, proizvodi ili stavlja AI sisteme na tržište, bilo u svojstvu vlasnika ili kao zastupnik treće strane.

npr > Kompanija kao što je Microsoft, koja razvija i stavlja na tržište AI sistem za prepoznavanje lica.

korisnici – Korisnik sistema je entitet koji koristi ili implementira AI sisteme u konkretne svrhe, bilo kao interna alatka ili kao deo proizvoda namenjenog korisnicima.

npr > Banka XYZ koristi AI sistem za procenu kreditne sposobnosti klijenata.

uvoznici – Uvoznik je lice koje uvozi AI sisteme iz trećih zemalja u EU radi njihovog stavljanja na tržište Unije.

npr > XYZ Imports, firma koja uvozi AI sistem za analitiku sa tržišta izvan EU i plasira ga na evropsko tržište.

distributeri – Distributer je pravno lice koje distribuira AI sisteme, ali ne menja njihove funkcionalnosti ili tehničke karakteristike.

npr > XYZ Distribucija distribuira AI sistem za video analitiku koji su razvili pružaoci van EU.

Okej, sada suština teksta.

VISOKORIZIČNI AI SISTEMI - OBAVEZE

Obaveze pružalaca visokorizičnih AI sistema

> Usklađenost sa zahtevima – pružaoci moraju osigurati da su njihovi visokorizični AI sistemi usklađeni sa tehničkim i bezbednosnim zahtevima utvrđenim u regulativi. To podrazumeva primenu najnovijih standarda i poštovanje specifičnih pravila za zaštitu podataka, algoritamsku pristrasnost i sigurnost.

> Identifikacija – Na sistemu ili njegovom pakovanju moraju biti naznačeni ime, registrovani trgovački naziv ili žig, kao i adresa pružaoca. Ovo omogućava krajnjim korisnicima i regulatorima da lako identifikuju odgovornog subjekta.

> Sistem upravljanja kvalitetom (Član 17) – Pružaoci moraju imati sistem upravljanja kvalitetom koji obuhvata sve faze razvoja, od dizajna do post-market nadzora. Ovaj sistem uključuje dokumentovane politike, procedure i uputstva za:

• Strategiju za regulatornu usklađenost – uključujući usklađenost sa procedurama ocene usklađenosti i upravljanje promenama visokorizičnog AI sistema. Ovo podrazumeva stalno praćenje zakonskih promena i ažuriranje procedura kako bi se osigurala potpuna usklađenost.

• Tehnike, procedure i sistematske aktivnosti za dizajn – razvoj, kontrolu kvaliteta i verifikaciju dizajna AI sistema. Uključuju se aktivnosti koje osiguravaju da se svi rizici identifikuju i svedu na najmanju moguću meru tokom dizajna sistema.

• Procedure za ispitivanje i validaciju – tokom razvoja, uključujući tehničke specifikacije i standarde koji će biti primenjeni. Ovo uključuje specifična ispitivanja performansi i bezbednosti, koja su neophodna pre nego što sistem stigne do tržišta.

• Sistemi i procedure za upravljanje podacima – (sakupljanje, obrada, analiza, skladištenje i dr.), kao i sistem za upravljanje rizicima, post-market nadzor i prijavu ozbiljnih incidenata. Ovi sistemi moraju omogućiti dosledno praćenje podataka kako bi se osigurala usklađenost sa zahtevima za privatnost i bezbedost.

> Dokumentacija (Član 18) – Potrebno je voditi kompletnu tehničku dokumentaciju i dokumentaciju o sistemu upravljanja kvalitetom, u trajanju od najmanje 10 godina. Ova dokumentacija mora biti dostupna nadležnim organima na zahtev i mora jasno opisivati sve faze razvoja i modifikacije sistema. Dokumentacija uključuje tehničke detalje, kvalitet sistema i relevantne odluke, kao i informacije o svim modifikacijama koje su sprovedene tokom životnog ciklusa sistema.

> Automatski generisani logovi (Član 19) – Pružaoci moraju čuvati logove automatski generisane od strane AI sistema, kako bi se obezbedila transparentnost i mogućnost naknadne provere. Logovi omogućavaju praćenje rada sistema, identifikaciju potencijalnih problema i omogućavaju analizu u slučaju incidenta. Logovi se moraju čuvati u periodu koji odgovara nameni sistema, najmanje šest meseci, i moraju biti dostupni za inspekciju u bilo kom trenutku.

> Ocena usklađenosti (Član 16, tačka f) – Pre stavljanja na tržište, visokorizični AI sistem mora proći ocenu usklađenosti prema propisanim procedurama. Ova ocena potvrđuje da je sistem u skladu sa svim zahtevima bezbednosti i performansi. To uključuje testove koji procenjuju kako sistem reaguje u različitim scenarijima upotrebe.

> Deklaracija o usklađenosti (Član 16, tačka g) – Pružaoci su dužni da sastave EU deklaraciju o usklađenosti, koja potvrđuje da sistem ispunjava sve zahteve regulative. Ova deklaracija mora biti dostupna uz sistem i pružiti dodatnu sigurnost korisnicima. Deklaracija predstavlja formalnu potvrdu da su svi postupci usklađivanja pravilno sprovedeni.

> Označavanje CE znakom (Član 16, tačka h) – Visokorizični AI sistemi moraju biti označeni CE znakom kako bi se pokazala usklađenost sa regulativom. Ovaj znak potvrđuje da je sistem prošao sve potrebne provere i da je bezbedan za upotrebu. CE oznaka mora biti vidljiva i omogućiti krajnjim korisnicima da odmah znaju da sistem zadovoljava standarde EU.

> Registracija (Član 16, tačka i) – Pružaoci moraju ispuniti obaveze registracije visokorizičnih AI sistema u odgovarajuće registre EU. Registracija omogućava praćenje sistema i nadzor nad njegovom primenom. Ovo obezbeđuje transparentnost i olakšava regulatorima da nadgledaju kretanje i upotrebu AI sistema na tržištu.

> Korektivne mere (Član 20) – U slučaju neusklađenosti, pružaoci su dužni da preduzmu korektivne mere, povuku ili onemoguće sistem, i obaveste relevantne aktere. Ovo uključuje saradnju sa distributerima, uvoznicima i nadležnim organima kako bi se rizici minimizirali. Korektivne mere moraju biti sprovedene odmah po otkrivanju problema, a korisnici moraju biti adekvatno obavešteni.

> Saradnja sa nadležnim organima (Član 21) – Pružaoci moraju na zahtev nadležnih organa dokazati usklađenost sistema i pružiti potrebnu dokumentaciju. Saradnja sa regulatorima ključna je za osiguravanje usklađenosti i bezbednosti sistema. Takođe, moraju omogućiti pristup automatski generisanim logovima kada to zatraže nadležni organi. Transparentnost i saradnja sa regulatorima pomažu u održavanju poverenja u tehnologiju i njenu bezbednost.

> Ovlašćeni predstavnici (Član 22) – Pružaoci koji su osnovani van EU moraju imenovati ovlašćenog predstavnika unutar Unije, koji će biti odgovoran za osiguranje usklađenosti sistema. Ovlašćeni predstavnik mora imati pristup dokumentaciji i biti u mogućnosti da obezbedi sve informacije nadležnim organima na zahtev. On je ključna kontakt tačka između pružaoca i regulatora, što omogućava efikasnije rešavanje svih potencijalnih problema

Obaveze korisnika visokorizičnih AI sistema

> Pravilna upotreba sistema – Korisnici sistema su odgovorni za tehničke i organizacione mere kako bi osigurali da koriste visokorizične AI sisteme u skladu sa uputstvima za upotrebu. Takođe su odgovorni za obezbeđivanje ljudskog nadzora koji uključuje osobe sa odgovarajućom stručnošću i autoritetom.

> Kontrola ulaznih podataka – U meri u kojoj kosrisnik sistema ima kontrolu nad ulaznim podacima, dužan je da osigura da su podaci relevantni i dovoljno reprezentativni za svrhu kojoj AI sistem služi. Ova mera je od ključne važnosti kako bi se osigurala tačnost i nepristrasnost AI sistema.

> Praćenje rada sistema – Korisnici sistema moraju kontinuirano pratiti rad visokorizičnog AI sistema i, kada je potrebno, obavestiti pružaoca ili distributera o svim rizicima koji mogu nastati usled upotrebe sistema. U slučaju ozbiljnog incidenta, korisnici sistema su dužni da odmah obaveste pružaoca, a potom i uvoznika ili distributera, kao i nadležna tela.

> Čuvanje logova – Korisnici sistema moraju čuvati automatski generisane logove visokorizičnih AI sistema u periodu od najmanje šest meseci ili duže, u skladu sa relevantnim zakonodavstvom. Logovi su ključni za naknadnu analizu rada sistema i identifikaciju potencijalnih grešaka ili pristrasnosti.

> Obaveštenje zaposlenih – Korisnici koji koriste visokorizične AI sisteme na radnom mestu dužni su da obaveste radnike i njihove predstavnike da će biti podložni upotrebi takvih sistema. Informacije moraju biti pružene u skladu sa važećim zakonima i praksom u vezi sa informisanjem radnika i njihovih predstavnika.

> Saradnja sa nadležnim organima – Korisnici sistema moraju sarađivati sa nadležnim organima u bilo kojoj akciji koju ti organi preduzimaju u vezi sa visokorizičnim AI sistemom kako bi se obezbedila usklađenost sa regulativom.

Obaveze uvoznika visokorizičnih AI sistema

> Provera usklađenosti pre stavljanja na tržište – Uvoznici moraju obezbediti da visokorizični AI sistem koji planiraju da plasiraju na tržište bude usklađen sa svim relevantnim propisima EU. To znači da moraju proveriti da je pružalac sproveo odgovarajuću proceduru ocene usklađenosti i da je tehnička dokumentacija u skladu sa članom 11 i Aneksom IV.

> Označavanje i dokumentacija – Uvoznici su odgovorni da se na sistemu nalazi CE oznaka, kao i da je uz sistem priložena EU deklaracija o usklađenosti i uputstvo za upotrebu. Pored toga, moraju osigurati da je pružalac imenovao ovlašćenog predstavnika unutar EU.

> Označavanje podataka o uvozniku – Na visokorizičnom AI sistemu, njegovom pakovanju ili pratećoj dokumentaciji mora biti navedeno ime, trgovački naziv ili žig uvoznika, kao i adresa na kojoj mogu biti kontaktirani. Ovo osigurava transparentnost i odgovornost prema krajnjim korisnicima i regulatorima.

> Skladištenje i transport – Uvoznici moraju osigurati da uslovi skladištenja ili transporta visokorizičnog AI sistema, dok je pod njihovom odgovornošću, ne ugroze njegovu usklađenost sa regulativom. Ovo uključuje pridržavanje svih propisanih smernica o čuvanju i rukovanju sistemom kako bi se obezbedila njegova bezbednost.

> Čuvanje dokumentacije – Uvoznici su dužni da, u trajanju od 10 godina nakon stavljanja sistema na tržište ili njegovog puštanja u rad, čuvaju kopiju sertifikata koji je izdala prijavljena tela, uputstva za upotrebu i EU deklaraciju o usklađenosti iz člana 47.

> Saradnja sa nadležnim organima – Uvoznici moraju, na obrazloženi zahtev nadležnih organa, dostaviti sve potrebne informacije i dokumentaciju koja pokazuje usklađenost visokorizičnog AI sistema sa propisima. Ovo uključuje tehničku dokumentaciju i omogućavanje pristupa nadležnim organima kako bi se uverili u usklađenost sistema.

> Saradnja u smanjenju rizika – Uvoznici moraju sarađivati sa nadležnim organima u bilo kojoj akciji koju ti organi preduzimaju u vezi sa visokorizičnim AI sistemom koji je stavljen na tržište, posebno u cilju smanjenja i ublažavanja rizika koje taj sistem može izazvati.

Obaveze distributera visokorizičnih AI sistema

> Provera pre stavljanja na tržište – Distributeri su dužni da pre nego što učine visokorizični AI sistem dostupnim na tržištu, provere da li je sistem obeležen CE znakom, da li je uz njega priložena EU deklaracija o usklađenosti i uputstvo za upotrebu. Takođe moraju osigurati da su pružalac i uvoznik ispunili svoje obaveze prema članu 16, tačkama (b) i (c), i članu 23(3).

> Provera usklađenosti – Ako distributer smatra ili ima razloga da smatra da visokorizični AI sistem nije u skladu sa zahtevima iz Sekcije 2 Akta, ne sme ga učiniti dostupnim na tržištu dok sistem ne bude usklađen. Ako AI sistem predstavlja rizik prema članu 79(1), distributer mora odmah obavestiti pružaoca ili uvoznika i nadležna tela, kao i preduzeti neophodne mere.

> Skladištenje i transport – Distributeri su dužni da osiguraju da uslovi skladištenja i transporta visokorizičnog AI sistema, dok je pod njihovom odgovornošću, ne ugroze njegovu usklađenost sa zahtevima regulative.

> Preduzimanje korektivnih mera – Ako distributer smatra da visokorizični AI sistem koji je učinio dostupnim na tržištu nije u skladu sa zahtevima, dužan je da preduzme potrebne korektivne mere ili da osigura da ih pružalac, uvoznik ili relevantni operater preduzme. Ako sistem predstavlja rizik, distributer mora odmah informisati pružaoca ili uvoznika, kao i nadležna tela.

> Saradnja sa nadležnim organima – Distributeri su dužni da, na obrazloženi zahtev nadležnih organa, pruže sve informacije i dokumentaciju koja pokazuje njihove aktivnosti u skladu sa obavezama regulative, kao i da sarađuju sa nadležnim organima u bilo kojoj akciji koju ti organi preduzimaju u vezi sa visokorizičnim AI sistemom.

Compliance Matrix - preporuka. Strava je.

Lanac snadbevanja i odgovornost

U lancu snabdevanja visokorizičnih AI sistema, svi učesnici, od pružaoca do korisnika sistema, snose određeni deo odgovornosti. 

Plot twist > nekim situacijama, distributer, uvoznik ili treća strana mogu biti smatrani pružaocima visokorizičnog AI sistema, a samim tim i podložni obavezama koje inače ima pružalac:

1. Rebrendiranje AI sistema – Ako distributer ili uvoznik stavi svoje ime ili zaštitni znak na visokorizični AI sistem, oni postaju pružaoci i preuzimaju sve odgovornosti pružalaca prema EU AI Act-u.

2. Suštinske modifikacije – Ako neka treća strana izvrši suštinsku modifikaciju visokorizičnog AI sistema ili promeni njegovu svrhu tako da sistem postane visokorizičan prema članu 6, ta treća strana postaje pružalac i preuzima odgovornosti u skladu sa regulativom.

3. Partnerstvo između pružalaca i trećih strana – U slučajevima kada treća strana snabdeva AI sistem, alat, uslugu, komponente ili procese koji se koriste ili integrišu u visokorizični AI sistem, pružalac i ta treća strana moraju pismeno utvrditi odgovornosti, tehnički pristup i druge obaveze kako bi se osigurala potpuna usklađenost sa regulativom.

Dakle

Regulativa oko AI obaveza je kompleksna i često zamorna – ali preko potrebna. Svaka uloga u lancu snabdevanja AI nosi specifične odgovornosti koje, ukoliko se ignorišu, mogu dovesti do ozbiljnih posledica. U ovom trenutku nije pitanje da li se obaveze moraju ispuniti, već kako to učiniti na način koji omogućava sigurno, etičko i odgovorno korišćenje veštačke inteligencije.

Dakle, tu sam.

ETIK.AI