Mākslīgā intelekta sistēmas un diskriminācijas aspekti. 2. daļa

Tiesībsarga biroja uzdevumā veiktais pētījums Mākslīgā intelekta sistēmas un diskriminācijas aspekti. 2.daļa”

2024. gadā autore pēc Tiesībsarga biroja pasūtījuma izstrādāja pētījumu “Mākslīgais intelekts un diskriminācijas aspekti”, kurā tika pētīti MI sistēmu jau šobrīd radītie diskriminācijas riski četrās no astoņām Mākslīgā intelekta akta III pielikumā minētajām jomām: 1) fizisku personu biometriskā identifikācija un kategorizācija; 2) izglītība un arodapmācības; 3) nodarbinātība, darba ņēmēju pārvaldība un piekļuve pašnodarbinātībai; 4) piekļuve privātiem pamatpakalpojumiem un sabiedriskajiem pakalpojumiem un pabalstiem un to izmantošana.

2024. gada Pētījumā vispirms tika analizēts diskriminācijas aizlieguma, datu aizsardzības un MI normatīvais regulējums, kā arī vērsta uzmanību uz esošā tiesiskā regulējuma problēmām un izaicinājumiem algoritmu un MI sistēmu izmantošanas kontekstā. Pēc tam Pētījumā tika apkopoti un analizēti uzskatāmākie piemēri no starptautiskās prakses, kas saistīti ar MI sistēmu radīto diskrimināciju iepriekš minētajās četrās jomās. Pētījuma nobeigumā tika sniegts kopsavilkums, kurā apkopota būtiskākā informācija par Pētījuma rezultātiem, secinājumi un ieteikumi.

Šī pētījuma mērķis ir izpētīt pārējās četras Mākslīgā intelekta akta III pielikumā noteiktās augsta riska jomas, kas iepriekšējā 2024. gada Pētījumā netika analizētas. Konkrētāk, pētījuma mērķis ir izpētīt piemērus no Latvijas vai starptautiskās prakses par to, kā diskriminācija var izpausties šādās augsta riska jomās:

1. Tiesībaizsardzība;
2. Kritiskā infrastruktūra;
3. Migrācijas, patvēruma un robežkontroles pārvaldība;
4. Tiesvedība un demokrātijas procesi.

Citas jomas, kurās MI sistēmas var radīt diskriminācijas riskus, ir ārpus šajā pētījumā apskatāmo jautājumu loka.
Pētījumā analizēti piemēri no prakses par MI sistēmu radīto diskrimināciju šādu aizliegto kritēriju dēļ – dzimums, invaliditāte, rase, etniskā piederība, sociālais stāvoklis, vecums, seksuālā orientācija. Vienlaikus Pētījumā tiek apskatīti arī piemēri par to, kā MI sistēmu izmantošana citu aizliegto kritēriju dēļ var radīt pozitīvu/negatīvu attieksmi iepriekš minētajās jomās.

Jāņem vērā, ka atsevišķās MI izmantošanas jomās, piemēram, kritiskā infrastruktūra, tiesvedība un demokrātiskie riski, uz šo brīdi pastāv maz prakses piemēri, un tie lielākoties nav tieši saistīti ar diskriminācijas riskiem. Ņemot vērā regulējuma un prakses attīstību, Pētījumā var tikt analizēti arī cita veida piemēri, kas tieši nav saistīti ar diskrimināciju, bet var atklāt MI izmantošanas prakses problēmjautājumus saistībā ar pamattiesību aizsardzību, kā arī regulējuma attīstības un piemērošanas aspektus konkrētajās jomās.

Šajā Pētījumā tiks analizēts MI regulējums saistībā ar izpētāmajām augsta riska jomām, norādot pozitīvos un negatīvos aspektus, kā arī likuma robus, kas var traucēt pamattiesību nodrošināšanu.