Euroopan parlamentin jäsenet ovat päässeet Eurooan neuvoston kanssa poliittiseen sopimukseen lakiehdotuksesta, jolla varmistetaan, että tekoäly on Euroopassa turvallista, että siinä kunnioitetaan perusoikeuksia ja demokratiaa ja että yritykset voivat menestyä ja laajentua.
Ehdotus lyhyesti:
-Lainvalvontaviranomaisten biometristen tunnistusjärjestelmien käyttöä koskevat rajoitukset.
-Kielletään sosiaalinen pisteytys ja tekoäly, jota käytetään käyttäjien haavoittuvuuksien manipulointiin tai hyväksikäyttöön.
-Kuluttajien oikeus tehdä valituksia ja saada mielekkäitä selityksiä.
-Sakot, jotka vaihtelevat 35 miljoonasta eurosta tai 7 prosentista maailmanlaajuisesta liikevaihdosta 7,5 miljoonaan euroon tai 1,5 prosenttiin liikevaihdosta.
Parlamentin ja neuvoston neuvottelijat pääsivät perjantaina alustavaan yhteisymmärrykseen tekoälylaista. Asetuksella pyritään varmistamaan, että perusoikeudet, demokratia, oikeusvaltio ja ympäristön kestävyys suojataan riskialttiilta tekoälyltä, samalla kun edistetään innovointia ja tehdään Euroopasta alan johtava toimija. Säännöissä asetetaan tekoälyä koskevia velvoitteita, jotka perustuvat sen mahdollisiin riskeihin ja vaikutusten tasoon.
Kielletyt sovellukset
Koska tietyt tekoälysovellukset saattavat uhata kansalaisten oikeuksia ja demokratiaa, lainsäätäjät sopivat, että ne kielletään:
-biometriset luokittelujärjestelmät, joissa käytetään arkaluonteisia ominaisuuksia (esim. poliittinen, uskonnollinen, filosofinen vakaumus, seksuaalinen suuntautuminen, rotu);
-kasvokuvien kohdennukseton kerääminen internetistä tai valvontakamerakuvista kasvontunnistustietokantojen luomiseksi;
-tunnetunnistus työpaikoilla ja oppilaitoksissa;
-sosiaaliseen käyttäytymiseen tai henkilökohtaisiin ominaisuuksiin perustuva sosiaalinen pisteytys;
-tekoälyjärjestelmät, jotka manipuloivat ihmisen käyttäytymistä hänen vapaan tahtonsa kiertämiseksi;
-tekoäly, jota käytetään ihmisten haavoittuvuuden hyödyntämiseen (iän, vammaisuuden, sosiaalisen tai taloudellisen tilanteen vuoksi).
Lainvalvontaan liittyvät poikkeukset
Neuvottelijat sopivat joukosta suojatoimia ja suppeista poikkeuksista, jotka koskevat biometristen tunnistusjärjestelmien käyttöä julkisesti saatavilla olevissa tiloissa lainvalvontatarkoituksiin, edellyttäen, että siihen on saatu ennakkolupa tuomioistuimelta, ja tiukasti määriteltyjen rikosluetteloiden osalta. "Jälkikäteistä" RBI-tunnistusta käytettäisiin tiukasti sellaisen henkilön kohdennetussa etsinnässä, joka on tuomittu tai jonka epäillään syyllistyneen vakavaan rikokseen.
"Reaaliaikaisen" RBI:n käyttöön sovellettaisiin tiukkoja ehtoja, ja sen käyttö olisi ajallisesti ja paikallisesti rajoitettua seuraaviin tarkoituksiin:
-uhrien kohdennetut etsinnät (sieppaukset, ihmiskauppa, seksuaalinen hyväksikäyttö),
erityisen ja välittömän terroriuhan torjuntaan tai sellaisen henkilön paikallistaminen tai tunnistaminen, jonka epäillään syyllistyneen johonkin asetuksessa mainittuun erityiseen rikokseen (esim. terrorismi, ihmiskauppa, seksuaalinen hyväksikäyttö, murha, sieppaus, raiskaus, aseellinen ryöstö, osallistuminen rikollisjärjestöön, ympäristörikollisuus).
Suuren riskin järjestelmiä koskevat velvoitteet
Korkean riskin tekoälyjärjestelmille (koska ne voivat aiheuttaa merkittävää haittaa terveydelle, turvallisuudelle, perusoikeuksille, ympäristölle, demokratialle ja oikeusvaltion periaatteille) on sovittu selkeistä velvoitteista. Euroopan parlamentin jäsenet onnistuivat sisällyttämään muihin vaatimuksiin pakollisen perusoikeusvaikutusten arvioinnin, jota sovelletaan myös vakuutus- ja pankkialalla. Myös tekoälyjärjestelmät, joita käytetään vaikuttamaan vaalien tuloksiin ja äänestäjien käyttäytymiseen, on luokiteltu korkean riskin järjestelmiksi. Kansalaisilla on oikeus tehdä valituksia tekoälyjärjestelmistä ja saada selvityksiä korkean riskin tekoälyjärjestelmiin perustuvista päätöksistä, jotka vaikuttavat heidän oikeuksiinsa.
Yleisiä tekoälyjärjestelmiä koskevat suojakaiteet
Koska tekoälyjärjestelmät voivat suorittaa monenlaisia tehtäviä ja niiden valmiudet laajenevat nopeasti, sovittiin, että yleiskäyttöisten tekoälyjärjestelmien ja niiden perustana olevien GPAI-mallien on noudatettava avoimuusvaatimuksia parlamentin alkuperäisen ehdotuksen mukaisesti. Näihin kuuluvat teknisten asiakirjojen laatiminen, EU:n tekijänoikeuslainsäädännön noudattaminen ja yksityiskohtaisten yhteenvetojen levittäminen koulutuksessa käytetystä sisällöstä.
Parlamentin neuvottelijat onnistuivat saamaan aikaan tiukemmat velvoitteet sellaisten GPAI-mallien osalta, joihin liittyy järjestelmäriski ja joilla on suuri vaikutus. Jos nämä mallit täyttävät tietyt kriteerit, niiden on suoritettava mallien arviointeja, arvioitava ja lievennettävä järjestelmäriskejä, tehtävä vastakohtaisia testejä, raportoitava komissiolle vakavista vaaratilanteista, varmistettava kyberturvallisuus ja raportoitava energiatehokkuudestaan. Euroopan parlamentin jäsenet vaativat myös, että siihen asti, kunnes yhdenmukaistetut EU-standardit julkaistaan, GPAI-yritykset, joilla on järjestelmäriski, voivat tukeutua käytännesääntöihin asetuksen noudattamiseksi.
Toimenpiteet innovoinnin ja pk-yritysten tukemiseksi
Euroopan parlamentin jäsenet halusivat varmistaa, että yritykset, erityisesti pk-yritykset, voivat kehittää tekoälyratkaisuja ilman, että arvoketjua valvovat teollisuusjätit aiheettomasti painostavat. Tätä varten sopimuksessa edistetään niin sanottuja sääntelyn hiekkalaatikoita ja reaalimaailman testausta, joita kansalliset viranomaiset perustavat innovatiivisen tekoälyn kehittämiseksi ja kouluttamiseksi ennen markkinoille saattamista.
Seuraamukset ja voimaantulo
Sääntöjen noudattamatta jättäminen voi johtaa sakkoihin, jotka vaihtelevat 35 miljoonasta eurosta tai 7 prosentista maailmanlaajuista liikevaihtoa 7,5 miljoonaan euroon tai 1,5 prosenttiin liikevaihdosta rikkomuksesta ja yrityksen koosta riippuen.
Seuraavat vaiheet
Parlamentin ja neuvoston on nyt hyväksyttävä sovittu teksti virallisesti, jotta siitä tulee EU:n lainsäädäntöä. Parlamentin sisämarkkina- ja kansalaisvapauksien valiokunnat äänestävät sopimuksesta tulevassa kokouksessa.