Euroopoan neuvosto ja parlamentti ovat sopineet maailman ensimmäisistä tekoälyä koskevista säännöistä.
Kolmen päivän "maratonneuvottelujen" jälkeen neuvoston puheenjohtajavaltio ja Euroopan parlamentin neuvottelijat ovat päässeet alustavaan yhteisymmärrykseen ehdotuksesta tekoälyä koskeviksi yhdenmukaistetuiksi säännöiksi eli niin sanotusta tekoälysäädöksestä .

Asetusehdotuksella pyritään varmistamaan, että Euroopan markkinoille saatetut ja EU:ssa käytettävät tekoälyjärjestelmät ovat turvallisia ja että niissä kunnioitetaan perusoikeuksia ja EU:n arvoja. Tämän käänteentekevän ehdotuksen tavoitteena on myös edistää tekoälyyn liittyviä investointeja ja innovointia Euroopassa.


Konkreettisemmin väliaikainen sopimus kattaa seuraavat näkökohdat:

Määritelmät ja soveltamisala


Sen varmistamiseksi, että tekoälyjärjestelmän määritelmä tarjoaa riittävän selkeät kriteerit tekoälyn erottamiseksi yksinkertaisemmista ohjelmistojärjestelmistä, kompromissisopimuksessa määritelmä yhdenmukaistetaan OECD:n ehdottaman lähestymistavan kanssa.

Väliaikaisessa sopimuksessa selvennetään myös, että asetusta ei sovelleta EU:n lainsäädännön soveltamisalan ulkopuolisiin aloihin, eikä sen pitäisi missään tapauksessa vaikuttaa jäsenvaltioiden toimivaltaan kansallisen turvallisuuden alalla eikä minkään yksikön toimivaltaan, jolle on uskottu tehtäviä tällä alalla. Lisäksi tekoälysäädöstä ei sovelleta järjestelmiin, joita käytetään yksinomaan sotilaallisiin tai puolustustarkoituksiin. Sopimuksen mukaan asetusta ei myöskään sovellettaisi tekoälyjärjestelmiin, joita käytetään yksinomaan tutkimus- ja innovointitarkoituksiin, tai henkilöihin, jotka käyttävät tekoälyä muihin kuin ammatillisiin tarkoituksiin.

Tekoälyjärjestelmien luokittelu korkean riskin järjestelmiksi ja kielletyt tekoälykäytännöt
Kompromissisopimuksessa määrätään horisontaalisesta suojakerroksesta, johon kuuluu korkean riskin luokittelu, jotta varmistetaan, että tekoälyjärjestelmiä, jotka eivät todennäköisesti aiheuta vakavia perusoikeusloukkauksia tai muita merkittäviä riskejä, ei oteta mukaan. Tekoälyjärjestelmiin, jotka aiheuttavat vain vähäisen riskin, sovellettaisiin hyvin kevyitä avoimuusvelvoitteita, esimerkiksi ilmoitus siitä, että sisältö on tekoälyn tuottamaa, jotta käyttäjät voivat tehdä tietoon perustuvia päätöksiä jatkokäytöstä.

Laaja valikoima korkean riskin tekoälyjärjestelmiä sallittaisiin, mutta niihin sovellettaisiin tiettyjä vaatimuksia ja velvoitteita, jotta ne pääsisivät EU:n markkinoille. Lainsäätäjät ovat selventäneet ja mukauttaneet näitä vaatimuksia siten, että ne ovat teknisesti toteutettavissa ja sidosryhmien kannalta vähemmän raskaita noudattaa, esimerkiksi tietojen laadun osalta tai teknisten asiakirjojen osalta, jotka pk-yritysten olisi laadittava osoittaakseen, että niiden riskialttiit tekoälyjärjestelmät täyttävät vaatimukset.

Koska tekoälyjärjestelmiä kehitetään ja levitetään monimutkaisten arvoketjujen kautta, kompromissisopimukseen sisältyy muutoksia, joilla selkeytetään vastuunjakoa ja rooleja näiden ketjujen eri toimijoille, erityisesti tekoälyjärjestelmien tarjoajille ja käyttäjille. Sopimuksessa selvennetään myös tekoälylain mukaisten vastuiden suhdetta vastuisiin, joita on jo olemassa muun lainsäädännön, kuten EU:n asiaa koskevan tietosuojalainsäädännön tai alakohtaisen lainsäädännön nojalla.

Joidenkin tekoälyn käyttötapojen osalta riskiä ei voida hyväksyä, ja siksi nämä järjestelmät kielletään EU:ssa. Väliaikaisessa sopimuksessa kielletään esimerkiksi kognitiivinen käyttäytymisen manipulointi , kasvokuvien kohdentamaton kaapiminen internetistä tai valvontakamerakuvista, tunteiden tunnistaminen työpaikoilla ja oppilaitoksissa, sosiaalinen pisteytys , biometrinen luokittelu arkaluonteisten tietojen, kuten seksuaalisen suuntautumisen tai uskonnollisen vakaumuksen, päättelemiseksi sekä tietyt tapaukset, joissa poliisit käyttävät ennakoivaa poliisitoimintaa yksilöiden osalta.

Lainvalvontaviranomaisten poikkeukset
Lainvalvontaviranomaisten erityispiirteet ja tarve säilyttää niiden mahdollisuudet käyttää tekoälyä elintärkeässä työssään huomioon ottaen komission ehdotukseen sovittiin useista muutoksista, jotka koskevat tekoälyjärjestelmien käyttöä lainvalvontatarkoituksiin. Näillä muutoksilla on tarkoitus ottaa huomioon tarve kunnioittaa arkaluonteisten operatiivisten tietojen luottamuksellisuutta niiden toiminnan yhteydessä, jollei asianmukaisista suojatoimista muuta johdu. Esimerkiksi otettiin käyttöön kiireellinen menettely, jonka avulla lainvalvontaviranomaiset voivat kiireellisissä tapauksissa ottaa käyttöön korkean riskin tekoälytyökalun, joka ei ole läpäissyt vaatimustenmukaisuuden arviointimenettelyä. On kuitenkin otettu käyttöön myös erityinen mekanismi, jolla varmistetaan, että perusoikeuksia suojellaan riittävästi tekoälyjärjestelmien mahdolliselta väärinkäytöltä.

Mitä tulee reaaliaikaisten biometristen etätunnistusjärjestelmien käyttöön julkisesti käytettävissä olevissa tiloissa, väliaikaisessa sopimuksessa selvennetään tavoitteita, joiden osalta tällainen käyttö on ehdottoman välttämätöntä lainvalvontatarkoituksiin ja joiden osalta lainvalvontaviranomaisten olisi sen vuoksi poikkeuksellisesti sallittava tällaisten järjestelmien käyttö. Kompromissisopimuksessa määrätään lisätakeista ja rajoitetaan nämä poikkeukset koskemaan tiettyjen rikosten uhreja, todellisten, nykyisten tai ennakoitavissa olevien uhkien, kuten terrori-iskujen, torjuntaa ja vakavimmista rikoksista epäiltyjen henkilöiden etsintöjä.

Yleiskäyttöiset tekoälyjärjestelmät ja perusmallit
Uusia säännöksiä on lisätty, jotta voidaan ottaa huomioon tilanteet, joissa tekoälyjärjestelmiä voidaan käyttää moniin eri tarkoituksiin ( yleiskäyttöinen tekoäly ) ja joissa yleiskäyttöinen tekoälyteknologia integroidaan myöhemmin johonkin toiseen korkean riskin järjestelmään. Väliaikaisessa sopimuksessa käsitellään myös yleiskäyttöisten tekoälyjärjestelmien (GPAI) erityistapauksia.

Erityissäännöt on sovittu myös perusmalleille , suurille järjestelmille, jotka kykenevät suorittamaan pätevästi monenlaisia erityyppisiä tehtäviä, kuten videon, tekstin, kuvien, sivukielisen keskustelun, tietojenkäsittelyn tai tietokonekoodin tuottamisen. Väliaikaisen sopimuksen mukaan perusmallien on täytettävä tietyt avoimuusvelvoitteet ennen niiden markkinoille saattamista. Vaikutusvaltaisia säätiömalleja varten otettiin käyttöön tiukempi järjestelmä. Nämä ovat perustamismalleja, jotka on koulutettu suurilla tietomäärillä ja joiden monimutkaisuus, valmiudet ja suorituskyky ovat huomattavasti keskimääräistä korkeammat ja jotka voivat levittää järjestelmäriskejä pitkin arvoketjua.

Uusi hallintorakenne
GPAI-malleja koskevien uusien sääntöjen ja niiden ilmeisen EU-tason täytäntöönpanon valvonnan tarpeen vuoksi komission yhteyteen on perustettu tekoälyvirasto, jonka tehtävänä on valvoa näitä edistyneimpiä tekoälymalleja, edistää standardien ja testauskäytäntöjen kehittämistä ja valvoa yhteisten sääntöjen noudattamista kaikissa jäsenvaltioissa. Riippumattomista asiantuntijoista koostuva tieteellinen paneeli neuvoo tekoälyvirastoa GPAI-malleista osallistumalla perustamismallien valmiuksien arviointimenetelmien kehittämiseen, antamalla neuvoja vaikuttavien perustamismallien nimeämisestä ja syntymisestä sekä seuraamalla perustamismalleihin liittyviä mahdollisia aineellisia turvallisuusriskejä.

AI-lautakunta, johon kuuluisivat myös jäsenvaltioiden edustajat, toimii jatkossakin koordinointifoorumina ja komission neuvoa-antavana elimenä, ja se antaa jäsenvaltioille tärkeän roolin asetuksen täytäntöönpanossa, mukaan luettuna perustamismalleja koskevien käytännesääntöjen suunnittelu. Lisäksi perustetaan neuvoa-antava foorumi sidosryhmille, kuten teollisuuden edustajille, pk-yrityksille, start-up-yrityksille, kansalaisyhteiskunnalle ja korkeakouluille, joka tarjoaa teknistä asiantuntemusta tekoälylautakunnalle.

Seuraamukset
Tekoälylain rikkomisesta määrättävät sakot vahvistettiin prosenttiosuutena rikkomuksen tehneen yrityksen edellisen tilikauden maailmanlaajuisesta vuosiliikevaihdosta tai ennalta määritellystä määrästä sen mukaan, kumpi niistä on suurempi. Tämä olisi 35 miljoonaa euroa eli 7 prosenttia kiellettyjen tekoälysovellusten rikkomisesta, 15 miljoonaa euroa eli 3 prosenttia tekoälylain velvoitteiden rikkomisesta ja 7,5 miljoonaa euroa eli 1,5 prosenttia virheellisten tietojen antamisesta. Väliaikaisessa sopimuksessa säädetään kuitenkin oikeasuhteisemmista enimmäismääristä pk-yrityksille ja uusille yrityksille määrättäville hallinnollisille sakoille, jos tekoälylain säännöksiä rikotaan.

Kompromissisopimuksessa tehdään myös selväksi, että luonnollinen henkilö tai oikeushenkilö voi tehdä asianomaiselle markkinavalvontaviranomaiselle valituksen tekoälylain noudattamatta jättämisestä ja odottaa, että tällainen valitus käsitellään kyseisen viranomaisen erityismenettelyjen mukaisesti.

Avoimuus ja perusoikeuksien suojelu
Väliaikaisessa sopimuksessa määrätään perusoikeusvaikutusten arvioinnista ennen kuin käyttäjät saattavat markkinoille korkean riskin AI-järjestelmän. Väliaikaisessa sopimuksessa määrätään myös avoimuuden lisäämisestä riskialttiiden tekoälyjärjestelmien käytön osalta. Joitakin komission ehdotuksen määräyksiä on muutettu siten, että tiettyjen riskialttiiden tekoälyjärjestelmien käyttäjien, jotka ovat julkisyhteisöjä, on myös rekisteröidyttävä riskialttiita tekoälyjärjestelmiä koskevaan EU:n tietokantaan. Lisäksi äskettäin lisätyissä säännöksissä korostetaan tunnetunnistusjärjestelmän käyttäjien velvollisuutta ilmoittaa luonnollisille henkilöille, jos he ovat alttiina tällaiselle järjestelmälle.

Innovaatiota tukevat toimenpiteet
Innovaatiomyönteisemmän oikeudellisen kehyksen luomiseksi ja näyttöön perustuvan sääntelyn oppimisen edistämiseksi innovointia tukevia toimenpiteitä koskevia säännöksiä on muutettu huomattavasti komission ehdotukseen verrattuna.

Erityisesti on selvennetty, että tekoälyä koskevan sääntelyn hiekkalaatikoilla , joiden on tarkoitus luoda valvottu ympäristö innovatiivisten tekoälyjärjestelmien kehittämistä, testausta ja validointia varten, olisi myös voitava testata innovatiivisia tekoälyjärjestelmiä todellisissa olosuhteissa. Lisäksi on lisätty uusia säännöksiä, jotka mahdollistavat tekoälyjärjestelmien testaamisen todellisissa olosuhteissa tietyin edellytyksin ja suojatoimin. Pienempien yritysten hallinnollisen taakan keventämiseksi väliaikaiseen sopimukseen sisältyy luettelo toimista, jotka on toteutettava tällaisten toimijoiden tukemiseksi, ja siinä säädetään joistakin rajoitetuista ja selkeästi määritellyistä poikkeuksista.

Voimaantulo
Väliaikaisessa sopimuksessa määrätään, että lintuinfluenssasäädöstä olisi sovellettava kahden vuoden kuluttua sen voimaantulosta, lukuun ottamatta eräitä erityissäännöksiä koskevia poikkeuksia.

Seuraavat vaiheet
Tänään saavutetun väliaikaisen yhteisymmärryksen jälkeen työtä jatketaan teknisellä tasolla tulevina viikkoina uuden asetuksen yksityiskohtien viimeistelemiseksi. Puheenjohtajavaltio toimittaa kompromissitekstin jäsenvaltioiden edustajien (Coreper) hyväksyttäväksi, kun tämä työ on saatu päätökseen.

Molempien toimielinten on vahvistettava koko teksti, ja sitä on tarkistettava oikeudellis-kielellisesti ennen kuin lainsäätäjät voivat hyväksyä sen virallisesti.

Taustatiedot
Komission huhtikuussa 2021 esittämä ehdotus on keskeinen osa EU:n politiikkaa, jolla edistetään perusoikeuksia kunnioittavan turvallisen ja laillisen tekoälyn kehittämistä ja käyttöönottoa sisämarkkinoilla.

Ehdotuksessa noudatetaan riskiperusteista lähestymistapaa, ja siinä vahvistetaan tekoälyä koskeva yhtenäinen, horisontaalinen oikeudellinen kehys, jolla pyritään varmistamaan oikeusvarmuus. Asetusehdotuksella pyritään edistämään tekoälyyn tehtäviä investointeja ja innovointia, parantamaan hallintoa ja perusoikeuksia ja turvallisuutta koskevan voimassa olevan lainsäädännön tehokasta täytäntöönpanoa sekä helpottamaan tekoälysovellusten yhtenäismarkkinoiden kehittämistä. Se kulkee käsi kädessä muiden aloitteiden kanssa, kuten tekoälyä koskevan koordinoidun suunnitelman kanssa, jolla pyritään nopeuttamaan tekoälyyn tehtäviä investointeja Euroopassa. Neuvosto pääsi 6. joulukuuta 2022 yhteisymmärrykseen tätä asiaa koskevasta yleisnäkemyksestä (neuvotteluvaltuudet) ja aloitti toimielinten väliset neuvottelut Euroopan parlamentin kanssa ("kolmikantaneuvottelut") kesäkuun 2023 puolivälissä.