Parlamentti hyväksyi keskiviikkona 13.3.2024 tekoälysäädöksen, jolla edistetään innovointia ja taataan, että tekoäly on turvallista ja perusoikeuksien mukaista.

Mepit hyväksyivät 534 puolesta, 46 vastaan ja 49 tyhjää asetuksen, josta oli päästy sopuun jäsenvaltioiden kanssa neuvotteluissa joulukuussa 2023.

Tavoitteena on suojella perusoikeuksia, demokratiaa, oikeusvaltioperiaatetta ja ympäristön kestävyyttä suuririskiseltä tekoälyltä, edistää innovointia ja tehdä unionista alan johtava toimija. Säännöissä vahvistetaan tekoälyä koskevat velvoitteet, jotka perustuvat sen mahdollisiin riskeihin ja vaikutustasoon.

Lingvistijuristit tarkistavat vielä asetuksen. Virallisesti se hyväksytään ennen vaalikauden loppua niin sanotussa oikaisumenettelyssä. Myös neuvoston on vielä annettava virallinen hyväksyntänsä.

Asetus tulee voimaan kahdenkymmenen päivän kuluttua siitä, kun se on julkaistu virallisessa lehdessä. Sitä sovelletaan kaikilta osin 24 kuukauden kuluttua sen voimaantulosta paitsi kun kyseessä ovat: kiellettyjä käytäntöjä koskevat kiellot, joita sovelletaan kuuden kuukauden kuluttua voimaantulosta, käytännesäännöt (yhdeksän kuukauden kuluttua voimaantulosta), yleiskäyttöisiä tekoälyjärjestelmiä ja hallintoa koskevat säännöt (12 kuukauden kuluttua voimaantulosta) ja suuririskisiä järjestelmiä koskevat velvoitteet (36 kuukautta).
 

• Lue lisää (Euroopan parlamentti 13.3.2024; myös asiakirjoja ja lisätietoa)
   

• Tekoälysäädös, neuvoston yleisnäkemys 6.12.2022
• Tekoälysäädös, komission ehdotus 14.4.2021
• Tekoälyä koskeva eurooppalainen lähestymistapa (Euroopan komissio)
• Euroopan digitaalinen tulevaisuus (taustatietoa)
• Elämäsi verkossa: miten EU tekee siitä helpompaa ja turvallisempaa? (digitarina)
• Tekoäly (taustatietoa)
• Tekoäly (Edilex-aineistoa)

Aiheesta aiemmin (EU:n neuvosto 9.12.2023)

Tekoälysäädös on lainsäädännön lippulaiva-aloite, jolla on mahdollisuudet edistää turvallisen ja luotettavan tekoälyn kehittämistä ja käyttöönottoa EU:n sisämarkkinoilla sekä yksityisten että julkisten toimijoiden keskuudessa. Päätarkoituksena on säännellä tekoälyä riskiperusteisella lähestymistavalla sen mukaisesti, miten se kykenee aiheuttamaan vahinkoa yhteiskunnalle: mitä suurempi riski, sitä tiukemmat säännöt. Lainsäädäntöehdotus on ensimmäinen laatuaan maailmassa. Siksi sillä voidaan asettaa maailmanlaajuinen normi tekoälyn sääntelylle muilla lainkäyttöalueilla, kuten yleisellä tietosuoja-asetuksella on tehty, ja siten edistää eurooppalaista lähestymistapaa teknologian sääntelyyn maailmanlaajuisesti.

Alustavan sopimuksen pääkohdat

Komission alkuperäiseen ehdotukseen verrattuna alustavan sopimuksen pääkohdat voidaan tiivistää seuraavasti:

• säännöt suurivaikutuksisille yleiskäyttöisille tekoälymalleille, jotka voivat aiheuttaa järjestelmäriskejä tulevaisuudessa, ja suuririskisille tekoälyjärjestelmille
• tarkistettu hallintojärjestelmä, jolla on jonkin verran täytäntöönpanovaltuuksia EU:n tasolla
• laajennettu kieltoluettelo, mutta lainvalvontaviranomaisten on mahdollista käyttää biometristä etätunnistusta julkisissa tiloissa suojatoimia soveltaen
• oikeuksien parempi suojelu velvoittamalla suuririskisten tekoälyjärjestelmien käyttöönottajat tekemään perusoikeuksia koskeva vaikutustenarviointi ennen tekoälyjärjestelmän käyttöönottoa

Tarkemmin ottaen alustava sopimus kattaa seuraavat tekijät:

Määritelmät ja soveltamisala

Jotta varmistetaan, että tekoälyjärjestelmän määritelmä sisältää riittävän selkeät kriteerit tekoälyn erottamiseksi yksinkertaisemmista ohjelmistojärjestelmistä, kompromissitekstissä määritelmä on yhdenmukaistettu OECD:n ehdottaman lähestymistavan kanssa.

Sovitussa tekstissä myös selvennetään, että asetusta ei sovelleta aloihin, jotka eivät kuulu EU:n lainsäädännön soveltamisalaan, eikä se saisi missään tapauksessa vaikuttaa jäsenmaiden toimivaltaan kansallisen turvallisuuden alalla tai minkään sellaisen tahon toimivaltaan, jolle on annettu tehtävä tällä alalla. Tekoälysäädöstä ei myöskään sovelleta järjestelmiin, joita käytetään ainoastaan sotilaallisiin tai puolustustarkoituksiin. Vastaavasti asetusta ei sovelleta tekoälyjärjestelmiin, joita käytetään ainoastaan tutkimus- ja innovointitarkoituksiin, eikä henkilöihin, jotka käyttävät tekoälyä muista kuin ammatillisista syistä.

Tekoälyjärjestelmien luokittelu suuririskisiksi ja kielletyt tekoälykäytännöt

Kompromissitekstissä säädetään uudesta horisontaalisesta suojelutasosta. Siihen kuuluu luokittelu suuririskiseksi, jotta voidaan varmistaa, että luokitteluun ei sisällytetä tekoälyjärjestelmiä, jotka eivät todennäköisesti aiheuttaisi vakavia perusoikeusloukkauksia tai muita merkittäviä riskejä. Tekoälyjärjestelmiin, joihin liittyy vain vähäinen riski, sovellettaisiin hyvin kevyitä avoimuusvelvoitteita, kuten sen ilmoittamista, että sisältö on tuotettu tekoälyjärjestelmällä, jotta käyttäjät voivat tehdä tietoon perustuvia päätöksiä niiden jatkokäytöstä.

Useille suuririskisille tekoälyjärjestelmille myönnettäisiin lupa päästä EU:n markkinoille, mutta niihin sovellettaisiin tiettyjä vaatimuksia ja velvoitteita. Lainsäätäjät ovat selkeyttäneet ja mukauttaneet vaatimuksia siten, että ne ovat teknisesti toteutettavampia ja sidosryhmien kannalta vähemmän raskaita noudattaa esimerkiksi tietojen laadun tai sellaisten teknisten asiakirjojen osalta, jotka pk-yritysten olisi laadittava osoittaakseen, että niiden suuririskiset tekoälyjärjestelmät ovat vaatimusten mukaisia.

Koska tekoälyjärjestelmiä kehitetään ja jaetaan monimutkaisten arvoketjujen kautta, tekstiä muutettiin niin, että selvennetään kyseisten ketjujen eri toimijoiden, erityisesti tekoälyjärjestelmien tarjoajien ja käyttäjien, vastuiden ja roolien jakoa. Tekstissä myös selvennetään tekoälysäädöksen mukaisten vastuiden ja muun lainsäädännön, kuten EU:n asiaankuuluvan tietosuoja- tai alakohtaisen lainsäädännön, nojalla jo olemassa olevien vastuiden välistä suhdetta.

Joidenkin tekoälyn käyttötarkoitusten osalta riskiä ei voida hyväksyä, ja siksi tällaiset järjestelmät kielletään EU:ssa. Sovitussa tekstissä kielletään esimerkiksi kognitiivinen käyttäytymisen manipulointi, kohdentamaton kasvokuvien haravointi internetistä tai valvontakamerakuvista, tunteentunnistus työpaikalla ja oppilaitoksissa, sosiaalinen pisteytys, biometrinen luokittelu arkaluonteisten tietojen, kuten seksuaalisen suuntautumisen tai uskonnollisen vakaumuksen, päättelemiseksi sekä jotkin yksilöihin kohdistuvan ennakoivan poliisitoiminnan tapaukset.

Lainvalvontaan liittyvät poikkeukset

Komission ehdotukseen tehtiin useita muutoksia tekoälyjärjestelmien käytöstä lainvalvontatarkoituksiin ottaen huomioon lainvalvontaviranomaisten erityispiirteet ja tarve säilyttää niiden kyky käyttää tekoälyä elintärkeässä työssään. Jollei asianmukaisista suojatoimista muuta johdu, näiden muutosten tarkoituksena on ottaa huomioon tarve kunnioittaa arkaluonteisten operatiivisten tietojen luottamuksellisuutta niiden toiminnan yhteydessä. Tekstiin lisättiin esimerkiksi kiireellinen menettely, jonka avulla lainvalvontaviranomaiset voivat kiireellisissä tapauksissa ottaa käyttöön suuririskisen tekoälyvälineen, joka ei ole läpäissyt vaatimustenmukaisuuden arviointimenettelyä. Käyttöön on kuitenkin otettu erityinen mekanismi sen varmistamiseksi, että perusoikeuksia suojellaan riittävästi tekoälyjärjestelmien mahdollisilta väärinkäytöksiltä.

Lisäksi mitä tulee reaaliaikaisten biometristen etätunnistusjärjestelmien käyttöön julkisissa tiloissa, tekstissä selvennetään tavoitteet, joiden yhteydessä tällainen käyttö on ehdottoman välttämätöntä lainvalvontatarkoituksissa ja joita varten lainvalvontaviranomaisten olisi näin ollen poikkeuksellisesti sallittava käyttää tällaisia järjestelmiä. Kompromissitekstissä säädetään lisäsuojatoimista ja rajoitetaan tällaiset poikkeukset tiettyjen rikosten uhreihin liittyviin tapauksiin, aitojen, nykyisten tai ennakoitavissa olevien uhkien, kuten terrori-iskujen, estämiseen sekä vakavimmista rikoksista epäiltyjen henkilöiden etsimiseen.

Yleiskäyttöiset tekoälyjärjestelmät ja perusmallit

Tekstiin on lisätty uusia säännöksiä kattamaan tilanteet, joissa tekoälyjärjestelmiä voidaan käyttää moniin erilaisiin tarkoituksiin (yleiskäyttöinen tekoäly) ja joissa yleiskäyttöinen tekoälyteknologia integroidaan toiseen suuririskiseen järjestelmään. Sovitussa tekstissä käsitellään myös yleiskäyttöisten tekoälyjärjestelmien erityistapauksia.

Lisäksi on sovittu erityisistä säännöistä, jotka koskevat perusmalleja, suuria järjestelmiä, jotka voivat suorittaa lukuisia erilaisia tehtäviä, kuten luoda videoita, tekstiä ja kuvia, ”keskustella” lateraalisesti, suorittaa laskentaa tai tuottaa tietokonekoodia. Sovitun tekstin mukaan perusmallien on täytettävä erityiset läpinäkyvyysvelvoitteet ennen markkinoille saattamista. Vaikutuksiltaan merkittäviä perusmalleja koskevat tiukemmat säännöt. Näitä ovat perusmallit, jotka on koulutettu suurella tietomäärällä ja joiden monimutkaisuus, valmiudet ja suorituskyky ovat selvästi keskimääräistä korkeammalla. Tämä voi aiheuttaa järjestelmäriskejä koko arvoketjussa.

Uusi ohjausrakenne

Yleiskäyttöisiä tekoälyjärjestelmiä koskevat uudet säännöt edellyttävät ilmiselvästi täytäntöönpanoa EU:n tasolla. Siksi komissioon perustetaan tekoälytoimisto, jonka tehtävä on valvoa edistyneimpiä tekoälymalleja, edistää standardien ja testauskäytäntöjen kehittämistä ja valvoa yhteisten sääntöjen noudattamista kaikissa jäsenmaissa. Riippumattomista asiantuntijoista koostuva tieteellinen paneeli antaa tekoälytoimistolle yleiskäyttöisiä tekoälyjärjestelmiä koskevaa neuvontaa ja osallistuu sellaisten menetelmien kehittämiseen, joilla arvioidaan perusmallien valmiuksia, neuvoo vaikutuksiltaan merkittävien perusmallien nimeämisessä ja käyttöönotossa sekä seuraa perusmalleihin liittyviä mahdollisia aineellisia turvallisuusriskejä.

Jäsenmaiden edustajista koostettava tekoälyneuvosto pysyy koordinointifoorumina ja komission neuvoa-antavana elimenä. Sen kautta jäsenmailla on tärkeä rooli asetuksen täytäntöönpanossa, myös laadittaessa perusmalleja koskevia käytännesääntöjä. Lisäksi perustetaan neuvoa-antava foorumi sidosryhmille (kuten teollisuuden edustajat, pk- ja startup-yritykset, kansalaisyhteiskunta ja tiedeyhteisö). Foorumi tarjoaa teknistä asiantuntemusta tekoälyneuvostolle.

Seuraamukset

Tekoälysäädöksen rikkomisesta määrättävät sakot määritettiin siten, että sakko on tietty prosenttiosuus rikkomiseen syyllistyneen yrityksen edellisen tilikauden vuotuisesta liikevaihdosta tai ennalta määrätty summa sen mukaan, kumpi näistä on suurempi. Sakko kiellettyjä tekoälysovelluksia koskevista rikkomuksista on 35 milj. € tai 7 %, tekoälysäädöksen velvoitteiden rikkomisesta 15 milj. € tai 3 % ja virheellisten tietojen toimittamisesta 7,5 milj. € tai 1,5 %. Sovitussa tekstissä määrätään kuitenkin oikeasuhteisemmista enimmäismääristä hallinnollisille sakoille, joita voidaan määrätä pk-yrityksille ja startup-yrityksille, mikäli ne rikkovat tekoälysäädöksen säännöksiä.

Kompromissitekstissä tehdään myös selväksi, että luonnollinen henkilö tai oikeushenkilö voi tehdä valituksen asianomaiselle markkinavalvontaviranomaiselle tekoälysäädöksen noudattamatta jättämisestä ja odottaa, että valitus käsitellään kyseisen viranomaisen erityisten menettelyjen mukaisesti.

Läpinäkyvyys ja perusoikeuksien suojelu

Sovitun tekstin mukaan on tehtävä perusoikeuksia koskeva vaikutustenarviointi ennen kuin suuririskinen tekoälyjärjestelmä saatetaan markkinoille. Tekstissä on myös säännöksiä, joilla lisätään läpinäkyvyyttä käytettäessä suuririskisiä tekoälyjärjestelmiä. Joitain komission ehdotuksen säännöksiä on erityisesti muutettu osoittamaan, että suuririskisten tekoälyjärjestelmien viranomaiskäyttäjien on myös rekisteröidyttävä suuririskisiä tekoälyjärjestelmiä koskevaan EU:n tietokantaan. Lisäksi uusissa säännöksissä korostetaan tunteentunnistusjärjestelmän käyttäjien velvoitetta ilmoittaa luonnollisille henkilöille, kun nämä altistuvat tällaiselle järjestelmälle.

Innovointia tukevat toimet

Koska tavoitteena on luoda innovaatioystävällisempi oikeudellinen kehys ja jotta voidaan edistää näyttöön perustuvaa sääntelyyn liittyvää oppimista, innovointia tukevia toimia koskevia säännöksiä on muutettu merkittävästi komission ehdotukseen verrattuna.

Erityisesti on selvennetty, että tekoälyn sääntelyn testiympäristöissä, joiden odotetaan tarjoavan valvotun ympäristön innovatiivisten tekoälyjärjestelmien kehittämistä, testausta ja validointia varten, olisi voitava testata innovatiivisia tekoälyjärjestelmiä myös todellisissa olosuhteissa. Lisäksi tekstiin on lisätty uusia säännöksiä, joilla mahdollistetaan tekoälyjärjestelmien todellisissa olosuhteissa tapahtuva testaus tietyin edellytyksin ja suojatoimin. Jotta voitaisiin keventää pienten yritysten hallinnollista taakkaa, sovittuun tekstiin sisältyy luettelo toimista tällaisten toimijoiden tukemiseksi. Siinä säädetään myös joistain rajoitetuista ja selkeästi määritetyistä poikkeuksista.

Voimaantulo

Sovitun tekstin mukaan tekoälysäädöstä sovelletaan kahden vuoden kuluttua sen voimaantulosta, lukuun ottamatta joitakin erityissäännöksiä koskevia poikkeuksia.

Taustatietoa

Huhtikuussa 2021 esitetty komission ehdotus on keskeinen osa EU:n politiikkaa, jolla edistetään perusoikeuksia kunnioittavan turvallisen ja lainmukaisen tekoälyn kehittämistä ja käyttöönottoa sisämarkkinoilla.

Ehdotuksessa noudatetaan riskiperusteista lähestymistapaa, ja siinä vahvistetaan tekoälylle yhtenäinen horisontaalinen oikeudellinen kehys, jolla pyritään takaamaan oikeusvarmuus. Asetusehdotuksella pyritään edistämään tekoälyyn tehtäviä investointeja ja innovointia, tehostamaan hallinnointia ja voimassa olevan perusoikeuksia ja turvallisuutta koskevan lainsäädännön tehokasta täytäntöönpanoa sekä helpottamaan tekoälysovellusten sisämarkkinoiden kehittämistä. Se liittyy läheisesti muihin aloitteisiin, kuten koordinoituun tekoälysuunnitelmaan, jolla pyritään nopeuttamaan tekoälyyn tehtäviä investointeja Euroopassa. Neuvosto pääsi 6. joulukuuta 2022 yhteisymmärrykseen asiaa koskevasta yleisnäkemyksestä (neuvotteluvaltuutus) ja aloitti toimielintenväliset neuvottelut Euroopan parlamentin kanssa (”kolmikantaneuvottelut”) kesäkuun 2023 puolivälissä.
 

---

Kirjoita Edilexiin
Mikäli Sinulla on ajankohtainen juridinen aihe josta haluaisit kirjoittaa artikkelin tai oikeustapauskommentin Lakikirjastoon tai vaikkapa lyhyen kolumnin Vierashuoneeseen, ota yhteyttä Edilex-toimitukseen.
Lue lisää

Juridiikan kirjat, koulutukset ja verkkopalvelu