Turvallisen tekoälyjärjestelmän toteuttaminen edellyttää useiden eri näkökulmien huomioimisen suunnittelussa ja toteutuksessa. Alla olevassa taulukossa on esitetty tärkeimmät turvallisen järjestelmän vaatimukset sekä ohjeita turvallisuuden lisäämiseksi.
Taulukko 1: Vaatimukset turvalliselle tekoälyjärjestelmälle
Vaatimus | Ohjeita |
---|---|
Järjestelmä huomioi tietoturvan ja tietosuojan | Varmista, että luottamus, eheys, saatavuus -periaatteet toteutuvat.
Dataan on pääsy vain oikeilla henkilöillä.
Tiedon keruussa ja tallentamisessa noudatetaan lainsäädäntöä, erityisesti tietosuoja-asetusta. |
Järjestelmä toteuttaa kansalaisten perusoikeudet | Älykkäät järjestelmät ja laitteet kohtelevat kaikkia kansalaisia lainmukaisesti, kenenkään oikeuksia vaarantamatta.
Hankeen valmisteluissa on perehdyttävä datan ja tekoälyn hyödyntämisen kannalta relevanttiin lainsäädäntöön. |
Järjestelmä on turvallinen käyttäjille ja sen vaikutuspiirissä oleville | Älykkäät järjestelmät ja laitteet eivät aiheuta ihmisille vaaraa tai riskejä. Tämä koskee erityisesti kriittistä infrastruktuuria esim. liikenne.
Hankkeessa suunnitellaan ja toteutetaan toiminnan laadunvarmistuksen prosessit. |
Ratkaisu on pitkällä aikavälillä eettisesti kestävä | Hankkeessa varmistetaan eettisten periaatteiden huomiointi kaikissa vaiheissa.
Älykkäiden järjestelmien toteutuksessa huomioidaan myös pitkän aikavälin vaikutukset yhteiskuntaan, ja tavoitellaan positiivisia hyötyjä. |
Lisätietoja tietoturvasta ja tietosuojasta löytyy turvallisen sovelluskehityksen käsikirjasta (2), Virta-arkkitehtuurista (3), sekä EU:n yleisestä tietosuoja-asetuksesta (4).
Lisätietoa tekoälyyn liittyvästä lainsäädännöstä löytyy EU:n ehdotuksesta tekoälyasetukseksi (5). Lisätietoa eettisen tekoälyn toteuttamiseen löytyy EU:n luotettavan tekoälyn eettisistä ohjeista (6).