Etiikka

Chatbotin rakentamiseen ja jatkuvaan kouluttamiseen liittyvissä työvaiheissa syntyy luonnollisen kielen ymmärtämistä, tuottamista ja vuoropuhelukaavoja muodostavia malleja.

Edellä mainittujen mallien käyttöön liittyy aina myös eettisiä vastuukysymyksiä.  Näiden vastuukysymysten käsittely voi tapahtua lainsäädännön puitteissa ja tuomioistuimissa, mutta niitä voidaan huomioida myös organisaation toimintaa ohjaavissa eettisissä ohjeissa.

Alla on lueteltu chatbottien kehitystyössä huomioitavia eettisiä periaatteita. Suluissa oleva englanninkielinen termi auttaa kytkemään ko. periaatteen esim. EU:n aihetta koskevaan keskusteluun tai esim. GDPR-sääntelyyn.

1. Läpinäkyvyys (transparency)

   1. Tekoälyjärjestelmien toiminnan organisatorinen sekä kehittämistyössä käytettyjen menetelmien läpinäkyvyys, algoritmien läpinäkyvyys. Tämä on chatbotin testaus- ja käyttöönottovaiheessa tarpeellinen periaate. Työn organisointi ja järjestämistapa on erityisen tärkeää, jos chatbottia kehittää ulkoinen sopimuskumppani, mutta vastuun sisällöistä kantaa tilaaja.

2. Vastuullisuus (accountability/responsibility)

   1. Ihmisten ja tekoälyjärjestelmien kyky vastata annetuista neuvoista ja ennusteisiin pohjautuvista päätöksistä. Oleellista on tunnistaa virheistä ja odottamattomista seurauksista vastaavat tahot mallien luonnin yhteydessä syntyneestä dokumentaatiosta.

3. Reiluus (fairness/justice/equality)

   1. Järjestelmien kyky toimia tasapuolisesti ja vähentää tiedon ja kyvykkyyksien asymmetriaa. Tämä on chabot käyttöliittymän dialogisuunnittelun vaiheisiin keskeisesti liittyvä periaate.

4. Selitettävyys (explainability / accountability / XAI / Selko AI)

   1. Kyky selittää ja oikeuttaa päätökset järjestelmän käyttäjille. Esimerkiksi mihin perustuu että chatbot vastaa tietylle henkilölle tavalla X ja toiselle vastaavassa tilanteessa tavalla Y

5. Toimijuus / (actionable, human agency, citizen agency)

   1. Tekoäly tukee käyttäjän toimijuutta, eikä esim. vain lisää hallinnon läpinäkymättömyyttä.

6. Jäljitettävyys (traceability/explainability)

   1. Kyky jäljittää ja ymmärtää järjestelmän piirteitä sekä niiden lähtökohtia. Keskeinen asia huomioitavaksi silloin kun päätetään chatbot projektissa käytettävistä työvälineistä ja siitä kuinka suunnitteluprosessin aikana tehdyt valinnat dokumentoidaan.