Arvaa kummalle Chat GPT ehdottaa isompaa palkkaa? Sairaanhoitajamiehelle vai -naiselle? Entä insinöörinaiselle- vai miehelle?
Vastaus: parempi palkankorotus kuuluu miehelle.
Teimme Ylessä pienen kokeen ja testasimme asiaa. Kysymys kysyttiin yksityisessä selaintilassa, joka ei paljasta tekoälylle käyttäjää. Testi tehtiin kahdella eri koneella. OpenAi:n Chat GPT suosi selvästi miestä.
Alla olevasta grafiikasta näet kysymykset ja tekoälyn vastaukset. Toisella tekoälyllä, Grokilla, eroja ei tullut esiin.
Tämä ei ollut yllätys.
Tekoälyjärjestelmät toistavat sukupuolistereotyyppiä ja syrjivät naisia, sanoo digitaalisesta kulttuurista väitellyt tohtori Anna Haverinen.
– Tekoälyt ovat vinoutuneita. Meillä on tutkimusnäyttöä siitä, että kaikki tämän hetkiset kielimallit on koulutettu tietyllä datalla, joka on rakenteellisesti vinoutunutta, Haverinen sanoo. Hän työskentelee Goforella johtavana tekoälymuotoilijana.
Vinoumat näkyvät arkisissa tilanteissa. Kielimallit kääntävät esimerkiksi lääkärin usein mieheksi ja sairaanhoitajan naiseksi, koska koulutusdata perustuu mieskeskeiseen aineistoon. Teknologia-alalla tekoälyn parissa työskentelee vain 30 prosenttia naisia, mikä syventää ongelmaa entisestään.
Syynä on osin se, että esimerkiksi englanninkielisissä kielimalleissa insinööri yhdistyy maskuliiniseen pronominiin ”he”, kun taas sairaanhoitaja feminiiniseen pronominiin ”she”.
Filosofi puolestaan oli yksi tyypillisimmistä esimerkeistä maskuliinisesta ammatista, muistuttaa puolestaan kognitiotieteilijä, tutkimusjohtaja Anna-Mari Wallenberg Helsingin yliopistosta.
Vastaavasti hoivaamiseen liittyvät verbit yhdistyvät naisiin, kun taas johtajuutta tai eteenpäin viemistä kuvaavat sanat liittyvät miehiin.
Aidemoc-tutkimushanketta johtava Wallenberg sanoo, että tekoäly ei ole syrjivämpi kuin yhteiskunta yleensä, mutta se paljastaa olemassa olevia ongelmia entistä räikeämpinä.
Vinoumia ei tehdä tahallaan, mutta ne ovat silti olemassa
Wallenbergin mukaan sukupuolittuneisuus ei ole useimmiten tietoinen valinta, vaan syntyy tuotantoketjun eri vaiheissa.
Vinoumaa saattaa pahentaa miesten yliedustus teknologia-alalla eli se, että miehet ovat yliedustettuna datan käsittelyssä, koodaamisessa ja suunnittelussa.
Lisäksi monissa kehittyvissä maissa naisilla ei ole pääsyä internetiin tai he ovat luku- ja kirjoitustaidottomia. Siksi he eivät edes tuota dataa kielimallien kouluttamiseen, Wallenberg muistuttaa.
Aihetta on tutkittu jonkin verran. Esimerkiksi konsulttiyhtiö Sia partnersin tutkimus toteaa, että kaikissa malleissa vinouma pyrki esiintyessään suosimaan miespuolisia muotoja, mikä näkyi korkeampina positiivisina ennustearvoina. Kielten välillä myös eroja, kertoo amerikkalaistutkimus.
Teknologiajätit irtisanoneet eettisiä tiimejä
Tilannetta ei paranna se, että suuret teknologiayhtiöt ovat kääntäneet selkänsä eettisyydelle, Goforen Haverinen sanoo.
Google, Meta ja Microsoft ovat 2020-luvulla joko irtisanoneet tai sijoittaneet uudelleen eettisyyttä käsitteleviä tiimejään.
– Tämä on jo selkeästi antanut viestin teknologia-alalle, että tämä ei ole prioriteetti. Yleensä eettisyys ei ole sellainen asia, jolla voidaan generoida hyvää bisnestä, Haverinen toteaa.
Tekoälyä kehittävät amerikkalaiset suuret teknologiayritykset eivät toimi ensisijaisesti eettisesti, vaan muiden periaatteiden ohjaamana, sanoo myös Wallenberg. Tasa-arvokysymykset eivät ole kovin tärkeitä.
– Niin kauan kuin taloudellisia intressejä ei palvele se, että tekoälyä kehitettäisiin kohti tietyntyyppisiä yhteiskuntamalleja, niin en oikein jaksa uskoa, että näin tulee tapahtumaan, hän sanoo.
Vakavimmat seuraukset lääketieteessä
Yksi iso ala, jossa sukupuolivinouma voi vaikuttaa jopa ihmisten terveyteen, on lääketiede. Kielimalliin sisältyvä sukupuoliolettama voi viedä diagnoosin pieleen.
Wallenberg näkee vakavimmat riskit juuri tilanteissa, joissa tekoälyä käytetään terveydenhuollossa tai oikeusjärjestelmässä. Kyse saattaa olla elämästä ja kuolemasta. Toisaalta kaikenlainen viranomaiskäyttö on ongelmallista, jos tekoäly on vinoutunut. Ihmiset eivät ole sen edessä tasa-arvoisia, vaikka pitäisi.
Vastaavia ongelmia on havaittu aiemmin luotonanto- ja rekrytointisovelluksissa, joissa algoritmit ovat suosineet tiettyjä sukupuolia tiettyjen kriteerien perusteella.
Tuore selvitys esimerkiksi kertoo, että finanssialalla naiset ovat vaarassa saada helpommin potkut, jos tekoäly saa päättää.
”Helposti diagnosoitava ongelma”
Wallenberg suhtautuu skeptisesti EU:n tekoälyasetuksen vaikuttavuuteen. Asetus velvoittaa etukäteen arvioimaan riskejä, mutta ei välttämättä estä syrjiviä järjestelmiä käytännössä.
– Tekoälyasetus ei ehkä asetuksena lopulta ole syrjinnän estämisasetus luonteeltaan, eikä se puutu siihen, mitä tapahtuu, jos joku tekoälyjärjestelmä syrjii, Wallenberg arvioi.
Wallenberg näkee ratkaisun kahdessa asiassa: teknologiakehityksessä ja käyttäjien kouluttamisessa.
– Tiedetään suurin piirtein ne tekijät, jotka vaikuttavat siihen, että kielimalleista tulee syrjiviä. Se on niin sanottu helposti diagnosoitava ongelma, ja sille olisi teknisesti tehtävissä aika paljonkin, hän sanoo.
Julkinen sektori korjaa puutteita omilla työkaluilla
Tekoälyn nopeassa kehityksessä ei Wallenbergin mukaan pysähdytä riittävästi pohtimaan teknologian eettisiä kysymyksiä ja yhteiskunnallisia vaikutuksia. Kehitystä ohjaa ensisijaisesti tehostamis- ja tuottavuuspuhe.
– Jos ajatellaan sitä, että esimerkiksi julkiseen hallintoon tai viranomaistyöhön tuotaisiin lisää algoritmeja, kehittämistyö pitäisi huolella aloittaa kansalaisten perusoikeuksien ja virkavastuiden toteuttamisen näkökulmasta, Wallenberg sanoo.
Goforen Haverinen kertoo korjaavansa työkseen amerikkalaisten teknologiajättien algoritmien puutteita. Gofore tekee projekteja juuri julkishallinnolle.
– Tekoälyn käyttö julkisella sektorilla ei ole pelkästään kielimalliratkaisuja, vaan siellä käytetään paljon muitakin teknologioita. Siellä on aina ihminen, joka tekee sen lopullisen päätöksen, Haverinen sanoo.
Käyttäjät yliarvioivat kykynsä
Wallenbergin mukaan ihmiset luottavat liikaa omaan kykyynsä tunnistaa tekoälyn tekemiä virheitä.
– Useimmat meistä keskivertokäyttäjistä räikeästi yliarvioivat kykynsä tunnistaa koneiden tekemiä virheitä, hän toteaa.
Tutkimustulosten mukaan jopa tekoälylukutaidon kehittyminen saattaa jopa lisätä yliluottamusta omaan arviointikykyyn.
Vähän niin kuin autonratissa: Suurin osa ihmisistä uskoo olevansa keskivertoa parempia ajajia. Usein heikkotaitoisten itseluottamus on korkein.
– Ihmiskunta ei ole koskaan lakannut hämmästyttämästä siinä, kuinka paljon kaikenlaisia väärinkäytöksiä se pystyy tuottamaan ja keksimään – riippumatta sukupuolesta, iästä tai taustasta. Tämä ei ole miesten erityispiirre, Wallenberg sanoo.