Pohjois-Savon hyvinvointialueen lääkärit pelkäävät jopa potilasturvallisuuden vaarantuvan käytössä olevan automaattisen puheentunnistuksen vuoksi.
Terveyskeskuslääkäri Keijo Eskolan mukaan lääkäreiden saneluja tekstiksi purkava tekoälyohjelma on tuottanut virheellistä tekstiä potilaista.
Eskola kertoo esimerkin, joka olisi voinut johtaa vakaviin seurauksiin, jos lääkäri ei olisi huomannut virhettä.
Hän oli sanellut potilaan lääkemääräykseksi 25 milligrammaa. Puheentunnistusjärjestelmä oli kirjoittanut sen auki numeroina 2, 0 ja 5 milligrammaa.
– Lääkeaineesta riippuen tämä olisi joko turvallista tai hyvin vaarallista, toteaa Eskola, joka toimii Julkisalan koulutettujen neuvottelujärjestön JUKOn varapääluottamusedustajana.
Eskolan kokemuksen mukaan puheentunnistus jättää helposti pois myös ei-sanan.
– Kollega oli sanellut, että ”potilaalla ei tuumoria aivoissa”. Tekoäly kirjoitti: ”potilaalla tuumori aivoissa”.
Järjestelmä ei tunnista myöskään tiettyjä erityisalojen vaikeimpia sanoja, eikä kaikkia ihmisten nimiä tai osoitteita.
Puolen vuoden aikana viisi vaaratilannetta
Pohjois-Savon hyvinvointialue myöntää tekoälyn puutteet.
Tekoälypohjainen puheentunnistus on aiheuttanut puolessa vuodessa viisi vaaratapahtumailmoitusta eli virheilmoitusta, jotka eivät ole olleet vakavia. Syy on ollut, että tekstissä on ollut lause, jota järjestelmä ei ole täysin ymmärtänyt.
– Mutta mitään vakavaa potilasturvallisuuteen liittyvää vaaratilannetta ei ole ollut, Pohjois-Savon hyvinvointialueen johtaja Antti Hedman sanoo.
Hyvinvointialue irtisanoi alkuvuodesta kymmeniä sihteereitä ja tekstinkäsittelijöitä, jotka aiemmin purkivat lääkäreiden saneluja tekstiksi.
Lääkäreiden vastuu on lisääntynyt
Tekoälyn käyttö potilastyössä on lisännyt lääkäreiden työmäärää.
Eskolan mukaan lääkäreiden psyykkinen kuormittuneisuus on sen vuoksi lisääntynyt.
– Se voi lisätä myös riskiä tehdä virheitä potilastyössä.
Lääkärit ovat lain mukaan vastuussa tekstien oikeellisuudesta.
Potilasturvallisuudelle on tärkeää, että tekstit ovat oikeellisia.
– Se on tärkeää lääkäreiden välisen viestinnän onnistumisen kannalta ja etuuksista päätettäessä, jotta virheet eivät kertaudu, Eskola sanoo.
Pohjois-Savon hyvinvointialueen johtajaylilääkäri Antti Hedman on ottanut vastaan lääkäreiden palautteen ja seuraa puheentunnistuksen toimivuutta.
Hän muistuttaa, että lääkärit ovat aina vastuussa sanelemastaan tekstistä, kirjoittaa sen sitten kone tai ihminen.
Systeemi on saatava kuntoon
Lääkäriliiton hallituksen jäsen, erikoislääkäri Anu Muraja on huolissaan tekoälyn roolista terveydenhuollossa.
Hän pitää pelottavana ajatuksena hallituksen suunnitelmaa lakimuutoksesta, joka sallisi tekoälyn arvioida potilaan hoidon tarvetta.
– Lääkäri osaa aina miettiä eri vaihtoehtoja ja tehdä tarkentavia kysymyksiä. Epäilen, että tekoäly saadaan opetettua tekemään samoin.
Murajan mukaan tekoälyn suurin haaste on, että järjestelmä luottaa syötettyyn tietoon. Taustatiedon on siksi oltava riittävän laillista, luotettavaa ja paikkansapitävää.
Murajan mukaan pieniä virheitä on ollut ennenkin saneluissa.
– Mutta kun aletaan puhua, voiko tulla potilasturvallisuutta vaarantavia virheitä, niin silloin systeemi pitää saada kuntoon, toteaa Muraja, joka on myös Pohjois-Savon hyvinvointialueen JUKOn pääluottamusedustaja.
Johtajaylilääkäri Antti Hedman vastasi TV1:n aamulähetyksessä lääkäreiden huoleen.