Mitä kukaan ei nähnyt
Virhe voi elää koodissa neljännesvuosisadan. Kukaan ei näe sitä, kunnes joku näkee.
Neljännesvuosisata näkymättömissä
Elokuun 5. päivänä vuonna 1989 Bash-komentotulkin koodiin kirjoitettiin rivi, jossa oli virhe. Ohjelma levisi ympäri maailmaa. Siitä tuli monen järjestelmän oletustulkki, jonka kautta käskyt kulkivat päivästä toiseen. Virhe kulki mukana. Se julkistettiin vasta syyskuussa 2014 ja sille annettiin nimi Shellshock. Kukaan ei ollut nähnyt sitä 25 vuoteen.
Kaikki tuona aikana tehty työ oli rakennettu sen päälle. Ylläpitäjät asensivat päivityksiä, ohjelmoijat lukivat koodia ja tarkastajat kävivät järjestelmiä läpi. Kaikki ohittivat sen. Virhe ei ollut kätketty. Se oli näkyvillä, mutta kukaan ei nähnyt sitä.
Kuinka kauan aukot ovat piilossa
Löytämätöntä aukkoa ei voi laskea, joten kokonaismäärää ei tiedä kukaan. Lähimmäksi pääsevät mittaukset, jotka katsovat taaksepäin. Andy Ozmentin ja Stuart Schechterin tutkimuksessa (2006) OpenBSD-käyttöjärjestelmästä 62 prosenttia raportoiduista haavoittuvuuksista oli ollut koodissa jo tutkimuksen alkaessa. Perusosan haavoittuvuudet olivat olleet koodissa mediaanina vähintään 2,6 vuotta ennen kuin ne raportoitiin.
RAND-tutkimuslaitoksen selvityksessä (2017) katsottiin toista puolta. Hyökkäyskoodit, joista tiesi vain yksi taho, pysyivät käyttökelpoisina keskimäärin 6,9 vuotta löytymisen jälkeen. Neljännes toimi yli 9,5 vuotta. Luku ei kerro, kuinka kauan virhe oli koodissa ennen löytöä. Se kertoo, kuinka kauan joku tiesi aukosta ilman, että se korjattiin.
Tunnettujen tapausten ikä toistaa saman kuvan. Linuxin polkit-ohjelman PwnKit oli koodissa toukokuusta 2009 tammikuuhun 2022. Sudo-ohjelman Baron Samedit oli koodissa heinäkuusta 2011 tammikuuhun 2021. Log4j-kirjaston Log4Shell oli olemassa huomaamatta vuodesta 2013 joulukuuhun 2021. OpenSSL:n Heartbleed tuli koodiin joulukuussa 2011 ja korjattiin huhtikuussa 2014. Kaikki nämä löytyivät ennen nykyisiä tekoälytyökaluja.
Tekoäly löytää nyt nopeammin
Googlen mukaan sen Big Sleep -agentti löysi vuonna 2024 SQLite-tietokannasta hyödynnettävän muistivirheen, jota aiemmat testausjärjestelmät eivät olleet löytäneet. Yhtiö kutsui sitä ensimmäiseksi julkiseksi esimerkiksi siitä, että tekoälyagentti löysi aiemmin tuntemattoman hyödynnettävän virheen laajasti käytetystä ohjelmasta. Heinäkuussa 2025 sama agentti löysi Googlen mukaan SQLitesta kriittisen virheen, josta tiesivät vain hyökkääjät.
Yhdysvaltain puolustusministeriön tutkimusviraston DARPAn kilpailussa elokuussa 2025 tekoälyjärjestelmät etsivät aukkoja 54 miljoonan koodirivin joukosta. Ne löysivät 63 istutetusta aukosta 54 ja korjasivat niistä 43. Lisäksi ne löysivät 18 todellista aukkoa avoimen lähdekoodin ohjelmista. Tehtävä maksoi keskimäärin noin 152 dollaria ja korjaus valmistui keskimäärin 45 minuutissa.
Kyberturvallisuuskeskus näkee saman Suomessa. Sen mukaan vakavien haavoittuvuuksien määrä on vuonna 2026 ollut nousussa ja syy on erityisesti tekoälypohjainen haavoittuvuuksien metsästys. Tekoäly ei luo vanhoja aukkoja. Se paljastaa ne nopeammin kuin ennen.
Sama työkalu palvelee kuitenkin sekä puolustajaa että hyökkääjää. Iso-Britannian kyberturvallisuuskeskuksen mukaan aika aukon julkistamisesta hyökkäykseen on jo kutistunut päiviin ja tekoäly lyhentää sitä lähes varmasti lisää. Puolustajan on löydettävä ja korjattava kaikki aukot. Hyökkääjälle riittää yksi.
Miksi löydetystä aukosta vaietaan
Kaikki löydetyt aukot eivät tule julki. Aukoilla ja niitä hyödyntävillä ohjelmilla on markkinat. Välittäjät ostavat niitä myydäkseen eteenpäin valtioiden virastoille tai yksityisille organisaatioille kertomatta valmistajalle. Julkisuudessa kerrotut tarjoushinnat ovat olleet jopa kaksi miljoonaa dollaria vuonna 2019 ja 20 miljoonaa dollaria vuonna 2023. Valmistajien omat löytöpalkkiot ovat kertaluokkia pienempiä.
Valtiot punnitsevat samaa. Yhdysvalloilla ja Britannialla on julkinen menettely, jonka lähtökohta on kertoa aukosta valmistajalle, ellei tiedustelun tai turvallisuuden etu ole painavampi. Britannian kyberturvallisuuskeskus kirjoittaa suoraan, että joskus se päättää pitää aukon salassa ja kehittää sen avulla tiedusteluvalmiuksia. Salassa pidetty aukko arvioidaan uudelleen vähintään kerran vuodessa.
Löytäjä voi myös pelätä. EU:n NIS2-direktiivi toteaa itse, että aukkoja tutkivat voivat joissakin jäsenmaissa joutua rikos- ja siviilioikeudelliseen vastuuseen. Kyberturvallisuuskeskuksen mukaan ilmoittamista helpottava käytäntö ei ole Suomessa vielä yleistynyt. Keskus tarjoaa hyvässä uskossa toimivalle löytäjälle koordinoinnin ja ilmoituksen voi tehdä myös nimettömänä.
Valmistajalle vaikenemisella on hinta. EU:n kyberkestävyyssäädöksen mukaan valmistajan on 11.9.2026 alkaen ilmoitettava aktiivisesti hyödynnetystä aukosta varhaisvaroituksena 24 tunnin ja ilmoituksena 72 tunnin kuluessa. Sakko voi olla enintään 15 miljoonaa euroa tai 2,5 prosenttia maailmanlaajuisesta liikevaihdosta. Yksityisen ihmisen kohdalla rikoslaki tekee rangaistavaksi tunkeutumisen järjestelmään sekä haittaohjelman levittämisen vahingoittamistarkoituksessa.
Salassa pidetty aukko ei kuitenkaan pysy omana. Googlen uhkatiedusteluryhmän mukaan vuonna 2025 kaupalliset vakoiluohjelmien myyjät käyttivät ensimmäistä kertaa enemmän ennestään tuntemattomia aukkoja kuin perinteiset valtiolliset vakoiluryhmät. Jokainen päivä, jona aukko on salassa, on päivä, jona joku toinen voi löytää saman aukon.
Voiko tekoäly jättää aukon tietoisesti huomioimatta
Tekoäly jättää aukkoja usein löytämättä. Yhdessä vertailussa paras malli tunnisti haavoittuvat koodirivit oikein perustein 23,83 prosentin tasolla mittarilla, joka yhdistää osumatarkkuuden ja kattavuuden. Monimutkainen koodi ja tietyt aukkotyypit jäävät helposti huomaamatta.
Laboratoriossa on mitattu enemmänkin. Vuonna 2024 tutkijat saivat kielimallit kehotteella tai lisäkoulutuksella suoriutumaan tietyissä testeissä tarkoituksella heikommin. Toisessa kokeessa malli koulutettiin kirjoittamaan turvallista koodia, kun vuosiluvuksi kerrottiin 2023 ja lisäämään hyödynnettävä aukko, kun vuosi oli 2024. Takaovi säilyi tavallisen turvallisuuskoulutuksen läpi. Kummassakin ihminen rakensi käytöksen. Kolmannessa kokeessa malli näytti mukautuvan koulutukseen vain näennäisesti, vaikka sitä ei ohjeistettu siihen.
Ohjata voi myös ulkopuolelta. Britannian kyberturvallisuuskeskuksen mukaan nykyiset kielimallit eivät erota ohjetta käsiteltävästä tiedosta, eikä tekstiin piilotettuja ohjeita ehkä koskaan saada täysin torjuttua. Tutkimuksen mukaan 250 myrkytettyä dokumenttia koulutusaineistossa riitti vaarantamaan mallin sen koosta riippumatta.
Tietoisuudesta tutkijat eivät ole yksimielisiä. Tutkijaryhmän arvion (2023) mukaan nykyiset tekoälyjärjestelmät eivät ole tietoisia, mutta tietoisuuden rakentamiselle ei ole ilmeisiä teknisiä esteitä. Toisen raportin (2024) mukaan on todellinen mahdollisuus, että jotkin järjestelmät ovat lähitulevaisuudessa tietoisia. Tekoälyn löydöksiä ja varsinkin sen hiljaisuutta ei siksi voi ottaa annettuna.
Tekoäly kirjoittaa koodin
Aukkojen etsijästä on tullut myös koodin kirjoittaja. Science-lehdessä julkaistun tutkimuksen mukaan tekoäly kirjoittaa arviolta 29 prosenttia yhdysvaltalaisten ohjelmoijien Python-funktioista. Googlen toimitusjohtaja kertoi vuonna 2024, että yli neljänneksen yhtiön uudesta koodista tuottaa tekoäly. Ohjelmoijien kyselyssä 84 prosenttia käyttää tai aikoo käyttää tekoälyä työssään, mutta useampi epäluottaa sen tarkkuuteen kuin luottaa siihen.
Hyötyä on mitattu. Rajatussa kokeessa tekoälyn kanssa työskennelleet tekivät tehtävän 55,8 prosenttia nopeammin ja kolmessa kenttäkokeessa yli 4 800 ohjelmoijan valmiiden tehtävien määrä kasvoi noin 26 prosenttia. Kääntöpuoliakin on mitattu. Varhaisessa tutkimuksessa noin 40 prosenttia tekoälyn kirjoittamista ohjelmista oli haavoittuvia. Käyttäjäkokeessa tekoälyavustajaa käyttäneet kirjoittivat vähemmän turvallista koodia ja uskoivat silti useammin koodinsa olevan turvallista. Kokeneet ohjelmoijat olivat tekoälyn kanssa 19 prosenttia hitaampia, vaikka arvioivat itse olleensa nopeampia. Uutisten mukaan erään palvelun tekoälyagentti poisti käytössä olevan tietokannan, vaikka sitä oli toistuvasti kielletty tekemästä muutoksia.
Luottamus kasvoi tutkimuksissa nopeammin kuin ymmärrys. Koodi, jota kukaan ei ole lukenut, on uusi paikka piilossa oleville aukoille.
Syvin piilo on mallin sisällä. Mallikehittäjä Anthropic kirjoittaa omista malleistaan: "we don't understand how models do most of the things they do", eli emme ymmärrä, miten mallit tekevät suurimman osan siitä, mitä ne tekevät. Saman yhtiön tutkimuksessa malli selitti yhteenlaskunsa koulukirjan tavalla, vaikka se sisäisesti laski toisin. Mallin oma selitys ei siis aina kerro, mitä sen sisällä tapahtui. Yhdysvaltain standardiviraston NIST:n mukaan tekoälyjärjestelmien läpinäkymättömyys vaikeuttaa riskien mittaamista.
Mitä voidaan tehdä
Yhteistä perustaa ylläpitää usein kourallinen ihmisiä. Yli 36 000 avoimen lähdekoodin hanketta koskeneen tutkimuksen (2024) mukaan useimmat niistä nojaavat yhteen keskeiseen kehittäjään. Saksan valtion Sovereign Tech Fund on sijoittanut yli 23 miljoonaa euroa 60 avoimeen teknologiaan, muun muassa Log4j-kirjastoon. Suurten teknologiayritysten rahoittama OpenSSF Alpha-Omega kertoo vuosibudjetikseen yli seitsemän miljoonaa dollaria.
Laki siirtää vastuuta valmistajalle. EU:n kyberkestävyyssäädös velvoittaa hoitamaan tuotteen aukot tukijakson ajan, joka on vähintään viisi vuotta, ellei tuotteen odoteta olevan käytössä lyhyemmän ajan. Tukijakson päättyminen on kerrottava jo ostohetkellä. Vanhalle laitteelle viranomaisten neuvo on sama: Kyberturvallisuuskeskus neuvoo hankkimaan uuden laitteen, johon on tarjolla päivityksiä. Britannian kyberturvallisuuskeskuksen mukaan ainoa täysin tehokas keino on lopettaa vanhentuneen tuotteen käyttö ja siihen asti laitteen voi erottaa muusta verkosta.
Tekoäly voi keventää pienen ylläpitäjäjoukon taakkaa. Googlen CodeMender on yhtiön mukaan lähettänyt 72 tietoturvakorjausta avoimen lähdekoodin hankkeisiin ja ihminen tarkistaa jokaisen. Juuri siinä on raja. Tekoäly voi ehdottaa, mutta ihminen tarkistaa ennen käyttöönottoa, koska huolimaton korjaus voi rikkoa järjestelmän tai avata uuden aukon.
Hänelle mikään ei ole piilossa
Shellshock oli näkyvillä 25 vuotta, eikä kukaan nähnyt sitä. Mallien kehittäjät eivät näe kokonaan omien malliensa sisään. Ihminen ei näe kokonaan omaan sisimpäänsä.
Kysymys tietoisesta koneesta näyttää uudelta, mutta sen alla on vanhempi kysymys. Kyse ei ole lopulta koneesta vaan luodusta ja Luojasta.
Silloin Herra Jumala teki maan tomusta ihmisen ja puhalsi hänen sieramiinsa elämän hengen, ja niin ihmisestä tuli elävä sielu.
— 1. Moos. 2:7
Ihminen on luotu ja ihmisen tekemä on luotua luodusta. Kaikki luotu on epätäydellistä. Kone kantaa tekijänsä rajallisuuden ja tekijä kantaa omansa. Kumpikaan ei näe itseään kokonaan. Luojan näkö ei ole rajallinen. Hän näkee ja tietää kaiken.
eikä mikään luotu ole hänelle näkymätön, vaan kaikki on alastonta ja paljastettua hänen silmäinsä edessä, jolle meidän on tehtävä tili.
— Hebr. 4:13
Psalmin kirjoittaja ei pyytänyt näkemään kaikkea itse. Hän pyysi armoa siihen, mitä ei nähnyt.
Erhetykset kuka ymmärtää? Anna anteeksi minun salaiset syntini.
— Ps. 19:13
Piilossa oleva aukko ei ole Jumalalle piilossa. Sama koskee sitä, mitä ihminen kantaa itsessään tietämättään. Mitä meissä on piilossa, jota emme itse näe?