“Jos yksi yritys tai pieni ryhmä ihmisiä onnistuu kehittämään jumalankaltaisen digitaalisen superälyn, he voivat vallata maailman. Ainakin kun on paha diktaattori, se ihminen kuolee. Mutta tekoälyn kohdalla kuolemaa ei olisi. Se eläisi ikuisesti. Ja sitten meillä olisi kuolematon diktaattori, josta emme voisi koskaan paeta.” – Elon Musk.
Syvä valtio ei ole katoamassa. Se vain korvataan.
Tilalle ei tule karismaattinen itsevaltias tai edes hämärä byrokratia, vaan tekoäly – tunteeton, vastuuton ja kuolematon.
Uuden teknologisen järjestyksen kynnyksellä vallan koneisto on hiljaa siirtymässä algoritmien käsiin.
Donald Trumpin johdolla tämä siirtymä on lukittumassa ainakin sukupolveksi.
Trumpin viimeisin lakialoite –kymmenen vuoden tekoälysääntelykielto joka on haudattu “One Big Beautiful Bill“-lakiehdotukseen – poistaa osavaltioiden ja paikallishallintojen kyvyn asettaa tekoälylle suojakaiteita vuoteen 2035 asti.
Huolimatta 40 osavaltion oikeusministerin varoituksista, lakiehdotus läpäisi edustajainhuoneen ja odottaa senaatin hyväksyntää. Se ei ole mitään muuta kuin liittovaltion vihreä valo tekoälyn toimimiselle ilman valvontaa kaikilla elämänalueilla lainvalvonnasta ja työelämästä terveydenhuoltoon, koulutukseen ja digitaaliseen valvontaan.Mitä se tarkoittaa?
Tämä ei ole innovointia.
Tämä on tyrannian institutionalisoitua automatisointia.
Näin algoritmisen hallinnon tilassa koodi korvaa nopeasti perustuslain valvontamekanismina.
Olemme nopeasti siirtymässä lakien ja asianmukaisten prosessien hallitsemasta yhteiskunnasta ohjelmistojen hallitsemaan yhteiskuntaan.
Algoritmihallinnolla tarkoitetaan koneoppimisen ja automatisoitujen päätöksentekojärjestelmien käyttöä sellaisten toimintojen suorittamiseen, jotka aiemmin oli varattu ihmisille: poliisitoiminta, sosiaaliturvakelpoisuus, maahanmuuton tarkistaminen, työpaikkojen rekrytointi, luottokelpoisuuden arviointi ja oikeudelliset riskinarvioinnit.
Tässä järjestelmässä lakia ei enää tulkita. Se pannaan täytäntöön. Automaattisesti. Mekaanisesti. Ilman valitusmahdollisuuksia, harkintaa tai inhimillistä armoa.
Nämä tekoälyjärjestelmät tukeutuvat historiallisiin tietoihin, jotka ovat täynnä systemaattisia ennakkoluuloja ja inhimillisiä virheitä, tehdäkseen ennusteita ja laukaistakseen päätöksiä. Ennakoivan poliisitoiminnan algoritmit kertovat poliiseille, missä partioida ja ketä pysäyttää. Kasvontunnistusteknologia merkitsee “epäillyt” sosiaalisesta mediasta poimittujen valokuvien perusteella. Riskinarviointiohjelmistot antavat kansalaisille uhka-arvosanoja ilman selityksiä, valvontaa tai oikeussuojakeinoja.
Nämä algoritmit toimivat mustissa laatikoissa, jotka on suojattu liikesalaisuuksilla ja joita suojellaan kansallisella turvallisuudella. Yleisö ei voi tarkastaa niitä. Tuomioistuimet eivät voi kyseenalaistaa niitä. Kansalaiset eivät voi paeta niitä.
Tulos? Koneiden lajittelema, pisteyttämä ja valvoma väestö.
Tämä on Trumpin hallinnon sääntelyn purkamisen käytännön tulos: Tekoälyjärjestelmät saavat vapaat kädet valvoa, luokitella ja kriminalisoida kansalaisia ilman avoimuutta tai oikeussuojakeinoja.
Nämä eivät ole teoreettisia vaaroja, vaan ne ovat jo toteutumassa.
Esimerkit hallitsemattomasta tekoälystä ja ennakoivasta poliisitoiminnasta osoittavat, että esirikollisuus on jo täällä.
Kun kone on pisteyttänyt ja merkinnyt sinut, lopputulos voi muuttaa elämääsi, kuten kävi Michael Williamsille, 65-vuotiaalle miehelle, joka vietti lähes vuoden vankilassa rikoksesta, jota hän ei ollut tehnyt. Williams oli ratissa, kun ohi ajanut auto ampui hänen ajoneuvoaan, tappoi hänen 25-vuotiaan matkustajansa, joka oli liftannut kyytiin.
Vaikka motiivia, asetta tai silminnäkijöitä ei ollut, poliisi nosti syytteen Williamsia vastaan tekoälyn avulla toimivan laukauksenhavaitsemisohjelman nimeltä ShotSpotter perusteella. Järjestelmä havaitsi äänekkään pamauksen lähellä aluetta ja kolmioi sen Williamsin ajoneuvoon. Syytteestä luovuttiin lopulta todisteiden puuttuessa.
Tämä on esirikollisuutta toiminnassa. Ennuste, ei todiste. Algoritmi, ei silminnäkijä.
ShotSpotterin kaltaiset ohjelmat ovat tunnettuja siitä, että ne luokittelevat äänet, kuten ilotulitukset ja rakennustyöt, virheellisesti laukauksiksi. Työntekijät ovat jopa manuaalisesti muokanneet tietoja sopimaan poliisin kertomuksiin. Silti näitä järjestelmiä yhdistetään ennakoiviin poliisiohjelmistoihin riskikarttojen luomiseksi, yksilöiden kohdentamiseksi ja valvonnan perustelemiseksi – kaikki tämä ilman avoimuutta tai vastuuvelvollisuutta.
Se ei lopu tähän.
Tekoäly etsii nyt perheitä mahdollisen lasten laiminlyönnin varalta sellaisten ennakoivien mallien perusteella, jotka perustuvat Medicaid-, mielenterveys-, vankila- ja asuntotietoihin. Nämä mallit kohdistuvat suhteettomasti köyhiin ja vähemmistöperheisiin. Algoritmi antaa riskipisteitä 1-20. Perheille ja heidän asianajajilleen ei koskaan kerrota, mitä pisteet ovat tai että niitä on käytetty.
Kuvittele, että menetät lapsesi sijaisperheeseen, koska salainen algoritmi sanoo, että saatat olla riskialtis.
Näin tekoäly määrittelee syyllisyyden uudelleen.
Trumpin hallinnon lähestymistapa tekoälyn sääntelyyn paljastaa syvemmän suunnitelman purkaa itse demokratian sääntelyä.
Sen sijaan, että Trumpin hallinto olisi hillinnyt näitä väärinkäytöksiä, se pikemminkin kiihdyttää niitä.
Presidentti Trumpin vuoden 2025 alussa allekirjoittama toimeenpanomääräys “Removing Barriers to American Leadership in Artificial Intelligence” kumosi aiemmat tekoälyä koskevat suojatoimenpiteet, poisti ennakkoluulotarkastukset ja kehotti virastoja asettamaan etiikan edelle “innovaation”. Määräys kannustaa jokaista liittovaltion virastoa omaksumaan tekoälyn nopeasti, erityisesti poliisitoiminnan ja valvonnan kaltaisilla aloilla.
“Tehokkuuden” varjolla perustuslaillisia suojatoimia ollaan poistamassa.
Trumpin 10 vuoden lykkäys tekoälyn sääntelylle on looginen seuraava askel. Se purkaa viimeisen puolustuslinjan – osavaltiotason vastarinnan – ja varmistaa yhtenäisen kansallisen algoritmisen hallinnan politiikan.
Tuloksena on järjestelmä, jossa hallitus ei enää hallitse. Se prosessoi.
Liittovaltion hallituksen tekoälyn laajentaminen on rakentamassa valvontavaltiota, jota mikään ihmisviranomainen ei voi hillitä.
Tervetuloa Valvontavaltio 2.0:aan, kuolemattomaan koneeseen.
Liittovaltion virastot ovat jo raportoineet yli 1700 tekoälyn käytöstä, joista sadat vaikuttavat suoraan turvallisuuteen ja oikeuksiin. Monet virastot, kuten sisäisen turvallisuuden ministeriö, veteraaniasioiden ministeriö ja terveys- ja sosiaalipalvelujen ministeriö, käyttävät tekoälyä päätöksentekoon ilman julkista panosta tai valvontaa.
Teknokraatit kutsuvat tätä “algokratiaksi” eli algoritmien harjoittamaksi hallinnaksi.
Algokratiassa valitsemattomilla kehittäjillä ja yritysurakoitsijoilla on enemmän valtaa elämääsi kuin vaaleilla valituilla virkamiehillä.
Terveytesi, vapautesi, liikkuvuutesi ja yksityisyytesi ovat automaattisten pisteytysjärjestelmien alaisia, joita et näe etkä voi valittaa.
Nämä järjestelmät eivät kuole, toisin kuin vakiintuneimmatkin inhimilliset diktaattorit. Ne eivät unohda. Armo tai järki ei vaikuta heihin. He eivät asetu ehdolle uudelleenvalintaan.
He sinnittelevät.
Kun tekoäly hallitsee ennustamalla, asianmukainen prosessi katoaa konelogiikan sumuun.
Tämän digitaalisen järjestelmän hyytävin vaikutus on oikeusprosessin kuolema.
Mihin tuomioistuimeen voit vedota, kun algoritmi on leimannut sinut vaaralliseksi? Mikä asianajaja voi ristikuulustella ennakoivaa mallia? Mikä valamiehistö voi punnita virheellisillä tiedoilla koulutetun neuroverkon päättelyä?
Olet syyllinen, koska kone sanoo niin. Ja kone ei ole koskaan väärässä.
Kun asianmukainen oikeudenkäynti muuttuu tietojenkäsittelyksi, todistustaakka kääntyy. Syyttömyysolettama haihtuu. Kansalaisten on todistettava, etteivät he ole uhkia, riskejä tai vihollisia.
Useimmiten he eivät edes tiedä, että heidät on merkitty.
Oikeudenmukaisen oikeudenkäynnin rapautuminen ei ole vain oikeudellinen epäonnistuminen – se on filosofinen epäonnistuminen, sillä yksilöt alennetaan datapisteiksi järjestelmissä, jotka eivät enää tunnusta heidän inhimillisyyttään.
Kirjailija ja visionääri Rod Serling varoitti juuri tästä lopputuloksesta yli puoli vuosisataa sitten: maailmasta, jossa teknologia, joka naamioituu edistykseksi järjestyksen ja logiikan varjolla, muuttuu tyrannian välineeksi.
Tuo tulevaisuus ei ole enää fiktiota. Se, mitä Serling kuvitteli, on nyt todellisuutta.
Vastarinnan aika on nyt, ennen kuin vapaudesta tulee vanhentunutta.
Niille, jotka määräävät hallituksessa, “me ihmiset” olemme vain keino päästä päämäärään.
“Meistä ihmisistä” – jotka ajattelemme, jotka järkeilemme, jotka otamme kantaa, jotka vastustamme, jotka vaadimme ihmisarvoista kohtelua ja huolenpitoa, jotka uskomme vapauteen ja oikeudenmukaisuuteen kaikille – on tullut vanhentuneita, aliarvostettuja kansalaisia totalitaarisessa valtiossa, joka Serlingin sanoin “on ottanut mallia jokaisesta diktaattorista, joka on ikinä aikojen alusta lähtien jättänyt repäisevän saappaanjäljen historian sivuille”. Siinä on hienostuneisuutta, teknistä edistystä ja hienostuneempi lähestymistapa ihmisten vapauden tuhoamiseen.”
Tässä mielessä me kaikki olemme Romney Wordsworth, tuomittu mies Serlingin Twilight Zone jaksossa “The Obsolete Man”.
“The Obsolete Man“, tarinan kaari yksilön arvon pyyhkimisestä koneellistetun valtion toimesta, korostaa vaaraa, joka liittyy ihmisen merkityksettömäksi tekemiseen kylmän automaation järjestelmässä, ja puhuu sellaisen hallituksen vaaroista, joka pitää ihmisiä tarpeettomina, kun he ovat kasvaneet ulos hyödyllisyydestään valtiolle. Silti – ja tässä on varsinainen juju – tässä kohtaa hallitus hirvittävän epäinhimillisyytensä kautta myös käy tarpeettomaksi.
Kuten Serling totesi alkuperäisessä käsikirjoituksessaan “The Obsolete Man” -elokuvaan: “Mikä tahansa valtio, mikä tahansa kokonaisuus, mikä tahansa ideologia, joka ei tunnusta ihmisen arvoa, arvokkuutta ja oikeuksia… se valtio on vanhentunut.“.
Serlingin totalitaarisen valtion tavoin tulevaisuutemme määrittelee se, sopeudummeko epäinhimillistävään konejärjestykseen – vai taistelemmeko vastaan ennen kuin kuolemattomasta diktaattorista tulee ehdoton.
Olemme nyt tienhaarassa: vastustamme kuolemattoman diktaattorin nousua vai alistumme koneen valtaan.
Kyse ei ole taistelusta teknologiaa vastaan, vaan taistelusta teknologian hallitsematonta, sääntelemätöntä ja epädemokraattista käyttöä vastaan ihmisten hallitsemiseksi.
Meidän on vaadittava algoritmien läpinäkyvyyttä, tietojen omistusoikeuksia ja oikeussuojakeinoja automatisoituja päätöksiä vastaan. Tarvitsemme digitaalisen lakiehdotuksen, joka takaavat:
- Oikeus tietää, miten algoritmit vaikuttavat meihin.
- Oikeus kyseenalaistaa automatisoidut päätökset ja valittaa niistä.
- Oikeus yksityisyyteen ja tietoturvaan.
- Oikeus olla vapaa automaattisesta valvonnasta ja ennakoivasta poliisitoiminnasta.
- Oikeus tulla unohdetuksi.
Muuten tekoälystä tulee valvontavaltion perimmäinen toteuttaja, josta ei ole pakotietä.
Kuten Googlen entinen toimitusjohtaja Eric Schmidt varoitti: “Tiedämme, missä olet. Tiedämme, missä olet ollut. Voimme enemmän tai vähemmän tietää, mitä ajattelet. Digitaalinen identiteettisi elää ikuisesti… koska poistopainiketta ei ole.“
Kuolematon diktaattori, todellakin.
Olkaamme selvillä: uhka ei ole vain yksityisyytemme, vaan itse demokratia.