Puolivalmis mielipiteesi muuttui juuri hallituksen käyttäytymisprofiiliksi. YouTube-Tools on uusin tulokas DIY-valvontataloudessa, jossa anonymiteetti kuolee ja kommenttiosastosta tulee tunnustuskoppisi.
Kahdenkymmenen dollarin kuukausimaksulla sinustakin voi tulla NSA:n nuorempi agentti, joka seuloo YouTuben randomien digitaalisia sisälmyksiä ja muodostaa dosetteja heidän tykkäyksistään, kielellisistä muutoksistaan ja Taylor Swiftin haaleista mielipiteistään.
Unohda metatietojen kerääminen varjovirastojen toimesta. Se oli niin 2013. Tämä on kuluttajaluokkaa. Pyydettäessä. Taustatarkastusta ei tarvita. Ja jos tämä on kuluttajien saatavilla, voitte vain kuvitella, mitä tiedustelupalvelut voivat tehdä samoilla tiedoilla.
Se, mitä ennen pidettiin tyhjänpäiväisenä digitaalisena kohinana, väärin kirjoitettuina paasauksina ja laiskoina yksiviivaisuuksina, on nyt virallisesti nimetty “käyttäytymiseen liittyväksi metatiedoksi”. Tekoälyvalvonnan kirkossa mikään ei ole vähäpätöinen. Tuo sarkastinen sutkaus, kommenttisi aikaleima, unettoman aktiivisuutesi vihjaama aikavyöhyke ja jopa tapa, jolla sanot “väri” eikä “color”, menevät kaikki pottiin.
Ja YouTube-Tools sekoittaa tuota kattilaa kuin se tekisi CIA:n muhennosta. Tämä uusin Frankenstein on rakennettu vanhempien seurantatyökalujen pohjalta, jotka indeksoivat käyttäjätunnuksia pelipalvelimilla ja hämärillä fanifoorumeilla, ja se toimii kielimallilla, joka on erityisesti viritetty vetämään kommenttihistoriastasi johtolanka siihen, kuka olet, mitä ajattelet ja mitä mainoksia todennäköisesti klikkaat.
Tulokset ovat välittömiä. Lounaan hinnalla voit tehdä raportin kenestä tahansa raukasta, joka on uskaltanut puhua julkisesti käyttäjänimellä. Tekoäly erittelee tunnollisesti heidän alueensa, kiinnostuksen kohteensa, poliittiset suuntauksensa ja suosikkimakunsa eksistentiaalisesta kauhusta.
Kehittäjät puolustautuvat tavanomaisella Piilaakson olkapäiden kohautuksella. Kaikki on julkista. Unohda, että luulit kommenttisi poliittisen kommenttivideon alla katoavan digitaaliseen kuiluun. Kävi ilmi, että se on kuin kaivertaisi nimesi puuhun polttolampulla. Pysyvyys on ainoa oikea valuutta verkossa.
Vaikka YouTube-Toolsin luojat luultavasti kuvittelevat olevansa fiksuja häiritsijöitä, jotka ottavat yhteen suurten teknologioiden kanssa, käytännössä he ovat rakentaneet täydellisen kyttäämiskoneen.
Tästä pääsemmekin YouTubeen, digitaaliseen vuokranantajaan. Mikä on heidän suunnitelmansa estää jotakuta kaapimasta koko kommenttiarkistoa ja käyttämästä sitä uudelleen stalking-ohjelmistoksi?
Lyhyt vastaus: ei mitään merkittävää. Sama yritys, joka poistaa kanavasi, jos soitat kaksi sekuntia tekijänoikeudellisesti suojattua kappaletta, näyttää olevan täysin ymmällään siitä, että joku tekisi sen käyttäjäkannasta tekoälyn rehua.
YouTube-Tools ei syntynyt tyhjästä. Se syntyi samasta luovasta pesästä, jossa LoL-Archiver aikoinaan kaapi League of Legendsin foorumeilta pelaajien kiukutteluja ja todennäköisiä punaisia lippuja.
Eikä unohdeta Twitch-Toolsia, joka käy käyttäjänimesi läpi 39 000 valvotun Twitch-kanavan tietokannan ja jäljittää jokaisen impulsiivisen näppäinlyöntisi pelattavuusviiveestä ja striimidraamasta.
Twitch-Tools väittää tarkkailevansa vain sitä, mitä käyttäjät ovat pyytäneet. Luonnollisesti se seuraa nyt kymmeniätuhansia suoratoistajia ja tallentaa heidän keskusteluhistoriansa siisteihin pieniin data-arkkuihin, jotka voidaan lajitella aikaleiman, kanavan ja todennäköisten psykoosin merkkien mukaan.
Hiljainen muutos, he sanovat. Kuin kun paikallinen järvesi yksityistetään ja muutetaan ostoskeskukseksi. Kuten silloin, kun vitsi vuodelta 2013 nousee esiin Harvardin lakiviittauksen kera. Digitaalinen maailma, joka oli ennen täynnä hajallaan olevaa hölynpölyä ja anonyymiä absurdiutta, kauhotaan siisteiksi pieniksi kansioiksi, jotka tekoäly kuratoi verovirkailijan tarkkuudella ja maagisen kahdeksikon moraalisella kompassilla.
Jokainen sarkastinen heittorivi pelivideon alla. Jokainen tunnelmallinen kommentti livestriimissä. Jokainen julkisuuteen lipsahtanut itsestään on nyt YouTube-Toolsin kaltaisten työkalujen ansiosta polttoainetta profilointikoneelle.
Se, mikä ennen oli satunnaisia internet-keskustelunpalasia; ilkeä kommenttisi mukbang-videoon, puoliksi lukutaidoton sanaleikkisi Twitch-keskustelussa, myöhäisillan ylilyöntisi politiikasta kissakokoelman alla, kootaan nyt yhteen, pakataan ja myydään takaisin maailmalle käyttäytymistietona.
Olemme virallisesti siirtyneet tekoälyasiakirjojen kulta-aikaan, jolloin seurantatyökalut ja niiden kasvava joukko valvontasivutoimintoja käsittelevät kaikkea, mitä olet koskaan kirjoittanut, ikään kuin se kirjattaisiin todisteeksi.
Todellinen skandaali ei ole vain se, että näin tapahtuu. Kyse on siitä, miten täydellisesti se romuttaa yksityisyyden suojan käsitteen, joka oli aikoinaan toimiva sosiaalinen sopimus, jonka mukaan Discord-palvelimella käytettyä vitsiä ei pitänyt käyttää profiilisi muodostamiseen.
Cornellin informaatiotieteen professori Helen Nissenbaum kutsui sitä “kontekstuaaliseksi eheydeksi”, ajatukseksi siitä, että ihmiset kommunikoivat eri tavoin eri tiloissa ja että tällä erolla on merkitystä.
Sarkasmi pelikeskustelussa ei ole politiikan puolustamista. Se, että livestriimissä kehotetaan jotakuta “koskemaan ruohoa”, ei ole virallinen diagnoosi.
Nämä välineet eivät kuitenkaan aina tunnista kontekstia. Ne näkevät vain datapisteitä. Se kerää kommenttisi ajasta ja paikasta ja hitsaa ne yhteen Frankenstein-versioksi sinusta. Et kirjoittanut omaelämäkertaa. Tekoäly teki sen puolestasi. Ja koska se poistaa sävyn, ajoituksen ja yleisön, tuloksena on vääristynyt karikatyyri, jonka konelogiikka on ommellut yhteen teeskennellen olevansa oivallus.
Pelottavinta uuden sukupolven valvontatyökaluissa ei ole se, että ne ovat väärässä. Vaan se, että ne kuulostavat oikeilta. Ne puhuvat varmuuden kiillotetulla kielellä, muotoilevat fiktiota pykäläkohtaisiksi ja pukevat aavistukset koviksi johtopäätöksiksi. Niiden tuotoksen jokainen rivi tihkuu konevarmuutta, vaikka alkuperäinen kommentti olisikin ollut satunnainen huomautus.
Näitä työkaluja ei ole rakennettu ymmärtämään ihmisiä. Niitä rakennettiin havaitsemaan malleja riippumatta siitä, onko näissä malleissa järkeä tekoälylle, joka on vain niin hyvä kuin tekoäly on luotu. Ne eivät tiedä, mikä on totta. Niitä ei kiinnosta, onko vitsi vitsi vai onko paasaaminen ainutkertaista. Ne vain kaapivat, arvaavat ja kokoavat. Ja se, mitä ne tuottavat, näyttää usein enemmän psykologiselta horoskoopilta kuin miltään todisteelta.
Silti lopputulos on taustatarkastuksen arvovaltainen. Äänensävy, konteksti ja tarkoitus ovat kaikki litteitä ja siistejä kategorioita. Livestream-keskustelun sarkasmista tulee aggression merkki. Viittaus meemiin poliittisessa keskusteluketjussa muuttuu “ideologiseksi suuntautumiseksi”.
Kyse on valvonnan hitaasta institutionalisoitumisesta jokapäiväisessä elämässä, jossa tarkkailusta tulee taustahälyä, eikä kukaan enää vaivaudu kysymään, miksi. Nämä työkalut ovat osa kasvavaa ekosysteemiä, joka ruokkii ajatusta, että jos jokin on näkyvissä verkossa, se on reilua peliä. Jos sanot jotain julkisesti, se kuuluu yhtäkkiä kaikille: tiedonvälittäjille, ahdistelijoille, lainvalvontaviranomaisille, mainostajille tai muille uteliaille tahoille, joilla on selain ja motiivi.
Sama logiikka tukee poliisiverkkoja ruokkivia Ring-kameroita, rekisterikilvenlukijoita, jotka kartoittavat liikkumiskuvioita, ja Clearview’n kaltaisia kasvojentunnistusjärjestelmiä, jotka kaapivat jokaista senttiä julkisesta internetistä. Tekosyy ei koskaan muutu. Tiedot olivat olemassa. Näiden operaattoreiden mielestä kenenkään ei siis pitäisi valittaa siitä, että tiedot syötetään johonkin, johon ei ole koskaan suostunut ja josta ei voi kieltäytyä.
Julkisesti saatavilla olevien ja eettisesti hyväksyttävien tietojen välinen raja jätetään huomiotta. Infrastruktuuri, joka mahdollistaa tämän, ei ole vika tai sokea piste. Se toimii juuri niin kuin on tarkoitettu. Se on suunniteltu poimimaan, keräämään ja paketoimaan toimintasi uudelleen ja syyttämään sinua siitä, että olet alun perin jakanut sen.
Ihmiset, jotka maksavat tästä kaiken hinnan, eivät ole niitä, jotka suunnittelevat työkalut. He ovat niitä, jotka yrittävät puhua. Toimittajat. Ilmiantajat. Toisinajattelijat. Ihmiset, joiden sanoihin liittyy riski, vaikka automaattinen profilointikone ei auttaisikaan.
Nyt he tietävät, että kaikki, mitä he sanovat verkossa, saatetaan kaivaa esiin, koota yhteen ja arkistoida osaksi jotakin amatöörivalvontakansiota. Ei siksi, että he olisivat rikkoneet sääntöjä, vaan siksi, että he sanoivat jotain, jonka kone voi kuulla.
Verkkopuheesta, joka oli ennen sujuvaa ja spontaania, on tulossa rasite. Ihmiset eivät ainoastaan harkitse sanomisiaan. He kävelevät pois kokonaan. Ajatus siitä, että jokainen kommentti voi tulla takaisin osana profiilia, johon he eivät ole antaneet suostumustaan ja jota he eivät voi kiistää, riittää hiljentämään ihmiset jo ennen kuin he edes kirjoittavat.