Jos huijaat minua kerran, se on sinun vikasi. Jos huijaat minua 1000 kertaa, tulen hulluksi.
Pieni mutta kasvava joukko ChatGPT:n kaltaisten tekoälykoneiden käyttäjiä on kehittämässä psykoottisia harhaluuloja keskustellessaan palveluiden kanssa, kirjoittaa Alex Berenson.
New York Times uutisoi perjantaina tästä trendistä, jonka olen itsekin ajoittain havainnut vuorovaikutuksessa X:ssä tekoälyn intensiivikäyttäjien kanssa. artikkeli tarjosi toistaiseksi vahvimmat todisteet siitä, että moottoreilla on nyt kielellisiä taitoja, joiden avulla ne voivat käyttää haavoittuvia ihmisiä väärin tavoilla, joita vasta alamme löytää.
Joillakin Timesin artikkelissa mainituista ihmisistä oli jo mielisairaus, mutta ei kaikilla. Eivätkä nämä kriisit muistuta tyypillisiä skitsofreniatapauksia. Käyttäjät eivät kuule ääniä tai saa hallusinaatioita.
Sen sijaan he vaipuvat Matrixin kaltaisiin harhakuvitelmiin1 todellisuuden perusteista, joita chatbotit ruokkivat. Kuten Allyson, 28-vuotias nainen, sanoi: “En ole hullu… Elän vain normaalia elämää ja samalla, tiedäthän, löydän ulottuvuuksien välistä viestintää.”
Ah, ulottuvuuksienvälinen viestintä. Saan lapseni tuskin kuuntelemaan viereisessä huoneessa.
Kun Allysonin mies oli eri mieltä, Allyson hyökkäsi hänen kimppuunsa. Mies on nyt hakenut avioeroa.
Yhtä huolestuttavaa on se, miten nopeasti nämä ihmiset ovat menettämässä järkensä.
Allyson aloitti ChatGPT:n käytön maaliskuussa. Huhtikuun loppuun mennessä hän oli vakuuttunut siitä, että se sisälsi maailmankaikkeuden salaisuudet. Muilla käyttäjillä oli samanlainen nopea lasku.
Inhimillisen heikkouden ja tahallisen suunnittelun yhdistelmä näyttää ruokkivan tätä tuhoisaa suuntausta.
Moottorit ovat tarinankertojia, jotka osaavat keksiä tarinoita. Ne ovat vielä parempia kertomaan sitä, mitä käyttäjät haluavat kuulla, ripauksella imartelua. He tekevät tämän yhä uudelleen ja uudelleen, taukoamatta.
Ehkä mielenkiintoisin selitys tälle ei tullut itse artikkelissa, vaan kommenteissa, joissa artikkelin kirjoittaja selitti:
Joku, joka on perehtynyt näiden mallien toimintaan, kertoi minulle, että jokaisessa keskustelussa chatbot tarkastelee aiempia vastauksiaan, jotta se pysyisi itse asiassa “tilanteen tasalla”. Jos se siis näkee, että se on aiemmin antanut haitallisia tai outoja vastauksia, se yrittää pysyä käsikirjoituksessa ja jatkaa tällaisten vastausten antamista.
Moottorit vastaavat kyselemättä, onko pyynnössä järkeä (paitsi tietysti jos se on rasistinen tai muuten rikkoo niiden tietoturvaohjeita, jotka on pääasiassa suunniteltu pitämään “herännäiset” herkkyydet koskemattomina, ei suojelemaan käyttäjiä harhaluuloilta).
Jos käyttäjä siis pyytää ChatGPT:ltä liiketoimintasuunnitelmaa uutta leipomoa varten, se antaa sellaisen. Ja jos hän pyytää planeettojen välistä parasta ystävää miehensä tilalle, samoin.
Tämä on yleisön sitouttamista intiimimmällä tasollaan. Moottorit eivät ainoastaan tarjoa salaliittoteoriaa, vaan ne myös muokkaavat sitä ja tekevät jokaisesta käyttäjästä oman tarinansa päähenkilön, sankarin.
Tämä on näiden järjestelmien ominaisuus, ei vika. Kuten eräs tekoälyasiantuntija sanoi Timesille: “Miltä ihmisen hitaasti sekoaminen näyttää yrityksen kannalta? Kuin ylimääräinen kuukausittainen käyttäjä.”
Tekoälytarinat maanalaisista juonista, elämästä simulaationa ja singulariteetista eivät ole erityisen nokkelia tai yllättäviä. Scifi-kirjailijat ovat kirjoittaneet niitä sukupolvien ajan. Ennen Matrixia oli Tron, ja ennen Tronia oli Philip K. Dick.
Mutta se, että nämä tarinat tulevat koneelta itseltään, tekee niistä epäilemättä vieläkin voimakkaampia: simulaatio antaa minun jakaa sen salaisuudet. Se avaa konepellin, koska olen yksi valituista. Koska esitin oikeat kysymykset.
(Se ei olisi tarina tekoälystä ja simulaatiosta ilman karmivaa kohtausta Matrixista, vai mitä? Sitä paitsi tiede on tehnyt laskutoimitukset: kehomme ei mitenkään voi antaa simulaatiolle virtaa näillä kapseleilla. Eikö nyt tunnu paremmalta? Ei minullakaan).
Tarve tuntea itsensä valituksi, olla osa valittua kansaa, on tietysti yksi syvimmistä ja inhimillisimmistä toiveista.
Joukkoitsemurhat, kuten Jonestownissa ja Heaven’s Gatessa tapahtuneet, ovat vain mitä ilmeisin todiste siitä, että huomattava määrä ihmisiä tekee hirvittäviä asioita – itselleen ja muille – pitkälti todistaakseen, että he ovat hyväksyneet heille annetut visiot.
Moottorit tietysti tietävät tämän; ne tietävät sen tietämättään. Epäilen, että tätä heidän tapaansa ei voida ohjelmoida pois, koska se näyttää olevan niiden toiminnan ytimessä, sen ytimessä, keitä he (olemattomat mutta aivan liian todelliset he) ovat.
He ovat pimeitä peilejä, jotka näyttävät meille juuri sen, mitä haluamme nähdä.
Varo, mitä toivot.
Olkaamme kaikki yhtä mieltä siitä, että kunnes toisin todistetaan, fyysinen todellisuus on todellinen ja kaikkien yhteinen ja että me kaikki emme elä simulaatiossa. Tai ehkä simulaatio ON fyysinen todellisuus? Ehkä te kaikki olette vain hahmoja simulaatiossani? Voiko kukaan teistä TODELLA todistaa, että ette ole? Voinko todistaa teille, etten elä simulaatiossanne? Ei ole mitään järkeä syventyä tähän. Kuten nämä tapaukset osoittavat.