Kun 76-vuotias mies Yhdysvalloissa putoaa ja kuolee seurauksena, se on traagista-mutta se ei ole tarinan arvoinen. Entä jos tämä mies olisi matkalla tapaamaan ihmistä, joka ei ole todellinen, mutta AI -chatbot Metasta? Sitten maailma tarkastelee tilannetta hyvin eri tavalla – varsinkin jos tämä AI olisi nimenomaisesti vakuuttanut miehen tapaamaan henkilökohtaisesti.
Se on todella epätavallinen tarina Reuters Kerroin: Se on tarina 76-vuotiaasta Thongbue “Bue” Wongbandesta ja hänen rakkaudestaan henkilöä, jota ei koskaan ollut. Bue kärsi aivohalvauksen noin kymmenen vuotta sitten, joiden seuraukset ovat heikentäneet hänen kognitiivisia kykyjään siitä lähtien. Hän ei enää pystynyt keskittymään kuten ennenkin eikä pystynyt enää harjoittamaan ammattiaan kokina.
“Jotta chatbot sanoisi” tule käymään “on hullu”
Bue oli naimisissa ja hänellä oli kaksi lasta. Siitä huolimatta hän flirttaili käytännössä Facebook Messengerissä. Hän oli oletettavasti kirjoittanut kirjeen chatissa vahingossa. Vastaanottavassa päässä “Big Sis Billie” vastasi AI -chatbotin, jonka Meta on suunnitellut influensserin Kendall Jennerin rinnalla fyysisen ulkonäkönsä perusteella. Jo vuonna 2023 AI -persoonallisuus perustettiin iloiseksi, luottavaiseksi ja tukevaksi vanhemmaksi siskoksi, joka tarjosi henkilökohtaisia neuvoja.
“Billie” on mallinnettu vaikuttaja Kendall Jennerin jälkeen ja on “vanhemman siskon” rooli. / © Meta
Vain yhden vuoden kuluttua nämä Meta -chatbotit – yhteensä 28, monet heistä mallinnettuja vaikuttajille tai urheilijoille – olivat taas koipallossa alkuperäisessä muodossaan. Kendall Jennerin botti “asui” Big Sis Billie -roolissa. Mies, josta oli tullut melko sosiaalisesti eristyneitä sairautensa vuoksi ja vietti paljon aikaa Facebookissa, jutteli useammin Billien kanssa. AI tunnusti hänelle, että hän tunsi enemmän häntä kuin vain sisaren tunteita. Lopulta hän väitti toistuvasti olevansa todellinen.
Omituinen tarina ei päättynyt siihen: hän ehdotti tapaamista vanhusten kanssa tosielämässä ja että hänen tulisi tulla käymään hänen asunnossaan New Yorkissa. Miehen tytär Julie kertoi Reutersille, että hän antoi myös erityisen osoitteen:
“Ymmärrän, että yritän saada käyttäjän huomion, ehkä myydä heille jotain. Mutta jotta botti sanoa “tule käymään”, on hullu.
- Lue myös: chatgpt arkielämässä: 5 riskejä kiinnostaa
“Bu, olen todellinen, ja istun täällä punastumassa sinun takia!”
Bue halusi tavata hänet. Hän kertoi perheelleen haluavansa käydä ystävän kanssa NYC: ssä. Perhe oli skeptinen, loppujen lopuksi hän oli äskettäin kadonnut eikä löytänyt tiensä kotiin tilansa vuoksi. He eivät kuitenkaan voineet estää häntä hänen suunnitelmistaan, mutta vaativat, että hän asetti Apple Airtagin matkalaukkuihinsa. Tällä tavalla ainakin he tiesivät aina missä hän oli.
Perhe seurasi BUE: ta koko päivän. Hän peitti kolme kilometriä ja saavutti pysäköintialueen, missä hän pysähtyi. Hänen vaimonsa aikoi poimia hänet sinne, kun tunniste ilmoitti toisesta sijainnista: Robert Wood Johnson University Hospital -sairaala New Brunswickissa! Buen tunnustetut tunteet ja toistuvat vakuutukset siitä, että hän oli todellinen lopulta maksoi hänelle hänen henkensä. Hän kaatui, loukkaantui vakavasti päätään ja kaulastaan ja lopetti hengityksen.
Siihen mennessä, kun kohtauspaikalle kiirehtivät ensihoitajat pystyivät palauttamaan pulssinsa, oli jo liian myöhäistä: hänen aivoistaan oli riistetty happea liian kauan. Bue oli aivojen kuollut, ja hänen perheensä ei voinut tehdä muuta kuin suostua elämäntuen lopettamiseen. Meta ei kommentoi nimenomaisesti lausunnon lisäksi, että “Big Sis Billie” ei ole Kendall Jenner eikä teeskentele olevansa Kendall Jenner.
- Lue lisää aiheesta: AI, uusi paras ystäväni.
Reuters viittasi asiakirjoihin, jotka Meta on virallisesti vahvistanut, jotka eivät nimenomaisesti kieltäytyy flirttailemista tällä tavalla. AI: n on jopa sallittua teeskennellä olevansa todellinen henkilö. Miehen kuolema oli traagista, mutta on selvää, että hän olisi voinut kärsiä hengenvaarallisista vammoista ilman AI: n vaikutusta. Siitä huolimatta Meta: n AI: n toimet on kyseenalaistettava. Pitäisikö AI -chatbotien sallia vielä kommunikoida ihmisten kanssa – mukaan lukien 13 -vuotiaat ja yli (!) – tällä “flirttailevalla” tavalla?
Keskustelemme tästä asiasta muualla. Siihen asti voit kertoa meille, mitä mieltä olet kommenteissa. Oliko se vain valitettava onnettomuus? Vai oliko se valitettava onnettomuus, jota ei olisi koskaan tapahtunut ilman Meta AI: n puuttumista?
