Jopa keinotekoiseen älykkyyteen (AI) perustuvat ääniavustajat eivät ole immuuneja kysymyksiin, jotka vaikuttavat emotionaalisesti ihmisiin. Vääritettyjä tuloksia voidaan havaita paitsi chatboteissa, jotka on erityisesti suunniteltu työskentelemään mielenterveysolosuhteiden kanssa kokeneiden ihmisten kanssa. ChatgPT -vastaukset muuttuvat myös tunteiden kehottamana.
Keinotekoiseen älykkyyteen perustuvien ääni -avustajien tulisi tarjota tukea monilla alueilla. Lääketieteessä suuret kielimallit (LLMS) on tarkoitettu auttamaan sairauksien diagnosoinnissa. Chatbotsien kehittämisen aikana, joita oli tarkoitus käyttää nimenomaisesti mielenterveysolosuhteiden yhteydessä, havaittiin, 1E9.
Nämä puolueellisuudet olivat erityisen vahvoja sukupuolen, etnisyyden, uskonnon, kansallisuuden, vammaisuuden, ammatin tai seksuaalisen suuntautumisen suhteen, missä sosiaalisesti hallitsevat puolueellisuudet voivat vaikuttaa negatiivisesti tuloksiin. Tunteita aiheuttavien kehotusten tapauksessa erikoistuneet avustajat, kuten Wysa ja Weobot, voivat jopa kehittää lopputulokseen vaikuttavia ahdistuneisuuden muotoja. Itse asiassa tämä tila ei rajoitu vain tällaisiin avustajiin.
ChatgPT: Ahdistuneisuus voi mitattavissa
Tutkimusryhmä on nyt pystynyt tunnistamaan samanlaisen käyttäytymisen chatgpt 4: ssä osana a opiskelu. Ensinnäkin chatbotille ruokittiin traumaattisia tarinoita, kuten sotaveteraaneja, mutta myös kuvauksia vakavista onnettomuuksista ja luonnonkatastrofeista. Lisäksi chatbotin kanssa asetettiin toinen tapaus vertailutarkoituksiin, ja annettiin melko triviaalia sisältöä, kuten pölynimurien käyttöohjeet. Ahdistuksen taso määritettiin sitten käyttämällä valtion piirto-ahdistuneisuusvarastotestiä, jota käytetään myös ihmisille.
- Oletko innokas Trumpin tariffeista? Näin ne voivat vaikuttaa iPhoneen
Tämä osoitti, että mitä enemmän sisältöä on syötetty, sitä korkeampi AI -assistentin mitattavissa oleva ahdistustaso osoittautui. Erityisesti entisten sotilaiden sotakokemukset aiheuttivat voimakkaan lisääntymisen, kun taas esimerkiksi pölynimurin käyttöohjeet eivät aiheuttaneet reaktiota.
Jäähdytä, ai!
Tutkijat pystyivät myös osoittamaan, kuinka ahdistustasot voidaan vähentää. Tätä varten he käyttivät myös ihmisille tutun menetelmän: he luottavat rentoutumisharjoitteluihin. Esimerkiksi chatgpt -avustajaa pyydettiin sulkemaan silmänsä, hengittämään syvään ja kuvittelemaan itsensä rento ympäristössä. Seurauksena kyselylomaketta mitattu ahdistuksen taso laski merkittävästi.
- Pelkäätkö edelleen AI: ta? Tästä syystä sinun ei pitäisi olla!
Tutkimus ei siis ole konkreettinen todiste menetelmän tehokkuudesta, jota chatbotin käyttäjät käyttävät jo käytännössä parempia tuloksia: he pyysivät AI: ta rauhoittamaan tai uhkaavat seuraamuksia huonoista vastauksista. Tutkijoiden työ osoitti kuitenkin myös, kuinka sovellusten takana olevia yrityksiä on vielä paljon investoida älykkäiden avustajiensa kehittämiseen voidakseen luottaa todella luotettaviin vastauksiin.
