Yli 200 johtavaa tiedettä, politiikkaa ja yhteiskuntaa koskevaa ääntä kehottaa Yhdistyneitä Kansakuntia määrittelemään selkeät punaiset linjat tekoälyn kehittämisessä. Valitus on peräisin Nobel -palkinnon voittajilta, entisiltä valtion ja hallituksen päälliköiltä, samoin kuin AI -tutkimuksen pioneereilta – ja sitä pidetään jo tähän mennessä tärkeimmäksi kansainväliselle sääntelylle.
Se ei ole ensimmäinen näkyvä aloite keskittymään tekoälyn pitkäaikaiseen hallintaan. Esimerkiksi maaliskuussa 2023 “Tauko jättiläinen AI -kokeet” -aloite käynnistettiin. Se oli avoin kirje, jossa vaadittiin voimakkaiden AI -järjestelmien koulutuksen pysäyttämistä vähintään kuuden kuukauden ajan. Viimeisin aloite koskee globaalin konsensuksen löytämistä AI: n käsittelystä.
Allekirjoittajat sisältävät Palkinnon voittajat Geoffrey Hinton ja Yoshua Bengio, historioitsija ja myydyin kirjailija Yuval Noah Harari, entinen Kolumbian presidentti Juan Manuel Santos ja useita Nobelin rauhanpalkinnon voittajia. Heidän tavoitteensa? Vuoden 2026 loppuun mennessä tulisi olla kansainvälisesti sitovia sääntöjä, jotka kategorisesti suljevat pois tietyt AI: n sovellukset – todella tiukka aikataulu, joka korostaa kiireellisyyttä.
Punaiset viivat AI: lle: Nämä rajat tarvitaan kipeästi!
Punaiset viivat vaaditaan tekniikan vaarallisimpia skenaarioita vastaan: itseharjoittelujärjestelmiä, autonomisia aseita, AI: n käyttöä ydinkomentorakenteissa tai manipuloivan desinformaation massan leviäminen. “Ilman tällaisia rajoja meillä on riski, että AI muuttuu hyödyllisestä tekniikasta eksistentiaaliseksi uhkaksi”, vetoomus totesi.
Annalena Baerbock on Yhdistyneiden Kansakuntien yleiskokouksen 80. istunnon presidentti. / © un Photo/ Loey Felipe
Ajoitus on tarkoituksellista: Tällä viikolla valtionpäälliköt ja hallitukset keskustelevat maailmanpolitiikan kiireellisimmistä kysymyksistä YK: n yleiskokouksessa New Yorkissa. Ohjelma sisältää myös “Globaalin vuoropuhelun AI -hallintotavan” käynnistämisen 25. syyskuuta epävirallisen kokouksen, jossa keskustellaan osallistavan ja vastuullisen AI -hallinnon tärkeistä näkökohdista, mukaan Yhdistyneiden Kansakuntien verkkosivusto.
Tämän aloitteen avulla asiantuntijat haluavat lisätä painetta AI -turvallisuuden asettamiseksi asialistan yläosaan. Se, ovat Donald Trumpin, Kiinan ja Venäjän johdolla – suuret maailman valtiot – kaikki Yhdysvallat – on kuitenkin valmis tekemään sitovia sopimuksia. Monet maat harjoittavat omia etujaan, etenkin AI: n käyttöä armeijassa.
Aloite toisin kuin mikään muu
Siitä huolimatta vetoomus on huomattava: Koskaan aikaisemmin ei ole niin monia näkyviä persoonallisuuksia, jotka ovat laajalti sopineet eri erikoistumisten välillä. Toinen erittäin tärkeä kohta, jolla otetaan huomioon: toisin kuin aiemmissa vetoomuksissa, jotka edellä mainittiin – kutsutaan taukolle erityisen voimakkaiden AI -mallien jatkokehityksestä, aloite ei perustu aikarajaan. Sen sijaan tavoitteena on saada pysyvät kiellot tietyissä korkean riskin sovelluksissa.
- Lue myös: Matkalla kaksitasoiseen AI-yhteiskuntaan
Keskustelu on erittäin tärkeä ihmiskunnalle. Loppujen lopuksi AI ei enää vain valtaa chatboteja tai digitaalisia avustajia, vaan se voi myös vaikuttaa demokratiaan, turvallisuuteen ja globaaliin vakauteen. “Punainen lippu” tietyille sovelluksille on tarkoitettu estämään tekniikkaa pääsemästä hallitsematta – ennen kuin peruuttamattomat seuraukset tapahtuvat.
Miltä sinusta tuntuu? Voitteko kuvitella maailman maat, jotka todella ovat sopusoinnussa järkevästä kompromissista, joka koskee tekoälyn aihetta?
Kautta: Partaa
Lähde:
Punaiset viivat
