Keinotekoista älykkyyttä, joka voi kirjoittaa vääriä tekstejä, pidetään liian vaarallisena

Syvä väärennös teksteihin: totuuden jälkeiseen aikaan räätälöity kone

Viimeksi kuluneita kolme vuotta Internetissä on hallinnut vilpillinen tieto väärentämien uhkien vaarasta ja äänestäjien tai kuluttajien vakuuttaminen algoritmien avulla, jotka syöttävät tosiaikaisesti tietojaan manipuloidakseen verkkokäyttäytymistään. Tällä riskillä, jota jotkut pitävät demokratian ja autonomian vastaisena yrityksenä, voi olla uusi toimija kehitettäessä ohjelmia, jotka onnistuvat kirjoittamaan artikkeleita, jotka ihmiset voivat helposti kirjoittaa, erottamattomaan tai melkein erottamattomaan kohtaan.

Pari viikkoa sitten OpenAI-alusta ilmoitti olevansa huolestunut GPT2-mallin, jota on kutsuttu "tekstien syväksi fakeksi", mahdollisesta haitallisesta käytöstä. Yhtiö, jonka sijoittajien joukossa on Elon Musk, kertoi, että se ei julkista tutkimuksensa tietoja pelkäämällä, että tällä tekniikalla on kielteisiä seurauksia. GPT2-malli pystyy tuottamaan uskottavaa tekstiä, kun se on syötetty tekstillä, jotain kuin kehitettävän idean tapa, joka yhdistyy muihin tietoihin.

Järjestelmä eroaa muista ohjelmista siinä, että se ylläpitää samaa teemaa ja syntaksia ja luo vakiokohdat, jotka ihmisen näyttävät kirjoittavan. Tätä alustaa koulutettiin yli 10 miljoonalla kappaleella. Toisaalta tämä on erittäin mielenkiintoista, koska tämä malli voi suorittaa tehtäviä, kuten tekstien kääntämistä ja tiivistämistä. Mutta toisaalta sillä on potentiaali, että vaikka voimme kuvitella, mihin se voisi johtaa, sillä on käytännöllisesti katsoen rajaton käyttömahdollisuus, jota voidaan antaa pettää ja manipuloida. Järjestelmä voi esimerkiksi tuottaa lukemattomia positiivisia tai negatiivisia tuotearvioita. Se voi tuottaa lukemattomia roskapostia ja jopa tutkia tietokantoja luodakseen sähköpostiosoitteita, joilla pyritään huijaamaan ihmisiä. Tai salaliitoteoriat tai tekstit, joiden tarkoituksena on provosoida tiettyjä sosiaalisia tai poliittisia ryhmiä. Se voisi tuottaa kokonaisia vääriä uutisia tai tietosivustoja propagandaa varten.

Vaikka tämä varovaisuus on tervetullutta, toisaalta on selvää, että jotkut ihmiset kehittävät tätä tekniikkaa ja sitä voidaan todennäköisesti käyttää haitallisiin tarkoituksiin. Joten on tärkeää valmistautua ja kouluttaa itseämme. Kiistatonta on, että olemme saavuttamassa pisteeseen, jossa luomamme tekniikka pystyy tietävästi hyödyntämään joitain henkisiä haavoittuvuuksiamme ja moraalista ja älyllistä tasoamme, koska sivilisaatio ei ole kykenevä suojaamaan tämän tekniikan käyttöä. Mikä on huolestuttavaa. Näyttää siltä, ​​että elämme aikoina, jotka Philip K. Dick kuvitti:

Väärä todellisuus luo väärät ihmiset. Tai väärät ihmiset luovat vääriä todellisuuksia ja myyvät niitä sitten muille ihmisille, muuttaen lopulta itsensä väärennöksiksi. Joten päädymme siihen, että väärennetyt ihmiset keksivät vääriä todellisuuksia ja myyvät sitten niitä muille vääriä ihmisille.