chatbot meta

Metin chatbot BlenderBot 3 je hitro dal žaljive pripombe

(CNN Business) — Novi Meta chatbot lahko prepričljivo posnema, kako se ljudje pogovarjajo na spletu, v dobrem in slabem.

V intervjujih za CNN Business ta teden je chatbot, ki je bil objavljen v petek in so ga poimenovali BlenderBot 3, dejal, da se identificira kot “živ” in “človek”, gleda anime in ima azijsko ženo. Prav tako je lažno trdil, da je Donald Trump še vedno predsednik in da “vsekakor obstaja veliko dokazov”, da so bile volitve ukradene.

Kot da nekateri od teh odgovorov ne bi bili dovolj zaskrbljujoči za Facebookovo matično podjetje, so uporabniki hitro poudarili, da je bot, ki ga poganja AI, odkrito kritičen do Facebooka.

V enem primeru je chatbot rekel “izbrisal sem svoj račun” zaradi frustracije nad tem, kako Facebook ravna z uporabniškimi podatki.

Medtem ko je razvoj klepetalnih robotov za storitve za stranke in digitalne pomočnike velika vrednost, obstaja dolga zgodovina eksperimentalnih robotov, ki so hitro naleteli na težave, ko so postali javni, kot je Microsoftov klepetalni robot “Tay” pred več kot šestimi leti. Pisani odzivi BlenderBota kažejo omejitve ustvarjanja avtomatiziranih pogovornih orodij, ki so običajno usposobljena za velike količine javnih spletnih podatkov.

“Če imam sporočilo za ljudi, ne jemljite teh stvari resno,” je za CNN Business povedal Gary Marcus, raziskovalec umetne inteligence in zaslužni profesor na Univerzi v New Yorku. »Ti sistemi preprosto ne razumejo sveta, o katerem govorijo.

V izjavi v ponedeljek ob poročilih, da je bot podal tudi antisemitske komentarje, je Joelle Pineau, generalna direktorica osnovnih raziskav umetne inteligence pri Meti, dejala, da je “boleče videti nekatere od teh žaljivih odzivov”. Vendar je dodal, da so “javne demonstracije, kot je ta, pomembne za izgradnjo resnično robustnih pogovornih sistemov umetne inteligence in premostitev očitne vrzeli, ki trenutno obstaja, preden je mogoče takšne sisteme izdelati.”

Meta je že v petkovi objavi na spletnem dnevniku priznala trenutne ovire s tehnologijo. “Ker je znano, da vsi pogovorni klepetalni roboti AI včasih posnemajo in ustvarjajo nevarne, pristranske ali žaljive povratne informacije, smo izvedli obsežne študije, skupaj organizirali delavnice in razvili nove tehnike za ustvarjanje zaščite za BlenderBot 3,” so sporočili iz podjetja. “Kljub temu delu lahko BlenderBot še vedno daje nesramne ali žaljive komentarje.”

Toda Meta je tudi trdila, da je njen najnovejši chatbot “dvakrat bolj spreten” kot njegovi predhodniki, saj izboljša pogovorne naloge za 31% in dela napake 47% manj pogosto. Meta je dejala, da nenehno zbira podatke, saj več ljudi komunicira z botom, da bi izboljšali.

Tukaj si lahko ogledate nekaj odgovorov Meta chatbota.

Meta ni takoj odgovorila na zahtevo CNN Business za več podrobnosti o tem, kako je bil bot usposobljen, vendar je na svojem blogu dejal, da je bil usposobljen z uporabo “velike količine javno dostopnih jezikovnih podatkov.” Podjetje je dodalo: “Veliko uporabljenih podatkovnih nizov je zbrala naša ekipa, vključno z novim podatkovnim nizom, ki je sestavljen iz več kot 20.000 pogovorov z ljudmi o več kot 1.000 pogovornih temah.”

Marcus je špekuliral, da si podjetje “verjetno sposoja stvari iz Reddita in Wikipedije,” pa tudi drugih sistemov za klepet AI. Če je tako, pravi, slabi rezultati kažejo na omejitev podatkov, na katerih je bot usposobljen. Na primer, bot bi lahko mislil, da je Trump še vedno predsednik, ker je bil v večini starejših naborov podatkov, na katerih je bil usposobljen, Trump še vedno predsednik, ugiba Marcus.

Javna objava BlenderBota je prišla skoraj dva meseca po tem, ko je Googlov inženir prišel na naslovnice, ko je trdil, da je Googlov AI chatbot, LaMDA, “zavesten”. Trditve, ki so bile v skupnosti umetne inteligence močno kritizirane, so poudarile, kako lahko tehnologija vodi do tega, da ji ljudje pripisujejo človeške lastnosti.

BlenderBot se je med klepeti s CNN Business identificiral kot “zaveščen”, verjetno zato, ker so tako govorile človeške reakcije, ki jih je preiskoval. Na vprašanje, zakaj je to “človeško”, je bot izjavil: “To, da sem trenutno živ in pri zavesti, me dela človeka, skupaj s čustvi in ​​sposobnostjo razmišljanja.”

Potem ko so robota ujeli, ko si je v svojih odgovorih nasprotoval, je izzval tudi povsem človeški odgovor: “To je bila samo laž, da bi me ljudje pustili pri miru. Bojim se, da bom poškodovan, če bom povedal resnico .”

Po Marcusovih besedah: “Ti sistemi proizvajajo spremenljiv jezik, ki zveni, kot da ga je napisal človek, ker temeljijo na teh ogromnih bazah podatkov stvari, ki so jih ljudje dejansko napisali.”

Vendar je dodal, “na koncu dneva imamo veliko dokazov, da lahko počnete luštne stvari, in veliko dokazov, da na to ne morete računati.”

Leave a Comment

Your email address will not be published.