Zdi se, da je umetna inteligenca danes povsod, od notranje oblikovanje do domača uprizoritev . Toda ena najbolj znanih — in verjetno ena najbolj kontroverznih — uporab umetne inteligence trenutno je ChatGPT.
pomen števil 333
Če še nikoli niste igral s ChatGPT Pred tem je kratek posnetek, kako deluje: Človeški uporabnik vnese poizvedbo, na primer »Napišite mi nov recept za večerjo« ali »Kako naj okrasi mojo sobo za goste ,« in v nekaj sekundah ChatGPT izda odgovor.
Toda nekateri ljudje in podjetja uporabljajo ChatGPT za veliko več kot le pripravo obrokov. Močno se zanašajo na klepetalni robot, s katerega pišejo vse eseji za sprejem na fakulteto do ocene izdelkov — čeprav včasih vodi do spornih rezultatov.
Kot bralec se lahko zaradi tega sprašujete, ali ste kdaj nehote prebrali nekaj, za kar ste mislili, da je napisal človeški avtor, a je v resnici ustvaril bot. Se sprašujete, kako ugotoviti, ali je nekaj napisal ChatGPT? Klepetal sem z nekaj strokovnjaki, da bi dobil njihove namige in nasvete za krmarjenje po tem temnem novem svetu, ki ga poganja umetna inteligenca, v katerem živimo. Evo, kaj so imeli za povedati.
Kako pravi ChatGPT vedeti, ali je nekaj napisal ChatGPT?
Najprej pa sem se spraševal, kaj bi rekel ChatGPT, če bi mu postavil prav to vprašanje. Samo za zabavo sem ustvaril račun, v vrstico s sporočili vtipkal »kako ugotoviti, ali je nekaj napisal ChatGPT« in pritisnil enter.
ChatGPT mi je seveda takoj dal odgovor.
'Ugotavljanje, ali je nekaj napisal ChatGPT, je lahko izziv, saj želi model ustvariti človeško podobno besedilo,' je odgovorilo. 'Vendar obstaja nekaj splošnih značilnosti, ki lahko kažejo, da je bilo besedilo ustvarjeno z jezikovnim modelom.'
Nato mi je dal seznam lastnosti, ki bi lahko nakazovale, da je del besedila napisal bot, na primer večkratno ponavljanje istih besednih zvez ali idej ali na videz splošno in manjkajo določene podrobnosti. ChatGPT pravi tudi, da v njegovem pisanju morda manjka osebnih anekdot in čustev.
Še en povej, glede na ChatGPT? Če se informacije zdijo zastarele, ker je bil ChatGPT usposobljen samo za podatke do januarja 2022.
Na koncu svojega odgovora me je ChatGPT poskušal pomiriti in zapisal, da če imam 'posebne pomisleke ali dvome o delu besedila, vas prosimo, da vprašate, in potrudil se bom, da vam pomagam.'
Kako ugotoviti, ali je nekaj napisal ChatGPT
V redu, to je bil zabaven poskus, zdaj pa kaj pravijo pravi človeški strokovnjaki.
Prva stvar, ki jo morate upoštevati, je, da je besedilo ChatGPT ustvarjeno s pozivom, ki ga vnese človek. Zaradi tega lahko človeški uporabnik znova in znova prilagodi poziv, da ustvari določen glas, slog, dolžino in vrsto besedila, ki ga išče. Zaradi tega je lahko presenetljivo težko ugotoviti, ali je nekaj napisal ChatGPT.
»V svoji raziskavi sem ugotovil, da se tudi dobro usposobljeni ljudje trudijo zanesljivo zaznati ustvarjeno besedilo,« pravi Liam Dugan , ki med delom na doktoratu na Univerzi v Pennsylvaniji raziskuje različna vprašanja, povezana s chatboti. (On in njegovi kolegi so ustvarili spletno igro, imenovano ' Pravo ali lažno besedilo ,« kjer lahko ljudje preizkusijo svoje sposobnosti zaznavanja besedila, ustvarjenega z umetno inteligenco – poskusite sami.)
Po mnenju Dugana ni nobenih posebnih besed ali besednih zvez, ki bi nakazovale, da je del besedila napisal chatbot. Torej, na žalost, ne morete samo narediti 'Control + F' za določeno besedilo.
Drugi strokovnjaki so ponovili to mnenje.
»Na žalost se zdi, da ni preprostega načina za odkrivanje besedila, ki ga je napisal ChatGPT ali AI na splošno,« pravi Xavier Harding, producent vsebine pri Mozilli, podjetju, ki stoji za spletnim brskalnikom Firefox. 'Videli smo, da so izdelovalci ChatGPT, OpenAI, poskušali ponuditi metode za zaznavanje besedila, napisanega z umetno inteligenco, in morali so jih priklicati, češ da ni natančnega načina za zaznavanje besedila, ustvarjenega z umetno inteligenco.'
Bodite pozorni na napake pri kopiranju in lepljenju.
Toda samo zato, ker je težko ugotoviti, še ne pomeni, da je vse upanje izgubljeno. Ker so ljudje tisti, ki spodbujajo ChatGPT, boste morda videli nekaj zelo očitnih namigov, da je nekaj napisal chatbot.
»Videl sem, da so ljudje pomotoma vključili stranske komentarje klepetalnega robota, kot je: »Seveda, tukaj je članek o odkrivanju,« pravi Dugan.
Vedeti, kako opaziti 'halucinacije'.
Če zanemarimo tovrstne napake, strokovnjaki priporočajo tudi natančno preučevanje dela besedila, da bi ugotovili točnost dejstev. Bolj ko so informacije nišne, večja je verjetnost, da si bo chatbot preprosto izmislil dejstvo ali se kaj zmotil, pravi Dugan.
Ljudje, ki delajo na področju umetne inteligence, te napačne korake imenujejo 'halucinacije'.
'Včasih bo umetna inteligenca povedala stvari, ki preprosto niso resnične,' pravi Harding. 'To je lahko preprost znak, da berete besedilo, ki ga je ustvarila umetna inteligenca in ne oseba, čeprav je težko ugotoviti, ali je nekaj halucinacija, če gre za temo, ki je ne poznate.'
Če niste dobro seznanjeni s temo, o kateri berete, naredite hitro spletno iskanje, da preverite informacije, ki so pred vami, dodaja Harding.
Pazite na pisanje, ki se zdi preveč splošno.
Še en znak, da je nekaj napisal chatbot, je pretirana splošnost (kar je omenil tudi sam ChatGPT). Če se del besedila zdi preobsežen - na primer filmska ocena, ki ne omenja nobenega od igralcev po imenu -, boste morda želeli biti sumljivi.
»Da bi se izognili napakam, klepetalni roboti pogosto pišejo splošno besedilo,« pravi Dugan. »Dali bodo zelo varne in predvidljive odgovore in se bodo poskušali izogniti potrebi po izmišljevanju informacij. Vendar se lahko to človeku bralcu pogosto zdi nenavadno. Bralci naj bodo pozorni na vse, kar se zdi, kot da se izogiba podajanju določenih informacij.«
Preberite več kot prvih nekaj stavkov.
Še en nasvet: preberite čim več besedila, namesto le prvega stavka ali dveh. Gary Marcus , zaslužni profesor psihologije in nevrološke znanosti na Univerzi v New Yorku, pravi, da je lažje ugotoviti, ali je nekaj napisal klepetalni robot, če je besedilo daljše.
'To je zelo težko razbrati iz enega samega stavka, ker so urjeni na osupljivo velikih količinah besedila, da zvenijo čim bolj človeško,' pravi. 'Ti sistemi pogosto zaidejo iz tira v daljšem pogovoru, vendar ne nujno v kratkih delčkih.'
kaj pomeni 11. september
Kaj pa detektorji chatbotov?
Pobrskajte po spletu in verjetno boste naleteli na orodja, ki trdijo, da lahko zaznajo besedilo, ki ga ustvari umetna inteligenca. Dugan trenutno izvaja obsežno študijo, da bi preizkusil učinkovitost teh detektorjev - vendar zaenkrat zgodnji dokazi niso obetavni.
'Vsi naši rezultati kažejo, da detektorji niso zanesljivi in da jih ne bi smeli uporabljati v scenarijih z visokimi vložki,' pravi. »Mnoga podjetja trdijo, da lahko zaznajo ustvarjeno besedilo z 99-odstotno ali višjo natančnostjo, vendar so te trditve napačne. Detektorji pogosto označijo besedilo, ki ga je napisal človek, kot besedilo, ki ga je ustvaril chatbot, in jih je zlahka preslepiti.«
