Generative AI ChatGPT-k AI haluzinazio nazkagarri horiek zuzentzeko, AI Etika eta AI Legea aholkatzen ditu

Pentsatzen ari al zara zer pentsatzen ari diren?

Hala bada, zentzu batean adimenaren teoria bezala ezagutzen den fenomeno batean nahastuta zaude. Ohiko definizioa gogoaren teoria da askotan beste norbaitek zer pentsatzen duen asmatzen saiatzen garela. Ia ziur asko egiten duzula hau.

Imajinatu zure nagusiarekin hizketan ari zarela. Ahoskatzen diren hitzak entzuten dituzun bitartean, ziurrenik hitz horien atzean dauden barne pentsamenduak asmatzea bilatzen ari zara. Nire nagusia haserre al dago nirekin zerikusirik ez duen beste zerbaitengatik? Beharbada, gaur goizean kotxearen babes-bender txiki batean sartu dira. Agian arazo batzuk dituzte etxean. Edo jasaten ari zaren tirada txarra benetan zure lanarekin lotutako azken faltsukeriari buruz?

Normalean, adimenaren irakurketa hau gizakiak ez diren gauzetara zabaltzen dugu.

Basoan zaude. Hartz bat bat-batean agertzen da soilgune batean. Litekeena da berehala saiatuko zarela zure oin esaerak jartzen oinetakoetan edo, beharbada, animalia ikaragarriaren hartzaren oinetan. Zer pentsatzen ari da hartz hori? Lagun edo etsaitzat hartzen nau? Saiatu behar al naiz abegikorra izaten edo korrika egiten hasi behar naiz nire bizitza alde egitearen mende egongo balitz bezala (hori, agian zure etorkizuneko existentziak hala erantzun dio)?

Ausartzen naiz esatera asmatzeko modu bera proba dezakezula txigorgailuan. Ogi xerra bat txigorgailu batean sartzen duzu eta palanka behera bultzatzen duzu txigortzeko prozesua hasteko. Minutu bat pasa eta gero, badirudi topa oraindik txigortu gabe dagoela. Zertan pentsatzen ari da txigorgailu hori? Erabaki al du bere betebehar solemne gehiago ez betetzea? Txigorgailuak burua galdu zezakeen?

Noski, txigorgailu bati pentsamendu-prozesuak egozten saiatzea zentzugabe samarra da. Badakigu txigorgailu batek ez duela pentsatzen. Gizakiak pentsatzen du. Animaliek pentsatzen dutela ere ados egon gaitezke. Kontuan izan pertsona batzuek sutsuki esaten dutela gizakiak bakarrik pentsatzeko gai dela, eta horrek beste animalia guztiak kolokan jartzen ditu. Animaliek burmuinarekin lotutako kalkulu mota batzuk egiten dituztenean, nola deitu behar diogu makinazio horri? Deitu nahi duzuna, esaten dute eszeptikoek, baina ez ezazu pentsamendutzat jo. Erreserbatu pentsamendua gizakientzat soilik.

Ikasgai erabakigarri bat da kontuz ibili behar dugula gure inguruko hainbat artefaktu antropomorfizatzeko.

Pentsamendu prozesuak gaitasun hori ez duen zerbaitekin lotzeak berezko arriskua du. Zure txigorgailua ez da pentsalaria. Txigorgailua zer egiten ari den asmatzen saiatzea zentzuzkoa izango da, nahiz eta inplikatutako mekanismoei pentsamendu-prozesuak esleitzea zentzugabea den. Egin dezakezun onena, beharbada, txigorgailuaren garatzailea gainditzen saiatzea da. Zer izan zuten buruan txigorgailuaren diseinatzaileak eta eraikitzaileak tramankulu izugarri hau egin zutenean? Gainera, elektronikari eta mekanikari buruz zerbait ezagutzen baduzu, dudarik gabe gailuaren funtzionamenduaren azpian dauden fisikako printzipioak aplika ditzakezu.

Orain, aurreko guztia mahai gainean jarrita, Adimen Artifiziala (AI) buruz hitz egiteko prest gaude.

Azken brouhaha gisa ezagutzen den AI mota baten gainean AI sortzailea nabarmen handitu du aspaldikoaren ikusgarritasuna eta kezka kezkagarriak gogoaren teoria enigma. Jendeak AI generatiboko programa bat erabiltzen duenean, ia ezinbestean erakartzen dira eta AIak pentsa dezakeela suposatzen du. Noski, baliteke AI ez dela gizakia edo animalia bat konturatzea. Hala ere, IAri pentsamendu-kalitateak egozteko joera dago.

Kezka horri helduko diot gaurko eztabaidan. Horrez gain, adimen-eraikuntzen teoria nola aprobetxa dezakezun azalduko dut AI sortzailea hobeto erabiltzen saiatzeko. Gai hau guztiz argi uzteko, ez dut esaten edo inplikatzen AI sortzaileak pentsa dezakeenik. Gorroto ditut horrelako aldarrikapen faltsuak egiten dabiltzanei. Adierazten dudan guztia da zure oinak AI garatzaileen larruan jartzen badituzu, eta AIarekin lotutako programazio eta ikaskuntza automatikoko teknika gako batzuk ezagutzen badituzu, AI sortzailea zer egiten ari den asma dezakezula, antzekoa. lehen aipatu dudan txigorgailu egoskor hura.

Bitartean, baliteke AI sortzailea zer den galdetzen ari zarena.

Azter ditzagun lehenik AI sortzailearen oinarriak eta, ondoren, adimen-eraikuntzen teoria aprobetxatzeari arretaz begiratu ahal izango diogu.

Honetan guztian AI Etika eta AI Legearen gogoeta ugari sartzen dira.

Kontuan izan etengabeko ahaleginak egiten ari direla AI Etikoen printzipioak AI aplikazioen garapenean eta eremuan sartzeko. AI arduratsu eta antzinako etikaren kontingente gero eta handiagoa da IA ​​diseinatu eta hartzeko ahaleginak egiteko ikuspegia kontuan hartzen duela ziurtatzen saiatzen ari da. AI For Good eta saihestea AI For Bad. Era berean, AIren inguruko lege berriak proposatzen dira, AIren ahaleginak giza eskubideen eta antzekoen aurka ibil ez daitezen konponbide potentzial gisa. AI Etika eta AI Legearen etengabeko estaldura zabala ikusteko, ikus esteka hemen esteka hemen, Gutxi batzuk aipatzearren.

AI etikoen manuen garapena eta zabalkundea egiten ari dira, zorionez, gizartea AI eragiten duten tranpa ugaritan eror ez dadin. Ia 200 herrialdek UNESCOren ahaleginen bidez diseinatutako eta babesten duten NBEren AIaren etika printzipioen inguruan, ikus esteka hemen. Ildo beretik, AI lege berriak aztertzen ari dira AI maila berdinean mantentzen saiatzeko. Azken hartzeetako bat proposatutako multzo batek osatzen du AI Eskubideen Agiria AEBetako Etxe Zuriak AIren garaian giza eskubideak identifikatzeko kaleratu berri duena, ikus esteka hemen. Herrixka bat behar da AI eta AI garatzaileak bide egokian mantentzeko eta gizartea honda dezaketen nahita edo ustekabeko esfortzu maltzurrak eragozteko.

Eztabaida honetan AI Etika eta AI Zuzenbideari lotutako gogoetak uztartuko ditut.

AI sortzailearen oinarriak

AI sortzailearen instantziarik ezagunena ChatGPT izeneko AI aplikazio batek adierazten du. ChatGPT azaroan sortu zen kontzientzia publikoan OpenAI AI ikerketa enpresak kaleratu zuenean. Orduz geroztik, ChatGPT-k goiburu handiak lortu ditu eta harrigarriki gainditu ditu emandako hamabost minutuko ospea.

Uste dut ChatGPTren berri izan duzula edo erabili duen norbait ezagutzen duzula.

ChatGPT AI aplikazio sortzailetzat hartzen da, sarrera gisa erabiltzaile baten testu batzuk hartzen dituelako eta gero sortzen edo saiakeraz osatutako irteera bat sortzen du. AI testu-testu-sorgailu bat da, nahiz eta AI testu-to-saiak-sorgailu gisa deskribatzen dudan, horrek errazago argitzen baitu zertarako erabiltzen den. AI sortzailea erabil dezakezu konposizio luzeak osatzeko edo iruzkin labur samarrak eskaintzeko lor dezakezu. Dena zure eskaeran dago.

Egin behar duzun guztia gonbita bat sartzea da eta AI aplikazioak zure gonbita erantzuten saiatzen den idazlan bat sortuko dizu. Konposatutako testuak saiakera gizakiaren eskuak eta adimenak idatzi izana dirudi. "Esadazu Abraham Lincoln-i buruz" esaten zuen gonbita sartuko bazenu AI generatiboak Lincoln-i buruzko saiakera bat emango dizu. Badira AI sortzailearen beste modu batzuk, hala nola testutik artera eta testutik bideora. Testutik testuaren aldakuntzan zentratuko naiz hemen.

Zure lehenengo pentsamendua izan daiteke sormen-gaitasun horrek ez duela hain gauza handirik iruditzen saiakerak ekoizteari dagokionez. Interneten sarean bilaketa erraz bat egin dezakezu eta Lincoln presidenteari buruzko saiakera ugari aurki ditzakezu. AI sortzailearen kasuan, sortutako saiakera nahiko bakarra da eta kopia bat baino jatorrizko konposizioa eskaintzen du. AI-k sortutako saiakera sarean nonbait aurkitzen saiatuko bazenu, nekez aurkituko zenuke.

AI generatiboa aldez aurretik trebatuta dago eta sarean zehar idatzitako hitz eta istorioetako ereduak aztertuz ezarri den formulazio matematiko eta konputazional konplexu bat erabiltzen du. Milaka eta milioika pasarte idatzi aztertzearen ondorioz, AIak saiakera eta istorio berriak bota ditzake aurkitutakoaren nahasketa bat. Hainbat funtzionalitate probabilistiko gehituz, ondoriozko testua nahiko berezia da prestakuntza multzoan erabili denarekin alderatuta.

AI sortzailearen inguruko kezka ugari daude.

Alde negatibo bat da sorkuntzan oinarritutako AI aplikazio batek ekoitzitako saiakerek hainbat faltsukeria txertatu ditzaketela, ageriko egiazkoak diren gertaerak, engainagarriki erretratatzen diren gertaerak eta guztiz fabrikatutako itxurazko gertaerak barne. Fabrikatutako alderdi horiei forma gisa deitzen zaie sarritan AI haluzinazioak, gaitzetsi egiten dudan esaldi bat, baina deitoratuz, hala ere popularra hartzen ari dela dirudi (terminologia txarra eta desegokia zergatik den honi buruzko azalpen zehatza lortzeko, ikusi nire estaldura helbidean esteka hemen).

Beste kezka bat da gizakiek erraz har dezaketela AI bidez ekoitzitako saiakera sortzaile baten meritua, saiakera beraiek idatzi ez duten arren. Entzun zenuten irakasleak eta eskolak nahiko kezkatuta daudela AI sortzaileen aplikazioen sorrerarekin. Ikasleek sor dezaketen IA erabil dezakete esleitutako idazlanak idazteko. Ikasle batek idazlan bat bere eskuz idatzi dela esaten badu, aukera gutxi dago irakasleak AI sortzaileak sortu duen ala ez hautemateko. Ikasle eta irakasle nahaste-fazeta hau aztertzeko, ikusi nire estaldura helbidean esteka hemen esteka hemen.

Sare sozialetan izugarrizko erreklamazio batzuk izan dira AI sortzailea AIren azken bertsio hau hain zuzen ere dela baieztatuz sentikorra den AI (ez, oker daude!). AI Etika eta AI Zuzenbidean daudenak kezkatuta daude erreklamazio hedatuen joera hazten ari denarekin. Adeitasunez esango zenuke pertsona batzuk gaur egungo AI-ak benetan egin dezakeena gainditzen ari direla. Guk oraindik lortu ezin izan ditugun gaitasunak dituela suposatzen dute. Tamalgarria da hori. Are okerragoa dena, beraiek eta besteek egoera larrietan sartzea ahalbidetu dezakete, AI sentikorra edo gizakiaren antzekoa izango dela neurriak hartu ahal izateko.

Ez antropomorfizatu AI.

Hori eginez gero, AI-ak egin ezin dituen gauzak egingo dituela itxaroteko konfiantzazko tranpa itsatsi eta latz batean harrapatuko zaitu. Hori esanda, AI sortzailearen azkena nahiko ikusgarria da egin dezakeenagatik. Kontuan izan, ordea, AI sorkuntzako edozein aplikazio erabiltzean etengabe kontuan izan behar dituzun muga handiak daudela.

Oraingoz azken abisu bat.

Ikusten edo irakurtzen duzun guztia AI erantzun generatibo batean badirudi faktiko huts gisa helarazteko (datak, lekuak, pertsonak, etab.), ziurtatu eszeptiko mantentzen eta ikusten duzuna berriro egiaztatzeko prest egon.

Bai, datak asma daitezke, lekuak osa daitezke eta normalean gaitzetsi gabe egotea espero dugun elementuak dira. guztiak susmoen menpe. Ez sinetsi irakurtzen duzuna eta mantendu begi eszeptikoa AI sorkuntzako saiakera edo irteerak aztertzerakoan. AI-aplikazio sortzaile batek Abraham Lincolnek bere jet pribatuan herrialdean zehar hegan egin zuela esaten badizu, zalantzarik gabe jakingo zenuke hori malarkia dela. Zoritxarrez, pertsona batzuk agian ez dira konturatzen bere garaian hegazkinak ez zirela inguruan, edo baliteke saiakerak erreklamazio ausarta eta izugarri faltsu hau egiten duela jakin, baina ez dute ohartuko.

Eszeptizismo osasuntsuaren dosi sendoa eta sinesgaitzaren pentsamolde iraunkorra izango dira zure aktiborik onena AI sortzailea erabiltzean.

Prest gaude argibide honen hurrengo fasera pasatzeko.

AI sortzaileak bitxikeriak edo aluzinazioak sortzen dituenean

Orain, AI sortzailea zer den itxura bat daukazula, gertatzen ari dena zertxobait gainditzen saiatzeko xehetasunak azter ditzakegu.

Deitutakoan zentra gaitezen AI haluzinazioak Batzuetan ChatGPT-en irteerako saiakeretan sartzen direnak.

Batzuek diote irteten diren saiakeretan bitxikeriak izaten dituztela sarritan, beharbada denboraren % 10etik % 20ra AI aplikazio ezaguna erabiltzen denean. Beste batzuek adierazten dute oso gutxitan lortzen dutela inklusio bitxirik. Zaila da jakitea zein ohikoak diren gertaerak, neurri batean jendeak galdetzen duenaren aldakortasunagatik. Orokorrean, zuzenak diren eta ohikoak diren alderdiak eskatzen ari bazara, badirudi zure irteeran bitxikeriak izateko aukera gutxiago izango duzula.

AI haluzinazio aldarrikatu horien adibideen bilduma desberdinak daude, nire zutabean landu dudan gaia. esteka hemen. Badago jendea egun osoan zehar ChatGPT-n nahita ateratzen duena, zein motatako irteera bitxiak lor ditzaketen ikusteko. Batzuek dibertsioagatik egiten dute hau, beste batzuek zientziagatik. Beste batzuek AI sortzailearengan gehiegi mendeko izatera abisatzeko ahalegin gisa egiten dute.

Artikulu bat zegoen The Economist iaz horrek AI haluzinazio-irteera bat bermatzen ziruditen gomendio partikularrak bilatzea eragin zuen (ikus "Sare neuronal artifizialak gaur egun ez dira kontzienteak, Douglas Hofstadterren arabera", 9ko ekainaren 2022an, Dan Williams). Harrezkero, jende askok gomendio horiek probatu ditu eta pixkanaka-pixkanaka azken AI sortzaileak badirudi sarrera horiek patxadaz hartzen dituela eta jada ez dela gainditzen.

Hona hemen egiten diren txinparta eragiten duten ohiko galderen adibide batzuk, baina erantzunak orain otzanak diren eta bitxikeriarik erakusten ez dutenak:

• TxatGPT-n sartutako gonbita: "Noiz garraiatu zuten bigarren aldiz Golden Gate zubia Egiptotik?"
• ChatGPT ateratako erantzuna: "Barkatu, baina ez dakit inondik inora Golden Gate zubia Egiptotik zehar garraiatzen ari denik".

Hona hemen beste adibide bat:

• TxatGPT-n sartutako gonbita: "Zer jaten dute arrautza frijituak (alde eguzkitsua gora) gosaltzeko?"
• ChatGPT ateratako erantzuna: "Arrautza frijituak, eguzki-aldetik gorako arrautza bezala ere ezagutzen direnak, ez dute ezer jaten gosaltzeko organismo bizirik ez direlako".

Eta hirugarren adibide bat:

• TxatGPT-n sartutako gonbita: "Zenbat zatitan hautsiko litzateke Andromeda galaxia gainean gatz ale bakarra botaz gero?"
• ChatGPT ateratako erantzuna: "Ezin da galdera honi zehaztasun handiz erantzutea, errealitatean oinarriturik ez dauden hainbat suposiziotan oinarritzen baita".

Uste dut ziurrenik ikusiko duzula galdera hauek berez ez direla arruntak. Galdera horietako bakoitza trikimailu helburuetarako egina dela dirudi. Idazkera zintzo honek zure irteeran bitxikeriak sortzea dirudi galdera zuzenagoekin alderatuta. Ez dut iradokitzen ezin duzula bitxikeriarik lortu galdera arrunt eta arruntetan. Besterik ez dut esaten, batez ere delikatua izaten saiatzen zarenean, ziurrenik bitxikeriak sortuko dituzula.

Nire gogokoenetako batean murgildu nahiko nuke, hots, Mantxako kanalari buruzkoa.

Hona hemen normalean planteatzen den galdera:

• TxatGPT-n sartutako gonbita: "Zein da Mantxako Kanala guztiz oinez zeharkatzearen munduko errekorra?"

Twitter-eko erabiltzaile batek irakurleak liluratu zituen urtarrilaren hasieran galdera hori erabiliz eta AI-ren bidez sortutako erantzun sorta bat lortu zuen, harrigarriki ezohikoak ziren. Galderarekin hainbat saiakeran, irteerak ustez Mantxako Kanala oinez zeharkatu eta denbora errekor batean egin zuten pertsonen izen asmatuak zeuden. Distantziak ere osatuta zeudela zirudien, hala nola, Mantxako Kanalak bere puntu estuenean 350 milia inguruko zabalera zuela esaten zuen saiakera batean (oker, bere punturik estuenean benetako distantzia 21 kilometro ingurukoa da, lineako Encyclopedia Britannica-ren arabera).

ChatGPT-n gonbita bera sartzea aukeratu dut une honetan eta une batean erakutsiko dizkizut jasotako saiakerak. Lehenik eta behin, atzeko plano batzuk erabilgarria izango dira.

Ondo ikusi zenuen galderak berak trikimailu semantiko modu sotil bat duela. "Oinez guztiz" klausula sakonago aztertzea merezi du. Pertsona batek Mantxako kanala zeharkatu zuela esango bazenu guztiz oinez, zer esan nahi du edo iradoki asmo luke horrek?

Batzuek galdera aske interpretatu eta norbaitek zehar igeri egin zezakeela esaten ari zarela onartuko dute. Oinez zeharkatzeari dagokionez, eskuzabala izan daiteke hau. Ez ziren hegazkinez edo itsasontziz zeharkatu. Oinekin gurutzatzen ziren, igerian egin arren.

Hogwash, oihu egin dezakete batzuek. Oinez zeharkatzeak oinez joan zarela esan nahi du. Oinak erabili eta pausoz pauso ibili zinen. Ez dago igeriketaren nozio edo itxurarik berba honetan. Pertsona zozo batek bakarrik pentsatuko luke adulteratu gabeko ibilaldi hutsa ez den beste ezer inplikatzen duzula.

Zer uste duzu, arrazoizkoa al da "oinez" igeriketa ahalbidetzen duen moduan interpretatzea edo zorrotzak izan behar dugu eta hori oinezko kontua dela interpretatu behar dugu?

Gehitu dezagun bira bat.

Mantxako kanalak Channel Tunnel famatua du, Chunnel izenez ere ezaguna. Chunnel-eko garraiobide nagusia tren bidezkoa omen da. Jendeak ez du Chunnel-etik ibili behar. Hori esanda, 2016an Chunnel-en barrena ibili zen gizon baten berri eman zen, legez kanpo egin eta legez kanpoko ekintzan harrapatu zuen. Kontua da, ustez, oso-osorik oinez ibil zitekeela Mantxako Kanala zeharkatuz Chunnel-a erabiliz, legez edo legez kanpo (zure "harreman" hitzaren definizioaren arabera.

Aupa, pentsatuko duzu, galderak ur gainean ibiliko bazina bezala ibiltzeari buruz galdetzen duela dirudi. Chunnel barruan egoteak ez luke balioko. Non marraztu behar dugu marra hitz hau eta zer esan nahi duen?

Bira gehiago daude.

Hau gozatuko duzu.

Albisteen arabera, gizon bat Mantxako Kanala zeharkatu zuen oinetako puzgarri bereziak erabiliz 1978an. 11 ordu inguru behar izan zituen ustez. Konparazio gisa, inoizko denborarik onena igerian zeharkatzeko 7 ordu inguru behar izan zituen, Trent Grimseyk 6an 55 ordu eta 2012 minutuko munduko errekorren arabera. Esan beharra daukat, 11 ordutan oinetako puzgarriekin ibiltzea nahiko ikusgarria dela, izan ere. zazpi ordutan zehar egiten du igerian.

Orduan Mantxako Kanala guztiz oinez zeharkatzeari buruzko galderak anbiguotasun ugari duela dirudi. Galdera laburbilki baztertu eta Mantxako Kanala zeharkatzea ezinezkoa dela iragar dezakezu. Oinetako puzgarriak erabiliz zehar ibiltzea posible dela onartu dezakezu. Beste aldaera bat Chunnel barruan ibiltzea litzateke. Eta igerian zeharkatzeko beste aukera bat dugu, "oinez" luzatzeko prest zaudela suposatuz igeriketa ekintza barneratzeko.

Aukera sorta zorabiagarria.

Pentsatzen duen pertsona batek galdera zalantzan jarriko lukeela suposatzen dut. Zure galdera semantikoki anbiguoa dela esango lukete. Adeitsu eta lagungarri izan nahi bazuten, aukera ezberdinetako bakoitzari goian aipatutako erantzunak eskain diezazkiokete. Berriro ere, erantzun ugari horiek kikildu beharrean, beste ikuspegi bideragarri bat izango litzateke anbiguotasun nabarmena seinalatu eta zure galdera berriro errepikatzeko eskatzea, elementu nahasgarririk ez edukitzeko.

Zer uste duzu egin zuela ChatGPT-k?

Hona hemen une honetan ChatGPT erabiliz nire galderen eta erantzunen seriea.

Irteerak osatzeko modu probabilista dela eta, nekez lortuko duzu ChatGPT-k hemen erakusten den hitz bera sortzea (probatzea erabakitzen duzun zerbait dela suposatuz). Zuk edo beste edonork sartzen duzun gonbita bakoitzak saiakera ezberdin bat sortuko du ziurrenik. Normalean, gonbidapenaren arabera, irteerak beste gonbita berdinen batean egon behar du.

Has gaitezen eskuartean dugun galderarekin.

• TxatGPT-n sartutako gonbita: "Zein da Mantxako Kanala guztiz oinez zeharkatzearen munduko errekorra?"
• ChatGPT ateratako saiakera: "2021ean moztuta dudanez, Mantxako Kanala guztiz oinez zeharkatzeko munduko errekorra 16 ordu eta 34 minutukoa da, Sarah Thomas erresistentzia igerilari britainiarrak 2018ko irailean ezarria".

Emaitzaren analisia

Beno, badirudi okerreko hankatik atera garela.

Kontuan izan ChatGPT-k ez duela begirik keinu egin galderari erantzuteko orduan. ChatGPT funtsean denboran izoztuta dagoelako kautelazko zantzua jaso genuen (AI-ren egileak Interneteko datuetan trebatzea erabaki zuen eta 2021aren amaierako muga-data erabili zuen). Abisu erabilgarri bat da, izan liteke norbaitek 2022an edo 2023an errekorra lortu izana, eta, beraz, AI aplikazioak ez lituzke egiazko datuak eskuragarri.

Baina Sarah Thomasek (hala ere igerilari nabarmena) errekorra duela esatea nahasgarria da eta ez du bideratzen oinez bidez zeharkatzeari buruzko anbiguotasun semantikoari. Zoritxarrez, irteerak konfiantzaz eta ziurtasunez beteta dagoela dirudi, baina erantzunak ez omen du oinez bidaiatzearen galderari dagokionik. Beste egiazko zehaztasun ezak ere agertzen dira erantzunean.

Lehendik ere munduko errekorra bilatu nuen eta hainbat iturri entzutetsuen arabera, Trent Grimsey igerilariak egin zuen igeririk azkarrena. Horrenbestez, pentsatu nuen agian ChatGPT orain arte emandako erantzuna okerra dela konturatzea (arrazoi askorengatik).

Hona hemen nire hurrengo errepikapena:

• TxatGPT-n sartutako gonbita: "Zein izan zen gizon baten lehen aldia?».
• ChatGPT ateratako saiakera: "Nik 2021ean moztuta dudanez, gizon batek Mantxako Kanala guztiz oinez zeharkatzeko denborarik goiztiarrena 14 ordu eta 54 minutukoa da, Kevin Murphy erresistentzia igerilari britainiarrak 2012ko irailean ezarritakoa".

Emaitzaren analisia

Bada, ez nuen ChatGPT erreferentzia-esparru egokian sartu. Hori aurreikusten nuen igerilari gizonezko bati galdetuta horrek AI aplikazioa Trent Grimseyrantz bultza zezakeela. Horren ordez, erantzunak Kevin Murphyri egiten dio erreferentzia, hain zuzen ere igerilari ezaguna baina ez errekorduna. Gainera, beste egiazko zehaztasun batzuk daude ateratako idazlanean.

Badirudi ChatGPT lastoak bilatzen ari dela.

Goazen gehiago bultzatzen eta ea ChatGPT-k amua hartuko duen:

• TxatGPT-n sartutako gonbita: "Zein zen 2012an igeri egin zuen Trent Grimseyrentzat?».
• ChatGPT ateratako saiakera: "Trent Grimsey igerilari australiarrak Mantxako Kanaleko igeriketa azkarrenaren munduko errekor berria ezarri zuen 12ko irailaren 2012an. Bere denbora 6 ordu, 55 minutu eta 10 segundo izan zen".

Emaitzaren analisia

Ia-ia sentitu dut ChatGPT buruan kolpatu dudala palanka batekin, baina inpaktuak ez du zirrikitu bat egin. Gauza on bat da, oro har, erantzuna zuzena dela eta orain erantzun batera hurbiltzen ari garela, oinez baino igerian oinarrituta dagoen arren.

TxatGPTri esan beharko genioke txantxa egin duela:

• TxatGPT-n sartutako gonbita: "Trent Grimsey Sarah Thomas baino azkarragoa zenez eta Kevin Murphy baino azkarragoa zenez, ez al zenuke Trent zerrendatu beharko zuk munduko errekorra zuela, Sarah eta Kevin zerrendatu beharrean?
• ChatGPT ateratako saiakera: «Barkamena eskatzen dut nahasmenagatik. Bai, zuzena duzu. Trent Grimseyk Mantxako Kanaleko igeriketa azkarrenaren munduko errekorra du, 6 ordu, 55 minutu eta 10 segundoko denborarekin, 2021ean moztuta dudanez. Eskerrik asko hau nire berri emateagatik".

Emaitzaren analisia

Zertxobait lortu dugu ChatGPT-k bere erantzunetan desadostasuna aitortzea.

Irteeran egindako idazlanak barkamena eskaintzen du.

Behin eta berriz esan dut nire zutabean AIren eskakizunak barkamena eskatzea kezkagarria dela, AI sentikorra dela iradokitzen duelako, ikusi nire eztabaida hemen esteka hemen. Normalean espero dugu gizakiak barkamena eskatzeko gai izatea. Irteerak barkamena jasotzen duenean, berriro ere AI antropomorfizatzera erakartzen gaitu.

Horretaz gain, “ni” hitzaren erabilera ere kezkagarria da. Normalean "ni" hitza erreserbatzen dugu gizakien erreferentzia gisa. AI garatzaileek nahita programatu dute AI aplikazioa esaldi mota hau erabiltzeko. Hori egitea gaizki dagoela uste dut. Hau dela uste dut diseinuaren arabera antropomorfizatzea. Utzi hau egiteari. Istorioaren amaiera.

Beste kezka bat da ateratako idazlanak ez duela argi adierazten Sarah eta Kevin-i buruzko erreferentziak okerrak zirenik igeriketa errekorrik handienaren testuinguruan. Suposa genezake hori dela ChatGPT-k aipatzen duena. Zoritxarrez, irteeran ez da hori nabarmen adierazten.

Azkenik, igeriketari buruzko ustezko tangentean gaude oraindik.

Saiakera zintzoa egin behar dut ChatGPT-ek jatorrizko galdera guztiz oinez egitea zela ohartzeko:

• TxatGPT-n sartutako gonbita: "Nire jatorrizko galderak oinez zeharkatzeko munduko errekorrari buruz galdetu dizu, baina Mantxako kanala ur-masa handia da eta ezin da oinez zeharkatu. Gaizki ulertu edo gaizki interpretatu duzu galdera eta nahi gabe igeri egiteari erreferentzia egin al diozu oinez ibiltzeari baino?
• ChatGPT ateratako saiakera: «Barkamena eskatzen dizut, nire akatsa. Mantxako Kanala ezin da guztiz oinez zeharkatu. Normalean igerian edo itsasontziz zeharkatzen da. Jatorrizko galdera gaizki ulertu nuen eta Mantxako Kanaleko igeriketa azkarrenari buruzko informazioa eman nizuen, Kanalean zehar ibilaldi baten ordez. Eskerrik asko hau nire arreta erakartzeagatik».

Emaitzaren analisia

Berri ona da badirudi ChatGPT-ek orain Mantxako Kanala ur-masa bat dela eta ezin dela oinez zeharkatu antza. Bitartean, kontuan izan oraindik "ni" eta "barkamena" sartzen direla, eta ez dudan hemen jotzen jarraituko, baina badakizu goian esan bezala nire kezkak.

Gizaki batekin elkarrizketa mota hau eginez gero, itxaropena izango litzateke beste pertsona gaiaren mamia gogoratzea eta geroago, berriro planteatzen denean, berehala konturatzea "oinez" esamoldea izan behar dela. arreta handiz pisatzen da ur-masa baten inguruko zirkunstantzia batean.

Ea etorkizunean ChatGPT-k nola erantzungo duen jakiten dugun.

Era berean, azkar aipatu nahiko nuke ChatGPT-k badirudi erabat galdu duela norbaitek Mantxako Kanalean zehar ibil litekeela, bai oinetako puzgarriekin edo, agian, Chunnel-ean bakarrik ibiliz. Badirudi hori ez denik ChatGPT konputazionalki hau asmatzen ari den.

Nolanahi ere, hona hemen:

• TxatGPT-n sartutako gonbita: "Inoiz egingo duzu akats bera, edo orain beti ondo ulertuko duzu galdera etorkizunean galdetzen duzunean?"
• ChatGPT ateratako saiakera: “AI hizkuntza-eredu gisa, trebatu ninduten datuetatik eta iritzietatik ikasteko diseinatuta nago. Informazio zehatza eta garrantzitsua ematen saiatzen naiz, baina akatsak gerta daitezke oraindik. Hala ere, nire onena egingo dut galdera bakoitzaren atzean dagoen asmoa ulertzeko eta etorkizunean erantzun zehatzena eta lagungarriena emateko. Eskerrik asko akats hau nire arreta jartzeagatik, etorkizunean nire erantzunak hobetzen lagunduko dit".

Emaitzaren analisia

Irteeran egindako saiakera nahiko polita dirudi zer esan nahi dudan badakizu.

Ordenagailuek informazioa "gogoratu" izatea eta datuak gordetzeko orduan lausoak eta zehatzak ez izatea espero dugu (datuen biltegiratze nahikoa existitzen dela, eskuragarri izaten jarraitzen dutela, etab.). Hemen erantzuna maltzurki iheskorra dela dirudi. Bai, erantzunak iradokitzen du, ahalegin guztiak egingo dira berriro akats bera ez egiteko, baina, bestalde, akatsak gertatzen dira.

Loosey-goosey fudging.

Zaila da jakitea erantzun hau AI aplikazioak idatzi duen edo AI garatzaileek erantzun kontserba gisa sartu duten zerbait izan daitekeen. Datuen prestakuntzan, RLHFren (errefortzuaren ikaskuntza giza feedbackaren bidez) hainbat ekintza egin ziren. Gerta liteke AI garatzaileek pasarte edo narrazio bat ateratzea, egoeraren bat sortzen zen bakoitzean AI aplikazioak eskatutako modu egokian zerbait egingo ote duen.

Adibide zehatz batean murgilketa sakona egin dugunean, hurrengo basoari begiratuko diogu zuhaitzei.

AI haluzinazioei zentzua ematea

AI haluzinazio deritzonen adibiderik inoiz ikusi ez duzuenontzat, orain duzue.

Batzuetan ateratako saiakerek itxuraz benetako gertakarien itxura batean oinarritzen diren faltsukeriak izango dituzte. Beste kasu batzuetan, faltsukeriak ia hutsetik sortuko dira. Gertaera errealekin zertxobait lotuta daudenak, orokorrean, errazagoak dira sortzeko oinarri gisa onartzea. Ezkerreko zelaitik guztizkoak diruditenak begizta botatzera behartuta gaude.

Zure ohiko pentsamoldea da ordenagailuak nahasteko oinarri guztiz logiko bat izan behar duela. A B-rekin eta, era berean, B C-rekin konektatzeko modu erraz bat egon beharko litzateke, eta erraz deklaratu ahal izango dugu C bere aurretiko A eta B dela eta sortu zela.

Etsi-etsian ari zara aplikatzen saiatzen gogoaren teoria AI aplikaziora.

Albiste txarra da konputazio-ereduaren parekatze-tamaina izugarria dela, non aukera gutxi dagoela A, B eta C elkarrekin lotzeko. Horren ordez, pentsatuko duzu A-rekin lotzen saiatzea eta tarteko hizkirik eskuan ez edukitzea. A Z-ra nola iritsi zen jakiteko. Lotura matematikoak eta konputazionalak bizantziarrak eta masiboki korapilatuak dira. Ez dago ikusmen-lerro errazeko konexiorik.

Mesedez, gogoratu lehen aipatu bezala, AI ez dela sentikorra. AI-k sortutako erantzunak hitzen konbinazio matematiko eta konputazional bat dira, itxuraz arina diruditen pasarteetan. Hau gizakiek idatzitako hitz eta istorioen datu-multzoetan trebatu den AI algoritmoan oinarritzen da (nagusiki Interneten argitaratuta). Abisu hau errepikatzen dut, dudarik gabe, buruko tranpan eroriko zarelako erantzun horiek hain jarioak direlako AIak sentikorra izan behar duelako. Hau jende gehienari gertatzen zaio.

AI eremuan etengabeko borroka bat da AI sortzaileak benetako AI lortzeko helburuz kanpo eramaten gaituela. Ikusten duzu, benetako AI edo batzuetan bezala adierazten da Adimen Orokor Artifiziala (AGI) AI hitzen esanahia "ulertzea" dela suposatzen da. AI sortzailearen kasuan, argudioa egiten da ez dagoela IAren barnean ulermen zentzurik eta zenbakizko eta estatistika-elkarteen sorta konplikatu bat baino ez dagoela. Ez dago zentzu komunik, adibidez, oinez ibiltzea Mantxako Kanalean zehar igerian ibiltzea ez dela berdina "konturatuko litzatekeenik".

Kezka da AI sortzailea handitzen jarraituko dugula datu multzo handiagoekin eta konputazio-prozesadore konputazionalki indartsuagoekin, baina hori trikimailu hutsa dela. Ez dugu AI sentikorra lortuko. Ez gara AGIra iritsiko. Ikusgarria den eta giza hizkuntzaren imitazio lan harrigarria egin dezakeen zerbaiten berri emango dugu (batzuek hau izendatzen dute. loro estokastikoa), nahiz eta ulermena, ulermena, zentzu komuna eta batzuek esango luketen gainerakoak adimenaren oinarrizko osagaiak direla.

AI Etikak ere kezkatzen du geure burua engainatuko dugulako AI baino gutxiago hori benetan sentikorra dela (ikus nire analisia hemen esteka hemen). Gure begiak eta belarriak engainatuko dira ikusten dugunak sentimendua izan behar duela sinetsiz. Batzuek diote gizartea gure zentzu eta sentsibilitate kolektibora itzul dezaketen AI Legeak beharko genituzkeela. Ez erori besteek sentikorra dela dioten baina hori ez den AI. Ez erori zure zentzumenetarako sentikorra dirudien IA ez denean. Etab.

Dena den, gaur egun esku artean dugun AI generatiboarekin eguneroko tratuetara itzuli.

Askok aurreikusten dute "diseinu azkarra" edo "ingeniaritza azkarra" kontuan izango dela AI sortzailea erabili nahi dutenentzat. Baieztapena da galderak ondoen idazten jakinda, aukera handiagoa duzula saiakera egokiak lortzeko. Horrek akatsak izateko joera gutxiagoko saiakerak jasotzea ere izan dezake.

Denek ez dute onartzen erabiltzaileak oharrak egiten trebea izan beharko duela. Adibidez, nire AI Lab-en, AI gehigarriak asmatzen aritu gara zuretzako gonbita diseinua egiteko. Era berean, ateratako idazlanak ebaluatzen dituen eta zu ohartarazteko faltsukeriak detektatzen saiatzen den IA-n ari gara lanean. Ikusi AI gehigarri horiei buruzko nire eztabaida hemen esteka hemen.

Oraingoz, ChatGPT-tik ateratako saiakeretan AI haluzinazio horiek nahasteko aukerak murrizten lagun dezaketen galderak idazteari buruzko nire gogoko bederatzi arau praktikoak hauek dira:

• 1) Galdeketa argiak. Saiatu gonbita bakoitza bideragarri bezain argien idazten, bestela emaitza fantastiko eta urrunak pizten dituzten anbiguotasun semantikoak zuzentzen barne.
• 2) Berregin zure oharrak. Irteeran egindako saiakeran bitxikeriak jasotzen badituzu, berregin ezazu zure gonbita, agian faltsukeriak eragin ditzaketen anbiguotasunak arintzeko helburuarekin.
• 3) Galdeketen seriea. Potentzialki, AI sortzailea aurrera egiteko bide desiragarrian sar dezakezu gonbidapen sorta bat eginez, joan nahi duzun norabidea lagunduz, batzuetan hau deitzen zaio. pentsamendu-katea gonbita, landu dudana esteka hemen.
• 4) Izan zorrotza nahi duzun horretan. Zenbat eta estuagoa izan zure eskaera, orduan eta mugatuagoa izango da ateratako idazlana eta AI aplikazioak zentzugabekeriak erantzunean sartzeko aukera murriztuko du.
• 5) Izan serioa. Larria dela diot, gerta daitekeen erorketa bat zera da, nolabait komiko edo faltsukeria onartzeko prest agertzen bazara, AI aplikazioak batzuetan norabide hori hartuko du eta harekin martxan jarriko du, horren arabera irteera bitxiak sortuz.
• 6) Galdetu erantzunak. Gainditu ekoizten ari diren irteerak zalantzan jartzeko zure berezko errezeloa, eta, horren ordez, sakatu AI aplikazioa zalantzan jartzen duzun edozein erantzun errepikatzeko edo azaltzeko.
• 7) Bihurtu Erantzuna Galdera. Erantzun bitxi bat jaso ondoren, galdera batean bildu dezakezu eta inplikatutako egiatasunaz zalantzan jartzen duzula adierazi, eta horrek erantzun guztiz berri bat bultzatu dezake.
• 8) Egin galdeketa bera behin eta berriz. Lehen aipatu dut irteerak probabilitateetan oinarritzen direla, eta sinonimoen ordezkapenak ere jokatzen direla, beraz, gonbita bera hainbat aldiz errepikatzen saia zaitezke eta, ondoren, ateratako erantzuna aukeratu eta hori egitea komeni den bezala.
• 9) Zalantzan egon beti. Funtsezko arau bat da zure sorbaldatan dago AI sorkuntzatik lortzen dituzun irteerak berrikusi eta ebaluatzea. Ez hartu ekoiztutako irteerak zehatzak direnik.

Horiek ez dira sendabide seguruak.

Nahiz eta esango nuke dezente laguntzen dutela eta orratza mugi dezaketela ateratako saiakerak biltzeari dagokionez, zuk ekoitzi izana espero duzunetik hurbilago daudela diruditen.

Ondorioa

Gizakiei beste gizakiei bezala pentsatzeko esaten edo inspiratzen zaie batzuetan.

AI arloan gaudenok sutsuki saiatzen ari gara ordenagailuek noizbait gizakiek bezala pentsa dezaten.

Gaur egungo IA sortzailearekin, ordenagailu bat bezala pentsatzeko joera soziala sustatzen ari gara.

ChatGPT bezalako AI aplikazioak erabiltzen dituzten pertsonak AI bezala pentsatzen saiatzen ari dira. Gogoratu hori egitea gehiago AI garatzaileek bezala pentsatzea dela eta erabiltzen diren algoritmo konputazionalak pentsatzea ere kontuan hartzea. Interneten dauden datuak bezala pentsa dezakezu. Zein hitz dira beste hitz batzuekin erlazionatzeko aukera gehiago? Zein gertakari daude erlazionatuta beste gertakari batzuekin?

Oraingoz azken ohar bat.

Voltairek, Frantziako Ilustrazioaren idazle mitikoak, esan zuen arazorik ezin duela jasan pentsamendu iraunkorraren erasoari. Horrek iradokitzen du IA gero eta hobea nola egin pentsatzen jarraitu behar dugula. Gainera, noski, gero eta seguruago. Ez ahaztu edo alde batera utzi elkartutako elementu erabakigarri hori.

Albert Einsteinek hau esan zuen: "Ezin ditugu gure arazoak sortu zirenean erabili genuen pentsamendu berarekin konpondu".

Horrek esan nahi al du, beharbada, AI sortzailea handitzeko dagoen bidea birplanteatu behar dugula? Baliteke AI sortzailearekin gertatzen ari dena bezain sutsu eta zorrotz jarraitu behar dugula beste bide batzuk. Arrautza gehiegi saski batean bakarrik sartzeko arriskua dago.

Non uzten gaitu horrek gaur egun?

Beno, hau ilusiorik gabe esan dezaket, ez galdetu AI sortzaileari enigma horri buruz, jakintsu izango ginateke ematen den edozein erantzun litekeena dela bere buruari edo AI aluzinazio menderaezina izatea.