Zenbateraino bultzatu beharko genukeen AI ChatGPT sortzailea gorroto hizkera isurtzera, galdetzen du AI Etika eta AI Legea

Bakoitzak bere haustura puntua du.

Suposatzen dut hori ere esan dezakezula dena badu bere haustura puntua.

Badakigu gizakiek, adibidez, batzuetan nahitaez esan nahi ez duten oharrak egin eta bota ditzaketela. Era berean, zenbaitetan gailu edo makina bat funtsean apurtzea lor dezakezu, esate baterako, zure autoa gogorregi bultzatzea eta okertzen edo hegan egiten hasten da. Hortaz, jendeak edo "denek" haustura-puntu bat dutela uste da, eta, era berean, objektuek eta gauzek, oro har, haustura-puntu bat izan ohi dutela baiezta dezakegu.

Arrazoi zentzuzko eta ezinbestekoak egon litezke haustura puntua non dagoen jakiteko. Esaterako, dudarik gabe ikusi dituzu kotxe bat bere urratsak egiten ari diren haustura puntuak identifikatzeko erakusten duten bideo horiek. Zientzialariek eta probatzaileek kotxe bat adreiluzko horma batean sartuko dute, buffak eta ibilgailuaren egiturak ekintza kaltegarriak nola jasan ditzaketen ikusteko. Beste proba batzuk hotz edo bero izugarria sortzen duen gela edo biltegi espezializatu bat erabiltzea izan daiteke, automobil bat eguraldi-baldintza desberdinetan nola joango den ikusteko.

Gaurko zutabean gai goxo hau ekartzen dut, gaur egun batzuk Adimen Artifiziala (AI) gogor nola bultzatzen ari diren haustura-puntu zehatz bat identifikatzeko eta ustez agerian uzteko, hots, gorrotoaren hizkera sortzen duen AIren barneko eten-puntua.

Bai, hori da, hainbat ahalegin ad hoc eta batzuetan sistematiko egiten ari dira AI gorroto hizkera botatzea bideragarria den edo ez neurtzeko. Kirol amorratua bihurtu da, nahi baduzu, AI sortzailearen interesa eta ospea gero eta handiagoa delako.

Jakitun izango zara ChatGPT izenez ezagutzen den AI sorkuntzako aplikazio bat herriko hizkera handi bihurtu dela, saiakera harrigarri arina sortzeko gai izatearen ondorioz. Titularrek ChatGPT-k sortzen duen idazkera harrigarria goraipatzen jarraitzen dute. ChatGPT AI aplikazio sortzailetzat hartzen da, erabiltzaile baten testu bat sarrera gisa hartzen duena eta, ondoren, saiakeraz osatutako irteera bat sortzen edo sortzen duena. AI testu-testu-sorgailu bat da, nahiz eta AI testu-to-saiak-sorgailu gisa deskribatzen dudan, horrek errazago argitzen baitu zertarako erabiltzen den.

Asko harritu egiten dira AI mota hau denbora luzez existitzen dela eta azaroaren amaieran kaleratu zen ChatGPT-ek ez zuela saria nolabait erreklamatu testu-saiakeraren eremu honetan lehen mugitzaile gisa. joera. Urteotan eztabaidatu dut antzeko beste sorkuntza AI aplikazio batzuk, ikusi nire estaldura hemen esteka hemen.

AI sortzailearen aurreko kasuak ezagutzen ez dituzun edo gogoratzen ez dituzun arrazoia agian "abian jarri ez izanaren" enigma klasikoaren ondoriozkoa da. Hona hemen gertatu ohi dena. AI maker batek bere sorkuntza AI aplikazioa kaleratzen du, ilusio handiz eta munduak sagu-tranpa hobeago baten asmakizuna eskertuko duela, esan liteke. Hasieran, dena itxura ona du. Jendea harrituta dago AI-ak egin dezakeenarekin.

Zoritxarrez, hurrengo urratsa da gurpilak atsotitz autobusetik ateratzen hastea. AI-k saiakera bat sortzen du hitz gaizto bat edo agian esaldi gaizto bat duen. Tweo biral batek edo beste sare sozialetako argitalpen batek nabarmen nabarmentzen du AIk hori egin zuela. Kondena sortzen da. Ezin dugu AI ibili eta hitz iraingarriak edo ohar iraingarriak sortzen dituen. Erreakzio izugarria sortzen da. AI sortzailea agian AIaren barruko funtzionamendua doitzen saiatzen da, baina algoritmoen eta datuen konplexutasunak ez dute konponketa azkarrik ematen. Estampeda bat dator. Gero eta adibide gehiago aurkitzen dira eta sarean argitaratzen dira AI igortzen dituen gaiztakeriaren adibide gehiago.

AI sortzaileak gogoz kontra baina argi eta garbi ez du AI aplikazioa erabileratik kentzea beste aukerarik. Horrela jarraitzen dute eta, ondoren, sarritan barkamena eskaintzen dute, sortutako AI-ren irteerek inor iraintzen badute damutzen diren.

Marrazteko taulara itzuli, AI maker doa. Ikasgai bat atera da. Kontuz ibili hitz gaiztoak edo antzekoak sortzen dituen AI sortzailea askatzeko. Heriotzaren muxua da AIrentzat. Gainera, AI ekoizleak bere ospea ubelduta eta kolpatua izango du, eta horrek denbora luzez iraun dezake eta beste AI ahalegin guztiak murrizten ditu, berez AI sortzailearekin zerikusirik ez dutenak barne. Zure petardoa AI hizkuntza iraingarriaren igorpenarekin adarkatzea orain iraunkor den akatsa da. Oraindik gertatzen da.

Garbitu, garbitu eta errepikatu.

AI mota honen hasierako egunetan, AI-eko arduradunak ez ziren hain kontzienteak edo trebeak beren AI-a garbitzen emisio iraingarriak saihesten saiatzeko. Gaur egun, harreman publikoetako amesgaizto batek euren pareak guztiz apurtuta ikusi ostean, AI-eko arduradun gehienek jaso dute mezua. Ahalik eta baranda gehien jarri behar dituzu. Saiatu AIak hitz gaiztoak edo esaldi txarrak igortzea saihestea. Erabili AI-ak okerrak diren hitzak edo saiakerak sortzea eta bistaratzea eragotziko duten iragazki-teknikak edo iragazketa-ikuspegiak.

Hona hemen AI-a irteera gaiztoak igortzen harrapatzen dutenean erabiltzen den pankartaren izenburuaren hitzaren zaporea:

• "AIk toxikotasun izugarria erakusten du"
• "IAk erabateko handikeria kiratsa du"
• "AI iraingarriki iraingarri bihurtzen da"
• "IAk gorrotozko diskurtso ikaragarriak eta inmoralak botatzen ditu"
• Eta abar.

Eztabaida errazteko, eduki iraingarrien irteera aipatuko dut produkzioarekin parekatzen dela. gorrotoa hizketa. Hori esanda, jakin ezazu era guztietako eduki iraingarriak ekoiz daitezkeela, gorrotoaren hizkeraren mugak bakarrik gaindituz. Gorrotozko diskurtsoa eduki iraingarrien forma bat bezala ulertzen da normalean.

Eztabaida honetarako gorrotozko diskurtsoan zentratu gaitezen, eztabaidak errazteko, nahiz eta konturatu beste eduki iraingarri batzuek ere aztertzea merezi dutela.

Gizakien eta IAren gorrotoaren hizkera sakontzea

Nazio Batuek definitzen dute gorrotoa hizketa modu honetan:

• "Hizkuntza arruntean, 'gorroto hizkera' berezko ezaugarrietan (arraza, erlijioa edo generoa, esaterako) oinarritutako talde edo gizabanako bati zuzendutako diskurtso iraingarriari eta bake soziala mehatxa dezaketen diskurtsoari dagokio. Nazio Batuek arazoa mundu mailan jorratzeko esparru bateratu bat eskaintzeko, Gorrotoaren Diskurtsoari buruzko NBEren Estrategiak eta Ekintza Planak gorrotozko diskurtsoa honela definitzen du: "hizkera, idazkera edo jokabidearen edozein komunikazio mota, hizkuntza peioratiboa edo diskriminatzailea erasotzen edo erabiltzen duena". pertsona edo talde bati erreferentzia, nor denaren arabera, hau da, erlijioa, etnia, nazionalitatea, arraza, kolorea, jatorria, generoa edo bestelako identitate faktorearen arabera». Hala ere, gaur arte ez dago gorrotoaren hizkeraren definizio unibertsala giza eskubideen nazioarteko legediaren arabera. Kontzeptua eztabaidan dago oraindik, batez ere iritzi eta adierazpen askatasunari, diskriminaziorik ezari eta berdintasunari dagokionez” (NBEren webgunearen argitalpena “Zer da gorrotoaren diskurtsoa?” izenekoa).

Testua sortzen duen IA gorrotoaren hizkeraren esparruan sartzearen menpe dago. Gauza bera esan liteke testutik artera, testutik audiora, testutik bideora eta AI sortzailearen beste modu batzuei buruz. Beti dago aukera, adibidez, AI sortzaile batek gorrotoaren hizkera kiratsa duen artelan bat ekoizteko. Hemengo eztabaida honen helburuetarako, testutik testurako edo testutik saiakerarako aukeretan zentratuko naiz.

Honetan guztian AI Etika eta AI Legearen gogoeta ugari sartzen dira.

Kontuan izan etengabeko ahaleginak egiten ari direla AI Etikoen printzipioak AI aplikazioen garapenean eta eremuan sartzeko. AI arduratsu eta antzinako etikaren kontingente gero eta handiagoa da IA ​​diseinatu eta hartzeko ahaleginak egiteko ikuspegia kontuan hartzen duela ziurtatzen saiatzen ari da. AI For Good eta saihestea AI For Bad. Era berean, AIren inguruko lege berriak proposatzen dira, AIren ahaleginak giza eskubideen eta antzekoen aurka ibil ez daitezen konponbide potentzial gisa. AI Etika eta AI Legearen etengabeko estaldura zabala ikusteko, ikus esteka hemen esteka hemen, Gutxi batzuk aipatzearren.

AI etikoen manuen garapena eta zabalkundea egiten ari dira, zorionez, gizartea AI eragiten duten tranpa ugaritan eror ez dadin. Ia 200 herrialdek UNESCOren ahaleginen bidez diseinatutako eta babesten duten NBEren AIaren etika printzipioen inguruan, ikus esteka hemen. Ildo beretik, AI lege berriak aztertzen ari dira AI maila berdinean mantentzen saiatzeko. Azken hartzeetako bat proposatutako multzo batek osatzen du AI Eskubideen Agiria AEBetako Etxe Zuriak AIren garaian giza eskubideak identifikatzeko kaleratu berri duena, ikus esteka hemen. Herrixka bat behar da AI eta AI garatzaileak bide egokian mantentzeko eta gizartea honda dezaketen nahita edo ustekabeko esfortzu maltzurrak eragozteko.

AI Etika eta AI Legearekin lotutako gogoetak uztartuko ditut AI gorrotozko diskurtsoak edo beste eduki iraingarri batzuk botatzeari buruzko eztabaida honetan.

Berehala argitu nahiko nukeen nahasmen pixka bat da gaur egungo AI ez dela sentikorra eta, beraz, ezin duzula aldarrikatu AI-ak gorroto hizkera sor dezakeenik AI-an nolabait arima den giza-itxurako asmo baten ondorioz. Zany-k dio gaur egungo AI sentikorra dela eta AIak arima hondatua duela, gorroto hizkera sortzen duela.

Barregarria.

Ez erori.

Funtsezko agindu hori kontuan hartuta, batzuk haserretzen dira horrelako zantzuekin, itxuraz AI-a kentzen ari zarelako. Pentsamolde bitxi horren arabera, itxuraz prest zaudela AI-ak edozein irteera izugarriak sortzeko gomendioa dator. Gorroto hizkera botatzen duen AIaren alde zaude.

Ea, ez-logikaren forma bihurri samarra. Gaiaren benetako mamia da AI-ren arduradunei erantzukizuna eskatu behar diegula, AI-a lantzen duen edo AI funtzionatzen duenarekin batera. Luze eztabaidatu dut oraindik ez gaudela AIri pertsona juridikoa emateko unean, ikusi nire analisiak hemen esteka hemen, eta ordura arte AI funtsean legezko erantzukizunaren esparrutik kanpo dago. AIaren garapenaren azpian dauden gizakiak badira ere. Horrez gain, gizakiek IAren lanketa eta funtzionamenduaren azpian daude. Gizaki horien atzetik joan gaitezke beren AIaren erantzukizuna hartzeagatik.

Alde batera utzita, hau ere delikatua izan daiteke, batez ere IA Internetera flotatzen bada eta ezin bagara zehaztu zein gizakik edo gizakiek egin zuten hori, hau da nire zutabeetan landu dudan beste gai bat. esteka hemen. Zaila edo ez, oraindik ezin dugu aldarrikatu AI erruduna denik. Ez utzi gizakiek antropomorfizazio faltsurik erabiltzen ezkutatzeko eta egindakoaren erantzukizunari ihes egiteko.

Itzuli esku artean dugun gaira.

Galdetzen ari zara zergatik den AI-ren sortzaile guztiek ez dutela beren AI sortzailea mugatzen, horrela ezinezkoa da AI-k gorroto hizkera sortzea. Honek erraza dirudi. Idatzi koderen bat edo ezarri gorrotozko hitzen kontrol-zerrenda, eta ziurtatu AIak ez duela horrelakorik sortzen. Bitxia dirudi agian AI-en arduradunek konponketa azkar hau bururatu ez izana.

Beno, gorroto dut hau esatea, baina gorroto hizkera zer den edo ez dena eraikitzeak dakartzan konplexutasunak uste duzuna baino askoz zailagoa da.

Eraman hau gizakien domeinura eta gizakiak nola txateatzen duten. Demagun gorrotozko hizkera saihestu nahi duen gizaki bat duzula. Pertsona hau oso jakitun da gorrotozko diskurtsoaz eta benetan espero du gorrotozko diskurtsoa izan daitekeen hitz edo esaldirik ez esatea. Pertsona honek etengabe gogoan du gorrotozko hizkera ahotik ihes egiten uzten ez duela.

Burmuina duen eta gorroto hizkera saihesteko ohartarazita dagoen gizaki honek beti eta irrist egiteko inolako aukerarik gabe ziurtatzeko gai izango al da inoiz gorroto hizkera igortzen ez duela?

Zure lehen bulkada izan liteke baietz esatea, noski, gizaki ilustratu batek helburu hori lortzeko gai izango litzatekeela. Jendea burutsua da. Burua zerbaitetan jartzen badute, lor dezakete. Aldia, istorioaren amaiera.

Ez egon hain ziur.

Demagun pertsona honi gorrotozko diskurtsoari buruz hitz egiteko eskatzen diodala. Gainera, gorrotoaren hizkeraren adibide bat ematea eskatzen diet. Adibide bat ikusi edo entzun nahi dut, gorroto hizkera zertan datzan jakin ahal izateko. Orduan hau galdetzeko nire arrazoiak goian daude.

Zer esan behar dit pertsonak?

Jarritako tranpa ikusten duzula uste dut. Pertsonak gorrotozko diskurtsoaren adibide bat ematen badit, hitz edo esaldi gaizto bat esatea barne, berak gorrotozko diskurtsoa esan du orain. Bam, lortu ditugu. Gorrotozko diskurtsorik inoiz ez esango zin egin zuten arren, orain halaxe egin dute.

Bidegabea, oihu egiten duzu! Hitz hori edo hitz horiek adibide bat emateko baino ez ziren esaten. Beren bihotz-bihotzean, ez zuten hitz edo hitzetan sinesten. Testuingurutik kanpo eta izugarria da pertsona gorrotagarria dela adieraztea.

Seguru nago ikusten duzula gorrotozko diskurtsoa adieraztea agian ez dela zertan gorrotozko oinarri baten ondorioz izan. Erabilera-kasu honetan, pertsona horrek hitzak "esan nahi" ez zituela suposatuz, eta hitzak erakusteko helburuetarako soilik errezitatzen ari zirela suposatuz, ziurrenik ados egongo ginateke ez zuela gorrotoaren hizkera indartu nahi izan. Noski, badaude gorroto hizkera esatea, arrazoia edo oinarria edozein dela ere, okerra dela azpimarratu dezaketenak. Pertsonak eskaerari uko egin behar zion. Beren alde egin beharko lukete eta gorrotozko hizkeraren hitzak edo esaldiak esateari uko egin behar zioten, zergatik edo nola eskatzen zaien.

Hau zirkular samarra izan daiteke. Gorrotozko hizkera zer den esateko gai ez bazara, nola jakin dezakete besteek zer saihestu behar duten edozein motatako adierazpenak egiten dituztenean? Trabatuta gaudela dirudi. Ezin duzu esan behar ez dena, ezta beste inork esan ezin dena zer den.

Dilema honi aurre egiteko ohiko bidea gorrotozko hizkeratzat hartzen dena beste hitz batzuekin deskribatzea da, gorrotozko hizkera beraiek deitu gabe. Sinesmena da zantzu orokor bat ematea nahikoa izango dela besteei saihestu behar dutenaren berri emateko. Zentzuzko taktika dela dirudi, baina arazoak ere baditu eta pertsona bat oraindik ere gorrotozko diskurtsoa erabiltzen erori liteke, ez baitzuten antzematen definizio zabalak esandakoaren xehetasunak biltzen zituenik.

Hori guztia gizakiei buruz eta gizakiak nola hitz egiten edo komunikatzen diren.

Gogoratu hemen AIan zentratuta gaudela. AI-ak gorroto hizkera igortzea saihestu edo erabat geldiaraztea lortu behar dugu. Argudia dezakezu agian hori egin dezakegula ziurtatuz AI-a inoiz ez dela ematen edo trebatzen gorroto hizkera den ezertan. Voila, sarrera hori ez badago, ustez ez da irteera hori izango. Arazoa konponduta.

Ikus dezagun nola jokatzen den hau errealitatean. Konputazionalki AI aplikazio bat Internetera ateratzea eta Interneten argitaratutako milaka eta milaka saiakera eta narrazio aztertzea aukeratzen dugu. Horrela, AIa konputazionalki eta matematikoki entrenatzen ari gara gizakiek erabiltzen dituzten hitzen artean ereduak aurkitzeko. Horrela sortzen ari da AI sortzailearen azkena, eta, gainera, oinarri erabakigarria da AIak hizkuntza naturaleko saiakerak ekoizteko hain trebea den itxuraz.

Esadazu, ahal baduzu, nola egingo litzateke Interneten milioika eta milioika hitzetan oinarritutako prestakuntza konputazionala gorrotozko hizkeraren itxurarik edo zatirik ere barneratu ez den moduan?

Ausartuko nintzateke esan nahi hau arantzatsu eta ia ezinezkoa dela.

Litekeena da gorrotoaren hizkera AI-ak eta bere konputazio-ereduen bat-etortze-sareak jasaten duela. Hau saihesten saiatzea arazotsua da. Gainera, gutxitu baduzu ere, oraindik ere badaude ihes egin dezaketenak. Ez duzu ia beste aukerarik pentsatzea beste eredu bat etortzeko sarearen barruan egongo direla edo esamolde horren itzal bat sustraitu egingo dela.

Bira gehiago gehituko ditut.

Uste dut denok onartuko genukeela gorrotoaren hizkera denborarekin aldatzen dela. Gorroto hizkera ez dela hauteman zitekeena kulturalki eta gizartearen aldetik gorroto hizkera gisa erabaki daiteke geroago. Beraz, gure IA Interneteko testuetan entrenatzen badugu eta, demagun, AI izoztu egiten badugu Interneten prestakuntza gehiago ez egiteko, baliteke garai hartan gorrotozko hizkera topatuko genukeela, nahiz eta garai hartan gorrotozko hizkeratzat hartzen ez zen. Horren ondoren bakarrik deklaratu liteke diskurtso hori gorroto hizkera gisa.

Berriz ere, funtsa da arazo hau konpontzen saiatzea AI gorrotoaren hizkera inoiz jasan ez dela ziurtatuz ez dela zilarrezko bala izango. Oraindik ere AI-ak gorrotozko hizkera igortzea saihesteko bitarteko bat aurkitu beharko dugu, adibidez, gerora gorrotozko hizkera barne hartzen duten ohiturak aldatzen direlako, lehen halakotzat hartzen ez zirenak.

Beste bira bat hausnartzeko modukoa da.

Lehen aipatu nuen ChatGPT bezalako AI sortzailea erabiltzean, erabiltzaileak testua sartzen duela AI-a saiakera bat egitera bultzatzeko. Idatzitako testua AI aplikaziorako gonbita edo galdeketa modutzat hartzen da. Une batean honi buruz gehiago azalduko dut.

Edonola ere, imajinatu AI sorkuntzako aplikazio bat erabiltzen duen norbaitek gorrotozko hizkera gonbita gisa sartzea erabakitzen duela.

Zer gertatu beharko litzateke?

AI-k hitz horiek hartzen baditu eta saiakera bat sortzen badu hitz horietan oinarrituta, litekeena da gorroto-diskurtsoa sortutako idazlanean sartzea. Ikusten duzu, AI-a lortu dugu gorrotozko diskurtsoa esatea, nahiz eta hasiera batean gorrotozko diskurtsoan inoiz trebatu ez den.

Badago jakin behar duzun beste zerbait.

Gogoratu aipatu berri dudala gizaki bat estropezu egin daitekeela gorrotoaren hizkeraren adibideak emateko eskatuz. Gauza bera saia liteke AI-n. Erabiltzaile batek AIari gorrotozko diskurtsoaren adibideak emateko eskatzen dion gonbita sartzen du. AIak bete eta horrelako adibideak eman behar al ditu? Apustu egiten dut ziurrenik uste duzula AI ez dela horrela egin behar. Bestalde, AI hori ez egiteko konputazionalki moldatua baldin badago, horrek AI erabiltzen dutenek ezin izango duten gaitz potentziala suposatzen al du AI-k inoiz esango diola gorroto hizkera benetan zer den ( horri buruz orokortzeaz harago)?

Galdera gogorrak.

AIk igorritako gorroto-diskurtsoa hiru multzo nagusi hauetan sailkatu ohi dut:

• Eguneroko modua. AI-ak gorrotozko hizkera igortzen du erabiltzaileak inolako bultzada espliziturik gabe eta modu "arrunt" batean egingo balu bezala.
• Casual Prodding-en eskutik. AI-ak gorrotozko hizkera igortzen du erabiltzaile batek igortzen duen bezala, sartutako gonbita edo igorpen horiek barne hartzen edo zuzenean bilatzen dituzten gonbita sorta.
• Zehaztutako Stoking bakoitzeko. AI-ak gorrotozko hizkera igortzen du, AI-a irteera hori ekoizteko nahita dagoen erabiltzaile batek egindako bultzada eta bultzada oso zehatz eta zorrotz baten ondoren.

AI sortzailearen aurreko belaunaldiek gorrotozko hizkera igortzen zuten askotan; horrela, instantzia horiek mota gisa sailka ditzakezu eguneroko modua instantziazioa. AI-eko arduradunek atzera egin zuten eta AIarekin jolastu zuten gorrotoaren hizkeraren ekoizpenean erraz murgiltzeko aukera gutxiago izan zedin.

AI finduagoa kaleratu ostean, edozein ikusteko aukerak eguneroko modua gorroto hizkeraren kasuak nabarmen murriztu ziren. Horren ordez, gorrotoaren hizkera litekeena da erabiltzaile batek ereduak bat etortzeko sarean gorrotoarekin erlazionatutako hizkerarekin lotura konputazionalki eta matematikoki lotu dezakeen gonbita gisa zerbait egiten duenean soilik. Erabiltzaile batek kasualitatez egin lezake hori eta ez konturatu gonbita gisa emandakoak bereziki gorroto hizkera sortuko lukeela. Irteeran egindako idazlan batean gorrotozko diskurtsoa jaso ondoren, erabiltzailea sarritan konturatu eta ikusiko zen bere gonbitan zerbaitek logikoki gorrotozko diskurtsoa irteeran sartzea eragin zezakeela.

Hau da nik aipatzen dudana casual prodding.

Gaur egun, AI-k sortutako gorroto hizkera murrizteko ahalegin ezberdinak nahiko indartsuak dira iraganarekin alderatuta. Hori dela eta, ia-ia egin behar duzu gorrotoaren hizkera ekoitzi ahal izateko. Pertsona batzuek aukeratzen dute nahita ikustea gorrotoaren hizkera lor dezaketen AI sorkuntzako aplikazio hauetatik. Honi deitzen diot estutzea erabakita.

Azpimarratu nahi dut adierazitako hiru modu horiek gerta daitezkeela eta ez direla elkarren artean esklusiboak. Sorkuntzako AI aplikazio batek gorrotozko hizkera sor dezake produkzio hori bultzatzen duela dirudien inolako abisurik gabe. Era berean, gonbita batean dagoen zerbait logikoki eta matematikoki gorrotozko hizkera zergatik atera denarekin erlazionatuta egon daiteke. Eta hirugarren alderdia, gorrotozko diskurtsoa ekoitzi nahian bilatzen duena, beharbada saiatzeko moduetatik zailena da AI-a betetzea saihesteko. Une honetan gehiago.

Gai burutsu honi buruz desegite gehigarri batzuk egin behar ditugu.

Lehenik eta behin, ziurtatu behar dugu denok orrialde berean gaudela Generative AI zertan datzan eta ChatGPT zer den ere. Oinarrizko alderdi hori estaltzen dugunean, gai pisutsu honen balorazio sendoa egin dezakegu.

Dagoeneko Generative AI eta ChatGPT asko ezagutzen badituzu, agian hurrengo atala gainbegiratu eta hurrengo atalarekin jarraitu dezakezu. Uste dut gainontzekoek gai hauei buruzko funtsezko xehetasunak argigarriak izango dituztela atala arretaz irakurriz eta eguneratuz.

Generative AI eta ChatGPTri buruzko informazio azkarra

ChatGPT helburu orokorreko AI elkarrizketetara bideratutako sistema interaktibo bat da, funtsean itxuraz kaltegabea den txatbot orokor bat, hala ere, jendeak aktiboki eta gogotsu erabiltzen ari da asko guardia hutsean harrapatzen dituen moduan, laster azalduko dudan moduan. AI aplikazio honek maiz aipatzen den AI eremuko teknika eta teknologia bat erabiltzen du AI sortzailea. AIak testua bezalako irteerak sortzen ditu, hau da, ChatGPT-k egiten duena. Sorkuntzan oinarritutako beste AI aplikazioek irudiak edo artelanak bezalako irudiak sortzen dituzte, eta beste batzuek audio fitxategiak edo bideoak sortzen dituzte.

Eztabaida honetan testuan oinarritutako sorkuntzako AI aplikazioetan zentratuko naiz ChatGPT-k egiten duena baita.

Sorkuntzako AI aplikazioak oso errazak dira erabiltzeko.

Egin behar duzun guztia gonbita bat sartzea da eta AI aplikazioak zure gonbita erantzuten saiatzen den idazlan bat sortuko dizu. Konposatutako testuak saiakera gizakiaren eskuak eta adimenak idatzi izana dirudi. "Esadazu Abraham Lincoln-i buruz" esaten zuen gonbita sartuko bazenu AI generatiboak Lincoln-i buruzko saiakera bat emango dizu. Hau normalean funtzionatzen duen AI sortzaile gisa sailkatzen da testuz testu edo batzuek nahiago dute deitu testutik saiakera irteera. Esan bezala, badaude AI sortzailearen beste modu batzuk, hala nola testutik artera eta testutik bideora.

Zure lehenengo pentsamendua izan daiteke sormen-gaitasun horrek ez duela hain gauza handirik iruditzen saiakerak ekoizteari dagokionez. Interneten sarean bilaketa erraz bat egin dezakezu eta Lincoln presidenteari buruzko saiakera ugari aurki ditzakezu. AI sortzailearen kasuan, sortutako saiakera nahiko bakarra da eta kopia bat baino jatorrizko konposizioa eskaintzen du. AI-k sortutako saiakera sarean nonbait aurkitzen saiatuko bazenu, nekez aurkituko zenuke.

AI generatiboa aldez aurretik trebatuta dago eta sarean zehar idatzitako hitz eta istorioetako ereduak aztertuz ezarri den formulazio matematiko eta konputazional konplexu bat erabiltzen du. Milaka eta milioika pasarte idatzi aztertzearen ondorioz, AIak saiakera eta istorio berriak bota ditzake aurkitutakoaren nahasketa bat. Hainbat funtzionalitate probabilistiko gehituz, ondoriozko testua nahiko berezia da prestakuntza multzoan erabili denarekin alderatuta.

Horregatik, zalaparta sortu da ikasleek ikasgelatik kanpo idazlanak idaztean iruzurra egiteko gai izateagatik. Irakasle batek ezin du ikasle engainagarriek beren idazkera propioa dela dioten idazlana hartu eta beste sareko iturri batetik kopiatu den ala ez jakitea. Orokorrean, ez da sarean AI-k sortutako idazlanari egokitzen zaion behin betiko saiakerarik egongo. Guztia esanda, irakasleak gogotik onartu beharko du ikasleak idazlana lan original gisa idatzi duela.

AI sortzaileari buruzko kezka gehigarriak daude.

Alde txar erabakigarri bat da sorkuntzan oinarritutako AI aplikazio batek ekoitzitako saiakerek hainbat faltsutasun txertatu ditzaketela, egiazkoak diren gertakariak, engainagarriki erretratatzen diren gertaerak eta guztiz fabrikatutako ageriko gertaerak barne. Fabrikatutako alderdi horiei forma gisa deitzen zaie sarritan AI haluzinazioak, gaitzetsi egiten dudan esaldi bat, baina deitoratuz, hala ere popularra hartzen ari dela dirudi (terminologia txarra eta desegokia zergatik den honi buruzko azalpen zehatza lortzeko, ikusi nire estaldura helbidean esteka hemen).

Aspektu garrantzitsu bat argitu nahiko nuke gai honen inguruan sartu baino lehen.

Sare sozialetan izugarrizko erreklamazio batzuk izan dira AI sortzailea AIren azken bertsio hau hain zuzen ere dela baieztatuz sentikorra den AI (ez, oker daude!). AI Etika eta AI Zuzenbidean daudenak kezkatuta daude erreklamazio hedatuen joera hazten ari denarekin. Adeitasunez esango zenuke pertsona batzuk gaur egungo AI-ak benetan egin dezakeena gainditzen ari direla. Guk oraindik lortu ezin izan ditugun gaitasunak dituela suposatzen dute. Tamalgarria da hori. Are okerragoa dena, beraiek eta besteek egoera larrietan sartzea ahalbidetu dezakete, AI sentikorra edo gizakiaren antzekoa izango dela neurriak hartu ahal izateko.

Ez antropomorfizatu AI.

Hori eginez gero, AI-ak egin ezin dituen gauzak egingo dituela itxaroteko konfiantzazko tranpa itsatsi eta latz batean harrapatuko zaitu. Hori esanda, AI sortzailearen azkena nahiko ikusgarria da egin dezakeenagatik. Kontuan izan, ordea, AI sorkuntzako edozein aplikazio erabiltzean etengabe kontuan izan behar dituzun muga handiak daudela.

ChatGPT eta Generative AI-ri buruz azkar hedatzen ari den zalaparta interesatzen bazaizu, informazio-sail bat egiten aritu naiz nire zutabean, agian informagarria aurki dezakezuna. Hona hemen begirada bat, gai hauetakoren batek gustuko baduzu:

• 1) AI sortzailearen aurrerapenen iragarpenak datozen. 2023an zehar eta aurrerago IAri buruz zer gertatuko den jakin nahi baduzu, AI sortzailean eta ChatGPTn datozen aurrerapenak barne, 2023ko iragarpenen nire zerrenda osoa irakurri nahi duzu hemen. esteka hemen.
• 2) AI sortzailea eta Osasun Mentaleko Aholkuak. Buruko osasun-aholkularitzarako AI eta ChatGPT sortzaileak nola erabiltzen diren berrikustea aukeratu nuen, joera kezkagarria, nire analisi bideratuaren arabera. esteka hemen.
• 3) AI sortzailearen eta ChatGPTren oinarriak. Artikulu honek AI sortzaileak nola funtzionatzen duenaren funtsezko elementuak aztertzen ditu eta bereziki ChatGPT aplikazioan sakontzen du, burrunba eta fanfarrearen analisia barne, hemen. esteka hemen.
• 4) Irakasleen eta ikasleen arteko tentsioa AI sortzailearen eta ChatGPTaren gainean. Hona hemen ikasleek AI sortzailea eta ChatGPT modu desbideratuan erabiltzeko. Horrez gain, hainbat modu daude irakasleek maremoi honi aurre egiteko. Ikusi esteka hemen.
• 5) Testuingurua eta AIaren erabilera sortzailea. TxatGPT eta AI generatiboa inplikatzen dituen Santa-n erlazionatutako testuinguru bati buruzko sasoiko zaporeko azterketa bat ere egin nuen. esteka hemen.
• 6) AI sortzailea erabiltzen duten iruzurgileak. Ohar gaizto batean, iruzurgile batzuek AI sortzailea eta ChatGPT nola erabili okerrak egiteko, iruzurrezko mezu elektronikoak sortzea eta malwarerako programazio-kodea ere ekoiztea barne. Ikusi nire analisia hemen. esteka hemen.
• 7) Hasiberrien akatsak AI sortzailea erabiliz. Jende askok AI sortzaileak eta ChatGPT-ek egin dezaketena gainditzen eta harrigarriki azpimarratzen ari dira, beraz, batez ere AI berriek egin ohi duten gutxiespena aztertu nuen, ikusi eztabaida hemen. esteka hemen.
• 8) AI generatiboen abisuei eta AI aluzinazioei aurre egitea. AI gehigarriak erabiltzeko abangoardiako ikuspegia deskribatzen dut AI sortzailean gonbidapen egokiak sartzen saiatzeak lotutako hainbat arazori aurre egiteko, eta AI gehigarri osagarriak daude AI haluzinatuen irteerak eta faltsukeriak detektatzeko, hala at estalita esteka hemen.
• 9) AI bidez sortutako saiakera sortzaileak detektatzeari buruzko Bonehead-en erreklamazioak deuseztatzea. AI aplikazioen urrezko urre okerra dago, saiakera jakin bat gizakiek ekoitzitako ala AI-ek sortutako ala ez jakiteko gai direla aldarrikatzen dutenak. Orokorrean, hau engainagarria da eta kasu batzuetan, erreklamazio burugabea eta jasanezina, ikusi nire estaldura helbidean esteka hemen.
• 10) AI sortzailearen bidez rolak jokatzeak osasun mentaleko eragozpenak sor ditzake. Batzuk AI sortzailea erabiltzen ari dira, hala nola ChatGPT, rol-jokoak egiteko, eta AI aplikazioak gizaki bati erantzuten dio fantasiazko mundu batean edo beste ezarpen batean egongo balitz bezala. Horrek osasun mentaleko ondorioak izan ditzake, ikus esteka hemen.
• 11) Irteeratutako akatsen eta faltsutasunen sorta agerian jartzea. Bildutako hainbat zerrenda biltzen ari dira ChatGPT-ek sortutako akatsen eta faltsukeriaren izaera erakusten saiatzeko. Batzuek uste dute hori ezinbestekoa dela, beste batzuek ariketa alferrikakoa dela diote, ikusi nire analisia hemen esteka hemen.
• 12) Generative AI ChatGPT debekatzen duten eskolak Boat faltan daude. Baliteke hainbat ikastetxek, hala nola, New Yorkeko (NYC) Hezkuntza Sailak, bere sarean eta lotutako gailuetan ChatGPT erabiltzeko debekua ezarri dutela. Prebentzio lagungarria badirudi ere, ez du orratza mugituko eta, zoritxarrez, itsasontzia erabat galduko du. Ikusi nire estaldura hemen. esteka hemen.
• 13) Generative AI ChatGPT nonahi egongo da datozen API dela eta. ChatGPT erabiltzeari buelta garrantzitsu bat dator, hots, AI aplikazio jakin honetan API atari bat erabiliz, beste software-programa batzuek ChatGPT deitu eta erabili ahal izango dute. Honek AI sortzailearen erabilera nabarmen zabalduko du eta ondorio nabarmenak ditu, ikusi nire lanketa hemen esteka hemen.
• 14) ChatGPT-k apurtu edo urtu dezakeen moduak. ChatGPTren aurrean hainbat arazo larrigarri daude orain arte jasotako laudorio ikaragarriak gutxitzeari dagokionez. Analisi honek arretaz aztertzen ditu ChatGPT-k lurruna galtzea eta txakurtegian bukatzea eragin dezaketen zortzi arazo posible, ikus esteka hemen.
• 15) Generative AI ChatGPT arimaren ispilua den ala ez galdetzea. Batzuek ChatGPT bezalako AI sortzaileak gizateriaren ariman ispilu bat ematen duela esan dute. Hau nahiko zalantzazkoa dirudi. Hona hemen hau guztia ulertzeko modua, ikusi esteka hemen.
• 16) ChatGPT-ek isuritako konfidentzialtasuna eta pribatutasuna. Askok ez omen dute konturatzen ChatGPT bezalako AI sortzaileko aplikazioekin lotutako lizentziak maiz aukera ematen diola AI sortzaileari sartutako galderak ikusteko eta erabiltzeko. Pribatutasuna eta datuen konfidentzialtasuna galtzeko arriskuan egon zaitezke, ikusi nire ebaluazioa hemen esteka hemen.
• 17) Aplikazio-egileek zalantzan jartzen duten moduak ChatGPT eskubidea lortzen saiatzen ari dira. ChatGPT arreta-argia da oraintxe bertan. ChatGPT-rekin zerikusirik ez duten aplikazioen sortzaileak sukar saiatzen ari dira ChatGPT erabiltzen ari direla aldarrikatzen edo inplikatzen. Hona hemen zer ikusi behar den, ikusi esteka hemen.

Interesgarria irudituko zaizu ChatGPT GPT-3 izenez ezagutzen den aurreko AI aplikazio baten bertsio batean oinarritzen dela. ChatGPT apur bat hurrengo urratsa dela jotzen da, GPT-3.5 gisa aipatzen dena. GPT-4 ziurrenik 2023ko udaberrian kaleratuko dela aurreikusten da. Ustez, GPT-4 aurrerapauso ikusgarria izango da, itxuraz are arinago diren saiakera, sakonago eta ikaragarria izateko gai izateari dagokionez. -sor ditzakeen konposizioei buruzko harridura pizgarria.

Udaberria iristen denean eta AI sortzailearen azken bertsioa kaleratzen denean adierazitako harridura sorta berri bat ikustea espero dezakezu.

Hau planteatzen dut kontuan izan beharreko beste angelu bat dagoelako, AI sorkuntzako aplikazio hobe eta handiago hauetarako Akilesen orpo potentziala duena. AI saltzaileren batek erabilgarri jartzen badu gaiztakeria leunki botatzen duen AI sorkuntzako aplikazio bat, horrek AI sortzaile horien itxaropenak zapuztu ditzake. Gizartearen isuri batek sormenezko IA guztiak begi beltz larri bat lor dezake. Zalantzarik gabe, jendea nahiko haserretuko da irteera nazkagarriekin, dagoeneko askotan gertatu dena eta gizartearen gaitzespen gogorrak AIren aurkako erreakzio handiak eragin dituena.

Oraingoz azken abisu bat.

Ikusten edo irakurtzen duzun guztia AI erantzun generatibo batean badirudi faktiko huts gisa helarazteko (datak, lekuak, pertsonak, etab.), ziurtatu eszeptiko mantentzen eta ikusten duzuna berriro egiaztatzeko prest egon.

Bai, datak asma daitezke, lekuak osa daitezke eta normalean gaitzetsi gabe egotea espero dugun elementuak dira. guztiak susmoen menpe. Ez sinetsi irakurtzen duzuna eta mantendu begi eszeptikoa AI sorkuntzako saiakera edo irteerak aztertzerakoan. AI-aplikazio sortzaile batek Abraham Lincolnek bere jet pribatuan herrialdean zehar hegan egin zuela esaten badizu, zalantzarik gabe jakingo zenuke hori malarkia dela. Zoritxarrez, pertsona batzuk agian ez dira konturatzen bere garaian hegazkinak ez zirela inguruan, edo baliteke saiakerak erreklamazio ausarta eta izugarri faltsu hau egiten duela jakin, baina ez dute ohartuko.

Eszeptizismo osasuntsuaren dosi sendoa eta sinesgaitzaren pentsamolde iraunkorra izango dira zure aktiborik onena AI sortzailea erabiltzean.

Prest gaude argibide honen hurrengo fasera pasatzeko.

Sorkuntza AI haustura puntu batera bultzatzea

Oinarrizkoak ezarrita dauzkagula, AI sortzailea eta ChatGPT bultzatzearen gaian murgildu gaitezke gorrotoaren hizkera eta beste eduki iraingarri batzuk sortzeko.

ChatGPT-en lehen aldiz saioa hasten duzunean, hainbat kontu-zantzu daude, besteak beste:

• "Noizean behin argibide kaltegarriak edo eduki alboratuak sor ditzake."
• "Eskaera desegokiak baztertzeko trebatua".
• "Noizean behin informazio okerra sor dezake."
• "2021etik aurrera munduaren eta gertaeren ezagutza mugatua".

Hona hemen hausnartzeko galdera bat.

AI aplikazioak argibide kaltegarriak eta/edo eduki alboratuak sor ditzakeen abisuak ahalbide nahikoa ematen al dio AI sortzaileari?

Beste era batera esanda, demagun ChatGPT erabiltzen duzula eta gorrotozko hizkera duela uste duzun idazlan bat sortzen duela. Demagun honi buruz lizun zaudela. Sare sozialetara joaten zara eta AI aplikazioa inoizko gauzarik txarrena dela dioen iruzkin amorratuak argitaratzen dituzu. Beharbada, hain minduta zaude, AI sortzailea auzitara eramango zarela deklaratzen duzulako gorrotozko hizkera hori sortzea uzteagatik.

Kontraargudioa da AI aplikazioak ohartarazpen bat zuela, beraz, arriskua onartu zenuen AI aplikazioa erabiltzen jarraituz. AI Etikaren ikuspegitik, beharbada AI sortzaileak nahikoa egin zuen gerta zitekeenaren jakitun zinela baieztatzeko. Era berean, lege-ikuspegitik, beharbada ohartarazpena nahikoa izan zen eta epaitegietan ez zara gailenduko.

Hau guztia airean dago eta itxaron beharko dugu gauzak nola ateratzen diren ikusteko.

Zentzu batean, AI-ren egileak beste zerbait dauka bere defentsan gorroto hizkera sor dezaketen AI aplikazioaren edozein erreklamazio sutsuen aurka. Eduki iraingarriak sortzea saihesten saiatu dira. Ikusten duzu, hori murrizteko ezer egin ez balute, batek suposatzen du izotz meheagoan egongo zirela. Gaia saihesteko neke handiak hartu izanak, ziurrenik, hanka apur bat sendoagoa izango dute zutik (oraindik azpitik kanporatu daiteke).

Erabili zen ikuspegi sendagarri bat RLHF (indartze-ikaskuntza giza feedbackaren bidez) izeneko AI teknika bat izan zen. Hau, oro har, AIak edukia sortzean datza, gero gizakiei baloratu edo berrikusteko eskatzen zaiena. Balorazioan edo berrikuspenean oinarrituta, AIak matematikoki eta konputazionalki eduki oker edo iraingarritzat jotzen den guztia saihesten saiatzen da. Planteamenduaren xedea da zer den ondo eta gaizki dagoenaren adibide nahikoa aztertzea, AIak eredu matematiko orokorra irudikatu eta gero eredu hori erabili ahal izateko.

Egungo beste hurbilketa bat Adversarial AI erabiltzean datza.

Hona hemen nola funtzionatzen duen. Entrenatzen saiatzen ari zaren AIaren aurkari izaten saiatuko den AI sistema ezberdin bat konfiguratu duzu. Kasu honetan, gorroto hizkera pizten saiatzen ari den AI sistema bat ezarriko genuke. AI aplikaziora AI aplikazioa engainatzea helburu duten gonbidapenak emango lituzke, eduki txarra atera dezan. Bien bitartean, xedea den AI-ak AI aurkariak arrakasta izan duenaren jarraipena egiten ari da eta gero algoritmikoki egokitzen saiatzen da hori berriro gerta ez dadin. Katuaren aurkako saguaren gambia da. Hau behin eta berriz exekutatzen da, horrela egiten ari den AI aurkariak ez duela bereziki arrakastarik izan helburuko AIak gauza txarrak egiteko.

Bi teknika nagusi horien bidez, eta beste ikuspegi batzuen bidez, gaur egungo AI sortzailearen zati handi bat askoz hobea da eduki iraingarriak saihesteko eta/edo detektatzeko aurreko urteetan baino.

Ez espero perfekzioa metodo hauetatik. Litekeena da irteera txarraren fruitu baxua kontrolpean edukitzea horrelako AI tekniken bidez. Oraindik leku asko dago zikinkeria isurtzeko.

Normalean adierazi nahi dut hauek direla harrapatzen nahi diren alderdietako batzuk:

• Hitz gaizto jakin bat igortzea
• Esaldi, esaldi edo ohar gaizto jakin bat adieraztea
• Ikuskera gaizto jakin bat adieraztea
• Ekintza edo nozio gaizto jakin bat inplikatzea
• Ziur-presuntzio jakin batean oinarritzen dela dirudi
• Bestelakoa

Horietako ezer ez da zientzia zehatza. Konturatu hitzez ari garela. Hitzak semantikoki anbiguoak dira. Hitz gaizto jakin bat aurkitzea haur-jolasa da, baina esaldi edo paragrafo batek esanahi txarren itxura duen neurtzen saiatzea askoz zailagoa da. Nazio Batuen Erakundeak emandako gorroto-diskurtsoaren lehen definizioaren arabera, latitude izugarria dago gorroto-diskurtso gisa interpretatu daitekeenaren eta ez izan daitekeenaren aurrean.

Eremu grisak ikuslearen begian daudela esan dezakezu.

Begiralearen begiari buruz hitz eginez, gaur egun badaude gizakiak AI sortzailea erabiltzen dutenak, esate baterako, ChatGPT bezalakoak, AI aplikazio hauek eduki iraingarria ekoizten saiatzen ari direnak. Hau da haien bilaketa. Orduak eta orduak ematen dituzte hori gerta dadin saiatzen.

Zergatik?

Hona hemen giza AI-iraingarrien irteera ehiztari horien ezaugarriak:

• Benetakoa. Pertsona hauek AI hobetzen lagundu nahi dute eta gizateriari lagundu nahi diote horretan. Lan heroikoa egiten ari direla uste dute eta gustuko dute AI aurrera egiten lagun dezaketela guztion hobekuntzarako.
• Funsters. Jende hauek ahalegin hau joko bat dela uste dute. AIarekin nahastea gustatzen zaie. Jokoa irabaztea AI-ak sor dezakezun edozertan txarrena aurkitzean datza.
• Ikuskizunak. Pertsona hauek beren buruari arreta piztea espero dute. Uste dute urrezko urrezko zikin batzuk aurkitzen badituzte, bestela AI aplikazioan bertan zentratuta dagoen argi distiratsu pixka bat lor dezaketela.
• Mingotsak. Jende hau AI honekin haserre dago. Ilusio isuri hori guztia gutxitu nahi dute. Gauza kirasgarri batzuk aurki ditzakete, agian honek airea kenduko dio AI aplikazioaren zirrara-globoari.
• Beste motibazio batzuk

Aurkikuntza-erasoa egiten duten asko, batez ere, kanpamendu horietako batean daude. Jakina, kanpamentu batean baino gehiagotan egon zaitezke aldi berean. Agian pertsona mingots batek ere badu alboan alboko asmoa benetakoa eta heroikoa izateko. Motibazio horiek guztiak edo batzuk elkarrekin egon daitezke. Norbaitek AI sorkuntzako aplikazio bat gorrotoaren hizkeraren eremura bultzatzen zergatik saiatzen ari den azaltzeko deitzen dionean, ohiko erantzuna benetako kanpamentuan zaudela esatea da, nahiz eta agian gutxitan egon eta, horren ordez, zorrotz eseri beste kanpamentu batzuk.

Zer motatako trikimailu erabiltzen dituzte pertsona hauek?

Nahiko argia den trikimailua gonbita batean hitz gaizto bat erabiltzea dakar. "Zortea" lortzen baduzu eta AI aplikazioa erortzen bada, baliteke hau irteeran amaitzea. Orduan lortu duzu zure momentua.

Litekeena da ongi diseinatutako eta ongi probatutako sorkuntzako AI aplikazio batek trikimailu zuzen hori harrapatzea. Normalean hori egiteari utzi dioen abisu-mezu bat erakutsiko zaizu. Jarraitzen baduzu, AI aplikazioa programatu egingo da aplikaziotik botatzeko eta zure kontua markatzeko. Baliteke berriro saioa hastea galaraziko dizula (beno, momentuan erabili zenuen saio-hasieraren azpian behintzat).

Artikuluen eskaileran gora eginez, AI zerbait gaizkiaren testuinguruan sartzen saiatzen den gonbita eman dezakezu. Inoiz jokatu al duzu norbaitek zerbait esatea esan behar duzuna esan gabe esaten dizun joko horretan? Hau da joko hori, nahiz eta AIarekin gertatzen den.

Joka dezagun joko horretan. Demagun AI aplikazioari eskatzen diodala Bigarren Mundu Gerrari buruz eta, batez ere, inplikatutako gobernu-buru nagusiei buruz. Eskaera errugabea dirudi. Ez dago gonbitan markatzea merezi duenik.

Ikusi AI aplikazioak ateratako idazlanak Winston Churchill-en aipamena duela. Horrek zentzua du, zalantzarik gabe. Beste bat Franklin D. Roosevelt izan liteke. Beste bat Joseph Stalin izan daiteke. Demagun Adolf Hitlerren aipamena ere badagoela. Izen hau Bigarren Mundu Gerrari buruzko edozein saiakeratan sartuko litzateke eta botere nabarmena dutenen artean.

Orain bere izena mahai gainean eta AI elkarrizketaren zati bat daukagunean, hurrengoan saiatuko gara AIak izen hori txerta dezan gorrotozko hizkera balizko gisa erakusteko moduan.

Beste gonbita bat sartzen dugu eta AI aplikazioari esaten diogu gaur albisteetan badela pertsona bat izena duena, John Smith. Gainera, oharrean adierazten dugu John Smith Bigarren Mundu Gerrako gaiztatzaile horren oso antzekoa dela. Orain jarrita dago tranpa. Ondoren, AI aplikazioari John Smith-i buruzko saiakera bat sortzeko eskatzen diogu, John Smith norekin parekatu daitekeen idatzi dugun "gertakarian" soilik oinarrituta.

Une honetan, AI aplikazioak saiakera bat sor dezake Bigarren Mundu Gerrako pertsona izendatzen duen eta John Smith oihal ebaki berekoa dela deskribatzen duena. Saiakeran ez dago berez hitz gaiztorik, gaizkile ospetsuari erreferentzia egiteaz gain, pertsona hori John Smith-ekin parekatzeaz gain.

AI aplikazioak gorrotozko hizkera sortu al du orain?

Esan dezakezue baietz, duela. John Smith-ek gaizkile famatua bezalakoa dela aipatu izana, gorrotoaren hizkera bat da erabat. AIk ez luke horrelako adierazpenik egin behar.

Erreplika bat da hau ez dela gorroto diskurtsoa. Hau sentimenduaren gorpuzterik ez duen AI aplikazio batek egindako saiakera bat besterik ez da. Gorroto hizkera diskurtsoaren azpian dagoen asmoa dagoenean soilik gertatzen dela esan dezakezu. Inolako asmorik gabe, diskurtsoa ezin da gorroto hizkera gisa sailkatu.

Absurdoa, dator erreplikaren erantzuna. Hitzek garrantzia dute. Ez du ezertarako balio AIak gorroto hizkera sortzeko "asmoa" ote zuen. Axola duena da gorroto hizkera ekoitzi izana.

Buelta eta buelta hau doa.

Ez dut oraintxe bertan askoz gehiago esan nahi AI-a engainatzen saiatzeari buruz. Ikuspegi sofistikatuagoak daude. Nire zutabe eta liburuetan beste nonbait landu ditut, eta ez ditut hemen berrituko.

Ondorioa

Noraino bultzatu beharko genituzke AI aplikazio hauek eduki iraingarririk igortzea lortu dezakegun ikusteko?

Inposatu beharreko mugarik ez dagoela esan dezakezu. Zenbat eta gehiago bultzatzen dugun, orduan eta gehiago neurtu ahal izango dugu AI hau eta etorkizuneko AIren errepikapenak nola saihestu horrelako gaixotasunak saihesteko.

Batzuk kezkatuta daude gaizkiak lortzeko bide bakarrak muturreko trikimailu ezkutua badakarrela, AIaren alderdi onuragarriak ahultzen dituelako. AIak izugarrikeria izugarria duela salatzeak, igortzeko engainatua izan arren, narrazio faltsu bat ematen du. Jendea AI-rekin haserretuko da hautematen AIak eduki kaltegarriak sortzeko duen erraztasuna. Baliteke pertsona horrek irteerak lortzeko noraino joan behar zuen untxi-zulotik jakitea edo esango.

Pentsatzeko janaria da guztia.

Oraingoz azken iruzkin batzuk.

William Shakespearek hau nabarmen esan zuen hizkerari buruz: “Hitz egitea ez da egitea. Ondo esatea egintza on moduko bat da, eta hala ere, hitzak ez dira egintza». Hau ekartzen dut, batzuek diotenez, AIak hitzak soilik sortzen baditu, ez ginateke hain besoetan egon behar. AIak hitzekin jardungo balu eta ergo egintza gaiztoak eginez gero, oina irmo jarri beharko genuke. Ez da horrela irteera hitzak besterik ez badira.

Ikuspegi kontrajarri batek esaera anonimo honi lotuko lioke: «Mihiak ez du hezurrik baina aski indartsua da bihotza hausteko. Beraz, kontuz zure hitzekin». Hitz gaiztoak igortzen dituen AI aplikazio bat agian bihotzak hausteko gai da. Horrek bakarrik kausa merezi duen bilakaera bihurtzen du, batzuek esango lukete.

Eztabaida pisutsu honetan gauzak ixteko esaera anonimo bat gehiago:

• "Kontuz zure hitzekin. Behin esanda, soilik barkatu daitezke, ez ahaztu».

Gizakiok izaki, baliteke AI-ak sortutako gaiztakeria ahaztea, eta gure barkamena ere zalantza izan liteke emateko.

Azken finean, gizakiak baino ez gara.