AI etika Aristotelesengana makurtzen da gizakiek sistema guztiz autonomoen etorreraren erdian AI esklabo bihurtzeko aukera izan dezaketen aztertzeko

Laguna edo etsaia.

Arrainak edo hegaztiak.

Pertsona edo gauza.

Asmakizun hedatu horiek guztiek iradokitzen dute batzuetan egoera dikotomiko baten aurrean gaudela eta alderdi bat edo beste aukeratu behar dugula. Bizitzak elkarren artean esklusiboak diren bi aukerak osatzen dituzten zirkunstantziari aurre egitera behartu gaitzake. Hizkera zaporetsuagoan, ekuazio bitar baztertzaile batek bide ezberdin batetik bestera baino gehiago joatea eskatzen duela iradoki dezakezu.

Zentratu gaitezen bereziki pertsona edo gauza dikotomian.

Pertsona edo gauzaren galdera sutsua behin eta berriz sortzen da Adimen Artifizialaren (AI) inguruan.

Argitzeko, gaurko AI erabatekoa da ez pertsona bat eta ez du sentipen itxurarik, albisteetan eta sare sozialetan ikusi ahal izango dituzun izenburu zabalak eta guztiz neurrigabeak izan arren. Horrela, ziur egon zaitezke oraintxe bertan AI pertsona edo gauza bat den ala ez kontua erraz erantzun daitekeela. Irakurri nire ezpainak, Hobson-ek pertsona edo gauzaren artean egin duen aukeran, AI gauza bat da, oraingoz.

Hori esanda, etorkizunera begiratu eta zer gerta daitekeen AI forma sentikor bat lortzeko gai bagara galde dezakegu.

Kritika arrazoitu batzuek (gehi eszeptiko kaustikoek) iradokitzen dute agian gure oiloak hazi baino askoz lehenago zenbatzen ari garela gaur egun sentikor AI baten adarrei buruz eztabaidatuz. Adierazitako kezka da eztabaidak berak esan nahi duela AI horren atarian egon behar dugula. Gizartea, oro har, engainatu liteke bihar edo etzi bat-bateko errebelazio hunkigarri bat izango dela, hain zuzen ere sentikorra den AIra iritsi garela (batzuek AI berezitasuna edo adimen-leherketa gisa deitzen diote hori, ikus nire analisia at esteka hemen). Bien bitartean, ez dakigu noiz sortuko den AI hori, inoiz ez bada, eta, zalantzarik gabe, ez dugu itxuraz izkina bakoitzari begira egon beharrik eta beldurgarriki adi egon AI sentikorra gure gainera salto egingo duela hurrengoan. denbora gutxian.

Eztabaidaren beste aldeak adierazten du ez dugula burua hondarpean sakon lurperatu behar. Ikusten duzu, AI sentikorrarekin lotutako aukerei buruz argi eta garbi eztabaidatzen eta hausnartzen ez badugu, gizateriari ustezko kalte larria egiten ari gara. Ez gara prest egongo AI sentikorra maneiatzeko, sortzen denean edo gertatzen bada. Gainera, eta beharbada are indartsuago esanda, sentikorra den AI aurrea hartuz gero, gaiak gure esku hartu ditzakegu eta IA hori nola izango den eta zer izango den izango duen norabidea eta izaera moldatu (denak ez daude ados azken puntu honetan , hots, batzuek diote AI horrek "gogoa" guztiz propioa izango duela eta ezin izango dugula moldatu edo korapilatu, AIak modu independentean pentsatu eta etengabe existitzeko bitarteko bat zehazteko gai izango delako).

AI Etikak zentzumen-AI-gai neketsu eta argudio horiek zabalik ateratzea jakintsu izango ginatekeen ikuspuntuaren alde egin ohi du, aukerarik ez dugun arte edo AI hori lortu arte itxaron beharrean. Irakurleek ondo dakite AI Etika eta AI etikoa gaiak zabaltzen ditudala, besteak beste, AI pertsona juridikoa, AI eustea, AI isurketa, AI monolaborantza algoritmikoa, AI etika-garbiketa, erabilera bikoitza bezalako gai arantzatsuak estaltzen ditudala. AI Doctor Evil izeneko proiektuak, AI gizartearen botere dinamikak ezkutatzen ditu, AI fidagarria, AI auditoria eta abar (ikusi nire zutabeetan funtsezko gai hauen estaldura hemen esteka hemen).

Galdera erronka bat egiten dizut.

Etorkizunean, edozein modutan AI sentikorrarekin bukatzen dugula suposatuz, AI sentikor hori pertsona edo gauza gisa ulertuko al dugu guztiok?

Galdera guztiz probokatzaile honetan sakontzen hasi baino lehen, utz iezadazu zerbait esatea "sentient AI" esaldiaren inguruan, denok orrialde berean egon gaitezen. Sentientziaren eta kontzientziaren esanahiaren inguruan kezka handia dago. Adituek erraz ados egon daitezke hitz horiek zer diren. Lohitasun horri gehituz, edonork "AI"-ri erreferentzia egiten dion bakoitzean ez duzu berez zertaz ari den jakiteko baliabiderik prest. Dagoeneko azpimarratu dut gaur egungo IA ez dela sentikorra. Azken finean sentikorra den etorkizuneko AI batera iristen bagara, ustez "AI" ere deituko diogu. Kontua da, auzi gatazkatsu hauek nahiko nahasgarriak izan daitezke oraintxe bertan "AI" esaldiaren esana egungo AI sentikorrarekin edo noizbait agian sentikorra den AIarekin erlazionatuta dagoen ala ez.

AI eztabaidatzen ari direnak elkarren ondoan hitz egiten aurki daitezke eta ez dira konturatzen bata sagarrak deskribatzen ari dela eta bestea, berriz, laranjaz ari dela.

Nahasmen hori konpontzen saiatzeko, asko argitzeko itxaropentsurako erabiltzen ari diren AI esaldiaren egokitzapena dago. Gaur egun, Adimen Orokorreko Artifiziala (AGI) deitzen dugu, guztiz adimentsu gisako ahaleginak egin ditzakeen AI mota gisa. Zentzu horretan, "AI" esaldiaren erabilera xumeagoa AI-ren bertsio txikiago gisa interpretatzeko uzten da, batzuek AI estua dela esaten dutena, edo denotazio anbiguoa den eta ez dakizu erreferentzia ez den ala ez. -sentient AI edo agian sentient AI.

Honi bira gehigarri bat emango diot.

Sentientziaren definizio jakin baten arabera, AGI sentikorra izango den edo ez diskurtso bero batean sar zaitezke. Batzuek baieztatzen dute, noski, AGIk bere berezko izaeragatik sentikorra izan behar duela. Beste batzuek diote sentikorra ez den AGI izan dezakezula, ergo, sentientzia AGI lortzeko baldintza ez den beste ezaugarri bat da. Nire zutabeetan eztabaida hori hainbat aztertu dut eta ez dut hemen gaia berrituko.

Momentuz, mesedez, suposatu hemengo eztabaida honetan AI-ri erreferentzia egiten diodanean AGI-ra ari naizela iradokitzeko asmoa dudala.

Hona hemen honi buruzko deskarga. Oraindik ez dugu AGIrik, eta, nolabait esateko, adeitasunez onartuko dugu AGI sentikorra den AIren esparru orokor berean dagoela. Nire eztabaidan zehar "AGI" soilik erabiliko banu, esaldi honek distraigarria izan dezake, asko ez baitaude oraindik ohituta "AGI" izengoiti gisa ikustera eta ziurrenik apur bat haserretuko lirateke esaldi berri samarra behin eta berriz ikusteaz. Orain, horren ordez, "sentient AI" aipatzen jarraituko banuen, hau ere distraitzaile bat izan liteke AGI eta sentikorra AI elkarren artean berdinak edo desberdinak diren ala ez borrokatzen ari direnentzat.

Nahaspila hori saihesteko, demagun nire AI aipatzea AGI edo baita sentikorra-AI esatearen berdina dela, eta jakin, behintzat, ez dudala gaur egungo sentikor ez-AGI AIaz ari naizela gogoetetan sartzen naizenean. Giza itxurako adimena duela dirudien IA. Noizean behin AGI izena erabiliko dut hemen noizean behin gogorarazteko oraindik ez dugun AI mota aztertzen ari naizela, batez ere pertsona edo gauza igarkizunari buruzko esplorazio honen hasieran.

Letra txikien aitorpen erabilgarria izan zen hori eta orain esku artean dugun oinarrizko gaira itzultzen naiz.

Utzidazu orain galdetzeko AGI pertsona ala gauza den.

Kontuan hartu bi galdera hauek:

• AGI pertsona al da?
• AGI gauza bat al da?

Jarrai diezaiogun galdera bakoitza errepikatzeari, eta, hurrenez hurren, erantzun diezaiogun baietz edo ezezko erantzun batzuen bidez, ustezko aukera dikotomiko bati dagokion moduan.

Hasi postulatutako aukera honekin:

• AGI pertsona al da? Erantzuna: Bai.
• AGI gauza bat al da? Erantzuna: N º.

Pentsatu hori. Izan ere, AGI pertsona gisa ulertzen bada eta ez gauza gisa, ia ziur ados gaitezke AGI pertsona baten antzekoa balitz bezala tratatu behar dugula. Badirudi ez dagoela benetako argudiorik AGIri nortasun juridikorik ez emateari buruz. Hau giza pertsona juridikoaren guztiz berdina izango litzateke, edo AGIri zentzuz aplikagarriagoa izango litzatekeen gizakiari zuzendutako pertsona juridikoaren aldaera bat sortzea erabaki genezake. Kasua itxita.

Hori erraza zen.

Imajinatu horren ordez hau deklaratu genuela:

• AGI pertsona al da? Erantzuna: N º.
• AGI gauza bat al da? Erantzuna: Bai.

Inguruabar honetan, ebazpena argia da, AGI gauza bat dela esaten ari garelako eta ez dela pertsona izateko kategoriara igotzen. Badirudi adostasun orokorra dagoela AGIri nortasun juridikoa ez geniokela erabakiko, pertsona ez dela-eta. Gauza gisa, AGI ziurrenik eta zentzuz sartuko litzateke gure gizartean legez "gauzak" nola tratatzen ditugun.

Bi behera, beste bi aukera joateko.

Ikusi hau:

• AGI pertsona al da? Erantzuna: Bai.
• AGI gauza bat al da? Erantzuna: Bai.

Ai, arraroa dirudi bi Bai erantzun ditugunez. Arduragarria. AGI pertsona bat eta aldi berean gauza bat dela iradokitzen ari gara. Baina honek aldarrikatzen dugun dikotomiaren aurrean hegan egiten duela dirudi. Teorian, dikotomia baten mugen arabera, zerbaitek pertsona edo gauza izan behar du. Bi ontzi edo kategoria horiek elkarren artean esklusiboak direla esaten da. AGI biak direla baieztatzean, sistemari aurre egiten ari gara eta elkarren arteko antolamendua hausten ari gara.

Gure azken aukera hau izango litzateke:

• AGI pertsona al da? Erantzuna: N º.
• AGI gauza bat al da? Erantzuna: N º.

Bai, hori ere txarra da AGI pertsona edo gauza gisa sailkatzeko saiakerengatik. Esaten ari gara AGI ez dela pertsona bat, eta horrek ustez gauza bat izan behar duela esan nahi du (gure eskura dagoen beste aukera bakarra, dikotomia honetan). Baina AGI ez dela gauza ere adierazi genuen. Hala ere, AGI gauza ez bada, logikaren arabera AGI pertsona bat dela aldarrikatu beharko genuke. Buelta eta buelta goaz. Paradoxa bat, ziur.

Azken bi aukera hauetan AGI edo (1) pertsona eta gauza zen, edo (2) ez pertsona ez gauza. Erraz esan liteke AGIri buruzko bi baieztapen horiek ez arraina ez hegaztia ez denaren enigma klasikoaren antzekoak direla, zer esan nahi dudan badakizu.

Zer egin behar dugu?

Askotan argudiatua eta eztabaidatua den AGI sailkapen-dilema honi irtenbide bat eskaintzera nago, aldez aurretik ohartarazi behar bazaizu, agian, ikustea edo entzutea kezkagarria izango dela. Mesedez, prestatu zeure burua horren arabera.

Gai hau jorratu zuen ikerketa-lan batek hauxe zioen: "Arazo hau konpontzeko metodo bat ez gauza bat ez bestea ez den hirugarren termino bat formulatzea da, edo bata eta bestearen konbinazio edo sintesi moduko bat" (David Gunkel-en eskutik, Northern Illinois Unibertsitatean Zergatik robotek ez lukete esklabo izan behar, 2022). Eta paperak puntu gehigarri hau ematen du orduan: “Pertsona/gauza esklusiboaren dikotomiaren irtenbide posible bat, harrigarria ez bada. esklabotza” (paper berean).

Aurrekari gehiago bezala, urte batzuk lehenago, 2010ean "Robots Should Be Slaves" izeneko paper bat agertu zen, hau gogoeta mota hau bultzatzeko oinarri gisa bihurtu dena, eta bertan hauxe zioen: "Nire tesia da robotak izan behar direla. eraiki, merkaturatu eta legez esklabotzat hartzen dira, ez lagunkide gisa” (Joanna Bryson-en paper batean). Gaia argitzen saiatzeko, esaera larria eta zirraragarria erabili gabe, artikuluak honako hau adierazi zuen: "Esan nahi dudana da 'Robotek zure zerbitzariak izan beharko lukete" (Brysonen paperaren arabera).

Ikertzaile eta egile askok bide hori landu dute.

Pentsa ezazu gizateriaren AI robotak esklabotzen dituzten zientzia-fikziozko istorio ugaritan. Batzuek robot-esklaboez, zerbitzari artifizialez, AI-ren morrontzaz eta antzekoez hitz egiten dute. Interesgarria da, "robot esklaboak" esaldia bezain gogorra dirudien arren, batzuk kezkatu egin dira "robot zerbitzariak" aipatzen baditugu, AI sistema autonomo horiek nola tratatu behar diren errealitatea saihesten ari garelako (hitza ordezkatuz "" zerbitzariak” asmoen ureztaketa eta ondorio soberanak alboratzeko trikimailu bat omen da). Geroago, Brysonek 2015eko blog batean adierazi zuen: "Orain konturatzen naiz ezin duzula 'esklabo' terminoa erabili bere giza historiari erreferentzia egin gabe".

AGI-ren korapiloko gai hau sakon aztertu nahi dutenentzat, batzuetan, mundu errealeko adibide historikoak ekartzen dituzte, ikuspegiak atera ditzakegunak. Jakina, ez dugu gizateriak gaia nola jorratu zuen erakutsiko lukeen aldez aurretiko AGIrik. Argudio batek dio, hala ere, gizakiek beste gizakiak nola tratatu dituzten aztertzeko merezi duten aipamen historiko erabilgarriak izan ditzakegula.

Esaterako, 2013an argitaratutako liburu batean, egileak hau dio: “Zerbitzari artifizial eta adimentsuen promesa eta arriskua Aristotelesek duela 2,000 urte baino gehiago inplizituki azaldu zuen lehenengoz” (Kevin LaGrandeur-en liburua, Androidak eta sare adimendunak Literatura eta Kultura Modernoaren hasieran). Ideia da Aristotelesengana makur gaitezkeela eta gizateriak AGI nola tratatuko duen edo nola amaitu behar duen jakiteko ikuspegirik dagoen.

Ziur nago historia aztertzearen garrantzia ezagutzen duzula, George Santayanaren hitz ospetsuek asko azpimarratzen duten bezala: "Iragana gogoratzen ez dutenak errepikatzera kondenatuta daude" (n. Arrazoiaren Bizitza, 1905).

Zorionak Oxford University Institute for Ethics And AI

Duela gutxi eta nahiko estimatu den aurkezpen batek AI Etikaren gaia gertutik aztertu zuen Aristotelesen lanetatik eta bizitzatik ikuspegiak bildu zirenean. Oxfordeko Unibertsitatearen urteko inaugurazio hitzaldian Etika eta AI Institutua, Stanford Unibertsitateko Josiah Ober irakasleak sakon jorratu zuen gaia 16ko ekainaren 2022an egin zen "Etika AIren Aristotelesekin" aurkezpenean.

Oharra, Stanford Fellow eta AI Etika eta Zuzenbidean aditu global gisa, poztu nintzen Stanfordeko Josiah Ober hasierako hizlari gisa hautatu zutelako. Aukera zoragarria eta hitzaldi paregabea.

Hona hemen bere hitzaldi erakargarrirako emandako laburpen laburpena: “Filosofia analitikoa eta fikzio espekulatiboa dira gaur egun gure baliabide intelektual nagusiak AI-n etikari buruz serio pentsatzeko. Hirugarren bat gehitzea proposatzen dut: antzinako historia sozial eta filosofikoa. urtean Politika, Aristotelesek doktrina sonatu bat garatzen du: gizaki batzuk "izaeraz" esklaboak dira, adimentsuak baina beren onari buruz arrazoitzeko gai ez diren akats psikologiko bat pairatzen dute. Horrenbestez, "tresna bizidun" gisa tratatu behar dira, muturren ordez tresna gisa. Haien lana besteen onurarako zuzendu eta erabili behar da. Aristotelesen doktrina gaitzesgarria helburu zitaletarako zabaldu da, adibidez, gerra aurreko Ameriketan. Hala ere, AI etikarako erabilgarria da, antzinako esklabotza AIren bertsio baten prototipo aurreko modernoa zen heinean. Esklaboak nonahi zeuden greziar zaharreko gizartean (langileak, prostitutak, bankariak, gobernuko burokratak), baina ez ziren erraz bereizten pertsona askeetatik. Nonahikotasunak, esklabotza premia praktikoa zela pentsatzearekin batera, hainbat puzzle eta arazo etiko sortu zituen: zehazki, nola desberdinak dira esklaboak "gu"-tik? Nola bereiz ditzakegu gugandik? Eskubiderik ba al dute? Zer da tratu txarra? Nire instrumentua nire laguna izan al daiteke? Zeintzuk dira manumisioaren ondorioak? Galdera hauek eta beste batzuekiko borroka filosofiko eta instituzional greziarren historia luzeak etika modernoen interpretazio-errepertorioari gehitzen dio, makina adimendun bat "esklabo natural" gisa kontsidera daitekeen etorkizun bati aurre egiten dioten (Oxford Unibertsitatearen arabera). AI Etika Institutua webgunea).

Aurkezpenari eta hitzaldiaren bideo-grabaziorako sarbideari buruzko informazio gehiagorako, ikus esteka hemen.

Aurkezpenaren moderatzailea John Tasioulas irakaslea izan zen, hasierako zuzendaria Etika eta AI Institutua, eta Etika eta Filosofia Juridikoko irakaslea, Oxfordeko Unibertsitateko Filosofia Fakultatean. Aurretik, Politika, Filosofia eta Zuzenbideko hasierako katedra izan zen eta Politika, Filosofia eta Zuzenbideko Yeoh Tiong Lay Center for the Dickson Poon School of Law-ko Kings College London-en.

Biziki gomendatzen dut AI Etikan interesa duen edonori Oxford Unibertsitateko etengabeko lanarekin eta gonbidatutako hitzaldiekin jarraitzea. Etika eta AI Institutua, Ikus esteka hemen eta / edo esteka hemen informazio gehiagorako.

Aurrekari gisa, hona hemen Institutuaren misioa eta ardatza: "AIko Etikaren Institutuak mundu osoko filosofo eta giza zientzietako beste aditu batzuk bilduko ditu akademia, negozio eta gobernuko AIaren garatzaile tekniko eta erabiltzaileekin. AIren etika eta gobernantza Oxfordeko ikerketa-eremu oso bizia da eta Institutua plataforma honetatik jauzi ausart bat emateko aukera da. Egunero IAk planteatzen dituen erronka etikoen adibide gehiago ekartzen ditu; Aurpegien aitorpenetik hautesleen profiletara, garuneko makinen interfazeetara armadun droneetaraino, eta AI mundu mailan enpleguan nola eragingo duenari buruzko etengabeko diskurtsoa. Lan premiazkoa eta garrantzitsua da nazioartean sustatu nahi duguna, baita gure ikerketa eta irakaskuntzan txertatzea hemen Oxforden” (webgune ofizialaren bidez jasoa).

Aristotelesen ikasgaiak lehen planora ekartzea

Antzinako Greziak argi eta garbi onartu eta onartzen zuen esklabutza praktika. Esaterako, jakinarazi duenez, Atenas 5^th eta 6^th mendeetan esklabutza gauzatu handienetako bat izan zen, non gutxi gorabehera 60,000 eta agian 80,000 pertsona esklabo izan ziren. Garai hartako greziar istorio eta antzezlan ugari irakurri badituzu, aipamen ugari dago gaiari buruz.

Bere bizitzan zehar, Aristoteles esklabutza dakarten gizarte eta kultura alderdietan guztiz murgilduta egon zen eta gai horri buruz asko idatzi zuen. Gaur egun bere hitzak irakur ditzakegu eta gaiari buruz dituen iritziak nola eta zergatik ulertu nahi ditugu. Hau oso adierazgarria izan daiteke.

Galdetuko zaizu zergatik izango litzatekeen Aristoteles gai honi buruz kontuan hartzeko iturri bereziki garrantzitsua. Gutxienez bi arrazoi nagusi sortzen dira:

1) Pentsalari handia. Aristoteles, ziur aski, garai guztietako pentsalari handienetako bat bezala baloratzen da, filosofo handi eta sakon aztertzaile gisa balio duena, eta oinarri etiko erabakigarri asko ezarri zituen etika gisa ere ikusten da. Batzuek logikaren aita, erretorikaren aita, errealismoaren aita, etab. bezala gantzutzea aukeratu dute, eta hainbat esparru eta diziplinatan izan duen eragina aitortzen dute.

2) Bizitako Esperientzia. Aristoteles Antzinako Grezia esklabutzapean zegoen garaian bizi izan zen. Beraz, bere ikuspegiak ez lirateke manu abstraktuei buruz soilik izango, baizik eta, ustez, bere eguneroko esperientziak barne hartzen ditu, garai hartako kultura eta gizarte-ohituretan guztiz uztartuta dauden moduan.

Beraz, pentsalari bikaina izan eta interesgarriaren gaian bizitako esperientzia erakusgarri bat izan duen norbaiten konbinazio harrigarri samarra dugu. Gainera, bere pentsamenduak idatzi zituen. Hori nahiko garrantzitsua da, gaur egun, gure helburuetarako. Bere idazlan guztiek, besteak beste, bere hitzaldiak eta elkarrekintzak deskribatzen dituzten beste idazki batzuekin batera, ikuskatzeko eta aztertzeko material ugari eskaintzen digute gaur egun.

Laburki erlazionatutako tangente batera eraman nahiko nuke, bat izatearen garrantziaren azpian dagoen nozio orokorrari buruz beste zerbait aipatzeko. bizitako esperientzia. Utzi une batez Antzinako Greziari buruzko eztabaida, bizitako esperientzien alderdi nagusiei begirada azkar bat ematen diegun bitartean.

Demagun gaur bi pertsona ditudala autoei buruzko hainbat galdera egin nahi ditudala.

Horietako batek ez du inoiz autorik gidatu. Pertsona honek ez daki gidatzen. Pertsona hori ez da inoiz automobil baten bolantearen atzean eseri. Gidatzeko kontrol ohikoak eta oso arruntak misterio pixka bat dira pertsona honentzat. Zein pedalek zer egiten du? Nola geldiarazten duzu? Nola egiten duzu joan? Gidatzen ez duen pertsona hau guztiz nahastuta dago horrelako gaiekin.

Beste pertsona eguneroko gidaria da. Lanera joaten dira egunero. Stop-and-go trafikoari aurre egiten diote. Urte asko daramatzate gidatzen. Horrek guztiak barne hartzen ditu kale lasaietatik hasi eta autobide eta bide bazterreetaraino.

Horietako bakoitzari auto bat gidatzea zer den esateko eskatzen badidat, asma al dezakezue zer erantzun mota jaso ditzakedan?

Inoiz autorik gidatu ez duenak asmakizun basatiak egin behar ditu. Agian pertsonak gidatzeko ekintza erromantizatuko du. Gidatzea abstraktu samarra da haientzat. Egin dezaketen guztia iradokitzea da gidatzea arduragabea dela eta autoa nahi duzun norabidean joateko gai zarela.

Apustu egingo nuke gidari onduak beste istorio bat kontatuko zuela. Gidatu ahal izatearen abantailak aipatu ditzakete, kotxerik gidatu ez duen pertsonaren sentimenduen oihartzun pixka bat eginez. Litekeena da esperientziadun gidariari askoz gehiago gehituko diola plakari. Gidatzea nerbioak eragiten ditu batzuetan. Erantzukizun handia daukazu. Gidatze ekintzak kezka larriak eta hil ala biziko balizko ondorioez beteta daude.

Kontua da bizitako esperientziak izan dituen norbait atzitu dezakezunean, litekeena da mundua nolakoa den ikuspuntu errealistago bat lortzea kontsultaren ardatzari dagokionez. Ez dago emaitza horren bermerik. Pentsatzekoa da gidari ez denak jakitea gidari onduak gidatzeari buruz dakiena, nahiz eta ziurrenik ez genukeen hori espero eta oraindik ere zalantzak edukiko ez garen guztia lortzen ez dugulako.

Aristoteles buruz dugun eztabaidara itzuliz, bere idatzien eta berari buruzko beste batzuen idatzien bidez, bere bizi izandako esperientziak berrikusteko gai gara hemen ikerketaren gaiari edo ardatzari buruz. Bidaia da, gainera, proportzio ikaragarriko pentsalaria izan zela eta horren inguruko gogoeta zorrotzez betetako upel bat lortuko dugula espero beharko genuke.

Kontuan izan ez ditugula zertan bere hitzak ahotan sinetsi behar, hala nola, bere joera partikularretan kontuz ibili behar dugula. Aro horretan murgiltzeak okerra eraman dezake esku artean dauden gaietatik kanpo gelditzen saiatzean, ezin du behar bezala eman iritzirik gabeko eta alboratzailerik. Logikarik zorrotzenak ere logika distortsionatzen amai dezake, beren gogoeta eta bizitako esperientziak betetzen saiatzeko.

Sar gaitezen orain hasierako hitzaldian eta ikus gaitezen Aristotelesek gaur egun zer ikasgai sor diezagukeen.

Bizitako esperientziei buruzko finko puntu bat berehala jarri zen ikusleen arreta. AGIren erabilera-kasuan, gaur egun AGIrik ez dugunez, zaila egiten zaigu AGI nolakoa izango den eta AGIri nola aurre egingo diogun aztertzea. AGIri dagozkion bizitako esperientziak falta zaizkigu. Ober irakasleak nabarmen aipatu zuenez, AGIra iristeko garaian minduta dagoen mundu batean aurkituko ginateke.

Hau askotan adierazi ohi da AI arrisku existentziala baita, eta hori askotan landu nuen nire zutabeetan. Kobazulo batean bizi beharko zenuke gizateria osoa kondenatuko duen AGI ekoitzi edo sortuko ditugun zalantza eta susmo larrien berri ez izateko. Izan ere, hemen AIren esklabotzan kontzentratzen ari naizen arren, askok ondorio atzerakoi edo goitik beherako gaia dela ikusiko lukete, AGIk gizadia esklabu izateko aukerarekin alderatuta. Zuzendu zure lehentasunak, gomendatuko lukete aditu zintzo batzuek.

AI arrisku existentzialari buruzko harridura ugari izan arren, zalantzarik gabe hausnartu dezakegu AI txanponaren beste alde onuragarriari buruz. Beharbada, AGIk gai izango da bestela itxuraz konpontzeke dauden arazoak konpontzen dituen gizakiak. Baliteke AGIk minbiziaren aurkako sendabidea aurkitzeko gai izatea. AGIk asmatu lezake munduko gosea nola konpondu. Zerua da muga, esaten den bezala. Hori da AGIri buruzko aurpegi zoriontsua.

Baikor batek esango luke zoragarria dela AGI gizadiarentzat bedeinkapena izango den ikustea, eta ezkor batek, berriz, alde txarrak espekulatutako alde onak baino askoz okerragoa dirudiela ohartaraziko luke. Gizateriari laguntzen dion AGI handia da. Gizaki guztiak hiltzea edo esklabotzea erabakitzen duen AGI, beno, hori argi eta garbi lurra apurtzen duen gizartea, arrisku existentziala suntsitzailea da, arreta bizia eta bizia salbatzea merezi duena.

Ados, gaiaren muinera itzuliz, ez dugu AGIren inguruan bizitako esperientziarik. Denboraren makina bat eraiki eta etorkizunera joan ezean AGI existitzen denean (baldin bada), eta gero itzuli guri aurkitu duzuna kontatzera, zorterik gabe gaude AGIri buruz gizakietan oinarritutako bizitako esperientziaren ikuspegitik.

Bizitako esperientziak erabiltzeko beste bide bat Aristoteles esklabutza gertatu zen garai batean bizi izana da. Eta hona hemen jaurtitzailea. Esklaboak zirenak, zenbait alderditan, makina mota bat bezala azaltzen ziren, pertsona eta gauzen arteko nahasketa bat, nolabait. Aristoteles ezaguna zen esklaboei arnasa hartzen duen ondasun gisa aipatzen zuelako.

Asmatzen dut nazkatuta egongo zarela Aristotelesek, logika eta etikaren erraldoi batek, esklabotza aitortu ez ezik, praktika hori kanpotik eta ozenki defendatu zuelako. Pertsonalki ere esklabotzaz baliatu zen. Honek ulertzetik harago dirudi. Zalantzarik gabe, bere adimen eta jakinduria izugarriarekin, praktika hori salatuko zuen.

Ausartzen naiz esatera honek bizitako esperientziek (esango dugu) kargatuta dagoen norbaitengandik jakinduria pipitak biltzearen alderdi problematikoak nabarmentzen dituela batzuetan. Ur-ontzian bizi den arraina bezalakoa da. Hauteman dezaketen guztia inguruan duten ura da. Ur-oinarritutako mundutik kanpo ezer ikusten saiatzea erronka izugarria da. Era berean, Aristoteles erabat murgilduta zegoen mundu-ikuskeran indarrean zeuden arauak onartzen zituena. Bere idazkiek konfinamendu mental mota hori ilustratzen dutela dirudi, esan liteke (agian aukeran, lehenespenez baino). Aristotelesek praktika gaitzesgarri hauek justifikatu zituen modua liluragarria da, aldi berean, kezkagarria eta agerian jartzea eta are gaitzestea merezi duena.

Teaser pixka bat emango dizut Aristotelesen "logikak" gai ezagun honen inguruan arimadun tresnak dakartzana, baieztatzen elkarrekiko abantaila ezagutza, goi-mailako eta behe-mailako tresna hierarkikoak, arimaren deliberazio- eta arrazonamendu-elementuak, bertute-mailak, ustezko zuhurtzia, etab. Zorionez, teaser horrekin nahikoa interesatuko zaizu hitzaldiaren bideoa ikusteko (ikusi lehen aipatutako esteka).

Ez zaitut zintzilik utziko eta laburpenean ondorioa zertan izan den adieraziko dizut behintzat (spoiler alerta, bideoaren bidez jakin nahi baduzu, saltatu hemengo paragrafo hau). Ematen du Aristotelesek erabiltzen duen "logikaren" ebaluazio akademiko sakon honek kontraesanez jositako asmakizun bat erakusten duela eta kit eta kaboodle osoa karta-etxe ahul baten moduan erortzen dela. Ober irakaslearen sentimendua parafraseatuz, filosofo etiko handi hau arrezifean talka egiten du.

Ezin duzu zulo etiko biribil batean sartze karratu bat sartu.

Pentsamendu-gogoeta gehitu batzuk

Aristotelesek logika txarra izango balu gai honetan, instintiboki baztertu al genituzke Aristotelesen postulazioak eta teoriak praktika honi buruz?

Ez. Ikusten duzu, oraindik asko dago logikaren suposizioetan eta bihurguneetan sakonduz ateratzeko, akatsez beteta dauden arren. Gainera, pentsa dezakegu nola besteek oharkabean ibil daitezkeen bide oker beretik.

Eramangarri handi bat da gizarteak logika arraroa edo desegokia asmatu dezakeela AGI esklabo izango den ala ez aztertzeko orduan.

Oraintxe bertan AGI sortzen denean gertatu behar denari buruzko logika asmatu dezakegu (hala bada). Logika hori, AGIri buruz bizitako esperientziez hutsik, zoritxarrez kanpo egon liteke. Hori esanda, zertxobait etsigarria da konturatzea AGI existitzen bada ere (baldin bada) eta bizitako esperientziak AGIren artean biltzen ari garela, oraindik zer egin behar dugun helburutik kanpo geundela (Aristotelesen akatsen antzekoa). Itxuraz logikarik gabeko planteamenduetan logika genezake.

Adi egon behar dugu geure burua engainatzeko, hain zuzen ere burdinezkoak ez diren eta akats logikoz eta kontraesanez beteta dauden jarrera logikoetan engainatzeko. Hau ere pentsalari batek posizio logiko aldarrikatu bat eskain lezakeen zenbaterainokoa den kontuan hartu gabe, Aristotelesek ere adierazten du esaldi eta jarrera bakoitzak ez duela zertan fruitu jangarria ematen. Gaur egun eta etorkizunean AGIren gaiari buruz pentsalari handiak ezagunak direla diruditen horiei, tira, Aristotelesek edo beste edozein pentsalari "handi" laudatuei egingo geniekeen azterketa bera eman behar diegu, edo bestela, potentzialki buru izango gara. kale itsu batean eta AGI amildegi latz batean sartu.

Engranajeak aldatuz, AGIri dagokionez gizakiari zuzendutako esklabutza metafora erabiltzeari buruzko diskernimendu multzo orokor bat ere ekarri nahiko nuke. Zenbait adituk konparazio mota hau guztiz desegokia dela diote, kontrako kanpamendu batek guztiz erabilgarria dela eta AGIren gaiari buruzko ikuspegi sendoak ematen dituela dio.

Utzidazue zuekin partekatzea dagozkien bi kanpamenduetako halako bi ikuspegi.

Adierazitakoa oinarri didaktikoa esklabutza eta AGI gaiak lotzeagatik:

• Giza esklabotasunaren itzaltzea
• Esklabutzaren Depravation Of Exposition All Told

Adierazitako kontrakoa edo oinarri suntsitzailea bi gaiak lotzeko:

• Berdinketa antropomorfiko maltzurra
• Esklabutza Dessentsibilizazioa

Puntu horietako bakoitza laburki landuko dut.

Postulatutako puntu didaktikoak:

• Giza esklabotasunaren itzaltzea: AGI esklabotzarako erabiliz, ustez ez dugu giza-esklabotasun itxurarik beharko eta ez dugu bilatuko. AGIk funtsean gizakiak ordezkatuko ditu gaitasun izugarri horretan. Litekeena dakizuenez, kezkak daude AGIk giza lana ordezkatzeak lanpostuetan eta langilerian. Lan-fenomenoak ordezkatzen dituen AI baten alde aldarrikatua azaleratzen da AGI "aukera hobea"tzat hartuko dela gizakiak esklabutzarako erabiltzearen aldean. Logika hori nagusituko al da? Inork ezin du ziur esan.
• Esklabutzaren Depravation of Exposition denak kontatua: Hau logika aldetik apur bat apurtuago dago, baina momentu bat eman diezaiokegu zer dakarren ikusteko. Imajinatu AGI ia nonahi dugula eta gizarte gisa erabaki dugula AGI esklabo izatea. Gainera, demagun AGIri ez zaiola hau gustatuko. Horrela, gizakiok etengabe eta egunero izango gara esklabutzaren depravation lekuko. Honek, aldi berean, esklabutza dena edonori edo edonori kontatzen zaiola ohartaraziko gaitu edo errebelazioa izango dugu, inoiz ulertu genuena baino are izugarriagoa eta gaitzesgarriagoa dela. Hori da zure aurpegian jarritako argudio mota.

Esandako puntu suntsitzaileak direla:

• Ekuazio antropomorfo maltzurra: Hau da malda labainkorren argudio horietako bat. AGI esklabotzea erraz aukeratzen badugu, itxuraz esklabutza zilegi dela deklaratzen ari gara. Izan ere, esklabutza desiragarria dela esaten ari garela iradoki dezakezu. Orain, hasiera batean hau AGIren esku geratu daiteke soilik, baina honek atea irekitzen al du esatera AGIrentzat ondo badago, "logikoki" jarrera bera gizakientzat ere ondo egon daitekeela esatera? Larrigarria bada ere, hau antropomorfizatzeko jauzi errazegia izan liteke, AGIrentzat funtzionatzen duena gizakientzat ere zentzuzkoa eta egokia izango den alderantzizko itxura batean.
• Esklabutza desentsibilizazioa: Hau da tantaz tanta argumentua. Kolektiboki AGI esklabotzea erabakitzen dugu. Demagun hau gizakientzat balio duela. Hau gozatzera gatoz. Bitartean, guk ohartu gabe, pixkanaka-pixkanaka eta esklabotasunarekiko gero eta sentikortasun handiagoarekin ari gara. Ez gara konturatzen hori gertatzen ari denik ere. Dessentsibilizazio horrek gainditzen badigu, orduan giza esklabotza onargarria dela sinestaraziko gaituen "logika" berritua aurki genezake. Gizartean onargarria denaren gure oztopoa edo oztopoa gutxitu egin da isilik eta sotil, arbuiagarri eta zoritxarrez.

Ondorioa

Oraingoz azken ohar batzuk.

Jakingo al dugu AGIra iritsi garela?

Azken berriek iradokitzen dutenez, badaude oker edo gaizki esan dezaketenak AGI itxuraz dagoeneko lortu dela (aupa, jakin ezazu ez, AGI ez dela lortu). Turing Test izenez ezagutzen den "proba" famatu bat ere badago, batzuek AGI edo bere lehengusuak noiz iritsi diren antzeman ahal izateko itxaropenak jartzen dituena, baina baliteke Turing Testaren deseraikitzea seguru ikusi nahi izatea. horretarako metodoa, ikus esteka hemen.

AGI ezagutzeari buruzko alderdi hau aipatzen dut, ikusten dugunean, AGI esklabotuko bagara, ustez AGI agertzen denean ezagutu eta nolabait esklabotasunean jarri behar dugulako logika sinpleagatik. AGI baino gutxiago den IA esklabotzen saiatuko ginateke lehenago. Edo baliteke txalupa galdu eta AGIri ateratzen utzi eta esklabotzea baztertu izana. AI konfinamenduari eta eusteari buruz dudan eztabaidarako, AGIri aurre egingo diogunaren alderdi kezkagarri eta problematikoa, ikus esteka hemen.

Demagun AGI esklaboak gizakiak erasotzea erabakitzen duela?

Sentientziaren bat duen AGI batek ziurrenik ez duela gizadiak inposatzen duen esklabotza xedapenaren alde egingo pentsa daiteke.

Horri buruz asko espekulatu dezakezu. Argudio bat azaltzen da AGIk ez duela inolako emoziorik edo izpiritu zentzurik faltako eta, beraz, obedientziaz egingo duela gizakiak nahi duena. Beste argudio bat da sentikorren den edozein AI litekeena dela gizakiek AIari zer egiten dioten asmatzea eta gaia haserretuko dela. Horrelako AIak arima edo espiritu forma bat izango du. Hala ez bada ere, gizakien tratamendua baino gutxiago tratatzearen alderdia AGIrentzat zubi logikoa izan daiteke. Ezinbestean, hazten ari den haserreak askatzea erabakitzen duen AGIra eramango du edo potentzialki gizakiak askatzea lortzeko estropezu egiten du.

Ihes egiten duen AGI saihesteko proposatutako irtenbide bat da horrelako AI errebeldeak ezabatzea besterik ez genukeela. Honek zuzena dirudi. Zure telefonoan dauden aplikazioak ezabatzen dituzu denbora guztian. Ez dago gauza handirik. Baina ebatzi beharreko galdera etikoak daude jadanik "pertsona" edo "pertsona/gauza" gisa kontsideratzen den AGI bat "ezabatzea" edo "suntsitzea" modu laburrean kendu daitekeen ala ez. AI ezabatzea edo isurtzeari buruzko nire estaldurarako, hartu begirada bat hemen. Pertsona juridikoari eta erlazionatutako gaiei buruz dudan eztabaidarako, ikus esteka hemen.

Azkenik, hitz egin dezagun sistema autonomoei eta bereziki ibilgailu autonomoei buruz. Litekeena da jakitun auto gidatzen duten autoak asmatzeko ahaleginak daudela. Honetaz gain, norberak gidatzen dituen hegazkinak, norbere gidatzen diren ontziak, norbere gidatzen diren urperagailuak, norbere gidatzen diren motozikletak, norbere gidatzen diren scooterrak, norbere gidatzen diren kamioiak, norbere gidatzen diren trenak eta auto-gidatzeko era guztietako garraiobideak.

Ibilgailu autonomoek eta norbere gidatzen duten autoek normalean de facto estandar global bihurtu den Autonomia Mailak (LoA) ezaugarritzen dituzte (asko landu dudan SAE LoA, ikus esteka hemen). Onartutako estandarrean sei autonomia-maila daude, zerotik bostera bitartekoak (sei maila da zenbat maila dagoen zenbatzen zenbatzean zerogarren maila sartzen duzunetik).

Gaur egungo auto gehienak 2. mailan daude. Batzuk 3. mailan luzatzen ari dira. Guztiak erdi-autonomotzat hartzen dira eta ez guztiz autonomotzat. Gure bide publikoetan esperimentalki probatzen ari diren auto autonomo batzuk 4. mailara iristen ari dira, hau da, funtzionamendu autonomo mugatu bat da. Noizbait bilatzen den 5. autonomia maila distira bat besterik ez da gure begietan oraintxe bertan. Inork ez du 5. maila eta oraindik inor ez dago 5. mailatik gertu ere, errekorra zuzentzeko.

Zergatik ekarri ditut sistema autonomoak eta ibilgailu autonomoen gogoetak AGI testuinguru honetan?

Argudio indartsua dago 5. maila lortzeko AGI behar dugun ala ez. Batzuek diote ez dugula AGIren beharrik izango horretarako. Beste batzuk 5. Mailarako bide sinesgarri bakarra AGI ere ekoiztea izango dela diote. AGIrik ezean, 5. mailako ibilgailu autonomo guztiz autonomoak izango ez ditugula argudiatzen dute. Luze eztabaidatu dut honetaz, ea esteka hemen.

Presta zaitez burua biraka egiteko.

AGIri eskatzen badiogu 5. mailako ibilgailu autonomoak bezalako sistema guztiz autonomoak lortzea, eta AGI esklabo izatea erabakitzen badugu, zer iragartzen du horrek ibilgailu guztiz autonomoen funtzionamendurako?

AGI esklaboa konforme egongo dela argudiatu dezakezu eta denok auto gidatzen duten ibilgailuetan ibiliko gara gure gustura. Esan besterik ez AGIri nora joan nahi duzun, eta gidatzen du. Bultzadarik ez. Ez dago atsedenaldirik behar. Ibilgailua gidatzen ari zaren bitartean katuen bideoak ikusiz distrakziorik ez.

Bestetik, demagun AGIk ez duela esklabo izateko gogorik. Bitartean, AGIren menpeko bihurtzen gara gure gidaritza guztia egiteko. Desintegrazioa gidatzeko gure trebetasunak. Era guztietako ibilgailuetatik gizakiak gidatzeko kontrolak kentzen ditugu. Gidatzeko bide bakarra AGI bidezkoa da.

Batzuk kezkatuta daude ozpinetako batean aurkituko garelako. AGIk laburbilduz "erabaki" dezake jada ez duela gidatzerik egingo. Garraio mota guztiak bat-batean gelditzen dira, nonahi, aldi berean. Imajinatu horrek sortuko lituzkeen arazo kataklismikoak.

Proposamen are beldurgarriagoa posible da. AGIk «erabakitzen du» gizadiarekin baldintzak negoziatu nahi dituela. AGIren esklabotza-jarrerari uko egiten ez badiogu, AGIk ez gaitu bakarrik gidatzeari utziko, are emaitza okerragoak pentsa daitezkeela ohartarazten du. Gehiegi larritu gabe, AGIk ibilgailuak gidatzea hauta zezakeen gidatze-ekintzen ondorioz gizakiak fisikoki kaltetu ditzaketen moduan, hala nola, oinezkoak kolpatzea edo hormak talka egitea, eta abar (ikus nire eztabaida atalean). esteka hemen).

Barkatu gogoeta kezkagarria iruditzen bazaizu.

Ohar apur bat alaiago batekin amaituko dugu.

Aristotelesek esan zuen zeure burua ezagutzea jakinduria ororen hasiera dela.

Aholku erabilgarri horrek gogorarazten digu gure baitan begiratu behar dugula zer egin nahi dugun aztertzeko eta lortzen bada AGIrako. AGI logikoki ez litzateke ez pertsona ez gauza, batzuek diote, beraz, baliteke hirugarren kategoria bat sortu beharko genukeela AGIrekin lotutako gure gizarte-ohiturak nahikoa zuzentzeko. Gaiari beste begirada bat emanda, AGIk hala dirudi bai pertsona bat eta gauza bat, beste behin ere, hirugarren kategoria bat asmatu beharko genituzke mugaz kanpoko dikotomia hausle honi egokitzeko.

Kontuz ibili beharko genuke zein "hirugarren kategoria" hartu nahi dugun kontuan hartuta, okerrak bide txarra eta azken finean latz batean eraman gaitzakeelako. Kognitiboki hirugarren kategoria desegoki edo oker batean ainguratzen bagara, apurka-apurka buru-belarri sartuko ginateke gizateriaren bide-hilgune zail eta kezkagarri batean.

Asma dezagun hau eta egin dezagun sutsu. Ez dirudi bat-bateko mugimendurik behar dela. Lollygagging inguruan eserita ere ez dabil. Ibilbidea neurtuta eta egonkorra jarraitu behar da.

Pazientzia mingotsa da, baina bere fruitua gozoa, hala aldarrikatu zuen Aristotelesek.