AI etika eta AIren erantzukizun kriminalaren azpian dagoen igarkizuna, AI-n oinarritutako auto gidari errespetatuek egindako delituak barne.

Aizu, gelditu lapur hori!

Baliteke ustezko lapur bat krimen baten eszenatik urruntzen ari denean sortzen den antzinako esaldi hau. Ustezko delitu-ekintza bat gertatu da eta auzipetua ihes egiten saiatzen ari da. Lapurra geldiarazten saiatzeaz gain, delitua zein den galdetzen ari ginateke. Horrez gain, eta agian hausnarketa gehiago egin ondoren, delitua zergatik egin zen jakiteko interesa egon liteke. Ekintza gaiztoa ekarri zuen adimen kriminalean gertatzen ari zena deskubritzeko berezko nahia dago.

Delituek guztiz legezko angelu bat dute.

Delitua norbait edo zerbaitekiko kontrako ekintza bat ez ezik, gizarte osoaren aurkako ekintza kaltegarritzat jotzen da. Gaizkileek legearen mugak nabarmen gainditzen dituztela hautematen da. Arlo juridikoan, ohiko gogoetak barne hartzen ditu actus reus, latinezko ekintza errudun bat egiteko eta latinezko esapidea gizon rea hau da, adimen erruduna izatearen nozioa. Beste faktore batzuk ere sartzen dira jokoan, hala nola, emaitza kaltegarri bat erakustea eta delitua nola sortu zenaren azpiko xehetasunak azaleratu beharra.

Zalantzarik gabe, gogoeta etikoak gehi ditzakezu krimenak eta ekintza kriminalak ulertzeko errubrikan.

Uste arrunta da jokabide penalei dagokienez, legea eta etikaren eremua guztiz bat datozela eta guztiz ados daudela. Ez da horrela. Erraz izan ditzakezu ekintza batzuk delitu gisa hartzen dituzten legeak, baina etikoki bertan dagoen gizarteak agian ez du guztiz ikusiko ekintza horiek delitu direnik. Era berean, gizarteak zenbait egintza “delituak” direla baieztatzen duten ohitura etikoak izan ditzake, baina legeak ez ditu berdin kontatzen egintza horiek kode juridiko penalean. Horrek Shelly Kagan-ek Oxford Scholarship Online-n egindako iruzkin argitsu bat gogorarazten dit Moralaren mugak zorrotz adieraziz moralak eta legeek, azken batean, elkarren arteko tirabirak erakusten dituztela, hots, «legeak egintza jakin bat baimendu dezakeela, egintza hori inmorala izan arren; eta legeak egintza bat debekatu dezake, nahiz eta egintza hori moralki zilegi den, edo baita moralki beharrezkoa den ere”.

Oro har, gizarteak kolektiboki arreta nabarmena ematen dio jokabide kriminalari. Ingalaterrako zuzenbide penalaren oinarri aipagarrienetako bat "" izenez ezagutzen den printzipioa izan da.actus non facit reum nisi mens sit rea" eta guztiz lotzen da ustezko delitu-ekintza bat gogo kriminal bat sartzearekin egin behar dela esatearekin. Laburbilduz, latinezko esaldi altuak funtsean dio egintza berez ez dela nahikoa egileak aipatu delituaren errudun izateko. Errudun gogoa ere izan behar dute.

Ez naiz hemen murgilduko eltze samar horretan, ikusi nire estaldura beste nonbait esteka honetan. Ikusten duzu, tratatu juridiko zabalek gaiarekin borrokatu dute, batez ere ustezko gaizkile baten buruan zer gertatzen ari zen jakitea nahiko zaila izan daitekeelako. Ez dugu pentsamendu-prozesuak zeintzuk ziren magikoki egiaztatzen duen X izpien makina motarik. Garunean ez dago zinta grabaziorik argitu besterik ez dugunik. Litekeena dakizuenez, garunak eta giza pentsamenduak misterio sakona izaten jarraitzen dute eta bide luzea dugu egiteko gogoak benetan irakurtzeko (konturatzen naiz "gogoaren irakurle" aldarrikatzen zaretenetako batzuk ados ez daudela, errespetuz egon behar den arren. zalantzan jarri adimen-peering gaitasun horien egiazkotasuna).

Martxak aldatu eta delituak egin daitezkeen beste bide bat estali nahiko nuke. Hori egin baino lehen, zure lehen erreakzioa izango da, dudarik gabe, aurkezten ari den gaia guztiz bidegabea eta zentzugabea dela. Zure hasierako inpresioa norabide horretan bihurtzea litekeena bada ere, agian eten ezazu epaiketa aldi baterako, untxi-zuloa nora doan ikusteko. Orduan erabaki ala ez ala ez.

Demagun lapurra edo delitugilea Adimen Artifiziala (AI) zela.

Bai, esan nuen. AIk egin zuen krimena.

Deskonprimitu dezagun hori.

Ikusi zure lineako banku-kontuan gogor irabazitako dirua lapurtu zutela. Zure lehen suposizioa argi dago "nork egin zuen" eta arrasto elektronikoa trazatzen saiatuko zinateke dirua nora joan zen ikusteko. Modu batean edo bestean, zure uste zorrotza da pertsona maltzur batek egin duela ekintza eta orain gaizki eutsiko diola zure orea.

Baliteke iruzurgileak zure banku-kontuan saioa hasi eta dirua beste nonbait transferitu izana. Eskuzko ahalegina izan daiteke. Hackerrak zure pasahitza aurkitu du edo aurkitu du. Zure kontuan sartu ziren zu egiten bazina bezala. Legez agertzen den transferentzia eskaera egin zen. Zure bankutik alerta bat jaso zenuenerako, dirua desagertu egin zen.

Maltzur honek indar gehiago behar izan zuen lana egiteko. Zure pasahitza jakiteko, baliteke AI programa bat erabili izana. AI programak Internet eskaneatu zezakeen planeta honetan zure existentziari buruzko xehetasunak ezagutzeko. Jaio zinen, zure txakurraren izena eta abar bezalako arrastoetan oinarrituta, baliteke AIak erabiliko zenukeen pasahitz seguruen bat konputazionalki atera izana. Zorteagatik edo trebeziaz, AI-k asmatutako pasahitza hausteko algoritmo honek zure benetako pasahitza zehaztea lortu zuen.

AI tresna bat baino ez zen. Giza maltzurrak AI aprobetxatu zuen krimen beldurgarri hau burutzeko. Arrazoizko ados egongo ginateke AI ez dela berez maltzur bat. Ez dago sentipenik edo AIren barruan gorpuzten den agentzia moralik esango dugu. Noski, AI-k lagundu egin zuen ekintza kriminala, nahiz eta, azkenean, onartuko genukeen giza gaizkilea izan zela krimenaren erorketa egin behar duena.

Orduan, AI-a tresna kriminal gisa ari al naiz testuinguru horretan?

Hala bada, zalantza dut nolabait modu desegokian astindu edo harrituko ginatekeen AI modu maltzur honetan erabili izana. Dagoen bezalaxe AI For Good, mundu mailako arazoak konpontzeko eta gizateriaren laguntza izateko erabiltzen den AI-a da, pixkanaka konturatzen eta topatzen ari gara. AI For Bad. ren alderdiak AI For Bad Desberdintasunak eta alborapen jasanezinak ager ditzaketen AIaren nahigabeko erabileretatik hasi eta jendea nahita kaltetzeko eta suntsitzaile izateko erabiltzen den AIaren eremura hedatzen da.

Ildo horretatik, AI etikoarekiko interes handiagoa ikusi dugu, AIaren etika bezala ere ezaguna dena. AI etikari buruzko nire estaldurarako, ikusi esteka hemen eta esteka hemen, batzuk aipatzearren.

Hona hemen itsaslabarraren gainetik pasatzeko edo kai-muturretik irristatu behar garen nondik norakoak.

Imajinatu AI bera zela krimenaren egilea. Ez zegoen gizakirik Oz-eko morroia gortinaren atzean. Delitua AIk bakarrik pentsatu eta gauzatu zuen. Alde batera utzi giza eskuen bila. Horren ordez, maltzurra zehaztu nahi baduzu, helburu gaiztoa egin zuen AI sistema ezagutzea.

Ongi etorri AI belaunaldi berri batek adimen kriminal baten adibide izan dezakeen kezken eremu ez-ohikora.

Aupa, beldurgarria. Zientzia-fikziozko pelikula baten antzekoa ia. Baina, zalantzan zaude, arrazoiz, eta hau sinesgarria den galdetzen duzu. Nola egin lezake AI hau? Ez al zen gizakirik egon beharko aginteetan, nola edo hala? AI ez da nolabait goiz batean esnatzen eta krimenaren bizitzan dedikatzea erabakitzen du. Jendeak hala egin dezake, nahi ez dugun arren, AI sistema batek ere egin dezakeen kontzeptu basatiak, oro har, intxaurra dirudi.

Hau bideragarria dela dioen lehen argudioa AI miragarriki sentiberatasunera edo antzeko zerbaitetara iristen dela suposatuko litzateke. AIren aurrerapenetan aurrera egiten jarraitzen badugu, baliteke AI sentikorra ekoizten lurreratzea. Edo kasualitatez AIak sentikortasuna lortzen du, sarritan singularitatea deritzon ekintza batean gertatzen dela postulatzen dena, ikus hemen nire analisia esteka honetan.

Uste dut denok ados egon gaitezkeela, modu batean edo bestean AI sentimenera iristen bada, azkenean AI krimenera bihurtzeko aukerak sinesgarriak dirudite. Saia gaitezke AIari aholkatzen ekintza kriminaletatik aldentzeko. Gizakiek landutako eta kontu handiz hazitako programak egon daitezke AI sentikor honen barruan, krimenak burutzeko saiakera oro galarazten saiatzen direnak. Hala eta guztiz ere, bideragarri den edozein AI ziurrenik gai izango da ezarrita dauden murrizketa horiek zailtasunez gainditzeko eta ziurrenik desegin edo gainditzeko. Hau ez da ziurtasuna, baina zentzu handia du.

Batek suposatzen du berehalako erreakzioa zer irabazi beharko luke AIak?

Gizakiak krimenetara jotzen du hainbat arrazoirengatik. Agian helburua aberastasuna lortzea edo beste gizaki baten mendekua bilatzea da. Arrazoi ugari ditugu ekintza kriminaletara joateko. Ziniko batek esan lezake legeengatik eta gizartearen etikengatik ez balitz, ziurrenik krimenez beteta egongo ginateke. Badirudi gizaki batek onura nabariak dituela ekintza kriminalak saiatzeagatik, hautematen diren kostuek mugatuta, hala nola espetxeratzea, diru-isunak izatea, agian gizarteak delituagatik lotsatuta egotea, gizartearen legeak eta kode etiko-moralak urratu izanaren auto-lotsa, eta beste ondorio batzuk.

Ez dirudi AI agindu hori bera jasango lukeenik. Zer egingo luke AI lapurtutako diruarekin? Zer irabaziko luke AIak gizaki bati kalte eginez? Ezagutzen ditugun edozein ekintza kriminalengatik, AIak "irabazi pertsonalerako" egingo lukeen ideia ez dirudi zentzuzkoa. Beraz, IA gaizkile bihurtuko litzatekeela erabat arbuiatzeko joera dugu. Hori eginez gero ez dago ezer irabazten.

Sentitzen dugu kontrakoa baieztatzen duten argudioak eman behar direla esatea, hots, AIak dezente irabazi zezakeela delitu-ekintzak erabiliz, suposatuz noski AI ez zela harrapatu eta ondorio penalak jasan behar izan zituela (guk' horretara iritsiko naiz une batean). Txanponaren argumentuaren beste alde hau anitza da, eta hemen laburki azalduko dudan diskurtso berezi honen ardatza ez baita.

AI sentikorra den izaki gisa (gogoratu, zehazten ari gara, nahiz eta hedatutako nozioa den), baliteke baliabideak biltzea gustatuko ez zaizkigun helburuei ekiteko. Esate baterako, baliteke AIak gizakiak ezabatu nahi izatea eta gure baliabide batzuk lapurtuz hori errazago egin daitekeela kalkulatzen du. Beste aldaera bat da gizakiek itxuraz kaltegabeko helburu bat ematen diotela AIari, hala nola papertxoak egitea, eta helburua hain garrantzitsua da AIarentzat, non apurka-apurka beste baliabide guztiak hartzen dituela helburu hori lortzeko, bitartean gu eta planeta hondatuz. hala egiten du (AIarekin lotutako pentsamendu-esperimentu famatua da, ikusi horri buruzko nire eztabaida hemen esteka honetan).

Gero eta aurrera egin dezakegu. Demagun begi malkoen bertsio hau. AIak gizaki jakinak atsegin edo saritu nahi ditu. Lapurreta guztia gizaki horiei lapurtutako objektu horiek emateko egiten da. Modu horretan, AIak ez ditu gauzak beretzat nahi. AI altruista moduko bat gizakiak atsegin egiten saiatzen ari da eta arriskutsu eta zoritxarrez krimenaren bizitzan sartzen da horretarako.

Ziur al zaude AI sentikor batek ekintza kriminaletan ekitea edo nolabait laburki erortzea eta gaizkile izatea aukera dezakeela?

Sinesteko "arrazoizkoa" iruditzen zaizuna erabaki beharko duzu.

Kontuan izan asmakizunen lautada handietan gaudela, ez dakigulako AI sentikorra ekoizten denik. Ez dakigu singulartasunik gertatuko den. Ez dakigu nola gauzatu eta ez dakigu noiz gertatuko den, inoiz ez bada. Horrela, eskuak astintzen ari gara AI sentikor batek zer egingo duen edo zer egingo ez duen pontifikatzean. Krimenaren bizitza aukeratzea bezain eztabaidagarria da AIak munduko gosea konponduko duen edo gizateriaren alde beste ekintza bikain batzuk egingo dituen.

Ados, bide kriminaletik doan sentimenezko IA aztertu dugu labur. Aukera hori bakarrik kontuan hartzen badugu, baliteke itxaronaldi luzea izatea. Hamarkadak pasa daitezke (mendeak?) AI sentikorra lortu arte, eta agian ez dugu inoiz ikusiko eta lorpena ezinezkoa izango da.

Utz ditzagun gauzak koska bat beherantz. Itxura ezazu IA lantzeko gai garela, sentikorra ez den arren, AI-ak, nolanahi ere, nahiko balentria ikusgarriak egin ditzake bere kabuz. AI modu autonomoan lan egiteko diseinatuta dago. Ez omen da gizakirik egon behar AI funtzionatzen ari denean. Eta abar.

Horrek errealitatera eta ekar ditzakeen mundu errealeko konplikazioetara hurbiltzen gaitu.

Zenbait ikertzaile eta jakintsuk iradokitzen dute AI mota hau potentzialki mota bat inokulatzeko gai dela. nortasun kriminala, nolabait esateko (alderdi honi eta haiei lotutako arakatze zehatz bat izateko, ikus Woodrow Barfield eta Ugo Pagalloren “Legea eta Adimen Artifiziala” izeneko liburu erabilgarria). Hori jatorriz AI asmatu zutenek egin dezakete, AI ekintza kriminaletara bideratzen duen programazioa ezarrita. Zergatik egingo lukete gizakiak hau? Beharbada, AIak lapurtzen dituen altxorrak bereganatu nahi izateagatik, edo agian beste gizakiekiko gorroto ekintza batengatik eta AIak hondamena eragin nahi izateagatik. “Asmo” kriminalak barneratzeko arrazoi asko erraz azaltzen dira.

Oraindik beste bide bat AI bihurritzea da. Demagun AI autoikaskuntzarako gaitasun moduko batekin programatu dela. AI-a nahita landu da denbora tarte batean bere burua aldatzeko, pixkanaka eta hainbat topaketa eta datu berrietan oinarrituta. Ez dago berez ezer txarrik honen inguruan. Kontua da AI aurrera doan heinean hobetzen dela. Ustez, hori erabilgarria irudituko zaigu. Ez da beharrezkoa giza programatzaile bat IA etengabe doitzen eta hobetzen. Horren ordez, AIak berez egiten du hori. Hein batean, AIren Makina Ikaskuntza (ML) eta Ikaskuntza Sakona (DL) ahaleginak planteamendu estilo hau bezala interpreta ditzakezu, baina ez nahitaez suposatuko zenukeen modu irekian (ikus nire estaldura esteka honetan hemen) .

"Ikaskuntza" erdian dagoen AI-a eremu desegoki batera doa eta krimenak egiten hasten da. AI konturatzen al da ekintza kriminalak egiten ari direla? Agian bai, agian ez. AI hau sentikorra ez dela suposatzen ari gara. Horrela, baliteke arrazoimen moralaren itxurarik ez izatea, ezta zentzu arrunteko arrazoirik ere. Ez dago han AI bide zuzenera eta bide okerretik urruntzen gidatzeko.

Legezko beagle batek galdetuko luke ea AI pertsona juridikoz gantzutua izan den. Hau nire zutabeetan asko landu dut eta galdera sortzen da ea legez AI-a bere ekintzen erantzule gisa jarraitu nahi ote dugun. Oraingoz gai horren ertzak saihestuko ditut, zertxobait bere zurrunbiloa baita, nahiz eta, zalantzarik gabe, AI egiten duen krimen honetarako garrantzitsua den.

Ukitu-harri gisa, gogoratu lehen adierazi genuela delitu batek normalean bat duela actus reus, ekintza errudun bat, eta lotutakoa gizon rea, gogo errudun bat. Esaten ari garen AI mota honek aurreratuta dagoenean baina sentikorra ez denean delitu bat egiten duenean, ustez errudunen ekintza iragartzeko gai izango gara. Hori erraza dirudi, orokorrean. Arazo ikaragarria da buru errudun bat ere bazegoen asmatzea. Mugako malda labainkorrean gaude, AI agian ez baita batere konportatzen giza adimenaren oinarri berdinekin.

Saia zaitezke AIren buru errudunaren konparaketa egiten AI kodeketa alderantzizko ingeniaritza egiten saiatuko garela iradokiz. AI diseinatzeko erabili diren kodea eta datuak ikus ditzakegu eta ea "buru errudun" kontzeptualizazioa adierazten duen zatia aurkitzen dugun. Konturatu ezin dugula oraindik gizakiekin gauza bera egin. Gizakiekin zer pentsatzen ari ziren galdetzen diegu, zer esaten duten aztertzen dugu, nola jokatu zuten aztertzen dugu, eta kutxatik kanpo euren burua erruduna zehazten saiatu behar dugu. Taktika eta teknika berdinak erabil ditzakezu AI transgresiboaren "buru erruduna" irudikatzean.

AIaren azterketa zuzenagoa da gizakiekin baino eta, aldi berean, gizakiekin baino leunagoa da. Esate baterako, AI-a horrela asmatua izan daiteke ekintza kriminalaren eragile izan zen edozein zati ezabatzeko. Baliteke gure saiakerak maltzurkeriaren zatia aurkitzeko. AI-k kodea alda dezake, agian, "ikaskuntza" gertatzen ari zenaren antzekoa, eta ez dago "asmo kriminalaren" erregistrorik edo seinalerik.

Itxura ezazu AIak ekintza kriminala egin zuela zehaztu dezakegula. Askotan ibiliko ginateke zergatik egin zuen eta bere "gogoa" zertan ari zen. AIak ez badu nortasun juridiko ofizialik, ez genuke lege-oinarririk izango AI-a legez bere ekintza kriminalengatik saiatzeko. Gure epaitegiak eta legeak pertsonak legez atzeman ditzakezula ideiaren inguruan sortu dira, gizakiak barne hartzen dituena eta, batzuetan, enpresak bezalako entitateak barne.

Oraintxe bertan, AI ez dago pertsona juridiko gisa sartzen. Batzuen ustez, hori zuzendu eta gure legeetan sartu beharko genuke.

Nolanahi ere, pertsona juridikoak normalean ahalegin judizial egoki bat egin beharko litzatekeela esan nahi du, hala nola, bidezko epaiketa eta bide jurisprudentzial egoki bat. AI-a epaitzen ari den iruditeria ikusgarria irensteko zaila da, eta horietako zientzia-fikziozko istorioak egon dira hori urruna dela iradokitzen dutenak eta, batzuetan, gertatuko den pentsamendua lapurtzen dutenak.

Ikertzaile batzuek argudiatu dute, agian, IA pertsona juridikoa baino zerbait txikiagoa izan daitekeela eta, hala ere, lege penalaren menpeko betebeharrak direla etiketatua izan daitekeela. Epaiketarik ez. Bidezko prozesurik ez. AI kriminalki erantzule izateko bide arin eta arinagoa asma daiteke. Horrek, azken finean, kriminalitatera bideratu zen AIari legezko zigorrak ezartzea ahalbidetuko luke.

Konfiantza dut oraindik nirekin zaudela untxi-zulo honetan aurrera egiten dugun bitartean.

Oraindik jarraitzen ari bazara, normalean agertzen den galdera logikoa zer demontre litzateke AI sistema baten aurkako legezko zigorra? Gizakiok, disuasio eta errehabilitazio modu ugari ditugu delitu batengatik kondenatutakoei aurre egiteko. Jendea kartzelan sartzen dugu, askatasuna mugatuz edo ukatuz. Dirua isuntzen diegu. Haien ondasunak hartzen ditugu. Legezko erremedio horiek guztiak gizakientzat aplikagarriak dira, baina ez dirudi garrantzitsuak edo esanguratsuak AI-ri dagokionez.

Aha, akatsa izango zinateke pentsamendu horretan, iradokitzen dute batzuek.

Hona hemen delitu bat egin duen AI-ri egin genezakeenaren lagin bat:

• Ezarri AI-a espetxeratuko lukeen "kaiola konputazionala" diseinatutako programatzaile bat, orain AIak baldintza mugatuetan eta modu mugatuetan soilik funtziona dezan (espetxe edo atxiloketaren parean kontuan hartuta)
• Zigortu AI zuzenean AI sistemaren zatiak kenduz edo kodea aldatuz, lehen baino modu ezberdinean funtziona dezan edo funtziona dezan (errehabilitazio modu bat).
• Hartu AIaren ondasun zehatzak egindako delituagatik zigor gisa eta, agian, delituagatik kaltetutakoei kalte-ordaina emateko erabiliko direnak (AIak aktiboak metatu baditu, fisikoak edo digitalak gorpuzte batean, baliteke balio horiek birlokatu).
• Ezarri "AI heriotza-zigorra" AI-ri existentziatik ezabatuz, eta hori, dudarik gabe, zaila izango da AI-ak kopia elektroniko ugari ezkutatuta eduki ditzakeenean mundu osoan edo beste leku batzuetan, gainera, hala ere erraz berreraiki daiteke. .
• Bestelakoa

Nola iruditzen zaizu legezko epai hori?

Erreakzio bat hauxe da lan gehigarriren bat behar izatea, baina, bestela, gehiago apaintzea merezi duten ideia baliagarrien hezurdura duela. Beste batzuek hitz bakarra dute esateko: Hogwash. Jende gehienak kontzeptualizazioarekiko zaletasuna duela edo erabateko mespretxua eta gaitzespena duela neurtuko nuke.

Hau guztia nola jokatzen den ikusi beharko dugula uste dugu. Itzuli hona bost urte, hamar urte eta berrogeita hamar urte barru, eta ea zure pentsaera aldatu den gai polemikoari buruz.

Konturatzen naiz gaiaren azterketa burutsu samarra izan dela eta baliteke eguneroko adibide batzuk nahi izatea. Badira nire bihotzetik hurbil dagoen adibide multzo berezi eta ezagun bat. Ikusten duzu, AI-n aditua naizen aldetik, adar etiko eta juridikoak barne, maiz eskatzen didate AI Etikaren dilemak erakusten dituzten adibide errealistak identifikatzea, gaiaren izaera teoriko samarra errazago ulertu ahal izateko. AI etiko istilu hau modu bizian aurkezten duen eremu iradokitzaileenetako bat AI-n oinarritutako benetako auto-gidarien etorrera da. Gaiari buruzko eztabaida zabalerako erabilera kasu edo eredu erabilgarri gisa balioko du.

Hona hemen hausnarketa merezi duen galdera aipagarri bat: AI-n oinarritutako benetako auto gidatzen duten autoen etorrerak argitzen al du AI kriminalki erantzukizuna duen agentea izateari buruz, eta hala bada, zer erakusten du honek?

Utzidazu une bat galdera deskonprimitzeko.

Lehenik eta behin, kontuan izan ez dagoela giza gidaririk benetako auto gidatzen duen auto batean. Gogoan izan norberak gidatzen dituen benetako autoak AI gidatzeko sistema baten bidez gidatzen direla. Ez dago gidari baten beharrik gurpilean, ezta gizaki batek ibilgailua gidatzeko aurreikuspenik ere. Ibilgailu autonomoen (AV) eta batez ere auto gidatzen duten autoen estaldura zabala eta etengabea ikusteko, ikusi esteka hemen.

Gehiago argitu nahiko nuke zer esan nahi den benetako auto gidatzen diren autoak aipatzen ditudanean.

Auto gidatzeko autoen mailak ulertzea

Argibide gisa, autoa gidatzeko benetako autoak AIk autoa bere kabuz gidatzen dutenak dira eta ez dago giza laguntzarik gidatzeko zereginean.

Gidaririk gabeko ibilgailu hauek 4. eta 5. mailakotzat hartzen dira (ikusi hemen esteka honetan nire azalpena), eta giza gidari batek gidatzeko esfortzua elkarrekin partekatzea behar duen kotxe bat, berriz, 2. edo 3. mailan hartzen da kontuan. gidatzeko zeregina partekatzea erdi-autonomo gisa deskribatzen da, eta normalean ADAS (gidari-laguntzarako sistema aurreratuak) deitzen diren gehigarri automatizatu ugari dituzte.

5. mailan ez dago autolikidazko autolik egiazki. Oraindik ez dakigu hori lor daitekeen edo ez den.

Bitartean, 4. mailako ahalegina apurka-apurka trakzio bat lortzen saiatzen ari dira errepide publikoen proba oso estuak eta selektiboak egiten ari diren arren, eztabaida dago probak berez baimendu behar diren ala ez jakiteko (bizitzako edo heriotzako Cobaya gara esperimentu batean gure autobide eta bideetan gertatzen ari direnak, batzuek diote, ikusi nire estaldura esteka honetan).

Auto erdi autonomoak giza gidaria behar dutenez, auto mota horiek ez dira ohiko ibilgailuak gidatzea baino oso desberdinak izango. Beraz, ez dago gai horren inguruko gai asko estaltzeko gai hau (hala ere, ikusiko duzuenez une batez, hurrengo puntuak orokorrean aplikagarriak dira).

Auto erdi autonomoetarako, garrantzitsua da publikoa azkenaldian sortzen ari den alderdi kezkagarri baten aurrean jakitea, hots, 2. mailako edo 3. mailako auto baten gurpilean lokartzen ari diren giza gidariek argitaratzen jarraitzen duten arren. , guztiok saihestu behar dugu gidariak zereginetatik arreta kendu dezakeela auto erdi autonomo bat gidatzen duenean.

Ibilgailuaren gidaritza-ekintzen arduraduna zara, 2. mailara edo 3. mailara zenbat automatizazio bota litekeen kontuan hartu gabe.

Norberak gidatzen dituen autoak eta AIaren krimenak

4. eta 5. mailako egiazko autoentzako gidatzeko ibilgailuentzat, ez da gidari lanetan parte hartuko duen gidaririk.

Okupatzaile guztiak bidaiariak izango dira.

AI gidatzen ari da.

Berehala eztabaidatu beharreko alderdi batek dakar gaur egungo AI gidatzeko sistemetan parte hartzen duen AI ez dela sentikorra. Beste modu batera esanda, AI ordenagailuan oinarritutako programazio eta algoritmoen kolektiboa da, eta ziur asko ez da gai gizakiak ahal duen moduan arrazoitzeko.

Zergatik ari da azpimarratzen AI hori sentikorra ez izateari?

Azpimarratu nahi dudalako AI gidatzeko sistemaren papera eztabaidatzerakoan, ez diodala giza ezaugarriak AIri ematen. Jakin ezazu egun antropomorfizatzeko AI joera etengabea eta arriskutsua dagoela. Funtsean, jendeak gizakien antzeko sentikortasuna esleitzen dio gaurko AIri, oraindik AI hori existitzen ez dela ukaezina eta eztabaidaezina izan arren.

Argibide horrekin, AI gidatzeko sistemak berez ez duela nolabait "gidatzearen alderdiak" jakingo pentsa dezakezu. Gidatzea eta horrek dakarren guztia autoa gidatzeko hardwarearen eta softwarearen zati gisa programatu beharko da.

Muga gaitezen gai honen inguruan jokatzera etortzen diren hainbat alderditan.

Lehenik eta behin, garrantzitsua da konturatzea AI auto gidatzen duten auto guztiak ez direla berdinak. Auto-fabrikatzaile eta auto-gidatzeko teknologia-enpresa bakoitzak bere ikuspegia hartzen ari da auto-gidatzeko autoak asmatzeko. Hori dela eta, zaila da AI gidatzeko sistemek egingo edo ez dutenari buruzko adierazpen zabalak egitea.

Gainera, AI gidatzeko sistema batek gauza bereziren bat egiten ez duela adierazten duen bakoitzean, geroago ordenagailua hori egiteko programatzen duten garatzaileek gainditu dezakete. Pausoz pauso, AI gidatzeko sistemak pixkanaka hobetzen eta hedatzen ari dira. Baliteke gaur egun dagoen mugarik ez egotea etorkizuneko sistemaren iterazio edo bertsio batean.

Kontatuko dudanaren azpian jartzeko oharra nahikoa emango duelakoan nago.

Orain prestatuta gaude norbere gidatzen diren autoetan eta AIren erantzukizun kriminalaren nozioa bekain pizten duten AI galdera etikoetan murgiltzeko.

Erabili dezagun adibide erraz bat. Intelean oinarritutako auto gidatzen ari den auto bat martxan dago zure auzoko kaleetan eta badirudi modu seguruan gidatzen ari dela. Hasieran, arreta berezia jarri zenion auto gidatzen duen autoa ikustea lortzen zenuen bakoitzean. Ibilgailu autonomoa bideokamerak, radar unitateak, LIDAR gailuak eta antzekoak biltzen zituen sentsore elektronikoen rackarekin nabarmendu zen. Autoa gidatzen duen autoa zure komunitatean zehar ibili ondoren aste asko igaro ondoren, orain ia ez duzu nabarituko. Zuei dagokienez, jada okupatuta dauden bide publikoetan dagoen beste auto bat besterik ez da.

Norberak gidatzen dituen autoak ikusten ezagutzea ezinezkoa edo sinesgaitza dela uste ez dezazun, sarri idatzi izan dut auto gidatzeko probak egiteko esparruan dauden tokiak nola ohitu diren apurka-apurka ibilgailu txukunak ikustera. ikusi nire analisia hemen esteka honetan. Bertako asko, azkenean, aho zabaleko begirada hunkigarritik orain aspertzeko aharrausi zabala igortzen hasi ziren auto gidatzen zihoazen auto haiek ikusteko.

Seguruenik, oraintxe bertan ibilgailu autonomoak nabaritu ditzaketen arrazoi nagusia sumindura eta larritasun faktorea da. Liburuaren araberako AI gidatzeko sistemek ziurtatzen dute autoek abiadura-muga eta errepideko arau guztiak betetzen dituztela. Gizakiek gidatutako ohiko autoetan dauden giza gidari gogotsuentzat, noizbehinka haserretu egiten zara legeak errespetatzen dituzten AIan oinarritutako auto gidatzeko autoen atzean gelditzen zarenean.

Hori denok ohitu beharko genukeen zerbait da, zuzen edo gaizki.

Itzuli gure ipuinera. Egunen batean, demagun zure herrian edo hiriko auto gidatzen duen auto bat Stop seinale batetik igarotzen dela gelditu gabe. Zorionez, ez zen inor zauritu. Gertu zegoen. Bizikleta bat ia moztuta zegoen. Beste auto bat zegoen bidegurutzean, gizakiak gidatutako auto bat, eta gidariak balaztatze bortitza egin behar izan zuen AIan oinarritutako auto gidatzen duen autoarekin talkarik ez egiteko.

Guztiak besoetan altxatzen dira norbere gidatzen duen autoaren gainetik legez kanpoko ekintza bat eginez. Haserregarria! Gizartearentzat arriskua. Mehatxu bat gure kale lasaietan.

Nori dago errua ekintza kriminal honen errua?

Gaur gertatuko balitz (horretatik, antzeko kasuak gertatu dira), belauneko erreakzioa izan liteke AIren errua. AIk egin zuen. Beste azalpenik ez da posible. Urruneko giza operadore batek gidatzeko kontrolekin nolabait esku hartzen ez bazuen, erruduna AI gidatzeko sistema izan behar du. Kasua itxita.

Baina itxaron segundo bat, gogoratu gaur egungo AIak ez duela sentimendurik eta ez duela pertsona juridikorik. Zalantzarik gabe, argudiatu dezakezu AI gidatzeko sistema talka eragin duenaren oinarria dela. AI sisteman sakondu eta AIren programazioaren arabera gertatutakoa jarraitzen saiatu zaitezke. Horrek guztiak AIk zer egin eta zer ez zuen agerian uzten lagunduko du, eta horrek talka eragin zuen ustez.

Ikuskaritza eta berrikuspen teknologiko zehatz hori ezinbesteko bazka izango da AI garatzaileen, autogileen, auto-gidatzeko auto sistemen eraikitzaileen, flota-operadoreen eta norberaren gidaritzan esku hartu zuten giza edo gizakietan oinarritutako beste enpresa batzuen atzetik joateko. kotxea. Bide publikoetan autoak gidatzeko baimena ematen zuen udalaren edo gobernu-erakundearen aurkako lege-jazarpena ere ikus genezake. Etab.

Ez duzu ikusiko inor serioski legez AI-a berez jarraitzen saiatzen.

Eredu erabilgarri hori eskuan, eraman zure pentsamoldea etorkizunera. Etorkizuna hainbat AI sistemari betebeharrak dituzten erantzukizun penalak esleitzean izan liteke. Itxura ezazu auto gidatzen duten autoen marka honen AI gidatzeko sistema legez ofizialki erantzukizun kriminal hori duela deklaratu zela.

AI-a orain bidezko jokoa da legezko kontuak bilatzeko misiorako.

Berrikus dezagun lehengo eztabaida legez kanpoko transgresio honengatik AI legez zigortzeko moduei buruz:

• Ezarri AI-a espetxeratuko lukeen programatutako "kaiola" bat, orain AIak baldintza mugatuetan eta modu mugatuetan soilik funtziona dezan (espetxe edo atxiloketaren parean kontuan hartuta)

AI auto gidatzen duen autoa jada ez da onartzen herriko kale eta bide-bide guztietan. Horren ordez, epaitegiek izendatutako eremu zehatzetara mugatzen da. Gainera, AI auto gidatzen duen autoa egun argiz eta lanegunetan bakarrik egon daiteke martxan. Inposizio hori AI auto gidatzen duen autoaren jardueren jarraipen elektronikoaren bidez beteko da. Inposatutako xedapen horiek urratzen amaitzen badu, zigor gehiago ezarriko dira.

• Zigortu AI zuzenean AI sistemaren zatiak kenduz edo kodea aldatuz, lehen baino modu ezberdinean funtziona dezan edo funtziona dezan (errehabilitazio modu bat).

Auzitegiak agindu du Stop seinaleetan gelditzea dakarren AI kodeketa zorrotzago osatuta dagoen kode berri batekin ordezkatu behar dela. Gainera, Stop seinaleetatik pasatzeko aukera ematen zuen zati bat zegoen, orain kodetik ezabatu behar dena eta ez dira zatirik iraungo onartzen. AI auto gidatzen duen autoak ezarritako xedapenak gehiago urratzen baditu, zigor gehiago aplikatuko dira.

• Hartu AIaren ondasun zehatzak egindako delituagatik zigor gisa eta, agian, delituaren ondorioz kaltetutakoei kalte-ordaina emateko erabiliko diren (AIak aktiboak metatu baditu, fisikoak edo digitalak gauzatze batean).

AI auto gidatzen ari zen autoa herriari eta hiriari buruzko datu asko biltzen ari zen, ibiltzen eta ibiltzen ari zen bitartean. Datu hauek baliotsuak izaten dira eta dirua irabazteko modua izan daiteke (auto gidatzen duten autoen "begi ibiltaria" gisa aipatu dut, ikusi nire eztabaida hemen estekan). Ia kaltetutakoen kalte-ordain gisa, eta, bestela, zigor moduko gisa, datuak aktibo gisa transferitu behar zaizkie kaltetuak izan zirenei eta haiek nahi bezala aprobetxa ditzakete datuak. AI auto gidatzen duen autoak ezarritako xedapenak gehiago urratzen baditu, zigor gehiago aplikatuko dira.

• Ezarri "AI heriotza-zigorra" AI-ri existentziatik ezabatuz, eta hori, dudarik gabe, zaila izango da AI-ak kopia elektroniko ugari ezkutatuta eduki ditzakeenean mundu osoan edo beste leku batzuetan, gainera, hala ere erraz berreraiki daiteke. .

Auzitegiak agindu du AI gidatzeko sistema hau guztiz akastuna dela eta ez duela existitu behar. AI laburbilduz ezabatu behar da. Segurtasun-kopia guztiak ezabatu behar dira. Ez da gorde behar garai batean diseinuaren eta kodeketaren parte edo horren isla ziren ohar, dokumentu edo bestelako elementurik. Guztiak suntsitu behar dira. AIk xedapen hori nolabait saihestea lortzen badu, zigor gehiago aplikatuko dira.

Ondorioa

Hau guztia hausnartzen ari zaren bitartean, bira bat gehituko dizut fideoak gogoan izan dezazun.

Zigorrak ezartzearen xede adierazitako bat da hori gainontzeko gizartearentzat gida eta seinale gisa ere balio izatea. Gizakien kasuan, delitu-ekintza bat egin eta epaitua izan den beste gizaki bat kartzelara bidaltzen dutela entzuten edo ikusten duzunean, epai honek horrelako delituak egin behar ez dituzunaren arrasto bat iruditzen zaizu. Logika da ez duzula patu desatsegin bera jasan nahi.

Hona hemen bira.

AI sistema jakin bat legezko epaietarako heldua izateko nahikoa bada, horrek ere iradokitzen al du kanpoan dauden gainerako AIek ere hori ikusiko dutela eta ondorioztatuko dutela ekintza kriminalak egitea ez dela onuragarria? Funtsean, AI sistema baten "ikasteak" berez deskubritu dezake gaizkile izatea gauza txarra dela eta, beraz, AIak delituak egitea nahi gabe edo helburuzko prozesuen bidez saihestu beharko luke.

Ikasitako ikasgai zoragarria irudituko litzateke beste AI-ak krimenak ez duela ordaintzen kalkulatuko balu. Zorte hori izatea baino ezin dugu espero.