AI etika Giza alborapenak ugariak direnean IA bereziki zabaldu behar dela esaten du

Gizakiak bere mugak ezagutu ditu.

Baliteke Dirty Harry pertsonaiak 1973ko filmean gure mugak ezagutzeari buruzko lerro famatua gogorarazten duena. Magnum Force (Clint Eastwood aktoreak Harry Callahan inspektorearen paper gogoangarrian esandakoaren arabera). Ideia orokorra da batzuetan gure mugak alde batera utzi eta horren arabera ur beroan sartu ohi garela. Harrokeriagatik, egozentrikoagatik edo, besterik gabe, gure gaitasunekiko itsu, gure joerak eta gabeziak jakitun eta esplizituki kontuan hartzeko agindua oso zentzuzkoa eta lagungarria da.

Eman diezaiogun bira berri bat aholku jakintsuari.

Adimen Artifizialak (AI) bere mugak ezagutu ditu.

Zer esan nahi dut gurtzazko esaldiaren aldaera horrekin?

Bihurtzen da gaur egungo IA munduko arazoen konponbide itxaropentsu gisa erabiltzeko hasierako presak zikinduta eta guztiz lohitu egin direla gaur egungo AIak muga larriak dituela konturatuta. Titular goragarrietatik joan ginen AI For Good eta gero eta gehiago sartu gara AI For Bad. Ikusten duzu, AI sistema asko garatu eta landu dira arraza- eta genero-alborapen desegokiekin, eta beste hainbat desberdintasun izugarriekin.

AI Etika eta AI etikoari buruzko nire estaldura zabala eta etengabea ikusteko, ikus esteka hemen esteka hemen, Gutxi batzuk aipatzearren.

AI sistema hauetan aurkitzen ari diren alborapenak ez dira gizakiaren portaerari egotziko geniokeen "nahita" motakoak. Hau aipatzen dut gaur egungo IA ez dela sentikorra azpimarratzeko. Kontrakoa iradokitzen duten titular latz horiek izan arren, ez dago sentipenera hurbiltzen den AI inon. Horrez gain, ez dakigu AI sentimenaren tartean nola sartu, eta inork ezin du ziur esan inoiz AI sentimendua lortuko dugun. Agian noizbait gertatuko da, edo agian ez.

Beraz, nire kontua da ezin diogula bereziki esleitu asmorik gaur egun daukagun AI motari. Hori esanda, AI sistemak lantzen ari direnei intentzioa ugari eman diezaiekegu. AI garatzaile batzuek ez dakite alborapen desegokiak eta agian legez kanpokoak dituen AI sistema bat asmatu dutela. Bien bitartean, beste AI garatzaile batzuek beren AI sistemetan alborapenak sartzen ari direla konturatzen dira, eta, baliteke, modu oker batean eginda.

Nolanahi ere, emaitza oraindik desegokia da eta ziurrenik legez kanpokoa da.

Ahalegin handiak egiten ari dira AI garatzaileak argituko dituzten AI Etika printzipioak zabaltzeko eta orientazio egokiak emango dituzten AI sistemetan alborapenak txertatzeko. Horrek bi modu batean lagunduko du. Lehenik eta behin, IA lantzen dutenek ez dute aitzakia prest izango ez zekitela zer agindu jarraitu behar diren. Bigarrenik, AI Etikoko baldintzetatik aldentzen direnak errazago harrapatuko dituzte eta egin eta ez egiteko abisatu zuten hori saihesten dutela erakutsiko dute.

Har ditzagun une bat laburki aztertzeko AI Etikoko manu gako batzuk AI eraikitzaileek AI Etikaren jarreratik zer pentsatu behar duten eta zorrozki hartu behar duten ilustratzeko.

Vatikanoak dioen bezala Erromako AI Etikarako Deia eta sakonki jorratu dudan bezala esteka hemenHauek dira identifikatutako sei oinarrizko AI etika printzipioak:

• Gardentasuna: Printzipioz, AI sistemek azalgarriak izan behar dute
• sartzea: Gizaki guztien beharrak kontuan hartu behar dira, guztion onura izan dadin, eta pertsona guztiei eskein diezaieke bere burua adierazteko eta garatzeko baldintza onenak.
• Erantzukizuna: AIaren erabilera diseinatzen eta zabaltzen dutenek ardura eta gardentasunarekin jarraitu behar dute
• Inpartzialtasuna: Ez sortu edo ez jokatu joeraren arabera, horrela zuzentasuna eta giza duintasuna bermatuz
• Fidagarritasuna: AI sistemek modu fidagarrian funtzionatzeko gai izan behar dute
• Segurtasuna eta pribatutasuna: AI sistemek segurtasunez funtzionatu behar dute eta erabiltzaileen pribatutasuna errespetatu behar dute.

AEBetako Defentsa Sailak (DoD) bere dokumentuan adierazi duenez Adimen artifiziala erabiltzeko printzipio etikoak eta sakonki jorratu dudan bezala esteka hemenHauek dira AIren sei printzipio etiko nagusiak:

• Arduraduna: DoDko langileek epai eta arreta maila egokiak erabiliko dituzte AI gaitasunen garapenaren, hedapenaren eta erabileraren ardura izaten jarraitzen duten bitartean.
• Ekitatiboa: Sailak nahita neurriak hartuko ditu AI gaitasunetan nahi gabeko alborapenak minimizatzeko.
• Trazagarria: Departamentuaren AI gaitasunak garatu eta zabalduko dira, dagokion langileek AI gaitasunei aplikagarri zaizkien teknologia, garapen-prozesu eta metodo operatiboen ulermen egokia izan dezaten, metodologia gardenak eta ikuskagarriak, datu-iturriak eta diseinu-prozedura eta dokumentazioa barne.
• Seriotasuna: Sailaren AI gaitasunek erabilera esplizituak eta ongi zehaztuak izango dituzte, eta gaitasun horien segurtasuna, segurtasuna eta eraginkortasuna probak eta bermeak izango dira definitutako erabilera horietan bizi-ziklo osoan zehar.
• Gobernagarria: Sailak AI gaitasunak diseinatu eta diseinatuko ditu aurreikusitako funtzioak betetzeko, nahi gabeko ondorioak detektatzeko eta ekiditeko gaitasuna duen bitartean, eta nahi gabeko portaera erakusten duten sistemak desaktibatzeko edo desaktibatzeko gaitasuna.

AIaren etika-printzipioen analisi kolektibo ezberdinei buruz ere eztabaidatu dut, besteak beste, nazioko eta nazioarteko AI etikako printzipio ugariren funtsa aztertu eta laburtu zuen ikertzaileek asmatutako multzoa aztertu izana "The Global Landscape Of AI Ethics Guidelines" (argitaratutakoa). urtean Nature), eta nire estaldurak hemen aztertzen du esteka hemen, eta horrek giltzarri zerrenda honetara eraman zuen:

• Transparency
• Justizia eta zuzentasuna
• Ez-Malefizia
• Erantzukizun
• Pribatutasuna
• Ongintzaren
• Askatasuna eta Autonomia
• Fidatu
• Iraunkortasun
• duintasuna
• Elkartasuna

Zuzenean asmatuko duzun bezala, printzipio horien azpian dauden zehaztasunak zehazten saiatzea oso zaila izan daiteke. Are gehiago, printzipio zabal horiek AI sistemak lantzean erabiltzeko bezain ukigarri eta zehatza den zerbait bihurtzeko ahalegina ere gogorra da. Erraza da, oro har, eskuz astintzea zer diren AI Etikaren manuak eta orokorrean nola behatu behar diren, AI kodetzeak errepidea betetzen duen benetako goma izan behar duen egoera askoz zailagoa den bitartean.

AI Etika-printzipioak AI garatzaileek erabili behar dituzte, AI garapenerako ahaleginak kudeatzen dituztenekin batera, eta baita, azken finean, AI sistemetan mantentzea lantzen eta egiten dutenekin batera. AIaren garapen eta erabileraren bizitza-ziklo osoan parte hartzen duten eragile guztiak AI Etikoaren ezarritako arauak betetzearen esparruan hartzen dira kontuan. Garrantzi handiko aipamena da hau, ohiko suposizioa delako "kodetzaileak" edo AI programatzen dutenek AI Etika nozioei atxikitzeko menpe daudela. Mesedez, kontuan izan herri bat behar dela AI asmatzeko eta lantzeko. Horretarako herri osoak adi egon behar du AI Etikari buruz.

Dena den, orain AI-ak alborapenak izan ditzakeela mahai gainean jarri dudanez, agian denok ados egon gaitezke itxurazko bi datu hauekin:

1. Gizakiek alde txar asko izan ditzakete eta horien arabera jardun dezakete

2. IAk alde txarrak ugari izan ditzake eta alborapen horien arabera jardun dezake

Zertxobait gorroto nago gizakiak AIren aurka pilatzea testuinguru horretan, nolabait esan baitezake AI-ak gizakien pareko sentimen-gaitasunak dituela. Hau ez da horrela ziur. Eztabaida honetan AIaren antropomorfizazioari buruz gero eta handiagoa den kezketara itzuliko naiz une batez.

Zein da okerragoa den gizakiak edo hori egiten duen AI?

Ausartzen naiz esatera galderak aukera latz horietako bat planteatzen duela. Batek esan lezake bi gaitzetatik txikiago esaera. Nahiago genuke gizakiok ez izatea alborapen txarrak. Gainera, nahi genuke gizakiek alborapen txarrak izan arren ez dutela alborapen horien arabera jokatu. Gauza bera esan liteke AIri buruz. Gustatuko litzaiguke AI-ak ez ote den alborapenik txertatu eta barnean kodetutako alborapenak badaude ere, AIk gutxienez haien gainean ez jardungo lukeen.

Nahiak, baina, ez dute zertan mundua gidatzen (deritzonaren itxura gorantz eta kezkagarriaren azterketarako. AI nahia betetzea gizarteak orokorrean, ikus esteka hemen).

Ados, jakina, gizakiek beren mugak ezagutzea nahi dugu. Garrantzitsua da prebentzio txarrak dituzunean aitortzeak. Garrantzi berdina du alborapen gaizto horiek zure ekintzetan eta erabakietan sartzea saihestea. Gaur egun, negozioak era guztietako planteamenduak saiatzen ari dira beren langileak zorigaitz larrietan eror ez daitezen. Prestakuntza espezializatua ematen ari zaie langileei beren lana modu etikoki egokian burutzeko. Prozesuak langileen inguruan moldatzen dira, ohitura ez-etikoak erakusten ari direla diruditenean ohartarazteko. Eta abar.

Gizakiei eta haien alde txarrei aurre egiteko beste bide bat gizakietan oinarritutako lana automatizatzea litzateke. Bai, kendu gizakia begiztatik. Ez utzi gizaki bati erabakiak hartzeko zeregina burutzen eta, ziurrenik, ez duzu jada kezkarik izango gizakiaren portaerari buruzko edozein alborapenekiko. Ez dago gizaki bat inplikatuta eta, beraz, balizko giza-alborapenen arazoa konponduta dagoela dirudi.

Hau planteatzen dut, pixkanaka-pixkanaka eta tamaina handiko aldaketa bat ikusten ari garelako AI algoritmoen erabakiak hartzeko (ADM) moduan erabiltzeko. Giza langile bat AIarekin ordezkatu baduzu, litekeena da onura asko sortuko direla. Esan bezala, ez zinateke gehiago kezkatuko giza langile horren (jada lan hori egiten ez duenaren) giza-alborapenez. Litekeena da IA ​​gutxiago garestia izatea orokorrean epe luzerako horizonte batekin alderatuta. Giza-langileekin batera etortzen diren beste hainbat zailtasun guztiak baztertzen dituzu. Etab.

Irabazten ari den proposamen bat hauxe omen da: AI hobekien non kokatu erabakitzen saiatzean, begiratu lehenik eta behin zure langileen giza-alborapen txarrak dakarren ezarpenetara eta alborapen horiek erabakiak hartzeko zeregin jakin batzuk murrizten dituzten edo, bestela, gehiegi zailtzen dituztenak.

Ondorioz, zuhurra iruditzen zaio AI-n inbertitzeari dagokionez diru-kopururik handiena lortzea, oso agerian dauden giza erabakiak hartzeko zereginetara zuzenduta, alborapenen infusioaren ikuspegitik kontrolatzeko zailak direnak. Kendu eginkizun horretan dauden giza langileak. Ordeztu AI-rekin. Suposizioa da AI-k ez lukeela halako joera txarra izango. Hori dela eta, zure pastela izan dezakezu eta jan ere egin dezakezu, hots, erabaki-zereginak hartu eta egin nahi duzun alborapenen espektro etiko eta juridikoa kenduta.

Hori idazten duzunean, ROI-ak (inbertsioaren itzulerak) ziurrenik AI hartzea aukera hutsa bihurtuko luke.

Hona hemen normalean nola jokatzen den.

Begiratu zure enpresa osoan eta saiatu bezeroei eragiten dieten erabakiak hartzeko zereginak identifikatzen. Zeregin horietatik, zeintzuk dira litekeena desegoki aldatzea, langileek alborapen txarrak jasotzen badituzte? Dagoeneko saiatu bazara prebentzio horiei eusten, agian gauzak bere horretan uzten dituzu. Bestalde, alborapenak berriro agertzen jarraitzen badute eta horiek ezabatzeko ahalegina gogorra bada, kontuan hartu AI egoki batzuk rol horretara uztea. Ez utzi langileak nahasketa horretan, AI-a gainidatzi dezaketelako edo AI-a atzera bota dezaketelako alborapen gaiztoen amildegira. Gainera, ziurtatu AIak zeregina trebetasunez bete dezakeela eta lana burutzeko behar diren erabakiak hartzeko alderdiak nahikoa jaso dituzula.

Uretan eta errepikatu.

Konturatzen naiz ideia zuzena dela, baina konturatzen naiz giza langileak AIrekin ordezkatzea erraz oker daitekeela modu asko daudela. Enpresa asko horrelako ekintzak egiteko irrikaz zeuden eta ez zuten kontuan hartu nola egin. Ondorioz, hasieran eskuetan zutena baino askoz nahaspila okerragoa egiten zuten askotan.

Argitu eta azpimarratu nahi dut AI ez dela panazea bat.

Horretaz hitz egitean, oztopo handi bat dago itxuraz gizakiaren aldeko erabakiak hartzen dituztenak ustez alboragabeko AIarekin botatzearen garbitasunari buruz. Ondorioa da, agian, alborapen okerren multzo bat beste batengatik ordezkatzea besterik ez izatea da. Aurretik adierazitakoaren arabera, AI-ak alborapen txarrak izan ditzake eta alborapen horien gainean jardun dezake. Gizaki alboratuak AI alboragabearen alde trukatzea ez dela uste dena pentsatzea.

Laburbilduz, hona hemen gaia alborapen faktoreetatik zorrozki ikusten duzunean:

• AI-ak ez du alde txarrak eta, horregatik, AIan oinarritutako ADM erabilgarria da zabaltzeko
• AIak ordezkatzen ari diren gizakien alde txarrak ditu eta, beraz, AIan oinarritutako ADM kezkagarria da.
• AIak ordezkatzen diren gizakietatik haratagoko joera txarrak sartzen ditu eta, ziurrenik, gauzak okerrera egingo ditu horren arabera.
• Hasieran AI-ak ondo dirudi eta gero pixkanaka-pixkanaka alborapen desegokietara doa
• Bestelakoa

Aukera horiek laburki zabal ditzakegu.

Lehenengoa gerta daitekeenaren bertsio idealizatua da. AI-k ez du alde txarra. AI jartzen duzu eta bikain egiten du lana. Ona zuretzako! Jakina, AIren inklusioaren ondorioz giza langileen desplazamenduak modu trebean ere kudeatu izana espero litzateke.

Bigarren kasuan, AI-a jartzen duzu eta AI-ak giza langileek izan zituzten alborapen gaizto berdinak erakusten ari dela ikusten duzu. Nola izan daiteke hau? Tranpa honetan erortzeko ohiko bide bat Machine Learning (ML) eta Deep Learning (DL) erabiltzea da, paperean zeuden gizakiek erabakiak hartzen zituzten datuetan oinarrituta.

Utzidazu une bat azaltzeko.

ML/DL eredu konputazionalaren parekatze modu bat da. Ohiko planteamendua erabakiak hartzeko zeregin bati buruzko datuak biltzea da. Datuak ML/DL ordenagailu ereduetara elikatzen dituzu. Eredu horiek eredu matematikoak aurkitu nahi dituzte. Eredu horiek aurkitu ondoren, aurkituz gero, AI sistemak eredu horiek erabiliko ditu datu berriak topatzerakoan. Datu berriak aurkeztean, datu "zahar" edo historikoetan oinarritutako ereduak aplikatzen dira egungo erabakia emateko.

Uste dut hau nora doan asma dezakezula. Urtez urte lana egiten ari diren gizakiek alborapen txarrak sartzen ari badira, litekeena da datuek modu sotil baina esanguratsuan islatzea. Machine Learning edo Deep Learning konputazio-ereduen parekatzea besterik ez da saiatuko datuak matematikoki imitatzen. Ez dago zentzu arruntaren edo beste sentikorren alderdirik berez modelatzearen itxurarik.

Gainera, AI garatzaileak agian ez dira konturatzen zer gertatzen ari den. Matematika arkanoak zaildu lezake orain ezkutuko alborapenak atzematea. Ziurrenik espero eta espero zenuke AI garatzaileek lurperatuta egon daitezkeen alborapenak probatuko dituztela, nahiz eta badirudi baino zailagoa den. Aukera sendoa dago, nahiz eta proba nahiko zabalak izan, ML/DL ereduak parekatzeko ereduetan oraindik txertatutako alborapenak egongo direla.

Hori guztia esanda, baliteke lehengora bueltatzea. Gaur egun gizakien alde txarrak konputazionalki islatzen dira AI sisteman. Ez dituzu alborapenak desagerrarazi.

Okerragoa dena, baliteke AIak alborapenak dituela konturatzeko aukera gutxiago izatea. Gizakien kasuan, baliteke normalean zure zain egotea gizakiek alde txarrak dituztelako. Hau oinarrizko itxaropena da. AI erabiltzeak liderrak lotu ditzake automatizazioak edozein motatako giza-alborapenak erabat kendu dituela sinestera. Horrela, oinetan tiro egin izana ezartzen ari dira. Itxuraz ezagunak ziren alborapen txarrak zituzten gizakiak kendu zituzten, uste zen halako alborapenik ez zuen AIren ordez, eta, hala ere, orain lehendik ezagutzen diren alborapen berberez betetako AI erabili dute.

Horrek gauzak benetan gurutzatuko ditu. Beharbada aurreikusten ziren giza-alborapen horiek agertzea detektatzeko eta saihesteko ezarri ziren giza langileekin erabiltzen ari ziren beste baranda batzuk kendu izan dituzu. AI-ak aske du orain. Ez dago ezer harrapatzeko lekuan jardun aurretik. AI orduan has liteke ekintza alboragarrien pilaketa zabalaren bide latz batetik eramaten.

Eta, jarrera baldar eta beharbada arduratsuan zaude, garai batean alborapenei buruz ezagutzen zenuen eta orain alderdikeria horiei hondamena eragiten utzi diezuena. Beharbada gauza bat da halako alborapen desegokirik inoiz topatu ez izana eta bat-batean AI-ak sortzen ditu. Saia zaitezke hori zuritzen "nork asmatuko zuen" distraitzaile mota batekin (ez oso konbentzigarria, agian). Baina orain lehengo ekintza alboragarri berdinak egiten ari den IA konfiguratu izana, tira, zure aitzakiak gero eta meheagoak eta herrenak dira.

Honen bira batek AIak gizakiak zeregina egiten ari zirenean aldez aurretik aurkitu ez ziren alde txarrak erakusten ditu. Esan liteke hori agian zailagoa dela saihestea, enpresak aldez aurretik bilatzen ez zituen alborapen "berriak" baitaude. Azkenean, baina, aitzakiak agian ez dizu lasaitasun handirik emango. AI sistema etika eta legez kanpoko lurraldeetan ausartu bada, baliteke zure antzara egosi.

Kontuan izan behar den beste alderdi bat da AI-a ondo hastea eta gero bidegabeko alborapenetara joan daitekeela. Hau bereziki litekeena da Machine Learning edo Deep Learning erabiltzea etengabe AI eguneratuta mantentzeko. ML/DL denbora errealean lan egiten ari den edo aldian-aldian eguneraketak egiten ari den ala ez, arreta jarri behar da AIak orain alborapenak dituzten eta lehen presente ez zeuden datuak irensten dituen ala ez.

Makila magiko bat astinduz doako bazkaria lortzen ari direla uste duten liderrentzat giza langile alboratuak AIarekin ordezkatzeko, oso zakar esnatzen ari dira. Ikusi AI Etikaren aginduekin liderrak ahalduntzearen garrantziari buruz nire eztabaida hemen esteka hemen.

Eztabaida honen une honetan, apustu egingo nuke gizakien aurkako alborapenen ordez AIan oinarritutako alborapen desegokiekin ordezkatzearen (edo ez) enigma erakusteko mundu errealeko adibide batzuk nahi dituzula.

Pozten naiz galdetu izana.

Badira nire bihotzetik hurbil dagoen adibide multzo berezi eta ezagun bat. Ikusten duzu, AI-n aditua naizen aldetik, adar etiko eta legalak barne, maiz eskatzen didate AI Etikaren dilemak erakusten dituzten adibide errealistak identifikatzea, gaiaren izaera teoriko samarra errazago ulertu ahal izateko. AI etiko istilu hau modu bizian aurkezten duen eremu iradokitzaileenetako bat AI-n oinarritutako benetako auto-gidatuen autoen etorrera da. Gaiari buruzko eztabaida zabalerako erabilpen kasu edo eredu erabilgarri gisa balioko du.

Hona hemen hausnarketa merezi duen galdera aipagarri bat: AI-n oinarritutako benetako auto gidatzen duten autoen etorrerak argitzen al du AIren alde txarrari buruzko zerbait, eta hala bada, zer erakusten du honek?

Utzidazu une bat galdera deskonprimitzeko.

Lehenik eta behin, kontuan izan ez dagoela giza gidaririk benetako auto gidatzen duen auto batean. Gogoan izan norberak gidatzen dituen benetako autoak AI gidatzeko sistema baten bidez gidatzen direla. Ez dago gidari baten beharrik gurpilean, ezta gizaki batek ibilgailua gidatzeko aurreikuspenik ere. Ibilgailu autonomoen (AV) eta batez ere auto gidatzen duten autoen estaldura zabala eta etengabea ikusteko, ikus esteka hemen.

Gehiago argitu nahiko nuke zer esan nahi den benetako auto gidatzen diren autoak aipatzen ditudanean.

Auto gidatzeko autoen mailak ulertzea

Argibide gisa, autoa gidatzeko benetako autoak AIk autoa bere kabuz gidatzen dutenak dira eta ez dago giza laguntzarik gidatzeko zereginean.

Gidaririk gabeko ibilgailu hauek 4. maila eta 5. maila hartzen dira (ikus nire azalpena helbidean esteka hau hemen), aldiz, giza gidari batek gidatzeko ahalegina elkarrekin partekatzea eskatzen duen autoa 2. edo 3. mailan hartzen da normalean. Gidatzeko zeregina elkarrekin partekatzen duten autoak erdi-autonomoak direla deskribatzen da, eta normalean hainbat eduki dituzte. ADAS (Advanced Driver-Assistance Systems) deitzen diren gehigarri automatizatuak.

5. mailan ez dago autolikidazko autolik egiazki. Oraindik ez dakigu hori lor daitekeen edo ez den.

Bien bitartean, 4. mailako ahaleginak pixkanaka-pixkanaka trakzio pixka bat lortzen saiatzen ari dira bide publikoko entsegu oso estu eta selektiboak jasanez, nahiz eta eztabaida dagoen proba hori berez onartu behar den ala ez (denok gara esperimentu batean hil ala biziko kobaiak). gure autobideetan eta bide-bideetan gertatzen ari dena, batzuek diotenez, ikusi nire estaldura hemen esteka hau hemen).

Auto erdi autonomoak giza gidaria behar dutenez, auto mota horiek ez dira ohiko ibilgailuak gidatzea baino oso desberdinak izango. Beraz, ez dago gai horren inguruko gai asko estaltzeko gai hau (hala ere, ikusiko duzuenez une batez, hurrengo puntuak orokorrean aplikagarriak dira).

Auto erdi autonomoetarako, garrantzitsua da publikoa azkenaldian sortzen ari den alderdi kezkagarri baten aurrean jakitea, hots, 2. mailako edo 3. mailako auto baten gurpilean lokartzen ari diren giza gidariek argitaratzen jarraitzen duten arren. , guztiok saihestu behar dugu gidariak zereginetatik arreta kendu dezakeela auto erdi autonomo bat gidatzen duenean.

Ibilgailuaren gidaritza-ekintzen arduraduna zara, 2. mailara edo 3. mailara zenbat automatizazio bota litekeen kontuan hartu gabe.

Norbere gidatzen diren autoak eta AI joera txarrak dituztenak

4. eta 5. mailako egiazko autoentzako gidatzeko ibilgailuentzat, ez da gidari lanetan parte hartuko duen gidaririk.

Okupatzaile guztiak bidaiariak izango dira.

AI gidatzen ari da.

Berehala eztabaidatu beharreko alderdi batek dakar gaur egungo AI gidatzeko sistemetan parte hartzen duen AI ez dela sentikorra. Beste modu batera esanda, AI ordenagailuan oinarritutako programazio eta algoritmoen kolektiboa da, eta ziur asko ez da gai gizakiak ahal duen moduan arrazoitzeko.

Zergatik ari da azpimarratzen AI hori sentikorra ez izateari?

Azpimarratu nahi dudalako AI gidatzeko sistemaren papera eztabaidatzerakoan, ez diodala giza ezaugarriak AIri ematen. Jakin ezazu egun antropomorfizatzeko AI joera etengabea eta arriskutsua dagoela. Funtsean, jendeak gizakien antzeko sentikortasuna esleitzen dio gaurko AIri, oraindik AI hori existitzen ez dela ukaezina eta eztabaidaezina izan arren.

Argibide horrekin, AI gidatzeko sistemak berez ez duela nolabait "gidatzearen alderdiak" jakingo pentsa dezakezu. Gidatzea eta horrek dakarren guztia autoa gidatzeko hardwarearen eta softwarearen zati gisa programatu beharko da.

Muga gaitezen gai honen inguruan jokatzera etortzen diren hainbat alderditan.

Lehenik eta behin, garrantzitsua da konturatzea AI auto gidatzen duten auto guztiak ez direla berdinak. Auto-fabrikatzaile eta auto-gidatzeko teknologia-enpresa bakoitzak bere ikuspegia hartzen ari da auto-gidatzeko autoak asmatzeko. Hori dela eta, zaila da AI gidatzeko sistemek egingo edo ez dutenari buruzko adierazpen zabalak egitea.

Gainera, AI gidatzeko sistema batek gauza bereziren bat egiten ez duela adierazten duen bakoitzean, geroago ordenagailua hori egiteko programatzen duten garatzaileek gainditu dezakete. Pausoz pauso, AI gidatzeko sistemak pixkanaka hobetzen eta hedatzen ari dira. Baliteke gaur egun dagoen mugarik ez egotea etorkizuneko sistemaren iterazio edo bertsio batean.

Kontatuko dudanaren azpian jartzeko oharra nahikoa emango duelakoan nago.

Orain prestatuta gaude norbere gidatzen diren autoetan eta AIaren esplorazioa eta joera txarrak dakarten AI Etikoko aukeretan murgiltzeko.

Erabili dezagun adibide erraz bat. Intelean oinarritutako auto gidatzen ari den auto bat martxan dago zure auzoko kaleetan eta badirudi modu seguruan gidatzen ari dela. Hasieran, arreta berezia jarri zenion auto gidatzen duen autoa ikustea lortzen zenuen bakoitzean. Ibilgailu autonomoa bideokamerak, radar unitateak, LIDAR gailuak eta antzekoak biltzen zituen sentsore elektronikoen rackarekin nabarmendu zen. Autoa gidatzen duen autoa zure komunitatean zehar ibili ondoren aste asko igaro ondoren, orain ia ez duzu nabarituko. Zuei dagokienez, jada okupatuta dauden bide publikoetan dagoen beste auto bat besterik ez da.

Norberak gidatzen dituen autoak ikusten ezagutzea ezinezkoa edo sinesgaitza dela uste ez dezazun, sarri idatzi izan dut auto gidatzeko probak egiteko esparruan dauden tokiak nola ohitu diren apurka-apurka ibilgailu txukunak ikustera. ikusi nire analisia hemen esteka hau hemen. Bertako asko, azkenean, aho zabaleko begirada hunkigarritik orain aspertzeko aharrausi zabala igortzen hasi ziren auto gidatzen zihoazen auto haiek ikusteko.

Seguruenik, oraintxe bertan ibilgailu autonomoak nabaritu ditzaketen arrazoi nagusia sumindura eta larritasun faktorea da. Liburuaren araberako AI gidatzeko sistemek ziurtatzen dute autoek abiadura-muga eta errepideko arau guztiak betetzen dituztela. Gizakiek gidatutako ohiko autoetan dauden giza gidari gogotsuentzat, noizbehinka haserretu egiten zara legeak errespetatzen dituzten AIan oinarritutako auto gidatzeko autoen atzean gelditzen zarenean.

Hori denok ohitu beharko genukeen zerbait da, zuzen edo gaizki.

Itzuli gure ipuinera.

Bihurtzen da AI-n oinarritutako auto-gidatze-autoen inguruan inozoak eta orokorrean ongi etorriak diren bi kezka sortzen hasten direla, zehazki:

a. AI autoak gidatzen dituen autoak ibilaldiak jasotzeko ibiltzen den tokian kezka kezkagarria bihurtu da komunitatean orokorrean

b. AIk nola tratatzen ari den pasabide-eskubidea ez duten zain dauden oinezkoak ere goranzko arazoa da

Hasieran, AI auto gidatzen ari ziren autoak herri osoan zehar ibili ziren. Auto gidatzen duen autoan ibilaldi bat eskatu nahi zuen edonork, funtsean, aukera berdinak zituen bat agurtzeko. Pixkanaka-pixkanaka, AI-a nagusiki auto gidatzen duten autoak herriko zati bakarrean ibiltzen mantentzen hasi zen. Atal hau dirua irabazten zuen eta AI sistema programatu zen komunitateko erabileraren zati gisa diru-sarrerak maximizatzen saiatzeko.

Herriko toki pobretuetako komunitateko kideek aukera gutxiago zuten auto gidatzen duten auto batetik ibiltzeko aukera. Norberak gidatzen ziren autoak urrunago zeudelako eta lokaleko diru-sarrera handieneko zatian ibiltzen zirelako. Eskaera bat herriaren alde urrun batetik jasotzen zenean, herriaren "estimua" dagoen toki hurbilago bateko eskaerak lehentasun handiagoa izango zuen. Azkenean, ia ezinezkoa izan zen hiriko parte aberatsean ez den beste edozein lekutan auto gidatzen duen autoa eskuratzea, izugarri larriagoa gaur egun baliabiderik gabeko eremu haietan bizi zirenentzat.

Baiezta dezakezu AIak proxy diskriminazio modu batean kokatu duela (zeharkako diskriminazioa ere deitzen zaio askotan). AI ez zen auzo pobreago horiek saihesteko programatu. Horren ordez, ML/DL erabiliz "ikasi" zuen.

Gauza da, bidaiak partekatzeko giza gidariek gauza bera egiteagatik ezagunak ziren, nahiz eta ez derrigorrez soilik dirua irabazteko angeluagatik. Baziren hiribilduko zenbait lekutan txirrindulariak biltzeko joera txarra zuten giza gidari batzuk. Ezaguna den fenomenoa zen hori eta hiriak monitorizazio-ikuspegi bat jarri zuen martxan hori egiten ari ziren giza gidariak harrapatzeko. Giza gidariek arazoak izan ditzakete hautaketa praktika desegokiak egiteagatik.

Suposatzen zen AI ez zela inoiz eroriko harea mugikorretan. Ez zen monitorizazio espezializaturik ezarri AIan oinarritutako auto gidatzen ari ziren autoak nora zihoazen jarraitzeko. Komunitateko kideak kexatzen hasi ondoren bakarrik konturatu ziren hiriko buruzagiak gertatzen ari zenaz. Ibilgailu autonomoek eta auto gidatzen duten autoek aurkeztuko dituzten hiri osoko gai mota hauei buruzko informazio gehiago lortzeko, ikusi nire estaldura helbidean. esteka hau hemen eta Harvard-ek zuzendutako ikerketa bat deskribatzen du, nik gaiari buruz idatzi nuena.

AI-n oinarritutako auto gidatzen duten autoen ibiltaritza-alderdien adibide honek aurreko zantzua erakusten du joera txarrak dituzten gizakiak izan daitezkeela egoerak egon daitezkeela, eta horretarako kontrolak ezartzen dira, eta giza gidari horiek ordezkatzen dituen AI-a ezkutuan geratzen dela. dohainik. Zoritxarrez, AI-a pixkanaka-pixkanaka alborapen antzekoetan murgil daiteke eta egin behar adina babeslekurik gabe.

Bigarren adibide bat da AIk zehaztea kale bat zeharkatzeko bide-eskubidea ez duten oinezkoen zain egoteagatik gelditu behar den ala ez.

Zalantzarik gabe, gidatzen ibili zara eta kalea zeharkatzeko zain zeuden oinezkoekin topo egin duzu eta, hala ere, ez zuten horretarako bide-eskubiderik. Horrek esan nahi zuen diskrezioa zeukala gelditu eta gurutzatzen utzi ala ez jakiteko. Aurrera egin dezakezu gurutzatzen utzi gabe eta, hala ere, gidatzeko legezko arauen barruan egon zaitezke.

Giza gidariek horrelako oinezkoentzat gelditzea edo ez gelditzea erabakitzen duten azterketek iradoki dute batzuetan giza gidariek aukera txarrak egiten dituztela. Giza gidari batek oinezkoa begiztatu eta ez gelditzea erabaki dezake, nahiz eta oinezkoak beste itxura bat izan balu geldituko litzatekeen, arraza edo generoaren arabera, esaterako. Hemen aztertu dut hau esteka hemen.

Imajinatu AI-n oinarritutako auto gidatzeko autoak programatuta daudela bide-eskubidea ez duten oinezkoentzat gelditu edo ez gelditu behar den galderari aurre egiteko. Hona hemen nola erabaki zuten AI garatzaileek zeregin hau programatzea. Hirian zehar jarrita dauden herriko bideokameretatik datuak bildu dituzte. Datuek bide-eskubidea ez duten oinezkoentzat gelditzen diren giza gidariak eta gelditzen ez diren giza gidariak erakusten ditu. Guztia datu multzo handi batean biltzen da.

Machine Learning eta Deep Learning erabiliz, datuak konputazionalki modelatzen dira. Orduan AI gidatzeko sistemak eredu hori erabiltzen du noiz gelditu edo ez gelditu erabakitzeko. Orokorrean, ideia da tokiko ohitura edozein dela ere, horrela bideratzen du AIak auto gidatzen duen autoa.

Hiriko buruzagien eta bizilagunen harridurarako, AIk gelditzeko edo ez gelditzeko aukeratzen ari zen, oinezkoaren itxuraren arabera, arraza eta generoa barne. Norbere gidatzen duen autoaren sentsoreek zain dagoen oinezkoa eskaneatu, datu horiek ML/DL eredura helaraziko lituzkete eta modeloak AIra igorriko luke gelditu edo jarraitu. Zoritxarrez, herriak jadanik giza gidarien joera asko zituen zentzu honetan eta AIak berdina imitatzen zuen orain.

Albiste ona da horrek ia inork lehenago ezagutzen ez zuen arazo bat sortzen duela. Albiste txarra izan zen AI hori egiten harrapatu zutenetik, erru gehiena hartu zuela. Adibide honek erakusten du AI-sistema batek gizakien lehendik zeuden joera txarrak bikoiztu besterik ez dituela.

Ondorioa

Modu asko daude AI asmatzen saihesteko, atetik kanpo joera txarrak dituena edo denborarekin alborapenak biltzen dituena. Planteamendu batek AI garatzaileek gertatzen denaren jakitun direla ziurtatzea dakar eta, beraz, AI-a programatzeko gaia saihesteko. Beste bide bat da AI auto-kontrola izatea etikarik gabeko jokabideetarako (ikus nire eztabaida helbidean esteka hemen) eta/edo beste AI sistema batzuk monitorizatzen dituen beste AI-a edukitzea potentzialki ez diren jokabideen bila esteka hemen).

Berrikusteko, konturatu behar dugu gizakiek alde txarrak izan ditzakeela eta nolabait beren mugak ezagutu behar dituztela. Era berean, IAk alde txarrak izan ditzake, eta nolabait haien mugak ezagutu behar ditugu.

AI Etika gogotsu hartzen ari zaretenontzat, oraintxe bertan amaitu nahiko nuke denek ezagutu behar duten beste lerro famatu batekin. Alegia, jarraitu AI Etikoaren garrantzia erabiltzen eta partekatzen. Eta hori eginez gero, hau esango nuke zintzoki: "Aurrera, egin nire eguna".