AI Etika Alarma-kanpaiak AI-ren alborapenen espektro hurbilari buruz, mundu mailako eskala masiboan, batez ere sistema guztiz autonomoen bidez elikatuta.

Platonek esan zuen erabaki on bat ezagutzan oinarritzen dela eta ez zenbakietan.

Ikuspegi zorrotz honek gaur egungo Adimen Artifiziala (AI)ri buruz ikaragarria dirudi.

Ikusten duzu, gaur egun AI-a nolabait sentibera iritsi dela eta giza ezagutza eta arrazonamendua gorpuzten duela aldarrikatzen duten goiburu lazgarriek arren, kontuan izan AI hiperbole gehiegizko hau prebarikazio maltzurra dela, gaur egungo algoritmoen erabakiak hartzeko orduan oraindik ere zenbakiak murriztean oinarritzen garelako (ADM). ) AI sistemek egiten duten moduan. Ikaskuntza automatikoa (ML) eta Ikaskuntza sakona (DL) goraipatuak ere eredu konputazionalaren parekatzean datza, hau da, zenbakiak oraindik ere ML/DLren erabilera goraipatuaren oinarrian daude.

Ez dakigu AI sentibera iristea posible den. Baliteke, agian ez. Inork ezin du esan ziur nola sor litekeen hori. Batzuek uste dute pixkanaka hobetuko ditugula gure AI konputazionalaren esfortzuak, hala nola sentikortasun forma bat berez sortuko dela. Beste batzuek uste dute AI-a supernoba konputazional moduko batean sartu eta ia bere kabuz sentitzera iritsi daitekeela (normalean berezitasuna deitzen zaio). AIaren etorkizunari buruzko teoria hauei buruzko informazio gehiago lortzeko, ikusi nire estaldura helbidean esteka hemen.

Beraz, ez gaitezen geure buruari engainatu eta faltsuki sinetsi gaur egungo IA gizakiak bezala pentsatzeko gai dela. Suposatzen dut, orduan, Platonek AI konputazionalean oinarritutako erabaki onak izan ditzakegun AI sentikorran baino gehiago izan ditzakegun oihartzunari buruzko galdera. Harritu egingo zara jakiteak esango nukeela eguneroko AI sistemek erabaki onak har ditzakegula.

Txanpon horren beste aldea da erabaki txarrak hartzen dituzten eguneroko AI sistemak ere izan ditzakegula. Erabaki ustelak. Alborapen eta desberdintasunez betetako erabakiak. Baliteke kontziente izango AIaren azken aroa martxan jarri zenean ilusio handia izan zela batzuek gaur egun deitzen duten hori AI For Good. Zoritxarrez, zirrara isuri horren harira, lekukotzen hasi ginen AI For Bad. Adibidez, AI-n oinarritutako aurpegi-ezagutze-sistemak arraza-alborapenak eta genero-alborapenak dituztela agerian utzi dute, eta horiei buruz hitz egin dudanean. esteka hemen.

Aurkako borroka egiteko ahaleginak AI For Bad aktiboki abian dira. Oihuka gainera legezko gaizki-egiteei eusteko asmoz, AIren etika onartzeko bultzada nabarmena ere badago AIren gaiztakeria zuzentzeko. Ideia da AI etikoaren funtsezko printzipioak onartu eta onartu beharko genituzkeela IA garatzeko eta lantzeko. AI For Bad eta, aldi berean, hoberena iragartzen eta sustatuz AI For Good.

AI Etikari eta AI etikoari buruzko nire estaldura zabala hemen aurki daiteke esteka hau hemen esteka hau hemen, Gutxi batzuk aipatzearren.

Eztabaida honetarako, AIren inguruko alderdi kezkagarri bat ekarri nahiko nuke, AI Etikaren arloan daudenek arrazoiz kexu eta kontzientziatzen saiatzen ari direna. Gai kezkagarria eta kezkagarria benetan nahiko erraza da nabarmentzea.

Hemen dago: AI-k mundu errealeko potentziala du AI-n betetako alborapenak eskala global kezkagarrian zabaltzeko.

Eta "eskala mailan" esaten dudanean horrek mundu osoko eskala masiboa esan nahi du. Eskala izugarria. Eskalatik ateratzen den eskala.

AI-an nahastutako alborapenen eskalatze hau nola gertatuko den murgildu aurretik, ziurtatu denok badugula AI-ak bidegabeko alborapen eta desberdintasunak txerta ditzakeen. Gogoratu berriro hau ez dela sentimenezko barietatea. Hau guztia kalibre konputazionalekoa da.

Agian nahastu zaitezke AI-ak gizakiek egiten dituzten alborapen eta desberdintasun mota berdinak nola txerta ditzakeen. AI guztiz neutroa dela pentsatu ohi dugu, alboragabea, gizakiek izan dezaketen eragin emozional eta pentsamendu gaiztorik ez duen makina bat besterik ez. AI alborapenetan eta desberdintasunetan erortzeko biderik ohikoenetako bat Machine Learning eta Deep Learning erabiltzean gertatzen da, neurri batean, gizakiak erabakiak hartzen ari den moduari buruz bildutako datuetan oinarritzearen ondorioz.

Utzidazu une bat sakontzeko.

ML/DL eredu konputazionalaren parekatze modu bat da. Ohiko planteamendua erabakiak hartzeko zeregin bati buruzko datuak biltzea da. Datuak ML/DL ordenagailu ereduetara elikatzen dituzu. Eredu horiek eredu matematikoak aurkitu nahi dituzte. Eredu horiek aurkitu ondoren, aurkituz gero, AI sistemak eredu horiek erabiliko ditu datu berriak topatzerakoan. Datu berriak aurkeztean, datu "zahar" edo historikoetan oinarritutako ereduak aplikatzen dira egungo erabakia emateko.

Uste dut hau nora doan asma dezakezula. Erabakien eredua hartzen ari diren gizakiek alborapen txarrak sartu badituzte, litekeena da datuek modu sotil baina esanguratsuan islatzea. Machine Learning edo Deep Learning konputazio-ereduen parekatzea besterik ez da saiatuko datuak matematikoki imitatzen. Ez dago zentzu arruntaren edo beste alderdi sentikorren itxurarik AI-n landutako modelizazioaren berez.

Gainera, AI garatzaileak agian ez dira konturatzen zer gertatzen ari den. ML/DL-ko matematika arkanoak zaildu lezake orain ezkutuko alborapenak atzematea. Ziurrenik espero eta espero zenuke AI garatzaileek lurperatuta egon daitezkeen alborapenak probatuko dituztela, nahiz eta badirudi baino zailagoa den. Aukera sendoa dago, nahiz eta proba nahiko zabalak izan, ML/DL ereduak parekatzeko ereduetan oraindik txertatutako alborapenak egongo direla.

Garbage-in garba-out-en esaera ospetsua edo gaiztoa zertxobait erabil dezakezu. Kontua da, hau AIaren barnean murgiltzen diren alborapenak maltzurki sartzen diren alborapenen antzekoagoa da. Algoritmoen erabakiak hartzea edo AIren ADM axiomatikoki desberdintasunez kargatzen da.

Ez da ona.

Honek AI-n betetako alborapenen gaira garamatza eskalanean.

Lehenik eta behin, ikus dezagun nola eragin ditzaketen giza-alborapenak desberdintasunak. Hipoteka-kredituak egiten dituen enpresa batek hipoteka-maileguaren agente bat kontratatzea erabakitzen du. Agenteak etxebizitzako mailegua lortu nahi duten kontsumitzaileen eskaerak berrikusi behar ditu. Eskaera bat ebaluatu ondoren, agenteak mailegua emateko edo mailegua ukatzeko erabakia hartzen du. Erraz-peasy.

Eztabaidarako, pentsa dezagun giza mailegu-agente batek egunean 8 mailegu azter ditzakeela, berrikuspen bakoitzeko ordubete inguru behar duela. Bost eguneko lan astean, agenteak 40 mailegu berrikuspen inguru egiten ditu. Urtero, agenteak normalean 2,000 mailegu berrikuspen inguru egiten ditu, pixka bat eman edo hartu.

Konpainiak mailegu-berrikuspenen bolumena handitu nahi du eta, beraz, enpresak 100 mailegu-agente gehiago kontratatzen ditu. Demagun denek produktibitate bera dutela eta horrek esan nahi duela orain urtean 200,000 mailegu inguru kudeatu ditzakegula (eragile bakoitzeko urteko 2,000 mailegu berrikuspeneko tasarekin). Badirudi benetan areagotu dugula gure mailegu-eskaerak prozesatzea.

Kontuak kontu, konpainiak AI sistema bat asmatzen du, funtsean, maileguen berrikuspen berberak egin ditzakeela giza agenteek. AI hodeian dauden ordenagailu zerbitzarietan exekutatzen ari da. Hodeiko azpiegituraren bidez, konpainiak erraz gehi dezake konputazio-potentzia gehiago behar izan litezkeen maileguen berrikuspenen bolumena egokitzeko.

Lehendik dagoen AI konfigurazioarekin, 1,000 mailegu berrikuspen egin ditzakete orduko. Hau 24×7 ere gerta daiteke. Ez da oporraldirik behar AIrako. Bazkaltzeko atsedenaldirik ez. AI-ak erloju osoan funtzionatzen du, gehiegizko lanik egin gabe. Esango dugu, gutxi gorabehera, erritmo horretan, AIk ia 9 milioi mailegu eskaera prozesatu ditzakeela urtean.

Kontuan izan urtean 100 mailegu egin zezaketen 200,000 giza agente izatetik eta hainbat aldiz salto egin genuela AI sistemaren bidez urtean 9 milioi berrikuspen kopuru handitu izatera. Ikaragarri handitu dugu gure mailegu eskaeraren prozesamendua. Dudarik ez.

Presta zaitez beharbada aulkitik eroriko zaituen ostikorako.

Demagun gure giza-agenteetako batzuk mailegu-erabakiak alborapen desegokietan oinarrituta hartzen ari direla. Beharbada, batzuek arraza-faktoreek funtsezko zeregina ematen diote maileguaren erabakian. Agian batzuk generoa erabiltzen ari dira. Beste batzuk adina erabiltzen ari dira. Eta abar.

Urteko 200,000 mailegu berrikuspenetatik, zenbat egiten ari dira kontrako joera eta desberdintasunen begirada okerra? Beharbada %10, hau da, mailegu-eskaeren 20,000 inguru. Okerragoa dena, demagun mailegu-eskaeren % 50 dela, eta kasu horretan, oker erabakitako mailegu-erabakien urteko 100,000 kasu nahiko kezkagarriak daude.

Hori txarra da. Baina oraindik aukera beldurgarriago bat kontuan hartu behar dugu.

Demagun AIak arraza, generoa, adina eta antzeko faktoreek osatzen duten ezkutuko alborapena duela. Urteko mailegu-azterketen %10 gaiztotasun horren menpe badago, 900,000 mailegu-eskaera ditugu gaizki kudeatzen ari direnak. Hori giza eragileek egin dezaketena baino askoz gehiago da, batez ere bolumen-alderdiengatik. 100 agente horiek guztiz bidezko berrikuspen bat egingo balute, gehienez ere hori egin lezakete urteko 200,000 mailegu berrikuspenetan. AIk gauza bera egin lezake urteko 9,000,000 berrikuspenen eskala handian.

Yikes!

Hau benetan AI-n betetako alborapena da eskala izugarrian.

Alborapen txarrak AI sistema batean barneratzen direnean, onuragarria zirudien eskalatze bera burutik pasatzen da eta eskalatze emaitza ikaragarri liluragarri (eta kezkagarria) bihurtzen da. Alde batetik, AIk onuragarria izan dezake etxebizitzarako maileguak eskatzen dituzten pertsona gehiago kudeatzeko. Azalean, izugarria dirudi AI For Good. Geure buruari bizkarra eman beharko genioke, ustez gizakiek beharrezko maileguak lortzeko aukerak zabaltzeagatik. Bien bitartean, AIak alborapenak txertatu baditu, eskalatzea izugarrizko emaitza ustela izango da eta deitoratuta nahastuta aurkitzen gara. AI For Bad, benetan eskala masiboan.

Aho biko ezpata esaera.

AI-ak erabat handitu dezake erabakiak hartzeko sarbidea nahi diren zerbitzu eta produktuak bilatzen ari direnentzat. Ez dago gizakiak mugatutako lan-botaleku gehiago. Bikaina! Ezpataren beste ertza hauxe da: AI-ak ezkutuko desberdintasunen gisako txarrak baditu, eskalatze masibo berdinak jokabide gaizto hori irudikaezin batean zabalduko du. Larrigarria, okerra, lotsagarria, eta ezin dugu onartu gizartea halako amildegi itsusi batean erortzen.

AI Etikaren garrantzia zergatik urrundu behar dugun nahastuta dagoen edonork orain konturatu beharko luke AI eskalatzearen fenomenoa AI etikoa lortzeko arrazoi garrantzitsu bat dela. Har dezagun une bat laburki aztertzeko AI Etikoko manu gako batzuk IA lantzen, lantzen edo erabiltzen duen edonork ezinbesteko ardatza izan behar duena ilustratzeko.

Adibidez, Vatikanoak dioen bezala Erromako AI Etikarako Deia eta sakonki jorratu dudan bezala esteka hemenHauek dira identifikatutako sei oinarrizko AI etika printzipioak:

• Gardentasuna: Printzipioz, AI sistemek azalgarriak izan behar dute
• sartzea: Gizaki guztien beharrak kontuan hartu behar dira, guztion onura izan dadin, eta pertsona guztiei eskein diezaieke bere burua adierazteko eta garatzeko baldintza onenak.
• Erantzukizuna: AIaren erabilera diseinatzen eta zabaltzen dutenek ardura eta gardentasunarekin jarraitu behar dute
• Inpartzialtasuna: Ez sortu edo ez jokatu joeraren arabera, horrela zuzentasuna eta giza duintasuna bermatuz
• Fidagarritasuna: AI sistemek modu fidagarrian funtzionatzeko gai izan behar dute
• Segurtasuna eta pribatutasuna: AI sistemek segurtasunez funtzionatu behar dute eta erabiltzaileen pribatutasuna errespetatu behar dute.

AEBetako Defentsa Sailak (DoD) bere dokumentuan adierazi duenez Adimen artifiziala erabiltzeko printzipio etikoak eta sakonki jorratu dudan bezala esteka hemenHauek dira AIren sei printzipio etiko nagusiak:

• Arduraduna: DoDko langileek epai eta arreta maila egokiak erabiliko dituzte AI gaitasunen garapenaren, hedapenaren eta erabileraren ardura izaten jarraitzen duten bitartean.
• Ekitatiboa: Sailak nahita neurriak hartuko ditu AI gaitasunetan nahi gabeko alborapenak minimizatzeko.
• Trazagarria: Departamentuaren AI gaitasunak garatu eta zabalduko dira, dagokion langileek AI gaitasunei aplikagarri zaizkien teknologia, garapen-prozesu eta metodo operatiboen ulermen egokia izan dezaten, metodologia gardenak eta ikuskagarriak, datu-iturriak eta diseinu-prozedura eta dokumentazioa barne.
• Seriotasuna: Sailaren AI gaitasunek erabilera esplizituak eta ongi zehaztuak izango dituzte, eta gaitasun horien segurtasuna, segurtasuna eta eraginkortasuna probak eta bermeak izango dira definitutako erabilera horietan bizi-ziklo osoan zehar.
• Gobernagarria: Sailak AI gaitasunak diseinatu eta diseinatuko ditu aurreikusitako funtzioak betetzeko, nahi gabeko ondorioak detektatzeko eta ekiditeko gaitasuna duen bitartean, eta nahi gabeko portaera erakusten duten sistemak desaktibatzeko edo desaktibatzeko gaitasuna.

AIaren etika-printzipioen analisi kolektibo ezberdinei buruz ere eztabaidatu dut, besteak beste, nazioko eta nazioarteko AI etikako printzipio ugariren funtsa aztertu eta laburtu zuen ikertzaileek asmatutako multzoa aztertu izana "The Global Landscape Of AI Ethics Guidelines" (argitaratutakoa). urtean Nature), eta nire estaldurak hemen aztertzen du esteka hemen, eta horrek giltzarri zerrenda honetara eraman zuen:

• Transparency
• Justizia eta zuzentasuna
• Ez-Malefizia
• Erantzukizun
• Pribatutasuna
• Ongintzaren
• Askatasuna eta Autonomia
• Fidatu
• Iraunkortasun
• duintasuna
• Elkartasuna

Zuzenean asmatuko duzun bezala, printzipio horien azpian dauden zehaztasunak zehazten saiatzea oso zaila izan daiteke. Are gehiago, printzipio zabal horiek AI sistemak lantzean erabiltzeko bezain ukigarri eta zehatza den zerbait bihurtzeko ahalegina ere gogorra da. Erraza da, oro har, eskuz astintzea zer diren AI Etikaren manuak eta orokorrean nola behatu behar diren, AI kodetzeak errepidea betetzen duen benetako goma izan behar duen egoera askoz zailagoa den bitartean.

AI Etika-printzipioak AI garatzaileek erabili behar dituzte, AI garapenerako ahaleginak kudeatzen dituztenekin batera, eta baita, azken finean, AI sistemetan mantentzea lantzen eta egiten dutenekin batera. AIaren garapen eta erabileraren bizitza-ziklo osoan parte hartzen duten eragile guztiak AI Etikoaren ezarritako arauak betetzearen esparruan hartzen dira kontuan. Garrantzi handiko aipamena da hau, ohiko suposizioa delako "kodetzaileak" edo AI programatzen dutenek AI Etika nozioei atxikitzeko menpe daudela. Mesedez, kontuan izan herri bat behar dela AI asmatzeko eta lantzeko. Horretarako herri osoak adi egon behar du AI Etikari buruz.

Nola funtzionatzen duen AI-Steeped Biases Scaling

Orain, AI-ak alborapenak izan ditzakeela mahai gainean jarri dudanez, prest gaude AI eskalatzea hain intrusiboa den arrazoietako batzuk aztertzeko.

Demagun oinarrizko hamar arrazoiren giltzarri zerrenda hau:

1. Erraz errepikatzen da
2. Eskalatzeko kostu minimoa
3. Ikaragarri koherentea
4. Autohausnarketa eza
5. Obedientzia itsua
6. Ez du eskua makurtzen
7. Hartzailea susmorik gabe
8. Probokazioa ez bultzatzeko joera du
9. Zuzentasunaren aura faltsua
10. Zaila gezurtatzen

Puntu erabakigarri horietako bakoitza laburki aztertuko dut.

Giza lanarekin eskalatzen saiatzen zarenean, hori egitea izugarri konplikatua izango da. Jendea aurkitu eta kontratatu behar duzu. Lana egiteko trebatu behar dituzu. Ordaindu behar dituzu eta giza nahiak eta beharrak kontuan hartu. Konparatu hau AI sistema batekin. Zuk garatu eta erabiltzen duzu. AIaren etengabeko mantentze-lanak ez ezik, eseri eta etengabe prozesatzen utzi dezakezu.

Horrek esan nahi du AI erraz errepikatzen dela. Konputazio-ahalmen gehiago gehi dezakezu zereginak eta bolumenak behar bezala (ez zara kontratatzen edo kaleratzen ari). Erabilera globala botoi bat sakatzearekin egiten da eta Interneten mundu osoko erabilgarritasunari esker lortzen da. Handitzea kostu minimoa da giza lanarekin berdin egitearekin alderatuta.

Gizakiaren lana nabarmen ez da koherentea. Talde handiak dituzunean, benetako txokolate kutxa bat daukazu, inoiz ez dakizu esku artean zer izan dezakezun. Litekeena da AI sistema oso koherentea izatea. Jarduera berberak behin eta berriz errepikatzen ditu, aldi bakoitzean funtsean azkenaren berdina izanik.

Normalean, AIren koherentzia gustatuko litzaiguke. Gizakiak alborapenetarako joera badu, beti izango dugu gure giza lanaren zatiren bat oker doana. AI-a, bere eraikuntzan eta konputazio-ahaleginetan alboragabea bada, askoz koherenteagoa izango litzateke. Arazoa da, ordea, AIak ezkutuko joerak baditu, orain koherentzia izugarri nazkagarria dela. Litekeena da jokabide alboratua etengabe gauzatuko dela, behin eta berriz.

Zorionez, gizakiek auto-hausnarketa bat izango lukete eta agian erabaki alboratuak hartzen harrapatzea. Ez dut esaten denek horrela egingo luketenik. Era berean, ez dut esaten bere burua harrapatzen dutenek nahitaez beren okerrak zuzenduko dituztenik. Edonola ere, gizaki batzuek behintzat beren burua zuzenduko lukete batzuetan.

AIak nekez izango du auto-hausnarketa konputazionala. Horrek esan nahi du AIak egiten ari dena egiten jarraitzen duela. Badirudi zero aukera egongo litzateke AI-ak ekitatearen aurka ari dela detektatzeko. Hori esanda, horri aurre egiteko ahalegin batzuk deskribatu ditut, esate baterako, AI Etika osagaiak AI barruan eraikitzea (ikus esteka hemen) eta beste AI monitorizatzen dituen IA diseinatzea AI jarduera ez-etikoak antzemateko (ikus esteka hemen).

Auto-hausnarketarik ez duenik, AI-k ere litekeena da funtsean obedientzia itsua izatea agindu zioten guztiari. Baliteke gizakiak ez izatea hain esanekoa. Litekeena da zeregin bat egiten ari diren gizaki batzuek zalantzan jartzea desberdintasun-lurraldera gidatzen ari ote diren. Agindu ez-etikoak baztertzeko joera izango lukete edo, agian, salatzaileen bidetik joango lirateke (ikus nire estaldura helbidean esteka hau hemen). Ez espero eguneroko AI garaikideak bere programazioa nolabait zalantzan jartzea.

Ondoren, AI erabiltzen ari direnengana jotzen dugu. Etxerako mailegua bilatzen ari bazara eta gizaki batekin hitz egin bazenu, baliteke erne egotea gizakiak astindu egokia ematen dizun jakiteko. AI sistema bat erabiltzean, badirudi jende gehienak susmagarriak ez direla. Askotan AI bidezkoa dela suposatzen dute eta, ondorioz, ez dira hain azkar aspertzen. AI-ak jendea "makina bat besterik ez da" trantze batean lotzen duela dirudi. Honetaz gain, zaila izan daiteke AIari protesta egitea. Aitzitik, giza-agente batek nola tratatu zaituen protesta egitea askoz errazagoa da eta askoz ere arruntagoa da onartu eta bideragarri gisa suposatzen duena.

Hori guztia esanda, alborapenetan murgilduta dagoen AI-ak ohore desahogarria du alborapenetan murgilduta dauden gizakien aurrean, alegia, AI-ak alborapen horiek masiboki hedatu ahal izateko eskala erraldoian, hain erraz harrapatu edo kontsumitzailerik izan gabe. konturatu zer gertatzen ari den kezkagarria.

Eztabaida honen une honetan, apustua egingo nuke eskalan AI-n betetako alborapenen enigma erakusteko adibide gehigarri batzuk nahi dituzula.

Pozten naiz galdetu izana.

Badira nire bihotzetik hurbil dagoen adibide multzo berezi eta ezagun bat. Ikusten duzu, AI-n aditua naizen aldetik, adar etiko eta legalak barne, maiz eskatzen didate AI Etikaren dilemak erakusten dituzten adibide errealistak identifikatzea, gaiaren izaera teoriko samarra errazago ulertu ahal izateko. AI etiko istilu hau modu bizian aurkezten duen eremu iradokitzaileenetako bat AI-n oinarritutako benetako auto-gidatuen autoen etorrera da. Gaiari buruzko eztabaida zabalerako erabilpen kasu edo eredu erabilgarri gisa balioko du.

Hona hemen hausnarketa merezi duen galdera aipagarri bat: AI-n oinarritutako benetako auto gidatzen duten autoen etorrerak argitzen al du eskalan AI-ren alborapenei buruzko zerbait, eta hala bada, zer erakusten du honek?

Utzidazu une bat galdera deskonprimitzeko.

Lehenik eta behin, kontuan izan ez dagoela giza gidaririk benetako auto gidatzen duen auto batean. Gogoan izan norberak gidatzen dituen benetako autoak AI gidatzeko sistema baten bidez gidatzen direla. Ez dago gidari baten beharrik gurpilean, ezta gizaki batek ibilgailua gidatzeko aurreikuspenik ere. Ibilgailu autonomoen (AV) eta batez ere auto gidatzen duten autoen estaldura zabala eta etengabea ikusteko, ikus esteka hemen.

Gehiago argitu nahiko nuke zer esan nahi den benetako auto gidatzen diren autoak aipatzen ditudanean.

Auto gidatzeko autoen mailak ulertzea

Argibide gisa, autoa gidatzeko benetako autoak AIk autoa bere kabuz gidatzen dutenak dira eta ez dago giza laguntzarik gidatzeko zereginean.

Gidaririk gabeko ibilgailu hauek 4. maila eta 5. maila hartzen dira (ikus nire azalpena helbidean esteka hau hemen), aldiz, giza gidari batek gidatzeko ahalegina elkarrekin partekatzea eskatzen duen autoa 2. edo 3. mailan hartzen da normalean. Gidatzeko zeregina elkarrekin partekatzen duten autoak erdi-autonomoak direla deskribatzen da, eta normalean hainbat eduki dituzte. ADAS (Advanced Driver-Assistance Systems) deitzen diren gehigarri automatizatuak.

5. mailan ez dago autolikidazko autolik egiazki. Oraindik ez dakigu hori lor daitekeen edo ez den.

Bien bitartean, 4. mailako ahaleginak pixkanaka-pixkanaka trakzio pixka bat lortzen saiatzen ari dira bide publikoko entsegu oso estu eta selektiboak jasanez, nahiz eta eztabaida dagoen proba hori berez onartu behar den ala ez (denok gara esperimentu batean hil ala biziko kobaiak). gure autobideetan eta bide-bideetan gertatzen ari dena, batzuek diotenez, ikusi nire estaldura hemen esteka hau hemen).

Auto erdi autonomoak giza gidaria behar dutenez, auto mota horiek ez dira ohiko ibilgailuak gidatzea baino oso desberdinak izango. Beraz, ez dago gai horren inguruko gai asko estaltzeko gai hau (hala ere, ikusiko duzuenez une batez, hurrengo puntuak orokorrean aplikagarriak dira).

Auto erdi autonomoetarako, garrantzitsua da publikoa azkenaldian sortzen ari den alderdi kezkagarri baten aurrean jakitea, hots, 2. mailako edo 3. mailako auto baten gurpilean lokartzen ari diren giza gidariek argitaratzen jarraitzen duten arren. , guztiok saihestu behar dugu gidariak zereginetatik arreta kendu dezakeela auto erdi autonomo bat gidatzen duenean.

Ibilgailuaren gidaritza-ekintzen arduraduna zara, 2. mailara edo 3. mailara zenbat automatizazio bota litekeen kontuan hartu gabe.

Norbere gidatzen diren autoak eta AI-alborapenak eskalan

4. eta 5. mailako egiazko autoentzako gidatzeko ibilgailuentzat, ez da gidari lanetan parte hartuko duen gidaririk.

Okupatzaile guztiak bidaiariak izango dira.

AI gidatzen ari da.

Berehala eztabaidatu beharreko alderdi batek dakar gaur egungo AI gidatzeko sistemetan parte hartzen duen AI ez dela sentikorra. Beste modu batera esanda, AI ordenagailuan oinarritutako programazio eta algoritmoen kolektiboa da, eta ziur asko ez da gai gizakiak ahal duen moduan arrazoitzeko.

Zergatik ari da azpimarratzen AI hori sentikorra ez izateari?

Azpimarratu nahi dudalako AI gidatzeko sistemaren papera eztabaidatzerakoan, ez diodala giza ezaugarriak AIri ematen. Jakin ezazu egun antropomorfizatzeko AI joera etengabea eta arriskutsua dagoela. Funtsean, jendeak gizakien antzeko sentikortasuna esleitzen dio gaurko AIri, oraindik AI hori existitzen ez dela ukaezina eta eztabaidaezina izan arren.

Argibide horrekin, AI gidatzeko sistemak berez ez duela nolabait "gidatzearen alderdiak" jakingo pentsa dezakezu. Gidatzea eta horrek dakarren guztia autoa gidatzeko hardwarearen eta softwarearen zati gisa programatu beharko da.

Muga gaitezen gai honen inguruan jokatzera etortzen diren hainbat alderditan.

Lehenik eta behin, garrantzitsua da konturatzea AI auto gidatzen duten auto guztiak ez direla berdinak. Auto-fabrikatzaile eta auto-gidatzeko teknologia-enpresa bakoitzak bere ikuspegia hartzen ari da auto-gidatzeko autoak asmatzeko. Hori dela eta, zaila da AI gidatzeko sistemek egingo edo ez dutenari buruzko adierazpen zabalak egitea.

Gainera, AI gidatzeko sistema batek gauza bereziren bat egiten ez duela adierazten duen bakoitzean, geroago ordenagailua hori egiteko programatzen duten garatzaileek gainditu dezakete. Pausoz pauso, AI gidatzeko sistemak pixkanaka hobetzen eta hedatzen ari dira. Baliteke gaur egun dagoen mugarik ez egotea etorkizuneko sistemaren iterazio edo bertsio batean.

Kontatuko dudanaren azpian jartzeko oharra nahikoa emango duelakoan nago.

Orain prestatuta gaude norbere gidatzen diren autoetan eta eskala handian zabaltzen diren AI-aren alborapenen esplorazioa dakarten AI Etikoko aukeretan murgiltzeko.

Erabili dezagun adibide erraz bat. Intelean oinarritutako auto gidatzen ari den auto bat martxan dago zure auzoko kaleetan eta badirudi modu seguruan gidatzen ari dela. Hasieran, arreta berezia jarri zenion auto gidatzen duen autoa ikustea lortzen zenuen bakoitzean. Ibilgailu autonomoa bideokamerak, radar unitateak, LIDAR gailuak eta antzekoak biltzen zituen sentsore elektronikoen rackarekin nabarmendu zen. Autoa gidatzen duen autoa zure komunitatean zehar ibili ondoren aste asko igaro ondoren, orain ia ez duzu nabarituko. Zuei dagokienez, jada okupatuta dauden bide publikoetan dagoen beste auto bat besterik ez da.

Norberak gidatzen dituen autoak ikusten ezagutzea ezinezkoa edo sinesgaitza dela uste ez dezazun, sarri idatzi izan dut auto gidatzeko probak egiteko esparruan dauden tokiak nola ohitu diren apurka-apurka ibilgailu txukunak ikustera. ikusi nire analisia hemen esteka hau hemen. Bertako asko, azkenean, aho zabaleko begirada hunkigarritik orain aspertzeko aharrausi zabala igortzen hasi ziren auto gidatzen zihoazen auto haiek ikusteko.

Seguruenik, oraintxe bertan ibilgailu autonomoak nabaritu ditzaketen arrazoi nagusia sumindura eta larritasun faktorea da. Liburuaren araberako AI gidatzeko sistemek ziurtatzen dute autoek abiadura-muga eta errepideko arau guztiak betetzen dituztela. Gizakiek gidatutako ohiko autoetan dauden giza gidari gogotsuentzat, noizbehinka haserretu egiten zara legeak errespetatzen dituzten AIan oinarritutako auto gidatzeko autoen atzean gelditzen zarenean.

Hori denok ohitu beharko genukeen zerbait da, zuzen edo gaizki.

Itzuli gure ipuinera.

Bihurtzen da AI-n oinarritutako auto-gidatze-autoen inguruan inozoak eta orokorrean ongi etorriak diren bi kezka sortzen hasten direla, zehazki:

a. AI autoak gidatzen ari den autoetan ibilaldiak jasotzeko ibiltzen ari den tokian zegoen kezka ahoskatu gisa

b. AIk nola tratatzen ari den pasabide-eskubidea ez duten zain dauden oinezkoak arazo larri gisa ari zen

Hasieran, AI auto gidatzen ari ziren autoak herri osoan zehar ibili ziren. Auto gidatzen duen autoan ibilaldi bat eskatu nahi zuen edonork, funtsean, aukera berdinak zituen bat agurtzeko. Pixkanaka-pixkanaka, AI-a nagusiki auto gidatzen duten autoak herriko zati bakarrean ibiltzen mantentzen hasi zen. Atal hau dirua irabazten zuen eta AI sistema programatu zen komunitateko erabileraren zati gisa diru-sarrerak maximizatzen saiatzeko.

Herriko toki pobretuetako komunitateko kideek aukera gutxiago zuten auto gidatzen duten auto batetik ibiltzeko aukera. Norberak gidatzen ziren autoak urrunago zeudelako eta lokaleko diru-sarrera handieneko zatian ibiltzen zirelako. Eskaera bat herriaren alde urrun batetik jasotzen zenean, herriaren "estimua" dagoen toki hurbilago bateko eskaerak lehentasun handiagoa izango zuen. Azkenean, ia ezinezkoa izan zen hiriko parte aberatsean ez den beste edozein lekutan auto gidatzen duen autoa eskuratzea, izugarri larriagoa gaur egun baliabiderik gabeko eremu haietan bizi zirenentzat.

Baiezta dezakezu AIak proxy diskriminazio modu batean kokatu duela (zeharkako diskriminazioa ere deitzen zaio askotan). AI ez zen auzo pobreago horiek saihesteko programatu. Horren ordez, ML/DL erabiliz "ikasi" zuen.

Gauza da, bidaiak partekatzeko giza gidariek gauza bera egiteagatik ezagunak ziren, nahiz eta ez derrigorrez soilik dirua irabazteko angeluagatik. Baziren hiribilduko zenbait lekutan txirrindulariak biltzeko joera txarra zuten giza gidari batzuk. Ezaguna den fenomenoa zen hori eta hiriak monitorizazio-ikuspegi bat jarri zuen martxan hori egiten ari ziren giza gidariak harrapatzeko. Giza gidariek arazoak izan ditzakete hautaketa praktika desegokiak egiteagatik.

Suposatzen zen AI ez zela inoiz eroriko harea mugikorretan. Ez zen monitorizazio espezializaturik ezarri AIan oinarritutako auto gidatzen ari ziren autoak nora zihoazen jarraitzeko. Komunitateko kideak kexatzen hasi ondoren bakarrik konturatu ziren hiriko buruzagiak gertatzen ari zenaz. Ibilgailu autonomoek eta auto gidatzen duten autoek aurkeztuko dituzten hiri osoko gai mota hauei buruzko informazio gehiago lortzeko, ikusi nire estaldura helbidean. esteka hau hemen eta Harvard-ek zuzendutako ikerketa bat deskribatzen du, nik gaiari buruz idatzi nuena.

AI-n oinarritutako auto gidatzen duten autoen ibiltaritza-alderdien adibide honek aurreko zantzua erakusten du joera txarrak dituzten gizakiak izan daitezkeela egoerak egon daitezkeela, eta horretarako kontrolak ezartzen dira, eta giza gidari horiek ordezkatzen dituen AI-a ezkutuan geratzen dela. dohainik. Zoritxarrez, AI-a pixkanaka-pixkanaka alborapen antzekoetan murgil daiteke eta egin behar adina babeslekurik gabe.

Horrek ere erakusten ditu AI-ren alborapenak eskalan arazoa.

Giza gidarien kasuan, agian, hemen edo han izan genituzkeen nolabaiteko desberdintasunik egiten ari zirenak. AI gidatzeko sistemarako, normalean AI bateratu bat izan ohi da auto gidatzen duten autoen flota oso baterako. Horrela, herrian autonomo gidatzen diren berrogeita hamar kotxerekin hasi ginateke (guztiak AI kode berdinarekin ibiltzen diren), eta pixkanaka handitu demagun 500 auto autonomo (guztiak AI kode berdinarekin). Norbere gidatzen diren bostehun auto horiek guztiak AI berberak gidatzen ari direnez, IAren barnean txertatutako alborapen eta desberdintasun eratorri berberen menpe daude.

Eskalatzeak min egiten digu alde horretatik.

Bigarren adibide bat da AIk zehaztea kale bat zeharkatzeko bide-eskubidea ez duten oinezkoen zain egoteagatik gelditu behar den ala ez.

Zalantzarik gabe, gidatzen ibili zara eta kalea zeharkatzeko zain zeuden oinezkoekin topo egin duzu eta, hala ere, ez zuten horretarako bide-eskubiderik. Horrek esan nahi zuen diskrezioa zeukala gelditu eta gurutzatzen utzi ala ez jakiteko. Aurrera egin dezakezu gurutzatzen utzi gabe eta, hala ere, gidatzeko legezko arauen barruan egon zaitezke.

Giza gidariek horrelako oinezkoentzat gelditzea edo ez gelditzea erabakitzen duten azterketek iradoki dute batzuetan giza gidariek aukera txarrak egiten dituztela. Giza gidari batek oinezkoa begiztatu eta ez gelditzea erabaki dezake, nahiz eta oinezkoak beste itxura bat izan balu geldituko litzatekeen, arraza edo generoaren arabera, esaterako. Hemen aztertu dut hau esteka hemen.

Imajinatu AI-n oinarritutako auto gidatzeko autoak programatuta daudela bide-eskubidea ez duten oinezkoentzat gelditu edo ez gelditu behar den galderari aurre egiteko. Hona hemen nola erabaki zuten AI garatzaileek zeregin hau programatzea. Hirian zehar jarrita dauden herriko bideokameretatik datuak bildu dituzte. Datuek bide-eskubidea ez duten oinezkoentzat gelditzen diren giza gidariak eta gelditzen ez diren giza gidariak erakusten ditu. Guztia datu multzo handi batean biltzen da.

Machine Learning eta Deep Learning erabiliz, datuak konputazionalki modelatzen dira. Orduan AI gidatzeko sistemak eredu hori erabiltzen du noiz gelditu edo ez gelditu erabakitzeko. Orokorrean, ideia da tokiko ohitura edozein dela ere, horrela bideratzen du AIak auto gidatzen duen autoa.

Hiriko buruzagien eta bizilagunen harridurarako, AIk gelditzeko edo ez gelditzeko aukeratzen ari zen, oinezkoaren itxuraren arabera, arraza eta generoa barne. Norbere gidatzen duen autoaren sentsoreek zain dagoen oinezkoa eskaneatu, datu horiek ML/DL eredura helaraziko lituzkete eta modeloak AIra igorriko luke gelditu edo jarraitu. Zoritxarrez, herriak jadanik giza gidarien joera asko zituen zentzu honetan eta AIak berdina imitatzen zuen orain.

Adibide honek erakusten du AI-sistema batek gizakien lehendik zeuden joera txarrak bikoiztu besterik ez dituela. Gainera, eskalan egiten du. Batzuetan, edozein giza gidari irakatsi izana aukeraketa modu okerra hau egiten edo agian pertsonalki hori egiteko aukeratu izana, baina litekeena da giza gidari gehienek hori masiboki ez egitea.

Aitzitik, auto gidatzen ari den autoak gidatzeko erabiltzen ari den AI gidatzeko sistemak litekeena da eratorritako alborapena modu koherentean eta seguru beteko duela.

Ondorioa

Alde txarrak dituen edo denboraren poderioz joerak biltzen dituen IA asmatzen saiatzeko eta saihesteko modu ugari dago. Ahal den heinean, arazoak martxa altuan sartu baino lehen harrapatzea eta eskalatzera igotzea da. Zorionez, alderdikeriak ez dira atetik atera, nolabait esateko.

Demagun, hala ere, modu batean edo bestean alborapenak sortuko direla AIan. AI-rekin eskala masiboan hedatzen zarenean, ezin duzu "su eta ahaztu" nozio horietariko bat egin. AI-ak egiten ari denaren gainean arduraz mantendu behar duzu eta zuzendu behar diren okerren bat detektatzen saiatu.

Lehen adierazi bezala, ikuspegi batek AI garatzaileek AI Etikaren berri dutela ziurtatzea dakar eta, beraz, gai horiek saihesteko AI programatzera bultzatzea. Beste bide bat da AI-ak bere burua monitorizatzea etikarik gabeko jokabideetarako eta/edo beste AI-sistema batzuk kontrolatzen dituen beste AI-a edukitzea, potentzialki ez-etikoak diren jokabideetarako. Beste irtenbide posible ugari azaldu ditut nire idazkietan.

Azken hausnarketa bat oraingoz. Eztabaida hau Platonen aipamen batekin hasita, egokia izan liteke diskurtsoa Platonen beste adierazpen zorrotz batekin ixtea.

Platonek esan zuen ez dagoela kalterik gauza on bat errepikatzeak.

AI-rekin eskalara joateko erraztasuna, zalantzarik gabe, halako asmo alaia lortzeko baliabide bideragarria da AI-a denean. AI For Good barietatea. Gauza on bat errepikatzea dastatu dugu. AI denean AI For Bad eta alborapen eta desberdintasun gaiztoz beteta, Platonen oharretan oinarritu eta gauza txar bat errepikatzeak kalte ugari dagoela esan genezake.

Entzun ditzagun arretaz Platonen hitz jakintsuak eta asmatu ditzagun horren arabera gure AI.