AI etika kontuz AIaren asimetria okertzeari buruz, gizakiek makila-mutur laburra lortzen duten artean

Batzuetan makilaren mutur okerrean zaude.

Berdintasun hori asimetriaren nozioari aplika dakioke.

Bai, asimetriaz hitz egingo dut. Litekeena da bizi garen mundu irauli honetan topatu duzun bezala, zuretzako nahiko garrantzitsua den gai bati buruzko ezagutza gutxiago izango duzu zenbait kasutan. Honi formalki deitzen zaio Informazioaren asimetria.

Funtsezkoa da zuk nahiko zenukeena baino ezagutza edo informazio gutxiago duzula, eta, zalantzarik gabe, gaian parte hartzen duen beste alderdia baino gutxiago duzula. Desabantaila nabarmenean zaude beste alderdiaren aldean. Ezagutzen ez duzun zerbait dakite. Dakiena aprobetxatu dezakete, batez ere ezagutzen ez duzunari dagokionez, eta zurekin izandako edozein eztabaida edo negoziazioetan nagusitasuna lor dezakete.

Bada, bada herrian ume berri bat, izenez ezagutzen dena AI asimetria.

Azken esaldi honek AI-arekin armatuta dagoen norbaiten aurka joateko aukerari egiten dio erreferentzia, hain armatuta ez zauden bitartean.

AI dute alboan, zuk daukazun bitartean, ba, zu bakarrik. Gauzak okertuta daude. Ustezko desabantailan zaude. Beste aldea zure inguruan zirkuluak egiteko gai izango da AI-k areagotuta dagoelako. Hori maitasunean eta gerran dena bidezkoa dela dioen esaera ospetsuaren barruan egon liteke (aspaldiko esaera bat asmatua Eufues John Lyly-k, 1578), nahiz eta AI Asimetriaren dinamikak eta arriskuek AI Etikoko arazo zailak planteatzen dituzten. AI Etikari eta AI etikoari buruz dudan etengabeko estaldura zabala ikusteko, ikus esteka hemen esteka hemen, Gutxi batzuk aipatzearren.

AI eremura eta bere konplexutasun ugarira AI asimetriari buruz salto egin aurretik, azter dezagun lehenik eta behin informazio asimetriaren eguneroko bertsio arrunta. Honek blokeko AI berriko mutil berrira sartzeko eszenatokia ezarriko du.

Istorio labur eta argigarri batek gosea pizten dizu.

Lehengo egunean pneumatiko hutsa nuen errepidean nengoela eta berehala instalatu zitekeen ordezko egoki bat aurkitu nahi nuen. Nire telefonoa erabiliz, sarean begiratu nuen inguruko pneumatikoen dendetan, nire run-flat pneumatikoarekin gidatu behar nuen distantzia eta dendarik irekita zegoen jakiteko. Horrez gain, sareko bezeroen berrikuspenen balorazio azkarra egin nuen eta negozioan zenbat denbora daramaten eta haien balioa erakusteko beste faktore batzuei buruz baliagarria den ezer biltzen saiatu nintzen.

Pneumatikoen denda batera deitu eta gero, langileak aurrekontu xume bat eman zidan pneumatikoen eta bere instalazioaren kostuagatik. Pneumatikoa ez zen zehazki nik buruan nuena, baina langileak ziurtatu zidan beraiek izango zirela lanak berehala egin zezakeen inguruko denda bakarra. Idazkariaren arabera, inguruko beste pneumatikoen dendak ez luke horrelako pneumatikorik stockean izango eta gutxienez egun bat beharko luke lehiakide horiek erdi urruneko biltegi batetik pneumatiko egoki bat lortzeko.

Informazio asimetria baten erdian nengoen.

Langileak pneumatikoen denden tokiko egoerari buruz gehiago jakin zuela esan zuen eta, bereziki, behar nuen pneumatiko motari buruz. Pasatzen ari nintzen eremu batean nengoen eta ez nuen eremu geografiko zehatz horretako pneumatikoen dendei buruz lehen eskuko ezagutzarik. Nekienez, idazkaria ondo zegoen eta berniz gabeko egia ematen ari zitzaidan.

Baina hala egiten al zuen idazkariak?

Agian bai, agian ez.

Gerta liteke idazkariak zintzo sinetsi izana helarazten zidaten guztia. Eskribauari, hauxe zen egia. Edo beharbada idazkariak egia luzatzen ari zen. Baliteke esaten ari zena egia izatea, nahiz eta irudikatzeko moduak egia erabatekoa eta ukaezina zela esan nahi zuen. Noski, hutsune osoa ere izan zitekeen eta langileak pneumatikoen dendak nire negozioa biltzeko txelina besterik ez zuen egin. Komisio mamitsu bat egon zitekeen martxan?

Ausartuko naiz esatera inori ez zaiola gustatzen horrelako egoera ahulean egotea.

Egoeraren apustuak ezinbesteko faktoreak dira informazio asimetriak zenbaterainoko garrantzia duen. Eskuartean dugun galdera hil ala biziko izaerakoa bada, txakur-etxean egotea eta beste alderdiaren mende egotea dakiena edo dakiela aitortzen duenagatik jarrera zirriborratua eta oso desiragarria da. Apustuak txikiak direnean. , esate baterako, zure afaria jatetxe batean eskatzea eta zerbitzariak esaten dizu arrain platera zerukoa dela, baina inoiz ez duzula han jan eta gutxi informatuta zaude, informazio asimetria gutxi honekin batera joan zaitezke larritasun handirik gabe (I demagun, gainera, zerbitzariak aholku garratzak emateko eta propina duin bat lortzeko arriskurik ez lukeela apustu egiten ari zarela).

Higatutako pneumatikoen istoriora itzuliz (joko-joko bat!), ez nuen berehalako modurik izango idazkariak informazio fidagarri eta informatiboak ematen zizkidan jakiteko. Baliteke zer gertatu den galdetzen ari zarete. Inguruko beste pneumatikoen denda batzuetara deiak egitea erabaki nuen.

Prest al zaude deskubritu dudanerako?

Gainontzeko pneumatikoen denda guztiek nahi nuen pneumatikoen stocka zuten eta ez ziren saiatu keinu-keinu-keinuak beste pneumatiko bat hartzera konbentzituko ninduten (lehengo idazkariak egiten saiatu zen bezala). Deitu nuen lehen pneumatikoen dendaren epe berean ere egin zezaketen lana. Gutxi gorabehera prezio berean.

Nire partetik ongi etorria den lasaitasun hasperen bat gertatu zen, ziurtatzen dizut.

Ironikoki, zorte txarraren Murphyren Legean, harremanetan jarri nintzen lehen lekua bazkaltzera aterako zela zirudien bakarra zen. Pozten naiz informazio gehiago lortu nahi izan dudalako. Horrek informazioaren asimetriaren tartea murriztu zuen. Nire burua txalotu nuen nire armei eutsi izana eta deitu nuen lehen tokira ez sartzeagatik.

Hori esanda, informazio gehigarria lortzeak nolabaiteko kostua izan zuen. Gutxi gorabehera, lau dei egin nituen eta bakoitzak hamabost-hogei minutu inguru behar izan zituen guztiz egiteko. Zentzu horretan, ordu eta erdi inguru erabili nuen autoa nora eraman jakiteko. Berehala nire autoa lehen toki horretara eraman izan banu, pneumatiko berria ia nire autoan egongo zen ordurako. Bestalde, ia ziur, gerora, damutuko nintzatekeen Informazio Asimetriaren lotura zital batean nengoela hartu nuen erabaki azkarraz.

Batzuetan hortzak estutu eta informazio asimetria beldurgarria datorren bezala hartu behar duzu. Hartzen duzun edozein erabaki nahikoa ona izango dela espero duzu. Baliteke erabaki "perfektua" ez izatea eta gero damutu zaitezke egindako aukeraz. Beste angelua da informazio-ekuazioaren aldea indartzen saia zaitezke, nahiz eta hori ez den zertan kosturik gabekoa izan eta denbora preziatua ere murtxikatu dezake, denbora estimatua funtsezkoa den ala ez.

Orain, dudarik gabe, nire autoa bere pneumatiko berri eta zuzenarekin ondo funtzionatzen ari dela jakiteak pozten zaituztelako, AI Asimetriaren sorrerara joan naiteke.

Demagun AI istorio bat.

Etxerako mailegua lortu nahi duzu. Banku jakin batek erabiltzen duen lineako hipoteka-eskaeraren analizatzaile bat dago. Lineako sistemak gaur egungo AI gaitasun aurreratuak erabiltzen ditu. Ez dago giza maileguak emateko agente batekin hitz egin beharrik. AIk dena egiten du.

AI sistemak hainbat gonbidapen bidez gidatzen zaitu. Inprimakiak bete behar dituzu eta AI sistemari erantzuten diozu. AI hau oso berritsua da. Iraganean ordenagailuan oinarritutako inprimaki-sistema konbentzionala erabili zenuten arren, AI aldaera hau giza agente batekin elkarreraginaren antzekoagoa da. Ez guztiz, baina nahikoa ia sinisten has zaitezke gizaki bat jarduera honen beste aldean zegoela.

Zure eskaera AI honekin "eztabaidatzeko" ahalik eta hobekien egin ondoren, azkenean, zoritxarrez mailegu eskaera ez dela onartzen jakinarazten dizu. Zure ahuntza lortzen du AI-k barkamena eskaintzea dirudiela, AI-k mailegua onartu nahi balu bezala, baina bankua gainbegiratzen duten gizaki gaizto horiek ez diote AIri hori egiten utziko. Ustezko AI-ren barkamen mota hauek zenbateraino engainagarriak diren azaltzeko, ikus esteka hemen.

Ez dakizu zergatik baztertu zaituen. AIk ez du inolako azalpenik ematen. Agian AIak akatsen bat egin zuen edo nahastu egin zuen bere kalkuluetan. Okerragoa dena, demagun AI-k oso zalantzazko kontu batzuk erabili zituela, hala nola zure arraza edo generoa, mailegua erabakitzerakoan. Dakizuena da denbora alferrik galdu duzula eta, bitartean, datu pribatu mordoa AI eta bankuari entregatu zizkidala. Haien IAk gainditu zaitu.

Hau AI Asimetriaren adibide gisa etiketatuko litzateke.

Bankuaren aurka zinen. Bankua AIz armatuta zegoen. Ez zinen berdin armatuta. Zure adimenak eta kolpe gogorren jakituria eskola zenituen, baina ez zegoen AI atzeko poltsikoan. Gogoa makina baten aurka. Zoritxarrez, makinak irabazi zuen kasu honetan.

Zer egin behar duzu?

Lehenik eta behin, gizartearen oinarrian konturatu behar dugu AI asimetria hau hazten ari dela eta ia nonahikoa bihurtzen ari dela. Gizakiak AI aurkitzen ari dira egunero elkarrekintzan ditugun sistema guztietan. Batzuetan, AI da elkarrekintza dugun elementu bakarra, adibidez, mailegu eskaerari buruzko adibide honetan. Beste kasu batzuetan, gizaki bat zerbitzu jakin bat egiten laguntzeko AIan oinarritzen den begiztan egon liteke. Mailegurako, baliteke bankuak giza agente batekin hitz egitea AIarekin elkarreragin beharrean, baina giza agenteak mailegua eskatzeko prozesuan giza agentea gidatzen duen AI atzitzeko sistema informatiko bat erabiltzen ari da. (eta, ia beti ziurtatuta zaude giza agenteak espetxeratuta egongo balira bezala jokatzen duela AIak "egiteko esaten dion guztia" zorrozki egin behar izateagatik).

Edozein modutan, AI oraindik nahasian dago.

Bigarrenik, AI Asimetria gutxienez AI oinarri etikoan egiten ari dela ziurtatu behar dugu.

Utzidazu azaltzeko itxuraz arraroa den ohar hori. Ikusten duzu, zertxobait ziur egon badigute AI-ak modu etikoki sendoan jokatzen ari dela, baliteke jokoan dagoen asimetriari buruz lasaigarri bat izatea. Oinarri antzeko samarrean, baina baita solte batean ere, esan liteke pneumatikoen dendako lehen langilearekin dudan interakzioak jarraibide etiko zorrotz batzuk ezarri eta betearazi izan balitu, agian ez zidatela kontatu zidaten istorioa, edo behintzat. agian ez zen berehala bilatu behar izan ipuin handi bat ematen ari zitzaidan ala ez jakiteko.

Une batean AI Etikari buruz gehiago azalduko dut.

Hirugarrenik, AI asimetria murrizteko bideak bilatu beharko genituzke. Zure alboan zegoen AI bazenu, zure entrenatzaile edo babeslea izaten ahaleginduz, baliteke AI hori erabili ahal izatea buruz buru zoazen beste AIarekin kontrako zulaketak egiteko. Esaten den bezala, batzuetan zentzu handia du suarekin suarekin borrokatzeak.

AI Asimetriaren azpian dauden haragi eta patata gehiagotan sartu baino lehen, ezar ditzagun funtsezko oinarrizko gaiei buruzko oinarri gehigarri batzuk. Laburki murgildu behar dugu AI Etikan eta bereziki Machine Learning (ML) eta Deep Learning (DL) etorreran.

Lausoki jabetuko zara gaur egun AIren alorrean eta baita AIren eremutik kanpo ere ahots ozenenetako bat AI Etikoaren itxura handiagoa aldarrikatzean dela. Ikus dezagun zer esan nahi duen AI Etika eta AI etikoa aipatzea. Horrez gain, Machine Learning eta Deep Learning buruz hitz egiten dudanean zer esan nahi dudan aztertuko dugu.

Komunikabideen arreta handia jaso duen AI Etikaren segmentu edo zati jakin bat alderdikeriak eta desberdintasunak erakusten dituen IAk osatzen dute. Baliteke kontziente izango AIaren azken aroa martxan jarri zenean ilusio handia izan zela batzuek gaur egun deitzen duten hori AI For Good. Zoritxarrez, zirrara isuri horren harira, lekukotzen hasi ginen AI For Bad. Adibidez, AI-n oinarritutako aurpegi-ezagutze-sistemak arraza-alborapenak eta genero-alborapenak dituztela agerian utzi dute, eta horiei buruz hitz egin dudanean. esteka hemen.

Aurkako borroka egiteko ahaleginak AI For Bad aktiboki abian dira. Oihuka gainera legezko gaizki-egiteei eusteko asmoz, AIren etika onartzeko bultzada nabarmena ere badago AIren gaiztakeria zuzentzeko. Ideia da AI etikoaren funtsezko printzipioak onartu eta onartu beharko genituzkeela IA garatzeko eta lantzeko. AI For Bad eta, aldi berean, hoberena iragartzen eta sustatuz AI For Good.

Erlazionatutako ideia batean, AI erabiltzen saiatzearen defendatzailea naiz AIren arazoen konponbidearen zati gisa, suarekin suarekin borrokatzeko pentsamendu modu horretan. Adibidez, AI etikoen osagaiak txerta genitzake AI sistema batean, gainontzeko AIak gauzak nola egiten dituen kontrolatuko duena eta, beraz, denbora errealean edozein diskriminazio-ahaleginak harrapatzeko. Ikusi nire eztabaida hemen. esteka hemen. AI Etika monitore gisa jarduten duen AI sistema bereizi bat ere izan genezake. AI sistemak gainbegiratzaile gisa funtzionatzen du beste AI bat amildegi ez-etikoan sartzen denean jarraitzeko eta detektatzeko (ikusi horrelako gaitasunen azterketa hemen esteka hemen).

Une batean, AI Etikaren azpian dauden printzipio nagusi batzuk partekatuko ditut zurekin. Zerrenda mota asko daude han eta hemen inguruan. Esan liteke oraindik ez dagoela erakargarritasun eta adostasun unibertsalaren zerrenda berezirik. Hori da zorigaiztoko albistea. Berri ona da gutxienez eskuragarri daudela AI Etika zerrendak eta nahiko antzekoak izan ohi direla. Guztiak esanda, horrek iradokitzen du nolabaiteko konbergentzia arrazoitu baten bidez AI Etika zertan datzan komuntasun orokorrerantz aurkitzen ari garela.

Lehenik eta behin, labur ditzagun AI Etikoko manu orokor batzuk AI lantzen, lantzen edo erabiltzen duen edonork ezinbesteko kontua izan behar duena ilustratzeko.

Adibidez, Vatikanoak dioen bezala Erromako AI Etikarako Deia eta sakonki jorratu dudan bezala esteka hemenHauek dira identifikatutako sei oinarrizko AI etika printzipioak:

• Gardentasuna: Printzipioz, AI sistemek azalgarriak izan behar dute
• sartzea: Gizaki guztien beharrak kontuan hartu behar dira, guztion onura izan dadin, eta pertsona guztiei eskein diezaieke bere burua adierazteko eta garatzeko baldintza onenak.
• Erantzukizuna: AIaren erabilera diseinatzen eta zabaltzen dutenek ardura eta gardentasunarekin jarraitu behar dute
• Inpartzialtasuna: Ez sortu edo ez jokatu joeraren arabera, horrela zuzentasuna eta giza duintasuna bermatuz
• Fidagarritasuna: AI sistemek modu fidagarrian funtzionatzeko gai izan behar dute
• Segurtasuna eta pribatutasuna: AI sistemek segurtasunez funtzionatu behar dute eta erabiltzaileen pribatutasuna errespetatu behar dute.

AEBetako Defentsa Sailak (DoD) bere dokumentuan adierazi duenez Adimen artifiziala erabiltzeko printzipio etikoak eta sakonki jorratu dudan bezala esteka hemenHauek dira AIren sei printzipio etiko nagusiak:

• Arduraduna: DoDko langileek epai eta arreta maila egokiak erabiliko dituzte AI gaitasunen garapenaren, hedapenaren eta erabileraren ardura izaten jarraitzen duten bitartean.
• Ekitatiboa: Sailak nahita neurriak hartuko ditu AI gaitasunetan nahi gabeko alborapenak minimizatzeko.
• Trazagarria: Departamentuaren AI gaitasunak garatu eta zabalduko dira, dagokion langileek AI gaitasunei aplikagarri zaizkien teknologia, garapen-prozesu eta metodo operatiboen ulermen egokia izan dezaten, metodologia gardenak eta ikuskagarriak, datu-iturriak eta diseinu-prozedura eta dokumentazioa barne.
• Seriotasuna: Sailaren AI gaitasunek erabilera esplizituak eta ongi zehaztuak izango dituzte, eta gaitasun horien segurtasuna, segurtasuna eta eraginkortasuna probak eta bermeak izango dira definitutako erabilera horietan bizi-ziklo osoan zehar.
• Gobernagarria: Sailak AI gaitasunak diseinatu eta diseinatuko ditu aurreikusitako funtzioak betetzeko, nahi gabeko ondorioak detektatzeko eta ekiditeko gaitasuna duen bitartean, eta nahi gabeko portaera erakusten duten sistemak desaktibatzeko edo desaktibatzeko gaitasuna.

AIaren etika-printzipioen analisi kolektibo ezberdinei buruz ere eztabaidatu dut, besteak beste, nazioko eta nazioarteko AI etikako printzipio ugariren funtsa aztertu eta laburtu zuen ikertzaileek asmatutako multzoa aztertu izana "The Global Landscape Of AI Ethics Guidelines" (argitaratutakoa). urtean Nature), eta nire estaldurak hemen aztertzen du esteka hemen, eta horrek giltzarri zerrenda honetara eraman zuen:

• Transparency
• Justizia eta zuzentasuna
• Ez-Malefizia
• Erantzukizun
• Pribatutasuna
• Ongintzaren
• Askatasuna eta Autonomia
• Fidatu
• Iraunkortasun
• duintasuna
• Elkartasuna

Zuzenean asmatuko duzun bezala, printzipio horien azpian dauden zehaztasunak zehazten saiatzea oso zaila izan daiteke. Are gehiago, printzipio zabal horiek guztiz ukigarri eta zehatza den zerbait bilakatzeko ahalegina AI sistemak lantzean erabiltzeko moduko intxaur gogorra ere bada. Erraza da, oro har, AI Etikaren manuak zer diren eta orokorrean nola behatu behar diren eskuz astintzea, AI kodeketa askoz ere egoera zailagoa da errepidea betetzen duen benetako goma izan behar izatea.

AI Etika-printzipioak AI garatzaileek erabili behar dituzte, AI garapenerako ahaleginak kudeatzen dituztenekin batera, eta baita, azken finean, AI sistemetan mantentzea lantzen eta egiten dutenekin batera. AIaren garapen eta erabileraren bizitza-ziklo osoan parte hartzen duten eragile guztiak AI Etikoaren ezarritako arauak betetzearen esparruan hartzen dira kontuan. Garrantzi handiko aipamena da hau, ohiko suposizioa delako "kodetzaileak" edo AI programatzen dutenek AI Etika nozioei atxikitzeko menpe daudela. Lehen esan bezala, herri bat behar da AI asmatzeko eta lantzeko, eta, horretarako, herri osoak AI Etika aginduak ezagutu eta bete behar ditu.

Ziurta dezagun, gainera, orrialde berean gaudela gaurko AIaren izaerari buruz.

Gaur egun ez dago sentikorra den AIrik. Ez dugu hau. Ez dakigu AI sentikorra posible izango den. Inork ezin du ongi iragar AI sentikorra lortuko dugun ala ez, ezta AI sentikorra nolabait miragarriki berez sortuko den supernoba kognitibo konputazional baten moduan (normalean berezitasuna deitzen dena, ikus nire estaldura hemen. esteka hemen).

Zentratzen ari naizen AI mota gaur egun daukagun AI ez sentikorra da. Buruz basatian espekulatu nahi bagenu sentikorra AI, eztabaida hau zeharo beste norabide batean joan liteke. AI sentikor bat giza kalitatekoa izango litzateke. Kontuan izan beharko zenuke AI sentikorra gizakiaren baliokide kognitiboa dela. Are gehiago, batzuek IA super-adimentsua izan genezakeela espekulatzen dutenez, pentsa daiteke AI hori gizakiak baino adimentsuagoa izan daitekeela (AI super-adimentsua aukera gisa aztertzeko, ikus estaldura hemen).

Utz ditzagun gauzak lurrean gehiago eta kontuan izan ditzagun gaur egungo AI konputazionala sentikorra.

Konturatu gaur egungo IA ez dela gai giza pentsamenduaren parean "pentsatzeko". Alexa edo Sirirekin elkarreragiten duzunean, elkarrizketa gaitasunak giza gaitasunen antzekoak dirudite, baina errealitatea da konputazionala dela eta giza ezagutza falta dela. AIaren azken aroak asko erabili ditu Machine Learning (ML) eta Deep Learning (DL), zeinak konputazio-ereduen parekatzea baliatzen baitute. Horrek gizakiaren antzeko joerak dituzten AI sistemak ekarri ditu. Bien bitartean, gaur egun ez dago zentzu arruntaren itxura duen AIrik eta giza pentsamendu sendoaren harridura kognitiborik ere ez duenik.

ML/DL eredu konputazionalaren parekatze modu bat da. Ohiko planteamendua erabakiak hartzeko zeregin bati buruzko datuak biltzea da. Datuak ML/DL ordenagailu ereduetara elikatzen dituzu. Eredu horiek eredu matematikoak aurkitu nahi dituzte. Eredu horiek aurkitu ondoren, aurkituz gero, AI sistemak eredu horiek erabiliko ditu datu berriak topatzerakoan. Datu berriak aurkeztean, datu "zahar" edo historikoetan oinarritutako ereduak aplikatzen dira egungo erabakia emateko.

Uste dut hau nora doan asma dezakezula. Erabakien eredua hartzen ari diren gizakiek alborapen txarrak sartu badituzte, litekeena da datuek modu sotil baina esanguratsuan islatzea. Machine Learning edo Deep Learning konputazio-ereduen parekatzea besterik ez da saiatuko datuak matematikoki imitatzen. Ez dago zentzu arruntaren edo beste alderdi sentikorren itxurarik AI-n landutako modelizazioaren berez.

Gainera, AI garatzaileak agian ez dira konturatzen zer gertatzen ari den. ML/DL-ko matematika arkanoak zaildu lezake orain ezkutuko alborapenak atzematea. Ziurrenik espero eta espero zenuke AI garatzaileek lurperatuta egon daitezkeen alborapenak probatuko dituztela, nahiz eta badirudi baino zailagoa den. Aukera sendoa dago, nahiz eta proba nahiko zabalak izan, ML/DL ereduak parekatzeko ereduetan oraindik txertatutako alborapenak egongo direla.

Garbage-in garba-out-en esaera ospetsua edo gaiztoa zertxobait erabil dezakezu. Kontua da, hau AIaren barnean murgiltzen diren alborapenak maltzurki sartzen diren alborapenen antzekoagoa da. AIren algoritmoen erabakiak hartzea (ADM) axiomatikoki desberdintasunez kargatzen da.

Ez da ona.

Itzuli gaitezen AI Asimetriari buruzko arretara.

Aipatutako hiru gomendioei buruzko laburpen azkar bat hau da:

1) Kontziente izan AI Asimetria existitzen dela eta hazten ari dela

2) AI Asimetria AI Etikak mugatzen duela ziurtatu

3) Saiatu AI asimetriari aurre egiten AIz armatuta

Gertuago aztertuko dugu suarekin suaren aurkako azken puntua.

Imajinatu mailegu bat lortu nahian, ahaleginaren alde lanean ari zen AI duzula. Hau AI oinarritutako aplikazio bat izan daiteke zure telefonoan, maileguak lortzeko sortu zena. Ez da bankuetako baten aplikazioa eta, horren ordez, modu independentean diseinatu da zure izenean jarduteko. Aplikazio mota hauek xehatu ditut AIan oinarritutako aingeru zaindarien bot-en liburuan, ikusi esteka hemen.

Mailegu bat eskatzen duzunean, aplikazio hau aipa dezakezu beste AI-ak eskaera prozesuan urratsak egiten ari zaren bitartean. Bi AI sistema hauek elkarrengandik guztiz bereiziak dira. Zure telefonoko AI-a "trebatu" da beste AIak erabiltzen dituen trikimailu guztiak ezagutzeko. Horrela, bankuaren AIan sartzen dituzun erantzunak zure AI-ak aholkatzen dizunaren arabera izango dira.

Beste aldaera bat zure AI-ak beste AI-ak egindako galderei erantzutea da. Beste AIak jakin dezakeenaren arabera, zu zara erantzunak sartzen ari zarena. Horren ordez, borrokan ari diren bi AI sistemen arteko elkarrekintzak gertatzen ari zarela ikustea besterik ez duzu. Horri esker, zure IAk zer eskaintzen duen ikusteko aukera ematen dizu. Gainera, potentzialki zure AI doi dezakezu zure AI zure izenean egiten ari denarekin pozik zauden ala ez.

Aurreikusi dut denok pixkanaka AI asimetria egoera hauetan gure alde egongo den IArekin armatuko garela.

Azter dezagun nola funtzionatuko duen.

Hauek dira ezarri nituen AI Asimetriaren baldintzaren oinarrizko inpaktuak:

• AI asimetria berdinduz zure alde (Gorantz ekartzen zaitu, maila berdinak lortzeko asmoz)
• AI asimetria bat bultzatu zure alde (jada berdinak zarenean abantaila batera igotzea)
• AI asimetria handitzea zure aparteko mesederako (abantaila zabalagoa eskuratzea dagoeneko abantailarekin)
• AI asimetriaren oharkabean gutxitzea zure disfavorerako (aurrez existitzen zen abantaila bat zenituenean eta AIak nahi gabe bota zintuenean)

Aukera interesgarri hauetan sakontzeko garaia da.

AI asimetria berdindu zure alde

AIren asimetria berdintzea da konturik agerikoena eta gehien eztabaidatzen dena, hots, AIrekin armatuko zinatekeela esku artean dagoen gaian beste aldean erabiltzen ari den AI-arekin bat egiten saiatzeko. AI Asimetria ezarpena zurekin hasi zen erabakitako desabantailarekin. Ez zenuen AIrik zure txokoan. Gauza baxuan egon zinen. Beste aldeak AI zeukan eta goi mailan zeuden.

Horrela, zu eta beste AI baldintza berdinetan jartzea helburu izango zuen AIarekin zuhurtziaz armatu zinen.

Kontuan izan beharreko ñabardura garrantzitsu eta agian harrigarri bat da ez dela beti izango erabiltzen ari diren AI sistemak elkarren aurka orekatuko direnik. Zure burua armatu dezakezu AI, hau da, beste aldea erabiltzen ari den AI baino indartsuago esango dugu. Kasu horretan, zure beherako posizioa handitu duzu, zorionez, nahiz eta orain ez zaren guztiz berdina beste aldearekin eta bere AIarekin.

Horregatik aipatzen dut AI asimetria berdintzea. Baliteke aldea murrizteko gai izatea, hutsunea guztiz itxi ez arren. Azken helburua zure alboan jarrera guztiz berdinera eramango zaituen IA erabiltzea litzateke. Kontua da, hau bideragarria izan daiteke edo ez. Beste aldeak AI oso garestiak izan ditzake eta AI-ren ama-eta-pop thrifty mart bertsioarekin lehiatzen saiatzen ari zara.

AI guztiak ez dira berdinak.

Zure onerako AI asimetria bultzatzea

Zirkunstantzia hau ez da asko eztabaidatzen den zerbait gaur egun, neurri batean oraintxe arraroa delako. Egunen batean, hau ohikoa izango da. Kontua da AI gabe zaudela eta, hala ere, AI duen aldearen parean zaudela.

Ona zuretzako.

Gizakiak badauka haiei buruz.

Baina baliteke abantaila bat lortu nahi izatea beste aldean. Zure burua AIz armatzeak goi-lurrera eramaten zaitu. Orain zure adimena eta zure AI fidagarria dituzu esku artean. Ustez beste aldeko AIaren gainetik gailenduko den abantaila lortu duzu.

AI asimetria bat zure aparteko mesederako areagotzea

Zure izenean AI asimetria bat bultzatzeko antzeko logika erabiliz, demagun dagoeneko AI erabiltzen ari den beste aldearen gaitasunen gainetik zaudela. Ergo, ez zara jarrera berdinean hasten. Zorionez dagoeneko goiko aldean zaude.

Baliteke, hala ere, abantaila handiagoa lortu nahi izatea. Hori dela eta, AIrekin armatu zara. Honek burua eta sorbaldak beste aldearen gainetik eramaten ditu.

AI asimetriaren oharkabean murriztea zure mesederako

Zalantza dut aukera honi buruz entzun nahi duzun. Mesedez, konturatu AIari aurre egitea ez dela arrosak eta izozki-opilak.

Gerta liteke AIz armatzen zarenean zure burua gutxitzea. Dagoeneko beste aldeko AI baino gutxiago bazina, orain zulo sakonago batean zaude. Baldintza berdinetan bazaude, desabantailan zaude orain. Beste aldearen gainetik egon bazina, orain horren berdina edo azpian zaude.

Nola gerta liteke hori?

Baliteke harrituta geratuko zara hartzen duzun AIak oker eramango zaituela pentsatzean. Hau erraz gerta liteke. Zure txokoan AI izateak ez du esan nahi erabilgarria denik. Baliteke AI erabiltzea eta nahitaez egokia denik uste ez duzun aholkuak ematen ditu, baina hala ere erabakitzen duzu. Garai hartan zure logika zen AIa lortzeko arazoa egin zenuenez, horren menpe egongo zinela ere.

Baliteke erabiltzen ari zaren AI akastuna izatea. Edo baliteke gaizki asmatua egotea. Arrazoi asko daude AI-ak aholku nahasiak emateko. AIak esaten duena itsu-itsuan onartzen dutenak minduta dagoen mundu batean aurkituko dira. Nire zutabean halako egoerak jaso ditut, esaterako esteka hemen.

Ondorioz, ez dago inolako bermerik AIrekin armatuta zaudelako AI Asymmetry jokoan irabaziko duzunik.

Baliteke maila berdineko eremu batera iristea. Abantaila bat lor dezakezu. Eta, tamalez, kontuz ibili behar duzu AIarekin armatuta dagoenean beheranzko mailara jalgitzea izan daitekeelako.

Neurri batean, horregatik AI Etika eta AI etikoa gai erabakigarria da. AI Etikaren aginduek adi egoteko garatzen gaituzte. AI teknologoak batzuetan teknologiarekin kezkatu daitezke, batez ere goi-teknologiaren optimizazioan. Ez dira zertan gizartearen adar handiagoak kontuan hartzen. AI Etika pentsamoldea izatea eta hori AI garapenean eta eremuan lantzea ezinbestekoa da AI egokia ekoizteko.

AI Etika erabiltzeaz gain, AIaren hainbat erabilera arautzeko legeak izan behar ditugun ala ez dago. Lege berriak zabaltzen ari dira federal, estatu eta tokiko mailan, AI nola sortu behar den sorta eta izaerari buruzkoak. Horrelako legeak egiteko eta indarrean jartzeko ahalegina pixkanaka da. AI Etikak geldiune gisa balio du, gutxienez, eta ia ziur aski neurri batean zuzenean sartuko da lege berri horietan.

Kontuan izan batzuek irmo esaten dutela ez dugula IA estaltzen duten lege berririk behar eta gure lehendik dauden legeak nahikoak direla. Izan ere, AIren lege horietako batzuk ezartzen baditugu, urrezko antzara hilko dugula ohartarazi dute, gizartearen abantaila izugarriak eskaintzen dituzten AIren aurrerapenak murrizteko. Ikusi adibidez nire estaldura helbidean esteka hemen esteka hemen.

Eztabaida handi honen une honetan, gai hau erakusteko adibide argigarri batzuk nahi dituzula apustu egingo nuke. Badira nire bihotzetik gertu dagoen adibide multzo berezi eta ezagun bat. Ikusten duzu, AI-n aditua naizen aldetik, adar etiko eta legalak barne, maiz eskatzen didate AI Etikaren dilemak erakusten dituzten adibide errealistak identifikatzea, gaiaren izaera teoriko samarra errazago ulertu ahal izateko. AI etiko istilu hau modu bizian aurkezten duen eremu iradokitzaileenetako bat AI-n oinarritutako benetako auto-gidatuen autoen etorrera da. Gaiari buruzko eztabaida zabalerako erabilpen kasu edo eredu erabilgarri gisa balioko du.

Hona hemen hausnarketa merezi duen galdera aipagarri bat: AI-n oinarritutako benetako auto gidatzen duten autoen etorrerak AIren asimetriari buruzko zerbait argitzen al du, eta hala bada, zer erakusten du honek?

Utzidazu une bat galdera deskonprimitzeko.

Lehenik eta behin, kontuan izan ez dagoela giza gidaririk benetako auto gidatzen duen auto batean. Gogoan izan norberak gidatzen dituen benetako autoak AI gidatzeko sistema baten bidez gidatzen direla. Ez dago gidari baten beharrik gurpilean, ezta gizaki batek ibilgailua gidatzeko aurreikuspenik ere. Ibilgailu autonomoen (AV) eta batez ere auto gidatzen duten autoen estaldura zabala eta etengabea ikusteko, ikus esteka hemen.

Gehiago argitu nahiko nuke zer esan nahi den benetako auto gidatzen diren autoak aipatzen ditudanean.

Auto gidatzeko autoen mailak ulertzea

Argibide gisa, benetako auto gidatzen diren autoak AIak autoa bere kabuz gidatzen dituenak dira eta gidatzeko zereginean zehar giza laguntzarik ez dagoen.

Gidaririk gabeko ibilgailu hauek 4. maila eta 5. maila hartzen dira (ikus nire azalpena helbidean esteka hau hemen), aldiz, giza gidari batek gidatzeko ahalegina elkarrekin partekatzea eskatzen duen autoa 2. edo 3. mailan hartzen da normalean. Gidatzeko zeregina elkarrekin partekatzen duten autoak erdi-autonomoak direla deskribatzen da, eta normalean hainbat eduki dituzte. ADAS (Advanced Driver-Assistance Systems) deitzen diren gehigarri automatizatuak.

5. mailan oraindik ez dago benetako auto autonomorik, eta oraindik ez dakigu hori lortzerik izango den, ezta zenbat denbora beharko duen bertara iristeko ere.

Bien bitartean, 4. mailako ahaleginak pixkanaka-pixkanaka trakzio pixka bat lortzen saiatzen ari dira bide publikoko entsegu oso estu eta selektiboak jasanez, nahiz eta eztabaida dagoen proba hori berez onartu behar den ala ez (denok gara esperimentu batean hil ala biziko kobaiak). gure autobideetan eta bide-bideetan gertatzen ari dena, batzuek diotenez, ikusi nire estaldura hemen esteka hau hemen).

Auto erdi autonomoak giza gidaria behar dutenez, auto mota horiek ez dira ohiko ibilgailuak gidatzea baino oso desberdinak izango. Beraz, ez dago gai horren inguruko gai asko estaltzeko gai hau (hala ere, ikusiko duzuenez une batez, hurrengo puntuak orokorrean aplikagarriak dira).

Auto erdi autonomoetarako, garrantzitsua da publikoa azkenaldian sortzen ari den alderdi kezkagarri baten aurrean jakitea, hots, 2. mailako edo 3. mailako auto baten gurpilean lokartzen ari diren giza gidariek argitaratzen jarraitzen duten arren. , guztiok saihestu behar dugu gidariak zereginetatik arreta kendu dezakeela auto erdi autonomo bat gidatzen duenean.

Ibilgailuaren gidaritza-ekintzen arduraduna zara, 2. mailara edo 3. mailara zenbat automatizazio bota litekeen kontuan hartu gabe.

Norbere gidatzen diren autoak eta AI asimetria

4. eta 5. mailako egiazko autoentzako gidatzeko ibilgailuentzat, ez da gidari lanetan parte hartuko duen gidaririk.

Okupatzaile guztiak bidaiariak izango dira.

AI gidatzen ari da.

Berehala eztabaidatu beharreko alderdi batek dakar gaur egungo AI gidatzeko sistemetan parte hartzen duen AI ez dela sentikorra. Beste modu batera esanda, AI ordenagailuan oinarritutako programazio eta algoritmoen kolektiboa da, eta ziur asko ez da gai gizakiak ahal duen moduan arrazoitzeko.

Zergatik ari da azpimarratzen AI hori sentikorra ez izateari?

Azpimarratu nahi dudalako AI gidatzeko sistemaren papera eztabaidatzerakoan, ez diodala giza ezaugarriak AIri ematen. Jakin ezazu egun antropomorfizatzeko AI joera etengabea eta arriskutsua dagoela. Funtsean, jendeak gizakien antzeko sentikortasuna esleitzen dio gaurko AIri, oraindik AI hori existitzen ez dela ukaezina eta eztabaidaezina izan arren.

Argibide horrekin, AI gidatzeko sistemak berez ez duela nolabait "gidatzearen alderdiak" jakingo pentsa dezakezu. Gidatzea eta horrek dakarren guztia autoa gidatzeko hardwarearen eta softwarearen zati gisa programatu beharko da.

Muga gaitezen gai honen inguruan jokatzera etortzen diren hainbat alderditan.

Lehenik eta behin, garrantzitsua da konturatzea AI auto gidatzen duten auto guztiak ez direla berdinak. Auto-fabrikatzaile eta auto-gidatzeko teknologia-enpresa bakoitzak bere ikuspegia hartzen ari da auto-gidatzeko autoak asmatzeko. Hori dela eta, zaila da AI gidatzeko sistemek egingo edo ez dutenari buruzko adierazpen zabalak egitea.

Gainera, AI gidatzeko sistema batek gauza bereziren bat egiten ez duela adierazten duen bakoitzean, geroago ordenagailua hori egiteko programatzen duten garatzaileek gainditu dezakete. Pausoz pauso, AI gidatzeko sistemak pixkanaka hobetzen eta hedatzen ari dira. Baliteke gaur egun dagoen mugarik ez egotea etorkizuneko sistemaren iterazio edo bertsio batean.

Espero dut horrek kontatuko dudanaren azpian jartzeko oharra nahikoa ematea.

Zirriborratu dezagun AI asimetria erakusten duen eszenatoki bat.

Kontuan hartu autonomoek gidatzen duten autoak bidaiariak hartzera nora joango diren itxuraz ezinbestekoa den kontua. Gai guztiz inozoa dirudi honek.

Hasieran, suposatu AI auto gidatzen duten autoak herri osoetan zehar ibiliko direla. Norbere gidatzen duen autoan ibilaldia eskatu nahi duenak, funtsean, aukera berdinak ditu bat agurtzeko. Pixkanaka-pixkanaka, AI autoak gidatzen dituzten autoak herriko zati bakarrean ibiltzen hasten da. Atal hau diru-sortzaile handiagoa da eta AI saiatzeko programatu da maximizatu diru-sarrerak komunitate orokorrean erabileraren zati gisa (horrek optimizazioaren azpian dagoen pentsamoldea azpimarratzen du, hots, metrika jakin batean zentratu eta prozesuan funtsezko beste faktore batzuk alde batera utzita).

Herriko toki pobretuetako komunitateko kideek aukera gutxiago dute auto gidatzen duten autotik ibiltzeko aukera. Hau da, norbere gidatzen diren autoak urrunago zeudelako eta herriko diru sarrera handieneko zatian ibiltzen zirelako. Eskaera hiri urrun batetik sartzen denean, hurbilago dagoen beste edozein eskaerak lehentasun handiagoa izango luke. Azkenean, ia ezinezkoa da norbere gidatzen duen auto bat hiriko parte aberatsean ez den edozein lekutan eskuratzea, eta izugarria da gaur egun baliabiderik gabeko eremu horietan bizi zirenentzat.

Norberak gidatzen dituen autoek bizia ekarri behar duten guztientzako mugikortasun amets goraipatuak ateratzen dira.

Baiezta dezakezu AI-ak erabateko alborapen estatistiko eta konputazional batean kokatu duela, proxy diskriminazio baten antzekoa (zeharkako diskriminazio gisa ere deitzen zaio askotan). Konturatu AI ez zela programatu auzo pobreago horiek saihesteko. Argi izan dezagun kasu honetan. Ez, diru-sarrerak optimizatzeko soilik sortu zen, itxuraz onargarria den helburua, baina hori egin zen AI garatzaileek beste adar potentzial batzuk kontuan hartu gabe. Optimizazio horrek, nahi gabe eta ezinbestean, emaitza desiragarria ekarri zuen.

Optimizazio pentsamoldearen barnean AI Etika kontuak sartu izan balituzte, baliteke aldez aurretik konturatu zatekeen AI-a neurri bakarrean neurriz gaindimentsio horri aurre egiteko IA landu ez bazuten, baliteke emaitza latzak saihestu zituztela. Ibilgailu autonomoen eta auto autonomoen adopzio hedatuak eragin ditzakeen arazo mota hauei buruz gehiago jakiteko, ikusi nire estaldura helbidean. esteka hau hemen, Harvardek zuzendutako ikerketa bat deskribatuz, gai horiei buruz idatzi nuena.

Edonola ere, demagun zaldia dagoeneko ukuilutik kanpo dagoela eta egoera ez dela berehala konponbide orokorretarako egokia.

Zer egin dezakete auto gidatzen duten auto horiek erabili nahi dituztenek?

Ikuspegirik agerikoena komunitateko buruzagiekin lan egitea litzateke auto-fabrikatzaileak edo norbere gidatzeko teknologia-enpresak AI nola konfiguratu duten berrikusteko. Agian presioa egin behar da hiri edo herri horretan autonomoen auto horiek hedatzeko eman diren lizentzia edo baimenetan. Aldaketa positiboak ekartzeko bide bideragarriak dira seguruenik, nahiz eta denbora pixka bat igaro liteke ahalegin horiek fruituak eman arte.

Beste angelu bat AIz armatzea izango litzateke.

Imajinatu norbaitek AI-n oinarritutako aplikazio bat asmatu duela zure telefonoan funtzionatzen duena eta ibilaldien eskaerak jasotzen ari den auto-fabrikatzailearen edo flota-operadorearen AI-arekin lan egiten duena. Baliteke erabiltzen ari zaren AIak beste AIren funtsezko elementuak ustiatzea, hala nola, zuk auto gidatzen duzun auto baten eskaerari lehentasun handiagoa ematen zaiola. Kontuan izan ez dudala iradokitzen legez kanpoko ezer gertatzen ari denik, baizik eta zure alboko AI-a beste AIan aurkitutako "ezaugarri" edo hutsuneetan oinarrituta garatu dela.

Ondorioa

Auto gidatzen duen autoen flotako operadorearen AI-aren aurka ausarki borrokatzeari buruzko istorioak AIz armaturik armatuta AI Etikaren eztabaida eta gogoeta gehigarriak ekartzen ditu.

Adibidez:

• Pertsona batek AI-a erabil badezake beste sistemaren baten AI baten aldean abantaila bat emateko, noraino irits daiteke honek AI Etikaren mugak gainditzeari dagokionez (norberak gidatzen dituzten autoak nigana eta nire lagunengana etortzeko konbentzitzen ditut, beste guztiak baztertuta)?
• Era berean, ba al dago AI Etika-ren bat ere, norbaitek beste AI batzuekin borroka egiteko IAren berri edo hornituta badago, orekatze AI hori ez duten gainerako pertsonek AI-ari nolabait abisatu eta bere burua armatu ahal izango lukete? horren arabera ere?

Azkenean, honek guztiak arraroa dirudien etorkizun batera garamatza, AI armamentu-lasterketaz osatua. Nork izango du mugitu eta bizirauteko behar duten IA eta nork ez? Beti egongo al da AI bat gehiago etortzen dena eta kontrapesa AI baten beharra pizten duena?

Carl Sagan, zientzialari gurtuak, jakituria jakintsu hau eman zuen bereziki kataklismiko armamentu-lasterketei buruz: "Arma-lasterketa nuklearra zinpeko etsai zinpeko bi etsai bezala da gasolinan gerri-barruan zutik, bata hiru pospolorekin, bestea bostekin".

Oinak lehor eta burua garbi mantentzea erabaki behar dugu AIren armamentu-lasterketa etengabea denean.