AI etika AI monokultura algoritmikoaren pentsamolde maltzurrari aurre egiten dio, auto autonomoentzako autoak barne.

Ikus diezaiogun enigma txundigarri bati.

Adimen handiek berdin pentsatzen dutela esaten da.

Zalantzarik gabe, askotan entzun duzu esaldi erabilgarri hori. Elkarrizketa alferren batzuetan, zu eta lankide edo lagun batek une zehatz berean ideia berdinean heltzea lortzen baduzu, zuetako batek gogo handiek berdin pentsatzen dutelako poztasunez esango du. Dudarik gabe, zuri eta zure lagunari buruzko adierazpen lausengagarria da.

Bada nahasketa honi gehitu diezaiokegun beste jakinduria jakintsu bat.

Ergelak gutxitan ezberdintzen direla esaten da.

Esaera hori apur bat birformulatu nahiko nuke. Esaera nahiko baliokidea ergelek berdin pentsatzeko joera dutela izango litzateke. Konturatzen naiz lerro ospetsuaren birmoldaketarekin zertxobait zalantzan jar dezakezula. Hala eta guztiz ere, nahiko zehatza dirudi ergelak gutxitan desberdintzen badira ondorioztatu dezakezula ergelek batez ere pentsamoldearen aldera jotzen dutela. Espero dut horrek bihotzerre edo harridura handiegirik ez eragitea jakinduria saindu baten aldaketa desbideratzeari dagokionez.

Orain dilema honen une arriskutsuan gaude.

Demagun argi eta garbi onartzen dugula adimen handiek berdin pentsatzen dutela oro har egia dela, eta arnas berean onartzen dugula ergelek berdin pentsatzeko joera duten baieztapena ere egia dela. Guztiak berdin pentsatzen ari diren pertsona talde batekin topo egiten zarenean, galdera sinple bat egin behar dizut.

Denak dira buru handiak ala denak ergelak?

Yikes!

Adimen handiei buruzko arauaren arabera, ustez oso gogoan daude. Aldiz, tontoei buruzko arauaren arabera, itxuraz denak dira tontoak. Badirudi arazo bat dugula. Baliteke totelka egitea pentsalari berdintsu hauek oso gogotsuak eta ergelak direla. Izan al zaitezke biak aldi berean? Badirudi galdera egiten saiatzen ari zarela.

Sutsuki esan liteke berdin pentsatzeak ez duela ezer transmititzen bilkurak asko edo ergelkeriaz pentsatzen duen ala ez. Logika hankaz gora jarri dugu agian nahi gabe. Berdin pentsatzen ari den pertsona multzo oro berdin pentsatzea besterik ez da. Ezin duzu saiatu haien pentsamoldearen antzekotasuna adimen handien edo buru ergelen multzo gisa etiketatuta egotearekin. Buru nahasiak izan daitezke. Konbentzitutako adimenak izan daitezke. Funtsean, baliteke karakterizazioa ez izatea zertan handia izatearen edo ergela izatearen dikotomia faltsu samarrean erori.

Mota guztietako ikuspegiak daude antzeko gogoa duten pertsonak inplikatzen dituzten ezarpenei.

Mahatma Gandhik esan zuenez, erabaki eta gogo berdinez osatutako talde txiki batek historiaren ibilbidea alda dezake. Honek, ziur aski, adimenak izatearen ahalmen izugarria erakusten du. Platonek ohartarazi zuen itxita dauden adimenei dagokienez, pentsamendu berdineko pertsona multzo etenik gabea izan daitekeela iradoki dezakezula, hau lor dezakezula: "Hori bakarrik beldurtu behar da: gogo itxia, lotan dagoen irudimena, izpirituaren heriotza».

Nora noa adimen antzekoei buruzko bitxikeriaren litania honekin?

Beno, badirudi kezkak daudela AI pixkanaka-pixkanaka bide saihestezina eta desiragarria den AI algoritmoak gure eguneroko jarduerak arautzen dituztelako. Honi laburbilduz esaten zaio AI monolaborantza algoritmikoa.

Gizarteak azpiko gaitasun algoritmiko berdinak edo ia berdinak izan ditzaketen AI sistema zabaletan oinarritzen den egoera batera goaz. Zentzu horretan, munduan zehar egongo den eskala masiboko pentsamoldearen aurrean zaurgarriak gara.

Gai honetan sakondu baino lehen, berehala argitu nahi dut ez dudala sentikorra den AIari erreferentzia egiten ari. Une batean azalduko dudanez, gaur ez dugu AI sentikorrik. AI sentikorra dugula aldarrikatzen duten titular basati eta begi zabal horiek izan arren, hori ez da guztiz horrela eta guztiz baztertu behar da.

Puntu garrantzitsu hau azpimarratzen dudan arrazoia hauxe da: AI "adibide bereko" gisa irudikatzen dudanean ez dudala nahi gaur egungo IA giza adimenaren baliokidea dela ondorioztatzea. Ziur ez dela. Mesedez, ez egin horrelako elkarte antropomorforik. Pentsamendu berdineko esaldiaren erabilerak AI algoritmoak modu berean funtzionatzen duen moduan osatu daitezkeela nabarmendu nahi du. Hala ere, ez dute "pentsatzen" giza pentsamendu-kalitate gisa ulertuko genukeenaren itxura batean. Honi buruz gehiago esango dut hemendik gutxira.

Eraikuntza monokultural algoritmiko bat izateari dagokionez "irudibide bera" duen IA aldi berean txarra eta ona dela baloratu dezakegun zerbait da. Gauzaren alde txarra zera da, normalean erabiltzen diren eta erabiltzen diren IA berdintsu hauek alborapen eta inklusio diskriminatzailez gainezka baldin badaude, litekeena da IA ​​modu maltzurrean erabiltzea hedatuta egotea eta praktika desatsegin horiek nonahi zabaltzea. Gauzen alde ona hauxe da: AI-a behar bezala diseinatu eta egiten bada alborapenik eta inklusio diskriminatzailerik gabe, espero dugu zuzentasuna zabaltzen ari garela. Horrek guztiak AI Etika eta AI Etikoko inplikazio erakusgarriak ditu. AI Etikari eta AI etikoari buruz dudan etengabeko estaldura zabala ikusteko, ikus esteka hemen esteka hemen.

Hona hemen AI monolaborantza algoritmoari buruzko nire zazpi arau praktikoak:

1) AI monolaborantza algoritmikoa azpiko algoritmo berberak edo ia berdinak erabiltzean datza, gero asko erabiltzen direnak gizakietan eragina duten erabakiak hartzeko.

2) Horrelako AI koherentzia eta fidagarritasuna eman dezake, nahiz eta hau aho biko ezpata den

3) Alde batetik, alde txarrak transmititzen dituen IA erraz zabaldu eta behin eta berriz erabiltzen da modu desegokian (txarra da)

4) Beste alde batetik, zuzentasuna eta beste propietate justu desiragarriak biltzen dituen IA, zorionez, zabal litekeela (ona da)

5) Sistema osoko ahultasun mota bat dago kalibre honetako AI homogeneotasuna izatean eta kolpe disruptiboek izugarri gutxitu dezakete.

6) AI heterogeneotasuna hobets liteke batzuetan, nahiz eta horrek sor daitezkeen inkongruentzia handien kezka sortzen duen

7) Denok pentsatu, behatu eta AI monolaborantza algoritmikoari aurre egin behar diogu

AI monolaborantza algoritmikoaren azpian dauden haragi eta patata gehiagotan sartu baino lehen, ezarri ditzagun oinarri osagarri batzuk sakonki integraleko gaietan. Laburki murgildu behar dugu AI Etikan eta bereziki Machine Learning (ML) eta Deep Learning (DL) etorreran.

Lausoki jabetuko zara gaur egun AIren alorrean eta baita AIren eremutik kanpo ere ahots ozenenetako bat AI Etikoaren itxura handiagoa aldarrikatzean dela. Ikus dezagun zer esan nahi duen AI Etika eta AI etikoa aipatzea. Horrez gain, Machine Learning eta Deep Learning buruz hitz egiten dudanean zer esan nahi dudan aztertuko dugu.

Komunikabideen arreta handia jaso duen AI Etikaren segmentu edo zati jakin bat alderdikeriak eta desberdintasunak erakusten dituen IAk osatzen dute. Baliteke kontziente izango AIaren azken aroa martxan jarri zenean ilusio handia izan zela batzuek gaur egun deitzen duten hori AI For Good. Zoritxarrez, zirrara isuri horren harira, lekukotzen hasi ginen AI For Bad. Adibidez, AI-n oinarritutako aurpegi-ezagutze-sistemak arraza-alborapenak eta genero-alborapenak dituztela agerian utzi dute, eta horiei buruz hitz egin dudanean. esteka hemen.

Aurkako borroka egiteko ahaleginak AI For Bad aktiboki abian dira. Oihuka gainera legezko gaizki-egiteei eusteko asmoz, AIren etika onartzeko bultzada nabarmena ere badago AIren gaiztakeria zuzentzeko. Ideia da AI etikoaren funtsezko printzipioak onartu eta onartu beharko genituzkeela IA garatzeko eta lantzeko. AI For Bad eta, aldi berean, hoberena iragartzen eta sustatuz AI For Good.

Erlazionatutako ideia batean, AI erabiltzen saiatzearen defendatzailea naiz AIren arazoen konponbidearen zati gisa, suarekin suarekin borrokatzeko pentsamendu modu horretan. Adibidez, AI etikoen osagaiak txerta genitzake AI sistema batean, gainontzeko AIak gauzak nola egiten dituen kontrolatuko duena eta, beraz, denbora errealean edozein diskriminazio-ahaleginak harrapatzeko. Ikusi nire eztabaida hemen. esteka hemen. AI Etika monitore gisa jarduten duen AI sistema bereizi bat ere izan genezake. AI sistemak gainbegiratzaile gisa funtzionatzen du beste AI bat amildegi ez-etikoan sartzen denean jarraitzeko eta detektatzeko (ikusi horrelako gaitasunen azterketa hemen esteka hemen).

Une batean, AI Etikaren azpian dauden printzipio nagusi batzuk partekatuko ditut zurekin. Zerrenda mota asko daude han eta hemen inguruan. Esan liteke oraindik ez dagoela erakargarritasun eta adostasun unibertsalaren zerrenda berezirik. Hori da zorigaiztoko albistea. Berri ona da gutxienez eskuragarri daudela AI Etika zerrendak eta nahiko antzekoak izan ohi direla. Guztiak esanda, horrek iradokitzen du nolabaiteko konbergentzia arrazoitu baten bidez AI Etika zertan datzan komuntasun orokorrerantz aurkitzen ari garela.

Lehenik eta behin, labur ditzagun AI Etikoko manu orokor batzuk AI lantzen, lantzen edo erabiltzen duen edonork ezinbesteko kontua izan behar duena ilustratzeko.

Adibidez, Vatikanoak dioen bezala Erromako AI Etikarako Deia eta sakonki jorratu dudan bezala esteka hemenHauek dira identifikatutako sei oinarrizko AI etika printzipioak:

• Gardentasuna: Printzipioz, AI sistemek azalgarriak izan behar dute
• sartzea: Gizaki guztien beharrak kontuan hartu behar dira, guztion onura izan dadin, eta pertsona guztiei eskein diezaieke bere burua adierazteko eta garatzeko baldintza onenak.
• Erantzukizuna: AIaren erabilera diseinatzen eta zabaltzen dutenek ardura eta gardentasunarekin jarraitu behar dute
• Inpartzialtasuna: Ez sortu edo ez jokatu joeraren arabera, horrela zuzentasuna eta giza duintasuna bermatuz
• Fidagarritasuna: AI sistemek modu fidagarrian funtzionatzeko gai izan behar dute
• Segurtasuna eta pribatutasuna: AI sistemek segurtasunez funtzionatu behar dute eta erabiltzaileen pribatutasuna errespetatu behar dute.

AEBetako Defentsa Sailak (DoD) bere dokumentuan adierazi duenez Adimen artifiziala erabiltzeko printzipio etikoak eta sakonki jorratu dudan bezala esteka hemenHauek dira AIren sei printzipio etiko nagusiak:

• Arduraduna: DoDko langileek epai eta arreta maila egokiak erabiliko dituzte AI gaitasunen garapenaren, hedapenaren eta erabileraren ardura izaten jarraitzen duten bitartean.
• Ekitatiboa: Sailak nahita neurriak hartuko ditu AI gaitasunetan nahi gabeko alborapenak minimizatzeko.
• Trazagarria: Departamentuaren AI gaitasunak garatu eta zabalduko dira, dagokion langileek AI gaitasunei aplikagarri zaizkien teknologia, garapen-prozesu eta metodo operatiboen ulermen egokia izan dezaten, metodologia gardenak eta ikuskagarriak, datu-iturriak eta diseinu-prozedura eta dokumentazioa barne.
• Seriotasuna: Sailaren AI gaitasunek erabilera esplizituak eta ongi zehaztuak izango dituzte, eta gaitasun horien segurtasuna, segurtasuna eta eraginkortasuna probak eta bermeak izango dira definitutako erabilera horietan bizi-ziklo osoan zehar.
• Gobernagarria: Sailak AI gaitasunak diseinatu eta diseinatuko ditu aurreikusitako funtzioak betetzeko, nahi gabeko ondorioak detektatzeko eta ekiditeko gaitasuna duen bitartean, eta nahi gabeko portaera erakusten duten sistemak desaktibatzeko edo desaktibatzeko gaitasuna.

AIaren etika-printzipioen analisi kolektibo ezberdinei buruz ere eztabaidatu dut, besteak beste, nazioko eta nazioarteko AI etikako printzipio ugariren funtsa aztertu eta laburtu zuen ikertzaileek asmatutako multzoa aztertu izana "The Global Landscape Of AI Ethics Guidelines" (argitaratutakoa). urtean Nature), eta nire estaldurak hemen aztertzen du esteka hemen, eta horrek giltzarri zerrenda honetara eraman zuen:

• Transparency
• Justizia eta zuzentasuna
• Ez-Malefizia
• Erantzukizun
• Pribatutasuna
• Ongintzaren
• Askatasuna eta Autonomia
• Fidatu
• Iraunkortasun
• duintasuna
• Elkartasuna

Zuzenean asmatuko duzun bezala, printzipio horien azpian dauden zehaztasunak zehazten saiatzea oso zaila izan daiteke. Are gehiago, printzipio zabal horiek guztiz ukigarri eta zehatza den zerbait bilakatzeko ahalegina AI sistemak lantzean erabiltzeko moduko intxaur gogorra ere bada. Erraza da, oro har, AI Etikaren manuak zer diren eta orokorrean nola behatu behar diren eskuz astintzea, AI kodeketa askoz ere egoera zailagoa da errepidea betetzen duen benetako goma izan behar izatea.

AI Etika-printzipioak AI garatzaileek erabili behar dituzte, AI garapenerako ahaleginak kudeatzen dituztenekin batera, eta baita, azken finean, AI sistemetan mantentzea lantzen eta egiten dutenekin batera. AIaren garapen eta erabileraren bizitza-ziklo osoan parte hartzen duten eragile guztiak AI Etikoaren ezarritako arauak betetzearen esparruan hartzen dira kontuan. Garrantzi handiko aipamena da hau, ohiko suposizioa delako "kodetzaileak" edo AI programatzen dutenek AI Etika nozioei atxikitzeko menpe daudela. Lehen esan bezala, herri bat behar da AI asmatzeko eta lantzeko, eta, horretarako, herri osoak AI Etika aginduak ezagutu eta bete behar ditu.

Ziurta dezagun, gainera, orrialde berean gaudela gaurko AIaren izaerari buruz.

Gaur egun ez dago sentikorra den AIrik. Ez dugu hau. Ez dakigu AI sentikorra posible izango den. Inork ezin du ongi iragar AI sentikorra lortuko dugun ala ez, ezta AI sentikorra nolabait miragarriki berez sortuko den supernoba kognitibo konputazional baten moduan (normalean berezitasuna deitzen dena, ikus nire estaldura hemen. esteka hemen).

Zentratzen ari naizen AI mota gaur egun daukagun AI ez sentikorra da. Buruz basatian espekulatu nahi bagenu sentikorra AI, eztabaida hau zeharo beste norabide batean joan liteke. AI sentikor bat giza kalitatekoa izango litzateke. Kontuan izan beharko zenuke AI sentikorra gizakiaren baliokide kognitiboa dela. Are gehiago, batzuek IA super-adimentsua izan genezakeela espekulatzen dutenez, pentsa daiteke AI hori gizakiak baino adimentsuagoa izan daitekeela (AI super-adimentsua aukera gisa aztertzeko, ikus estaldura hemen).

Utz ditzagun gauzak lurrean gehiago eta kontuan izan ditzagun gaur egungo AI konputazionala sentikorra.

Konturatu gaur egungo IA ez dela gai giza pentsamenduaren parean "pentsatzeko". Alexa edo Sirirekin elkarreragiten duzunean, elkarrizketa gaitasunak giza gaitasunen antzekoak dirudite, baina errealitatea da konputazionala dela eta giza ezagutza falta dela. AIaren azken aroak asko erabili ditu Machine Learning (ML) eta Deep Learning (DL), zeinak konputazio-ereduen parekatzea baliatzen baitute. Horrek gizakiaren antzeko joerak dituzten AI sistemak ekarri ditu. Bien bitartean, gaur egun ez dago zentzu arruntaren itxura duen AIrik eta giza pentsamendu sendoaren harridura kognitiborik ere ez duenik.

ML/DL eredu konputazionalaren parekatze modu bat da. Ohiko planteamendua erabakiak hartzeko zeregin bati buruzko datuak biltzea da. Datuak ML/DL ordenagailu ereduetara elikatzen dituzu. Eredu horiek eredu matematikoak aurkitu nahi dituzte. Eredu horiek aurkitu ondoren, aurkituz gero, AI sistemak eredu horiek erabiliko ditu datu berriak topatzerakoan. Datu berriak aurkeztean, datu "zahar" edo historikoetan oinarritutako ereduak aplikatzen dira egungo erabakia emateko.

Uste dut hau nora doan asma dezakezula. Erabakien eredua hartzen ari diren gizakiek alborapen txarrak sartu badituzte, litekeena da datuek modu sotil baina esanguratsuan islatzea. Machine Learning edo Deep Learning konputazio-ereduen parekatzea besterik ez da saiatuko datuak matematikoki imitatzen. Ez dago zentzu arruntaren edo beste alderdi sentikorren itxurarik AI-n landutako modelizazioaren berez.

Gainera, AI garatzaileak agian ez dira konturatzen zer gertatzen ari den. ML/DL-ko matematika arkanoak zaildu lezake orain ezkutuko alborapenak atzematea. Ziurrenik espero eta espero zenuke AI garatzaileek lurperatuta egon daitezkeen alborapenak probatuko dituztela, nahiz eta badirudi baino zailagoa den. Aukera sendoa dago, nahiz eta proba nahiko zabalak izan, ML/DL ereduak parekatzeko ereduetan oraindik txertatutako alborapenak egongo direla.

Garbage-in garba-out-en esaera ospetsua edo gaiztoa zertxobait erabil dezakezu. Kontua da, hau AIaren barnean murgiltzen diren alborapenak maltzurki sartzen diren alborapenen antzekoagoa da. AIren algoritmoen erabakiak hartzea (ADM) axiomatikoki desberdintasunez kargatzen da.

Ez da ona.

Itzuli gaitezen AI monolaborantza algoritmikoari buruzko arretara.

Badirudi denok konturatzen garela gaur egungo mundu digitalean interkonektatuta dagoen munduan datu-pixka txiki-txiki bat izatea datu-base batean kokatuta eta noranahi joango dela dirudiela. Esate baterako, demagun datu-base bat existitzen dela, zu kreditu onuragarria ez zarela adierazle bat duen datu bat duen. Hau egia izan daiteke zurekin edo guztiz faltsua izan daiteke. Baliteke datu-baseak informazio hori daukala jakitun izatea edo baliteke horren berri ez izatea. Guztiok murgilduta gauden datu-multzo baten unibertsoaren iragarpen handi bat da.

Adierazle hau daukan datu-baseak erraz partekatu ahal izango du zuri buruzko funtsezko alderdi hori beste datu-base batzuekin. Begi baten keinu eskas batean, mundu osoko elektronikoki konektatutako datu-baseek orain transmititutako bandera izan dezakete zu ez zarela kreditatzeko. Mailegu bat eskatzea aukeratzen baduzu, litekeena da maileguak onartzeko aplikazio batzuk datu-base horietako batera iristea eta baztertu beharrekoa dioen bandera berreskuratzea. Baliteke mailegua lortzen saiatuko zarete munduko lekuren batean zaudenean eta behin-behinean uko egin. Beste eremu batera bidaiatzeak ezer gutxi balio dezake. Datu-baseen interkonexioak atzeman egingo zaitu noraino bidaiatzen duzun.

Zorionez, datuei eta pribatutasunari buruzko hainbat lege daude pixkanaka indarrean jarri direnak. Legeak nabarmen desberdinak dira herrialde batetik bestera. Estatu batetik bestera ere desberdinak izan daitezke. Baina, gutxienez, zu buruzko informazioa azkar zabaltzeko gai diren datu-baseetan edukitzeak dakartzan arriskuez jabetzen da. Itxaropena da informazio faltsua saihesteko edo, gutxienez, zuri buruz existitzen dela jakitea legezko baliabide bat izango duzula. Ikusi nire estaldura helbidean esteka hemen pribatutasun intrusioei eta AIari buruz.

Uste dut zuei buruzko datuak "tag, you are it" joko moduko esaera bat direla esan dezakezula (batzuetan etiketatutako pertsona izan nahi dugu, eta beste batzuetan hain etiketatuta ez egotea nahi dugu).

Arnasa hartu.

Demagun makila magiko bat astintzen dugula eta mirariz bermatu dezakegula zuri buruzko datuen homogeneotasun hori ez dela gertatuko. Gizarte guztia elkartu eta era honetako ekintzak geldiarazteko gai gara. Hortaz, pentsa dezakezu jada ez zaudela horrelako kezkaren arriskuan.

Barkatu esatea, AI monolaborantza algoritmikoak inposatzen dituen arriskuak galduko dituzu.

Hona hemen zergatik.

Mailegu bat lortu nahiaren adibidera itzuliko gara. Imajinatu emaile batengana joaten zarela eta Y algoritmoa deituko dugun algoritmo jakin bat duen AI sistema bat erabiltzen ari direla. Zure kasuan, zure datuak aplikatzen dituzunean eta ematen dituzunean, Y algoritmoa horrela idazten da. unean bertan zehaztuko du matematikoki maileguari uko egin behar diozun ala ez. Funtsean, algoritmo honek "erabaki" dezake kreditu-merezi ez zarela.

Kontuan izan kasu honetan AI ez dela datu-base batera heldu zure kreditu-maila lortzen saiatzeko itxurak egiten ari garela. Beraz, ez dago aukerarik AI-k han edo hemen datu-base batean eserita zeuden datu batzuetan oinarritutako atzerapena egiteko. Aukera osoa Y algoritmoaren bidez egin da inplikatutako konputazioei dagokienez.

AIk adierazten du mailegua ukatu zaizula. Ziur nago emaitza honekin etsita egongo zarela. Baliteke sorbaldak altxatu eta beste emaile batengana joatea aukeratzea. Berriz ere, ziur badakizu ez dagoela eztabaidatik kanporatzen zaituen datu-baserik. Zure ustez, egin behar duzun guztia mailegu-emaile ezberdinetan saiatzen jarraitzea da eta azkenean argi berdea lortuko duzu.

Beste mailegu-emaile batengana joatean, berriro uko egiten zaituzte. Hau kezkagarria da. Beste emaile batekin saiatzen zara, baina azkar uko egiten duzu. Bata bestearen atzetik, saiakera bakoitzak emaitza lotsagarri bera dakar. Larrituta zaude. Aspertu gabe zaude.

Zer arraio gertatzen da?

Mailegu-emaile horiek guztiek ezkutuan konspiratu al dute mailegurik ez duzula ziurtatzeko?

Erantzun laburra "Ez" da eta berez ez zutela konspiratu esango dugu. Horren ordez, denek Y algoritmoa erabili zuten. Ez zuten "konspiratu" atzeko gela batean bildu eta Y algoritmoa beren AIan erabiltzearen zentzuan. Ez zen denek Y algoritmoa erabiliko zutela esan zuen mafia estiloko elkarretaratzerik. Ohar gisa, hori benetan gerta zitekeela suposatzen du, baina eztabaidaren mesedetan alternatiba horiek alde batera utziko ditugu oraingoz. .

Arrazoi guztiz zentzuzkoa dago Y algoritmoa emaile bereizi eta bereizi horiek guztiek erabil dezaketela. Baliteke Y algoritmoa kode ireki gisa eskuragarri egotea. Mailegu-emaile ezberdin horietako AI garatzaileek kasu bakoitzean kode irekiko liburutegi batera jo eta kode zati hori beren AI sisteman kopiatu besterik ez dute egin.

Hau izan zen ziurrenik lana egiteko biderik errazena eta azkarrena. Ez da hutsetik saiatu behar Y algoritmo hori asmatzen. Lineako sarbidea minutu gutxiren buruan, kodeketa dagoeneko eginda dago eta zuzenean erabiltzeko prest. Kopiatu eta itsatsi. Gainera, baliteke kodearen edozein arazketa egin beharrik saihestea. Zure ustez, baliteke kodea dagoeneko ondo probatuta dagoela eta ez duzula gurpila berrasmatu beharrik.

Ados, mailegu-emaileek guztiak errugabeki aukeratzen dute Y algoritmoa erabiltzea. Aukera ona dago Y algoritmoa kreditu-kalitatea egiaztatzeko erabiliko den "urrezko estandarra" izenez ezagutzen dena. Eta horrek algoritmo jakin hori hartzea are ezagunagoa izango da. AI garatzaileek ez dute denbora aurrezten bakarrik erabiltzen, gauzak seguru jokatzen ari dira. Beste guztiek zin egiten dute algoritmoa erabiltzeko bideragarria dela. Zergatik borrokatu behar duzu jendetzaren jakinduriaren aurka? Zuhurtziagabea irudituko litzateke hori egitea.

Ongi etorri AI monolaborantza algoritmikoaren garaira.

Adibide honen bidez azaldu dugu algoritmo bera behin eta berriz erabil daitekeela AI sistema ugaritan. Ez dago bereziki konspiraziorik. Ez dago trama gaizto super-duperrik. Eskema gaizto horien ordez, algoritmo jakin bat nagusi bihurtzen da arrazoi bertutetsu eta onuragarri gisa irudikatu litezkeenak direla eta.

Azken urteotan, algoritmo berdinak zabaltzeko aukera egon da, nahiz eta oztopo gehiago gainditu behar izan. Gaur egun, algoritmoak biltegiratzeko zentroen erabilera ia ahaleginik gabe sartzen da. Kode irekia aurreko belaunaldietan agian baino onartuagoa da. Eta abar.

Aztertu dugun mailegu-emailearen adibide bakarrarekin, bi mailegu-emaile, hogei emaile, berrehun emaile, bi mila emaile edo agian ehunka mila mailegu-emaile guztiek Y algoritmo bera erabiltzeko aukera izango dute. AI. AI algoritmoa segurua da. Mundu osoan AIan hautatzen eta barneratzen ari da.

Inork ez du bandera gorririk altxatzen. Ez dago horretarako arrazoirik. Bada, baliteke bandera gorria igotzea mailegu-emaile batzuek Y algoritmoa ez erabiltzea aukeratzen dutenean. Aizu, baliteke galdera gomendagarria izatea, ez duzu Y algoritmoa erabiltzen ari. Zer ematen du? Nahita saiatzen al zara zerbait egin gabe edo zikina egiten? Talde zure ekintza eta etorri beste guztiekin.

Estrapolatu monolaborantza kontzeptual hori AI sistemetara eta era guztietako algoritmoetara.

Ikerketa-ikerketa batek honela deskribatu zuen fenomenoa: "Gizartearen aukerak moldatzeko erabiltzen diren algoritmoen gorakada monolaborantzari buruzko kezkak izan ditu: aukerak eta hobespenak homogeneo bihurtuko direla sendaketa algoritmikoaren aurrean" (Jon Kleinberga eta Manish Raghavana, "Monokultura algoritmikoa eta Gizarte Ongizatea" PNAS 2021). Gainera, azpimarratzen dute: "Algoritmoak kasuan-kasuan zehatzagoak badira ere, denek algoritmo bera erabiltzen duten mundu batek korrelaziozko porrotak jasan ditzake algoritmoa baldintza kaltegarrietan aurkitzen denean".

Orain modu erabilgarrian berrikusi dezakegu AI monolaborantza algoritmoari buruzko nire lehen zazpi arau multzoa:

1) AI monolaborantza algoritmikoa azpiko algoritmo berberak edo ia berdinak erabiltzean datza, gero asko erabiltzen direnak gizakietan eragina duten erabakiak hartzeko.

2) Horrelako AI koherentzia eta fidagarritasuna eman dezake, nahiz eta hau aho biko ezpata den

3) Alde batetik, alde txarrak transmititzen dituen IA erraz zabaldu eta behin eta berriz erabiltzen da modu desegokian (txarra da)

4) Beste alde batetik, zuzentasuna eta beste propietate justu desiragarriak biltzen dituen IA, zorionez, zabal litekeela (ona da)

5) Sistema osoko ahultasun mota bat dago kalibre honetako AI homogeneotasuna izatean eta kolpe disruptiboek izugarri gutxitu dezakete.

6) AI heterogeneotasuna hobets liteke batzuetan, nahiz eta horrek sor daitezkeen inkongruentzia handien kezka sortzen duen

7) Denok pentsatu, behatu eta AI monolaborantza algoritmikoari aurre egin behar diogu

Nire 2. arauan adierazi bezala, AI monolaborantza algoritmoari buruzko aho biko ezpata bat dago.

Nire 3. arauaren arabera, makilaren mutur laburrean amaitu dezakezu. Mailegu-emaileak mailegu-emaileak baztertzen badituzu, edonora zoazela, eta Y algoritmoak alborapen batean edo beste oinarri desegoki batean oinarrituta egiten badu, tamalez madarikatua zaude. Askoz zailagoa izango duzu hau irauli nahian. Datu-base batean zuri buruzko datuen kasuan, aukerak dira legezko errekurtsoren bat edukitzea eta datu txarrak egin dezaketenaren aitorpen orokorra ere. Inor gutxik ulertuko luke algoritmo txar batek jarraitzen dizula lurraren muturreraino.

Nire 4. arauaren arabera, AI monolaborantza algoritmikoaren alde on bat dago. Demagun Y algoritmoak behar bezala galarazten dizula mailegu bat lortzea. Baliteke maltzurki eta gaiztoki saiatzea gauzak engainatzen inguruan erosketak eginez. Y algoritmo bera asko erabiltzen ari denez, zure erosketak nekez lortuko du urrea. Nahiz eta baliteke algoritmoaren bidezkotasunaren aukera iraunkor eta komun baten ideia gustatuko ez litzaiguke (horrelakorik badago, ikusi nire analisia hemen esteka hemen), ziurrenik poztu gaitezke gauza on bat zabaltzen denean.

Jarraian eztabaida ditzagun shocks.

Nire 5. arauan, adierazten dut azpian dagoen kezka bat dagoela AI monolaborantza algoritmiko batek eten handia izan dezakeela. Hau erraz azaltzen da. Imajinatu Y algoritmoan software akats bat dagoela. Inork ez zuen konturatu. Eonetan, han ezkutatuta egon da bistan. Hau inoiz gerta zitekeen zalantzan baduzu, hots, akats bat kode irekian egongo litzatekeela eta oraindik lehenago aurkitu ez denik, ikusi nire estaldura helbidean. esteka hemen halako kasuetakoak.

Akatsak azaleratzen du eta Y algoritmoa denek uste zuten kode gorestua ez izatea eragiten du. Konturatu akats hau milaka eta milaka AI sistema horietan eserita dagoela. Modu laburrean, akatsa planeta osoan topa daiteke, eta azkar nahaspila izugarri baten aurrean aurkitzen gara. Denek arrautzak saski batean sartzen dituztenez, eta saskia guztiz okertuta dagoenez, gauza bera gertatzen ari da mundu osoan.

Proportzio epikoko hondamendia.

Teorian, hori ez litzateke erraz gertatuko mailegu-emaileek bakoitzak bere jabedun algoritmoak asmatu izan balitu. Litekeena da bietako batek akatsen bat izango balu, besteak ez izatea. Oinarrizko kode bera erabiltzen duten guztien kasuan, akats bera dute guztiek.

Izugarri egiten baduzu, iaioa egiten ez baduzu.

Ziur nago zuetako batzuk oihukatzen ari zarela monolaborantzaren ezarpenean akatsari buruzko albiste ona dela konponketa bat eskuragarri badago, denek konponketa bera ezarri dezaketela. Hau gaia ikusteko modu distiratsua eta eguzkitsua izango litzatekeela dirudi. Bai, baliteke horrek funtzionatu. Hemen, ordea, funtsezkoa da orokorrean etenaldi bat izateko aukera handiagoa dagoela. Ebazpenari aurre egiteko errazagoa izan badaiteke ere, monolaborantza alderdien ondoriozko etenaren masibotasunaren aurrean zaude oraindik.

Shock bat eragin dezakeen akats baten kasuaz gain, beste agertoki kezkagarri asko aurki ditzakegu. Bata, herri-erabiltzen den algoritmo bat usurpatzeko modu gaizto bat asmatzen duen ziber maltzur bat izango litzateke. Gaiztoak eskuetan izan lezake bonanza bat. AItik AIra joan daitezke, AIak zerbait zitala egin dezan. Guztia algoritmo bera behin eta berriz erabili zelako. Eskala masiboa onerako aprobetxatu daiteke eta, tamalez, txarrerako ustiatu daiteke.

Eztabaida handi honen une honetan, gai hau erakusteko adibide argigarri batzuk nahi dituzula apustu egingo nuke. Badira nire bihotzetik gertu dagoen adibide multzo berezi eta ezagun bat. Ikusten duzu, AI-n aditua naizen aldetik, adar etiko eta legalak barne, maiz eskatzen didate AI Etikaren dilemak erakusten dituzten adibide errealistak identifikatzea, gaiaren izaera teoriko samarra errazago ulertu ahal izateko. AI etiko istilu hau modu bizian aurkezten duen eremu iradokitzaileenetako bat AI-n oinarritutako benetako auto-gidatuen autoen etorrera da. Gaiari buruzko eztabaida zabalerako erabilpen kasu edo eredu erabilgarri gisa balioko du.

Hona hemen hausnarketa merezi duen galdera aipagarri bat: AIan oinarritutako benetako auto gidatzen duten autoen etorrerak argitzen al du AI monolaborantza algoritmikoari buruz, eta hala bada, zer erakusten du honek?

Utzidazu une bat galdera deskonprimitzeko.

Lehenik eta behin, kontuan izan ez dagoela giza gidaririk benetako auto gidatzen duen auto batean. Gogoan izan norberak gidatzen dituen benetako autoak AI gidatzeko sistema baten bidez gidatzen direla. Ez dago gidari baten beharrik gurpilean, ezta gizaki batek ibilgailua gidatzeko aurreikuspenik ere. Ibilgailu autonomoen (AV) eta batez ere auto gidatzen duten autoen estaldura zabala eta etengabea ikusteko, ikus esteka hemen.

Gehiago argitu nahiko nuke zer esan nahi den benetako auto gidatzen diren autoak aipatzen ditudanean.

Auto gidatzeko autoen mailak ulertzea

Argibide gisa, benetako auto gidatzen diren autoak AIak autoa bere kabuz gidatzen dituenak dira eta gidatzeko zereginean zehar giza laguntzarik ez dagoen.

Gidaririk gabeko ibilgailu hauek 4. maila eta 5. maila hartzen dira (ikus nire azalpena helbidean esteka hau hemen), aldiz, giza gidari batek gidatzeko ahalegina elkarrekin partekatzea eskatzen duen autoa 2. edo 3. mailan hartzen da normalean. Gidatzeko zeregina elkarrekin partekatzen duten autoak erdi-autonomoak direla deskribatzen da, eta normalean hainbat eduki dituzte. ADAS (Advanced Driver-Assistance Systems) deitzen diren gehigarri automatizatuak.

5. mailan oraindik ez dago benetako auto autonomorik, eta oraindik ez dakigu hori lortzerik izango den, ezta zenbat denbora beharko duen bertara iristeko ere.

Bien bitartean, 4. mailako ahaleginak pixkanaka-pixkanaka trakzio pixka bat lortzen saiatzen ari dira bide publikoko entsegu oso estu eta selektiboak jasanez, nahiz eta eztabaida dagoen proba hori berez onartu behar den ala ez (denok gara esperimentu batean hil ala biziko kobaiak). gure autobideetan eta bide-bideetan gertatzen ari dena, batzuek diotenez, ikusi nire estaldura hemen esteka hau hemen).

Auto erdi autonomoak giza gidaria behar dutenez, auto mota horiek ez dira ohiko ibilgailuak gidatzea baino oso desberdinak izango. Beraz, ez dago gai horren inguruko gai asko estaltzeko gai hau (hala ere, ikusiko duzuenez une batez, hurrengo puntuak orokorrean aplikagarriak dira).

Auto erdi autonomoetarako, garrantzitsua da publikoa azkenaldian sortzen ari den alderdi kezkagarri baten aurrean jakitea, hots, 2. mailako edo 3. mailako auto baten gurpilean lokartzen ari diren giza gidariek argitaratzen jarraitzen duten arren. , guztiok saihestu behar dugu gidariak zereginetatik arreta kendu dezakeela auto erdi autonomo bat gidatzen duenean.

Ibilgailuaren gidaritza-ekintzen arduraduna zara, 2. mailara edo 3. mailara zenbat automatizazio bota litekeen kontuan hartu gabe.

Norberak gidatzen dituen autoak eta AI monolaborantza algoritmikoa

4. eta 5. mailako egiazko autoentzako gidatzeko ibilgailuentzat, ez da gidari lanetan parte hartuko duen gidaririk.

Okupatzaile guztiak bidaiariak izango dira.

AI gidatzen ari da.

Berehala eztabaidatu beharreko alderdi batek dakar gaur egungo AI gidatzeko sistemetan parte hartzen duen AI ez dela sentikorra. Beste modu batera esanda, AI ordenagailuan oinarritutako programazio eta algoritmoen kolektiboa da, eta ziur asko ez da gai gizakiak ahal duen moduan arrazoitzeko.

Zergatik ari da azpimarratzen AI hori sentikorra ez izateari?

Azpimarratu nahi dudalako AI gidatzeko sistemaren papera eztabaidatzerakoan, ez diodala giza ezaugarriak AIri ematen. Jakin ezazu egun antropomorfizatzeko AI joera etengabea eta arriskutsua dagoela. Funtsean, jendeak gizakien antzeko sentikortasuna esleitzen dio gaurko AIri, oraindik AI hori existitzen ez dela ukaezina eta eztabaidaezina izan arren.

Argibide horrekin, AI gidatzeko sistemak berez ez duela nolabait "gidatzearen alderdiak" jakingo pentsa dezakezu. Gidatzea eta horrek dakarren guztia autoa gidatzeko hardwarearen eta softwarearen zati gisa programatu beharko da.

Muga gaitezen gai honen inguruan jokatzera etortzen diren hainbat alderditan.

Lehenik eta behin, garrantzitsua da konturatzea AI auto gidatzen duten auto guztiak ez direla berdinak. Auto-fabrikatzaile eta auto-gidatzeko teknologia-enpresa bakoitzak bere ikuspegia hartzen ari da auto-gidatzeko autoak asmatzeko. Hori dela eta, zaila da AI gidatzeko sistemek egingo edo ez dutenari buruzko adierazpen zabalak egitea.

Gainera, AI gidatzeko sistema batek gauza bereziren bat egiten ez duela adierazten duen bakoitzean, geroago ordenagailua hori egiteko programatzen duten garatzaileek gainditu dezakete. Pausoz pauso, AI gidatzeko sistemak pixkanaka hobetzen eta hedatzen ari dira. Baliteke gaur egun dagoen mugarik ez egotea etorkizuneko sistemaren iterazio edo bertsio batean.

Espero dut horrek kontatuko dudanaren azpian jartzeko oharra nahikoa ematea.

Oinarri erabakigarri batzuk adieraziz hasiko gara. AI gidatzeko sistemak diseinatzen ari dira auto gidatzen duten autoak segurtasunez funtzionatzeko. Zenbait autogile eta auto-gidatze teknologia-enpresa batzuk beren kodeketa modu jabedunetan egiten ari dira. Beste batzuk kode irekian oinarritzen dira.

Imajinatu Z algoritmo batzuk kode irekiko biltegietan eskuragarri daudela eta AI gidatzeko sistemetan erabiltzeko erabilgarri dagoela. Auto-fabrikatzaile edo auto-gidatze teknologia-enpresa batek Z algoritmoa sartzen du bere AI gidatzeko sisteman. Hau beren AI gidatzeko sisteman osoki ehunduko da.

Errepideetan autonomo gidatzen duten dozena bat auto jartzen badituzte, ibilgailu autonomo horiek guztiek Z algoritmoa izango dute AI gidatzeko sistemaren barneko softwarearen parte gisa. Pixkanaka-pixkanaka, auto gidatzen duten autoak segurtasunez gidatzen ari direla suposatuz, flota handitzen doa errepideetan autonomo gidatzen duten hogei autotara. Gehiago igotzeko erabakia hartzen da. Laster, flota horretako bi mila auto autonomo kaleetan eta autobideetan daude orain. Eta abar.

Autogile ezberdin batek Z algoritmoa erabiltzen ari da gidatzeko sisteman. Beraiek ere beren auto gidatzen ari dira zabaltzen. Haien flota handitu egiten da. Handik gutxira, milaka auto gidatzen dituzte hara eta hona.

Hau nora doan ikus dezakezula uste dut.

AI monolaborantza algoritmiko batean aurki gaitezke AIan oinarritutako auto gidatzen diren autoen etorreraren artean. Ibilgailu autonomoen marka eta modelo askok algoritmo jakin bat izan dezakete nonbait beren AI gidatzeko sisteman. Honen inguruan ez zegoen elkartasunik. Ez dago konspirazio handirik jokoan.

Noizbait gure errepideetan norberak gidatzeko zenbat auto izan ditzakegunari dagokionez, eztabaida bizia dago gai horren inguruan. Badakigu Estatu Batuetan bakarrik gaur egun gizakiek gidatutako 250 milioi auto inguru daudela. Batzuek iradokitzen dute, hortaz, 250 milioi auto autonomo inguru beharko ditugula, suposatuz azkenean gizakiek gidatutako autoak kenduko ditugula edo modu naturalean utzi eta norbere gidatzen duten autoek ordezkatzen dituztela.

Ez hain azkar, gomendatzen dute batzuek. Gizakiek gidatutako autoek denboraren % 90 edo gehiago erabiltzen ez dute erabiltzen. Orokorrean, gizakiek gidatutako autoak aparkatuta eserita daude eta gidari baten zain daude. AI-n oinarritutako autoak gidatzen ari daitezke denbora guztian, gutxi gorabehera. Ustez, AI auto gidatzen duen auto bat eduki dezakezu 24 × 7, mantentze-lanetan edo behar den beste geldialdietan izan ezik.

Kasu horretan, itxuraz, ez dituzu 250 milioi auto gidatzen behar izango gizakiek gidatutako 250 milioi auto bana ordezkatzeko. Beharbada, 200 milioi auto gidatzen nahikoa izango da. 100 milioi agian. Inork ezin du ziur esan. Gai honi buruz dudan baloraziorako, ikus esteka hemen.

Momentuz adierazi nahi dut milioika eta milioika auto autonomo izan genitzakeela azken finean gure autobideetan eta bide-bideetan zehar. Haietako zenbat izango ditugun azken finean errepideetan ez da guztiz kezka funtsezkoa diskurtso honen mesedetan. Milioika asko izango dira, zalantzarik gabe. Tamainatze hori, oro har, garrantzitsua da AI monolaborantza algoritmikoagatik eta abantailak eta desabantailak eskala masiboan topatzeko funtsezko propietateagatik.

Hona hemen bira.

Zorte ikaragarri ikaragarri baten ondorioz, arazo larria dago Z algoritmoaren barruan, aurretik inork nabaritu ez zuena. Akats bat dago AI gidatzeko sistemaren gainontzeko sistema okertzea eragingo duena.

Berri Txarrak.

AI gidatzeko sistemak asmatzen ari zaretenontzat, konturatzen naiz normalean ez dituzula gogoko egoera okerrenak, eta aukerak agian urriak diren arren, eztabaidatzea merezi dute. Ezin dugu burua hondarrean mantendu. Hobe begiak zabal-zabalik egotea eta hondamendi mota hauek prebenitzea edo, gutxienez, arintzea.

Teorian, akats hau duen AI auto-gidatzen duen auto batek, bere esku dagoen ia edozer eta guztiarekin talka egiten eta talka egin dezake horretarako. AI ezarpen honetan "asmatu" zen bezala egiten ari da. Hau negargarria izango litzateke.

Batzuek pentsatuko duzue AI auto gidatzen duen auto batek akatsa topatzen duelako ez litzatekeela berez arazo handirik irudituko. Esaten dut AI auto gidatzen duen autoak kamioi bat edo dena delakoa bezalako zerbait apurtzen duenean, ibilgailua bera litekeena da hain kaltetuta egotea, non AI-k aktiboki zuzendu ezin duelako kaos eta suntsipen gehiago egiteko. Uretan hilda dago, nolabait esateko.

Beno, kontuan hartu inplikatutako eskala faktorea.

Milioika eta milioika auto gidatzen badira eta denak Z algoritmo txertatu berean oinarritzen badira, baliteke akats hori pena handiz exekutatu.

Badakit eta onartzen dut akats hau konpondu edo konpondu daitekeela elektronikoki banatutako OTA (Over-The-Air) software eguneraketa baten bidez. Aurrekari azkar gisa, askok OTA erabiltzearen abantailei buruz hitz egin dute. Software-eguneratzea behar denean, ez duzu autoen konponketa denda edo kontzesionario batera eraman beharrik izango AI auto gidatzen duen auto bat. OTA ia egin daiteke auto gidatzen duen autoa dagoen tokian (mugetan).

Bitartean, akatsa eta konponketa deskubritu arte, eta OTA bidez bidali aurretik, errepideetako auto autonomoak jarrera prekarioan egongo dira oraindik. Batzuek akatsa topatu eta oker joango dira. Beste batzuk hori egiteko zorian daude.

Momentuz auto gidatzen duten auto guztiak lekuan gelditu behar direla eta gehiago erabili ez direla azpimarratzea erabaki genezake, OTA konponketa AI gidatzeko sistemetan sartu arte. Imajinatu etenaldia. Demagun gizakiak gidatutako auto gutxi geratzen zaizkigula. Litekeena da norberak gidatzen dituen autoak ez izatea giza gidatzeko kontrolekin. Funtsean, akatsa konpondu bitartean 200 milioi (edo edozein kopuru) auto gidatzen dituzten XNUMX milioi (edo dena delako kopurua) lurpetzea lortuko duzu.

Gizartea auto gidatzen duten autoen menpe egon bada, ia gizartea itxi egin duzu mugikortasunaren ikuspegitik, akatsen konponketa kanporatu arte behintzat.

Orain hori sistemarentzat astindu kaltegarri eta hunkigarria izango litzateke, nolabait.

Susmoa dut ekintza ikaragarriak egiten dituen lurking akats baten ideia imajinatzea ia ezinezkoa irudituko litzatekeela, nahiz eta aldi berean ezin dugun aukera bere osotasunean baztertu. Badira beste aukera batzuk, izan daitezkeen ahultasun ziberkriminalak adibidez. Esaterako, eztabaidatu dut nola saia zitekeen nazio-estatu maltzur bat ekintza ikaragarri bat burutzen AI gidatzeko sistema baten ahultasun bat baliatuz, ikusi nire eztabaida hemen. esteka hemen. Horrez gain, AI auto gidatzen duten autoen kontrol maltzur bat nola egin litekeen buruzko nire xehetasunak lortzeko, ikusi nire estaldura helbidean. esteka hemen.

Ondorioa

Berdintasuna bedeinkapena eta madarikazioa da.

Lehenago esan genuen Gandhik esan zuela antzekoak direnek gauza handiak lor ditzaketela. "Iritzi berekoa" duen IAk gauza handiak lor ditzake. Platonek adimen itxiak arrisku larria izan daitezkeela ohartarazi zigun. Gure inguruan pentsamendu bereko sistemak baditugu, gutako batzuei edo agian guztioi kalte egin diezaieketen nahigabeko (edo nahita) elementu iraultzaileen arrisku larriei aurre egingo diegu.

Adimen irekia izan behar dugu AI monolaborantza algoritmikoari buruz. Gauzak ondo egiten baditugu, baliteke ontasuna aprobetxatu eta gaizkia saihestu ahal izatea.

Baina hori guztiari buruz arrazoia badugu.