AI Etika eta AI Legea AI alborapenak esplizituki identifikatzen eta kudeatzen dituzten estandarrantz doaz

Inoiz jokatu al duzu berrogeita hamabi karta bilketa?

Ez da normalean gogoz egingo zenukeen joko bat. Hona zergatik. Norbaitek eskaintzen dizu ustez dibertigarria den kirola dela eta amu gozoa hartzen baduzu, karta-sorta oso bat airera botatzen dute eta lurrera labur-labur. Orduan, pertsonak irribarre zintzo bat ematen dizu eta txartelak hartzera joateko esaten dizu. Hori da partida osoa.

Txantxista!

Galdera hausnartu bat daukat honi buruz egiteko.

Demagun txarteletako bat inguruko sofa baten azpian lerratu dela. Karta guztiak jasotzen amaitzean, jakingo zenuten bat falta zela zure eskuan berrogeita hamaika bat besterik ez baitzen egongo.

Galdera da, zehaztu al zenezake zein txartela falta zen?

Seguru nago berehala esango zenukeela erraz asmatuko zenukeela zein karta ez zegoen zure esku. Egin behar duzun guztia mahaia ordenatu baino ez da. Badakizu sorta estandar bat lau paloz osatuta dagoela eta palo bakoitzaren barruan kartak batetik hamarrera zenbatzen direla eta gero Jack, Queen eta King sartuta.

Badakizu hau karta-sorta estandarra estandar batean oinarritzen delako.

Aupa, adierazpen hori guztiz ageriko baieztapen horietako bat dirudi. Beno, bai, noski, joko-sorta estandarra estandar batean oinarritzen da. Denok dakigu hori. Nire kontua da estandarra edukita estandarrean fidatu gaitezkeela beharrezkoa denean. Barazki batean zer karta falta den ondorioztatu ahal izateaz gain, beste pertsona batzuekin karta-joko ezagun batzuetara erraz jokatu dezakezu. Norbaiti joko baten arauak kontatzen zaizkionean, zuzenean jolastu ahal izango du, dagoeneko guztiz badakielako zertaz osatuta dagoen sorta. Ez diezue azaldu behar sortak lau palo eta hainbat zenbakitako karta dituela. Dagoeneko badakite hori horrela dela.

Nora noa honekin?

AIren alorrean eta, batez ere, AI Etikaren eta AI etikoan aurrera egiteko ezinbesteko baliabidea den bide batetik eramaten saiatzen ari naiz. Ikusten duzu, AI Etikari buruzko estandar zabalak eta adostutakoak lortzen saiatu behar dugu. Hori egin ahal badugu, AI etikoa hartzeko erraztasuna hobetuko du eta merkatuan zehar-ezpada botatzen jarraitzen duten AI sistemak hobetzea izango du helburu (komodin sorta zenbakirik gabeko eta ordenatu gabeko bat bezala). AI Etikari, AI etikoari eta AI Legeari buruz dudan etengabeko estaldura zabala ikusteko, ikus esteka hemen esteka hemen, Gutxi batzuk aipatzearren.

Komunikabideen arreta handia jaso duen AI Etikaren segmentu edo zati jakin bat alderdikeriak eta desberdintasunak erakusten dituen IAk osatzen dute. Baliteke kontziente izango AIaren azken aroa martxan jarri zenean ilusio handia izan zela batzuek gaur egun deitzen duten hori AI For Good. Zoritxarrez, zirrara isuri horren harira, lekukotzen hasi ginen AI For Bad. Adibidez, AI-n oinarritutako aurpegi-ezagutze-sistemak arraza-alborapenak eta genero-alborapenak dituztela agerian utzi dute, eta horiei buruz hitz egin dudanean. esteka hemen.

Aurkako borroka egiteko ahaleginak AI For Bad aktiboki abian dira. Oihuka gainera legezko gaizki-egiteei eusteko asmoz, AIren etika onartzeko bultzada nabarmena ere badago AIren gaiztakeria zuzentzeko. Ideia da AI etikoaren funtsezko printzipioak onartu eta onartu beharko genituzkeela IA garatzeko eta lantzeko. AI For Bad eta, aldi berean, hoberena iragartzen eta sustatuz AI For Good.

Erlazionatutako ideia batean, AI erabiltzen saiatzearen defendatzailea naiz AIren arazoen konponbidearen zati gisa, suarekin suarekin borrokatzeko pentsamendu modu horretan. Adibidez, AI etikoen osagaiak txerta genitzake AI sistema batean, gainontzeko AIak gauzak nola egiten dituen kontrolatuko duena eta, beraz, denbora errealean edozein diskriminazio-ahaleginak harrapatzeko. Ikusi nire eztabaida hemen. esteka hemen. AI Etika monitore gisa jarduten duen AI sistema bereizi bat ere izan genezake. AI sistemak gainbegiratzaile gisa funtzionatzen du beste AI bat amildegi ez-etikoan sartzen denean jarraitzeko eta detektatzeko (ikusi horrelako gaitasunen azterketa hemen esteka hemen).

Une batean, AI Etikaren azpian dauden printzipio nagusi batzuk partekatuko ditut zurekin. Zerrenda mota asko daude han eta hemen inguruan. Esan liteke oraindik ez dagoela erakargarritasun eta adostasun unibertsalaren zerrenda berezirik. Hori da zorigaiztoko albistea. Berri ona da gutxienez eskuragarri daudela AI Etika zerrendak eta nahiko antzekoak izan ohi direla. Guztiak esanda, horrek iradokitzen du nolabaiteko konbergentzia arrazoitu baten bidez AI Etika zertan datzan komuntasun orokorrerantz aurkitzen ari garela.

Hau planteatzen dut hemen nire eztabaidarako oinarri bat eskaintzeko, AI Etikaren eremu zabalagoko segmentu edo zati jakin batean zentratuko dena, hots, lehen aipatu dugun bezala, AIaren alborapenen elementu espezifikoa. Gai hau zurekin partekatzen dudan arrazoia da Estandar eta Teknologia Institutu Nazionalak (NIST) kaleratutako dokumentu bat AIaren alborapen ezaugarriak bereizten dituen estandar baterantz bideratzen saiatzen ari dela. Dokumentuak izenburua du Adimen artifizialean alborapenak identifikatzeko eta kudeatzeko estandar baterantz Reva Schwartz, Apostol Vassilev, Kristen Greene, Lori Perine, Andrew Burt eta Patrick Hall egileen eskutik, eta AEBetako Merkataritza Sailak, NIST Special Publication 1270, 2022ko martxoan argitaratu zuen.

Esfortzu erabilgarri eta bultzatzaile hau aterako dugu AIaren alborapenekin zer esan nahi dugun ezartzeko. Esaera zaharra da ezin duzula neurtu ezin duzun hori kudeatu. AI-alborapenen barietatea zehazten duen estandar bat edukiz gero, AI-alborapenen gaitza neurtzen eta kudeatzen has zaitezke.

Lehenik eta behin, labur ditzagun AI Etikoko manu orokor batzuk AI lantzen, lantzen edo erabiltzen duen edonork ezinbesteko kontua izan behar duena ilustratzeko.

Adibidez, Vatikanoak dioen bezala Erromako AI Etikarako Deia eta sakonki jorratu dudan bezala esteka hemenHauek dira identifikatutako sei oinarrizko AI etika printzipioak:

• Gardentasuna: Printzipioz, AI sistemek azalgarriak izan behar dute
• sartzea: Gizaki guztien beharrak kontuan hartu behar dira, guztion onura izan dadin, eta pertsona guztiei eskein diezaieke bere burua adierazteko eta garatzeko baldintza onenak.
• Erantzukizuna: AIaren erabilera diseinatzen eta zabaltzen dutenek ardura eta gardentasunarekin jarraitu behar dute
• Inpartzialtasuna: Ez sortu edo ez jokatu joeraren arabera, horrela zuzentasuna eta giza duintasuna bermatuz
• Fidagarritasuna: AI sistemek modu fidagarrian funtzionatzeko gai izan behar dute
• Segurtasuna eta pribatutasuna: AI sistemek segurtasunez funtzionatu behar dute eta erabiltzaileen pribatutasuna errespetatu behar dute.

AEBetako Defentsa Sailak (DoD) bere dokumentuan adierazi duenez Adimen artifiziala erabiltzeko printzipio etikoak eta sakonki jorratu dudan bezala esteka hemenHauek dira AIren sei printzipio etiko nagusiak:

• Arduraduna: DoDko langileek epai eta arreta maila egokiak erabiliko dituzte AI gaitasunen garapenaren, hedapenaren eta erabileraren ardura izaten jarraitzen duten bitartean.
• Ekitatiboa: Sailak nahita neurriak hartuko ditu AI gaitasunetan nahi gabeko alborapenak minimizatzeko.
• Trazagarria: Departamentuaren AI gaitasunak garatu eta zabalduko dira, dagokion langileek AI gaitasunei aplikagarri zaizkien teknologia, garapen-prozesu eta metodo operatiboen ulermen egokia izan dezaten, metodologia gardenak eta ikuskagarriak, datu-iturriak eta diseinu-prozedura eta dokumentazioa barne.
• Seriotasuna: Sailaren AI gaitasunek erabilera esplizituak eta ongi zehaztuak izango dituzte, eta gaitasun horien segurtasuna, segurtasuna eta eraginkortasuna probak eta bermeak izango dira definitutako erabilera horietan bizi-ziklo osoan zehar.
• Gobernagarria: Sailak AI gaitasunak diseinatu eta diseinatuko ditu aurreikusitako funtzioak betetzeko, nahi gabeko ondorioak detektatzeko eta ekiditeko gaitasuna duen bitartean, eta nahi gabeko portaera erakusten duten sistemak desaktibatzeko edo desaktibatzeko gaitasuna.

AIaren etika-printzipioen analisi kolektibo ezberdinei buruz ere eztabaidatu dut, besteak beste, nazioko eta nazioarteko AI etikako printzipio ugariren funtsa aztertu eta laburtu zuen ikertzaileek asmatutako multzoa aztertu izana "The Global Landscape Of AI Ethics Guidelines" (argitaratutakoa). urtean Nature), eta nire estaldurak hemen aztertzen du esteka hemen, eta horrek giltzarri zerrenda honetara eraman zuen:

• Transparency
• Justizia eta zuzentasuna
• Ez-Malefizia
• Erantzukizun
• Pribatutasuna
• Ongintzaren
• Askatasuna eta Autonomia
• Fidatu
• Iraunkortasun
• duintasuna
• Elkartasuna

Zuzenean asmatuko duzun bezala, printzipio horien azpian dauden zehaztasunak zehazten saiatzea oso zaila izan daiteke. Are gehiago, printzipio zabal horiek guztiz ukigarri eta zehatza den zerbait bilakatzeko ahalegina AI sistemak lantzean erabiltzeko moduko intxaur gogorra ere bada. Erraza da, oro har, AI Etikaren manuak zer diren eta orokorrean nola behatu behar diren eskuz astintzea, AI kodeketa askoz ere egoera zailagoa da errepidea betetzen duen benetako goma izan behar izatea.

AI Etika-printzipioak AI garatzaileek erabili behar dituzte, AI garapenerako ahaleginak kudeatzen dituztenekin batera, eta baita, azken finean, AI sistemetan mantentzea lantzen eta egiten dutenekin batera. AIaren garapen eta erabileraren bizitza-ziklo osoan parte hartzen duten eragile guztiak AI Etikoaren ezarritako arauak betetzearen esparruan hartzen dira kontuan. Garrantzi handiko aipamena da hau, ohiko suposizioa delako "kodetzaileak" edo AI programatzen dutenek AI Etika nozioei atxikitzeko menpe daudela. Lehen esan bezala, herri bat behar da AI asmatzeko eta lantzeko, eta, horretarako, herri osoak AI Etika aginduak ezagutu eta bete behar ditu.

AI Etikako manu gako horietako askoren azpian AIaren alborapenen izaera maltzurra dago.

Karta sorta bat bezala, ziur aski polita izango litzateke nolabait AI alborapenak "jantzi" edo kategoria multzo batean bilduko bagenitu. Izan ere, NIST dokumentuak taldekatze iradoki bat eskaintzen du.

Hiru kategoria nagusi proposatzen dira:

1) Alborapen sistemikoak

2) Alborapen estatistikoak eta konputazionalak

3) Giza-alborapenak

AI alborapen guztiak ondo egokitzen diren ala ez hiru kategoria horietako batean kontuan hartu beharreko zerbait da, zalantzarik gabe. Zalantzarik gabe, argudiatu dezakezu AI alborapen batzuk aldi berean kategoria batean, bitan edo hirutan sartzen direla. Gainera, kategoria gehiago aipatzea merezi duela esan dezakezu, hala nola, laugarren, bosgarren, seigarren edo talde multzo batzuk.

Espero dut hori pentsatzen ari zarela, guztiok parte hartu behar dugulako estandar hauek moldatzen laguntzen. Estandar hauek lehen eratzen ari diren moduarekin aspertuta bazaude, eskatzen dizut energia hori bihur dezazula gainerakoei lagun diezaiogun estandar hauek molda daitezkeen bezain sendo eta osatuak izan daitezen.

Oraingoz, proposatutako hiru kategoriak gertutik aztertu eta orain arte nolako eskuarekin aritu garen ikus dezakegu (bai, karta-sorta baten analogia erabiltzen jarraituko dut, horrela eginez gero. idatzitako pieza honen osotasunean, zure beheko dolarra apustu egin dezakezu gai baten bateko ez hain ezkutuan).

Zer esan nahi da alborapen sistemikoak aipatzearekin?

Hona hemen NIST dokumentuak dioena: “Alborapen sistemikoak erakunde jakin batzuen prozeduren eta praktiken ondorioz, gizarte-talde jakin batzuk mesedeak edo mesedeak izatea eta beste batzuk desabantailatuak edo gutxietsiak izatea eragiten dute. Hau ez da zertan inolako aurreiritzi edo diskriminazio kontziente baten ondorio izan, baizik eta gehiengoak indarrean dauden arau edo arauak jarraituz. Arrazakeria instituzionala eta sexismoa dira adibiderik ohikoenak” (kontuan izan pasarte labur bat besterik ez dela eta irakurleak azalpen osoa ikustera animatzen direla).

AI alborapen sistemikoen nahasketara sartzen da alborapen horiek AIan oinarritutako aplikazioetan transmititzeko eta aplikatzeko bitarteko bat eskainiz. AI-n infusioko software bat erabiltzen duzun bakoitzean, dakizuenez, dagoeneko sisteman sartuta dauden alborapen ugari izan ditzake AI-a sortu zuten enpresen eta industria-praktiken bidez. NIST azterketaren arabera: "Alborapen hauek AIan erabiltzen diren datu-multzoetan eta instituzio-arau, praktika eta prozesu AI bizi-zikloan eta kultura eta gizarte zabalagoan daude".

Ondoren, kontuan hartu alborapen estatistiko eta konputazional gisa etiketatzen diren alborapenen multzoa.

NIST dokumentuak hau dio: “Alborapen estatistikoak eta konputazionalak lagina biztanleriaren adierazgarria ez denean sortzen diren akatsetatik sortzen dira. Alborapen horiek ausazko errore sistematikotik sortzen dira eta aurreiritzirik, partzialtasunik edo asmo diskriminatzailerik ezean gerta daitezke. AI sistemetan, alborapen hauek AI aplikazioen garapenean erabiltzen diren datu multzo eta prozesu algoritmoetan daude, eta sarritan sortzen dira algoritmoak datu mota batean entrenatzen direnean eta ezin dira datu horietatik haratago estrapolatu”.

Alborapen estatistiko eta konputazional mota hau Machine Learning (ML) eta Deep Learning (DL) erabiltzen dituen AI sistema batean egosi ohi da. ML/DL garaikidearen gai potoloa azaleratzeak AI zer den eta ML/DL zer den buruzko erlazionatutako alboko ukitzailea behar du.

Ziurta dezagun orrialde berean gaudela gaurko AIaren izaerari buruz.

Gaur egun ez dago sentikorra den AIrik. Ez dugu hau. Ez dakigu AI sentikorra posible izango den. Inork ezin du ongi iragar AI sentikorra lortuko dugun ala ez, ezta AI sentikorra nolabait miragarriki berez sortuko den supernoba kognitibo konputazional baten moduan (normalean berezitasuna deitzen dena, ikus nire estaldura hemen. esteka hemen).

Zentratzen ari naizen AI mota gaur egun daukagun AI ez sentikorra da. Buruz basatian espekulatu nahi bagenu sentikorra AI, eztabaida hau zeharo beste norabide batean joan liteke. AI sentikor bat giza kalitatekoa izango litzateke. Kontuan izan beharko zenuke AI sentikorra gizakiaren baliokide kognitiboa dela. Are gehiago, batzuek IA super-adimentsua izan genezakeela espekulatzen dutenez, pentsa daiteke AI hori gizakiak baino adimentsuagoa izan daitekeela (AI super-adimentsua aukera gisa aztertzeko, ikus estaldura hemen).

Utz ditzagun gauzak lurrean gehiago eta kontuan izan ditzagun gaur egungo AI konputazionala sentikorra.

Konturatu gaur egungo IA ez dela gai giza pentsamenduaren parean "pentsatzeko". Alexa edo Sirirekin elkarreragiten duzunean, elkarrizketa gaitasunak giza gaitasunen antzekoak dirudite, baina errealitatea da konputazionala dela eta giza ezagutza falta dela. AIaren azken aroak asko erabili ditu Machine Learning eta Deep Learning, eredu konputazionalak parekatzea baliatzen dutenak. Horrek gizakiaren antzeko joerak dituzten AI sistemak ekarri ditu. Bien bitartean, gaur egun ez dago zentzu arruntaren itxura duen AIrik eta giza pentsamendu sendoaren harridura kognitiborik ere ez duenik.

ML/DL eredu konputazionalaren parekatze modu bat da. Ohiko planteamendua erabakiak hartzeko zeregin bati buruzko datuak biltzea da. Datuak ML/DL ordenagailu ereduetara elikatzen dituzu. Eredu horiek eredu matematikoak aurkitu nahi dituzte. Eredu horiek aurkitu ondoren, aurkituz gero, AI sistemak eredu horiek erabiliko ditu datu berriak topatzerakoan. Datu berriak aurkeztean, datu "zahar" edo historikoetan oinarritutako ereduak aplikatzen dira egungo erabakia emateko.

Uste dut hau nora doan asma dezakezula. Erabakien eredua hartzen ari diren gizakiek alborapen txarrak sartu badituzte, litekeena da datuek modu sotil baina esanguratsuan islatzea. Machine Learning edo Deep Learning konputazio-ereduen parekatzea besterik ez da saiatuko datuak matematikoki imitatzen. Ez dago zentzu arruntaren edo beste alderdi sentikorren itxurarik AI-n landutako modelizazioaren berez.

Gainera, AI garatzaileak agian ez dira konturatzen zer gertatzen ari den. ML/DL-ko matematika arkanoak zaildu lezake orain ezkutuko alborapenak atzematea. Ziurrenik espero eta espero zenuke AI garatzaileek lurperatuta egon daitezkeen alborapenak probatuko dituztela, nahiz eta badirudi baino zailagoa den. Aukera sendoa dago, nahiz eta proba nahiko zabalak izan, ML/DL ereduak parekatzeko ereduetan oraindik txertatutako alborapenak egongo direla.

Garbage-in garba-out-en esaera ospetsua edo gaiztoa zertxobait erabil dezakezu. Kontua da, hau AIaren barnean murgiltzen diren alborapenak maltzurki sartzen diren alborapenen antzekoagoa da. AIren algoritmoen erabakiak hartzea (ADM) axiomatikoki desberdintasunez kargatzen da.

Ez da ona.

Honek hiru taldeen NIST multzoko hirugarren kategoriara garamatza, zehazki, giza-alborapenek AI-alborapenen sorreran duten eginkizunera. Hona hemen NIST dokumentuak adierazitakoa: "Giza alborapenek giza pentsamenduaren akats sistematikoak islatzen dituzte printzipio heuristiko kopuru mugatu batean oinarrituta eta balioak iragartzen dituzten epaiketa-eragiketa sinpleagoetarako. Alborapen hauek inplizituak izan ohi dira eta norbanako edo talde batek informazioa (adibidez, AI automatizatuaren irteera) nola hautematen duen erlazioa dute erabaki bat hartzeko edo falta den edo ezezaguna den informazioa betetzeko. Alborapen horiek nonahi daude erakunde, talde eta banakako erabakiak hartzeko prozesuetan AIaren bizi-zikloan zehar, eta AI aplikazioen erabileran zabaldutakoan".

Hiru kategorietarako sarrera azkarra lortu duzu orain.

NIST dokumentuan adierazten den gogoeta-elikadura gehigarri bat partekatu nahiko nuke zurekin. Beren kontakizuneko taula batek AIren hiru alborapen multzoetako bakoitzaren azpian dauden galdera eta gogoeten laburpen erabilgarria eskaintzen du. Hemen zerrendatzen ditut zure erreferentzia eta eraikuntza erosotasunerako.

#1: Alborapen sistemikoak

• Nor kontatzen da eta nor ez da zenbatzen?

— Ezkutuko aldagaiekin arazoak

— Baztertutako taldeen azpiordezkapena

— Desberdintasunen automatizazioa

— Urrepresentazioa erabilgarritasun-funtzioa zehaztean

— Gehiengo/gutxiengoaren alde egiten duten prozesuak

— Funtzio objektiboaren alborapen kulturala (pertsonentzako onena vs taldearentzat onena)

• Nola dakigu zer den zuzena?

— Desberdintasunen indartzea (IAren erabilera handiagoarekin taldeek eragin handiagoa dute)

— Polizia iragarleak eragin negatibo handiagoa du

— Ibilgailuak partekatzeko/autogidatzeko autoak/etab. erabileraren arabera biztanleriaren eragina duten politikak alda ditzakete

#2: Alborapen estatistikoak eta konputazionalak

• Nor kontatzen da eta nor ez da zenbatzen?

— Laginketa- eta hautapen-alborapena

— Proxy aldagaiak erabiltzea, neurtzeko errazagoak direlako

— Automatizazio-alborapena

- Likert eskala (kategorikotik ordinaletik kardinaletik)

— Ez-lineala vs lineala

— Falazia ekologikoa

— L1 vs L2 araua minimizatzea

— Testuinguruko fenomenoak kuantifikatzeko zailtasun orokorra

• Nola dakigu zer den zuzena?

— Balio gurutzatua egokirik ez izatea

— Biziraupen-alborapena

— Zuzentasunerako zailtasuna

#3: Giza alborapenak

• Nor kontatzen da eta nor ez da zenbatzen?

— Behaketa-alborapena (kalearen efektua)

— Erabilgarritasunaren alborapena (aingura)

- McNamara falazia

— Talde-pentsamenduak aukera estuetara eramaten du

— Rashomon efektuak aldarrikapen subjektiboa dakar

— Helburuak kuantifikatzeko zailtasunak McNamara faltsutasuna ekar dezake

• Nola dakigu zer den zuzena?

— Berrespen-alborapena

— Automatizazio-alborapena

Eztabaida handi honen une honetan, AI alborapenen hiru kategoriak erakutsi ditzaketen adibide argigarri batzuk nahi dituzula apustu egingo nuke. Badira nire bihotzetik gertu dagoen adibide multzo berezi eta ezagun bat. Ikusten duzu, AI-n aditua naizen aldetik, adar etiko eta legalak barne, maiz eskatzen didate AI Etikaren dilemak erakusten dituzten adibide errealistak identifikatzea, gaiaren izaera teoriko samarra errazago ulertu ahal izateko. AI etiko istilu hau modu bizian aurkezten duen eremu iradokitzaileenetako bat AI-n oinarritutako benetako auto-gidatuen autoen etorrera da. Gaiari buruzko eztabaida zabalerako erabilpen kasu edo eredu erabilgarri gisa balioko du.

Hona hemen hausnarketa merezi duen galdera aipagarri bat: AI-n oinarritutako benetako auto gidatzen duten autoen etorrerak argitzen al du proposatutako hiru AI-alborapen kategoriei buruz, eta hala bada, zer erakusten du honek?

Utzidazu une bat galdera deskonprimitzeko.

Lehenik eta behin, kontuan izan ez dagoela giza gidaririk benetako auto gidatzen duen auto batean. Gogoan izan norberak gidatzen dituen benetako autoak AI gidatzeko sistema baten bidez gidatzen direla. Ez dago gidari baten beharrik gurpilean, ezta gizaki batek ibilgailua gidatzeko aurreikuspenik ere. Ibilgailu autonomoen (AV) eta batez ere auto gidatzen duten autoen estaldura zabala eta etengabea ikusteko, ikus esteka hemen.

Gehiago argitu nahiko nuke zer esan nahi den benetako auto gidatzen diren autoak aipatzen ditudanean.

Auto gidatzeko autoen mailak ulertzea

Argibide gisa, benetako auto gidatzen diren autoak AIak autoa bere kabuz gidatzen dituenak dira eta gidatzeko zereginean zehar giza laguntzarik ez dagoen.

Gidaririk gabeko ibilgailu hauek 4. maila eta 5. maila hartzen dira (ikus nire azalpena helbidean esteka hau hemen), aldiz, giza gidari batek gidatzeko ahalegina elkarrekin partekatzea eskatzen duen autoa 2. edo 3. mailan hartzen da normalean. Gidatzeko zeregina elkarrekin partekatzen duten autoak erdi-autonomoak direla deskribatzen da, eta normalean hainbat eduki dituzte. ADAS (Advanced Driver-Assistance Systems) deitzen diren gehigarri automatizatuak.

5. mailan oraindik ez dago benetako auto autonomorik, eta oraindik ez dakigu hori lortzerik izango den, ezta zenbat denbora beharko duen bertara iristeko ere.

Bien bitartean, 4. mailako ahaleginak pixkanaka-pixkanaka trakzio pixka bat lortzen saiatzen ari dira bide publikoko entsegu oso estu eta selektiboak jasanez, nahiz eta eztabaida dagoen proba hori berez onartu behar den ala ez (denok gara esperimentu batean hil ala biziko kobaiak). gure autobideetan eta bide-bideetan gertatzen ari dena, batzuek diotenez, ikusi nire estaldura hemen esteka hau hemen).

Auto erdi autonomoak giza gidaria behar dutenez, auto mota horiek ez dira ohiko ibilgailuak gidatzea baino oso desberdinak izango. Beraz, ez dago gai horren inguruko gai asko estaltzeko gai hau (hala ere, ikusiko duzuenez une batez, hurrengo puntuak orokorrean aplikagarriak dira).

Auto erdi autonomoetarako, garrantzitsua da publikoa azkenaldian sortzen ari den alderdi kezkagarri baten aurrean jakitea, hots, 2. mailako edo 3. mailako auto baten gurpilean lokartzen ari diren giza gidariek argitaratzen jarraitzen duten arren. , guztiok saihestu behar dugu gidariak zereginetatik arreta kendu dezakeela auto erdi autonomo bat gidatzen duenean.

Ibilgailuaren gidaritza-ekintzen arduraduna zara, 2. mailara edo 3. mailara zenbat automatizazio bota litekeen kontuan hartu gabe.

Norbere gidatzen diren autoak eta AI alborapenak

4. eta 5. mailako egiazko autoentzako gidatzeko ibilgailuentzat, ez da gidari lanetan parte hartuko duen gidaririk.

Okupatzaile guztiak bidaiariak izango dira.

AI gidatzen ari da.

Berehala eztabaidatu beharreko alderdi batek dakar gaur egungo AI gidatzeko sistemetan parte hartzen duen AI ez dela sentikorra. Beste modu batera esanda, AI ordenagailuan oinarritutako programazio eta algoritmoen kolektiboa da, eta ziur asko ez da gai gizakiak ahal duen moduan arrazoitzeko.

Zergatik ari da azpimarratzen AI hori sentikorra ez izateari?

Azpimarratu nahi dudalako AI gidatzeko sistemaren papera eztabaidatzerakoan, ez diodala giza ezaugarriak AIri ematen. Jakin ezazu egun antropomorfizatzeko AI joera etengabea eta arriskutsua dagoela. Funtsean, jendeak gizakien antzeko sentikortasuna esleitzen dio gaurko AIri, oraindik AI hori existitzen ez dela ukaezina eta eztabaidaezina izan arren.

Argibide horrekin, AI gidatzeko sistemak berez ez duela nolabait "gidatzearen alderdiak" jakingo pentsa dezakezu. Gidatzea eta horrek dakarren guztia autoa gidatzeko hardwarearen eta softwarearen zati gisa programatu beharko da.

Muga gaitezen gai honen inguruan jokatzera etortzen diren hainbat alderditan.

Lehenik eta behin, garrantzitsua da konturatzea AI auto gidatzen duten auto guztiak ez direla berdinak. Auto-fabrikatzaile eta auto-gidatzeko teknologia-enpresa bakoitzak bere ikuspegia hartzen ari da auto-gidatzeko autoak asmatzeko. Hori dela eta, zaila da AI gidatzeko sistemek egingo edo ez dutenari buruzko adierazpen zabalak egitea.

Gainera, AI gidatzeko sistema batek gauza bereziren bat egiten ez duela adierazten duen bakoitzean, geroago ordenagailua hori egiteko programatzen duten garatzaileek gainditu dezakete. Pausoz pauso, AI gidatzeko sistemak pixkanaka hobetzen eta hedatzen ari dira. Baliteke gaur egun dagoen mugarik ez egotea etorkizuneko sistemaren iterazio edo bertsio batean.

Kontatuko dudanaren azpian jartzeko oharra nahikoa emango duelakoan nago.

Orain prestatuta gaude norbere gidatzen diren autoetan eta AIaren hiru kategorien AI-alborapenen aukerak dituzten AI etikoetan murgiltzeko.

Imajinatu AI-n oinarritutako auto gidatzeko auto bat zure auzoko kaleetan martxan dagoela eta badirudi segurtasunez gidatzen ari dela. Hasieran, arreta berezia jarri zenion auto gidatzen duen autoa ikustea lortzen zenuen bakoitzean. Ibilgailu autonomoa bideokamerak, radar unitateak, LIDAR gailuak eta antzekoak biltzen zituen sentsore elektronikoen rackarekin nabarmendu zen. Autoa gidatzen duen autoa zure komunitatean zehar ibili ondoren aste askotan, orain ia ez duzu nabarituko. Zuei dagokienez, jada okupatuta dauden bide publikoetan dagoen beste auto bat besterik ez da.

Norberak gidatzen dituen autoak ikusten ezagutzea ezinezkoa edo sinesgaitza dela uste ez dezazun, sarri idatzi izan dut auto gidatzeko probak egiteko esparruan dauden tokiak nola ohitu diren apurka-apurka ibilgailu txukunak ikustera. ikusi nire analisia hemen esteka hau hemen. Bertako asko, azkenean, aho zabaleko begirada hunkigarritik orain aspertzeko aharrausi zabala igortzen hasi ziren auto gidatzen zihoazen auto haiek ikusteko.

Seguruenik, oraintxe bertan ibilgailu autonomoak nabaritu ditzaketen arrazoi nagusia sumindura eta larritasun faktorea da. Liburuaren araberako AI gidatzeko sistemek ziurtatzen dute autoek abiadura-muga eta errepideko arau guztiak betetzen dituztela. Gizakiek gidatutako ohiko autoetan dauden giza gidari gogotsuentzat, noizbehinka haserretu egiten zara legeak errespetatzen dituzten AIan oinarritutako auto gidatzeko autoen atzean gelditzen zarenean.

Hori denok ohitu beharko genukeen zerbait da, zuzen edo gaizki.

Itzuli gure ipuinera.

Aurrerago aztertuko dugu nola joka daitezkeen alborapen sistemikoak auto gidatzen duten autoen testuinguru honetan.

Zenbait adituk oso kezkatuta daude auto autonomoak aberatsen eta eliteen probintzia izango direlako. Gerta liteke auto gidatzen duten autoak erabiltzeko kostua ikaragarri garestia izatea. Diru asko lortu ezean, agian ez duzu inoiz auto gidatzen duen auto baten barrualdea ikusiko. Norberak gidatzen dituen autoak erabiliko dituztenek aberatsak izan beharko dute, ustez.

Hori dela eta, batzuek harrigarriki gomendatzen dute alborapen sistemikoren batek AIan oinarritutako auto gidatzen diren autoen etorrera barneratuko duela. Ibilgailu autonomoen industria-sistema orokorrak, oro har, auto gidatzen duten autoak pobreak edo aberatsak direnen eskuetatik kanpo utziko ditu. Baliteke hori ez izatea nahitaez asmo agerikoarekin, eta ondorioztatzen da auto gidatzeko autoak asmatu izanaren kostu astunak berreskuratzeko modu bakarra prezio izugarri altuak kobratzea izango dela.

Ihardesten badiozu gaur egun badirela auto gidatzen duten autoen proba hauek eguneroko pertsonari erabiltzeko aukera ematen diotenak, eta, beraz, badirudi ez duzula berez aberatsa izan behar, kontraargudioa da hau shell joko moduko bat dela. zen. Autogileek eta norberak gidatzeko teknologia-enpresek prest omen daude kostua oztopo garrantzitsu bat izango ez balitz bezala. Harreman publikoetarako egiten ari dira oraintxe bertan eta zimurrak argitzen dituztenean prezioak igoko dituzte. Konspiratzaile batek ere esan lezake "kobaiak" eguneroko pertsona gisa modu kaltegarrian erabiltzen ari direla aberatsak azkenean aberastu daitezen.

Beraz, gai nahiko eztabaidagarri hori ikusita, eta nire bi zentimoak gai sodi honi buruz jarrita, ez dut uste auto gidatzen duten autoak eguneroko erabilerarako garestituko direnik. Ez dut hemen erreklamazio hori egiteko nire oinarriari buruzko xehetasunetan sartuko eta nire gogoko eztabaidak ikustera gonbidatzen zaitut. esteka hemen eta baita ere esteka hemen.

Aurrera eginez gero, AIarekin erlazionatutako alborapen estatistiko eta konputazionalen gaia aztertu dezakegu.

Kontuan hartu autonomoek gidatzen duten autoak bidaiariak hartzera nora joango diren galdera itxuraz ezinbestekoa. Gai guztiz inozoa dirudi honek. Autoak gidatzen dituen herriaren edo hiriaren istorioa erabiliko dugu AIarekin erlazionatutako estatistiken eta konputazio-alborapenen espektro agian harrigarriena nabarmentzeko.

Hasieran, suposatu AI autoak gidatzen ari diren autoak herri osoan zehar zebilela. Auto gidatzen duen autoan ibilaldi bat eskatu nahi zuen edonork, funtsean, aukera berdinak zituen bat agurtzeko. Pixkanaka-pixkanaka, AI-a nagusiki auto gidatzen duten autoak herriko zati bakarrean ibiltzen mantentzen hasi zen. Atal hau dirua irabazten zuen eta AI sistema programatu zen komunitateko erabileraren zati gisa diru-sarrerak maximizatzen saiatzeko.

Herriko toki pobretuetako komunitateko kideek aukera gutxiago zuten auto gidatzen duten auto batetik ibiltzeko aukera. Norberak gidatzen ziren autoak urrunago zeudelako eta lokaleko diru-sarrera handieneko zatian ibiltzen zirelako. Eskaera bat herriaren alde urrun batetik jasotzen zenean, herriaren "estimua" dagoen toki hurbilago bateko eskaerak lehentasun handiagoa izango zuen. Azkenean, ia ezinezkoa izan zen hiriko parte aberatsean ez den beste edozein lekutan auto gidatzen duen autoa eskuratzea, izugarri larriagoa gaur egun baliabiderik gabeko eremu haietan bizi zirenentzat.

Baiezta dezakezu AI-a nahiko alborapen estatistiko eta konputazional baten gainean kokatu dela, proxy diskriminazio baten antzekoa (zeharkako diskriminazio gisa ere deitzen zaio askotan). AI ez zen auzo pobreago horiek saihesteko programatu. Horren ordez, ML/DL erabiliz "ikasi" zuen.

Suposatzen zen AI-a inoiz ez zela eroriko mota horretako harea mugikor lotsagarrietan. Ez zen monitorizazio espezializaturik ezarri AIan oinarritutako auto gidatzen ari ziren autoak nora zihoazen jarraitzeko. Komunitateko kideak kexatzen hasi ondoren bakarrik konturatu ziren hiriko buruzagiak gertatzen ari zenaz. Ibilgailu autonomoek eta auto gidatzen duten autoek aurkeztuko dituzten hiri osoko gai mota hauei buruzko informazio gehiago lortzeko, ikusi nire estaldura helbidean. esteka hau hemen eta Harvard-ek zuzendutako ikerketa bat deskribatzen du, nik gaiari buruz idatzi nuena.

AI alborapenekin erlazionatuta dagoen giza-alborapenen hirugarren kategoriarako, AIk kale bat zeharkatzeko bide-eskubidea ez duten oinezkoen zain egoteagatik gelditu behar den ala ez zehazten duen adibide batera jotzen dugu.

Zalantzarik gabe, gidatzen ibili zara eta kalea zeharkatzeko zain zeuden oinezkoekin topo egin duzu eta, hala ere, ez zuten horretarako bide-eskubiderik. Horrek esan nahi zuen diskrezioa zeukala gelditu eta gurutzatzen utzi ala ez jakiteko. Aurrera egin dezakezu gurutzatzen utzi gabe eta, hala ere, gidatzeko legezko arauen barruan egon zaitezke.

Giza gidariek horrelako oinezkoentzat gelditzea edo ez gelditzea erabakitzen duten azterketek iradoki dute batzuetan giza gidariek aukera txarrak egiten dituztela. Giza gidari batek oinezkoa begiztatu eta ez gelditzea erabaki dezake, nahiz eta oinezkoak beste itxura bat izan balu geldituko litzatekeen, arraza edo generoaren arabera, esaterako. Hemen aztertu dut hau esteka hemen.

Imajinatu AI-n oinarritutako auto gidatzeko autoak programatuta daudela bide-eskubidea ez duten oinezkoentzat gelditu edo ez gelditu behar den galderari aurre egiteko. Hona hemen nola erabaki zuten AI garatzaileek zeregin hau programatzea. Hirian zehar jarrita dauden herriko bideokameretatik datuak bildu dituzte. Datuek bide-eskubidea ez duten oinezkoentzat gelditzen diren giza gidariak eta gelditzen ez diren giza gidariak erakusten ditu. Guztia datu multzo handi batean biltzen da.

Machine Learning eta Deep Learning erabiliz, datuak konputazionalki modelatzen dira. Orduan AI gidatzeko sistemak eredu hori erabiltzen du noiz gelditu edo ez gelditu erabakitzeko. Orokorrean, ideia da tokiko ohitura edozein dela ere, horrela bideratzen du AIak auto gidatzen duen autoa.

Hiriko buruzagien eta bizilagunen harridurarako, AIk, bistan denez, gelditzea edo ez gelditzea aukeratzen ari zen oinezkoaren adinaren arabera. Nola gerta liteke hori?

Giza gidarien diskrezioari buruzko bideoa hurbilago aztertu ondoren, gelditzeko kasu askotan adineko baten bastoi bat zeukaten oinezkoak zeudela ikusten da. Giza gidariek ez omen zuten prest gelditu eta adineko pertsona bati kalea zeharkatzen uzteko, ustez norbaitek bidaia egiteko behar zuen denboraren ondorioz. Oinezkoak kalea zeharkatu eta gidariaren itxarote-denbora gutxitzeko modua ematen bazuen, gidariek pertsonari gurutzatzen uzteko joera handiagoa zuten.

Hau sakon lurperatu zen AI gidatzeko sisteman. Norbere gidatzen duen autoaren sentsoreek zain dagoen oinezkoa eskaneatu, datu horiek ML/DL eredura helaraziko lituzkete eta modeloak AIra igorriko luke gelditu edo jarraitu. Oinezkoa gurutzatzen motel ibili zitekeen edozein seinale bisual, hala nola bastoi bat erabiltzea, matematikoki erabiltzen ari zen AI gidatzeko sistemak zain dagoen oinezkoari gurutzatzen utzi behar zuen edo ez zehazteko.

Aurretik existitzen den giza alborapen batean konfiantza izan zela esan liteke.

Ondorioa

Oraingoz azken gogoeta batzuk.

Esaera ezagun batek ezin dituzula banatutako kartak aldatu eta eman dizkizuten eskuarekin behar bezala jokatzen ikasi behar duzula.

AI alborapenen kasuan, AI Etika orokorrean ezartzeaz gainditzen ez badugu eta batez ere AI alborapenen karakterizazioa sendotzen ez badugu, tratatuko ditugun esku motak ez-etiko hutsez gainezka egongo dira, eta, beharbada, legez kanpoko geruza. Karta horiek inoiz banatzeari utzi behar diogu, hasteko. AI etikoen estandarrak sortu eta zabaltzeko helburu ausarta tresna erabakigarria da datozen tsunamiari aurre egiteko. AI For Bad.

Erabaki dezakezu bankura eraman dezakezu AIaren alborapen zabala eta AI ez-etikoa karta-etxe ahul bat bezalakoa izango dela, bere baitan inplodatuz eta litekeena da gu guztiontzat negargarria izango dela.

Joka dezagun irabazteko, AI etiko egokiarekin eginez.