AI Etika eszeptikoa AI Sistema Autonomoetan Algoritmo Alboratuak deitzeko Bandera Gorria deitutako AI Legeak ezartzeari buruz

Hitz egin dezagun Bandera Gorriaren Legeei buruz.

Badakizu, dudarik gabe, Bandera Gorriaren Legeen nozioa albistegietan zabaldu dela azkenaldian. Gaia lantzen duten titularrak ugariak dira. Gaiei buruzko grinak eta eztabaida sutsuak gogoan daude gizartearen kezka gisa eta gaur egungo eta azkar sortzen ari diren Bandera Gorriaren Arma Legeak dakartza.

Ausartuko nintzateke esatera agian ez dituzula ezagutzen 1800eko hamarkadaren amaieran motordun ibilgailuei eta egungo automobil modernoen aitzindariei buruzko beste Bandera Gorriaren Lege batzuk. Bai, horixe da, Bandera Gorriaren Legeak historian atzera doaz, nahiz eta beste gai batzuk jorratzen dituen gaur egungo ikuspegiarekin alderatuta. Hauek Bandera Gorria Trafikoko Lege gisa aipatzen dira.

Orain mendeko eta guztiz desagertutako lege hauek lurrun bidez bultzatutako bagoi edo motor motordun orok ibilgailuaren aurretik heldu bat izatea eta abisu-helburuetarako bandera gorria eraman behar zuela eskatzen zuten. Ideia zen abereak larritu zitekeela lurrez edo gutxi zolatutako errepideetan poliki eta modu irregularrean barrena zihoazen tramankulu zaratatsu eta nahasgarri haiek, eta horrela norbait asmakizunaren aurrean ibiltzeak bandera gorria indarrez astintzen zuen bitartean kalamitateak ekiditea espero zuen. Galdetzen bazenuen, trenbideak eta trenak lege berberetatik baztertuta zeuden, errailetara erabat lotuta dauden ibilgailuak baitziren eta haien ekintzak biltzen zituzten beste lege batzuk baitzituzten.

Imajinatu gaur bandera gorriak astindu behar izatea gure bide publikoetako auto guztien baldintza gisa.

Adibidez, zure auzoko kaletik datorren auto-gidari arrunt batek bandera gorria astintzen duen heldu bat egon eta mugitzen ari den autoaren aurrean desfilatzen duela ziurtatu beharko luke. Hau zure kaletik pasatzen den ibilgailu guztietan egin beharko litzateke. Agian, jendea pasako diren auto-gidariekin kontratatuko zuten bandera gorriko langile bihurtuko lirateke, bestela ez zuten lagun edo seniderik haien aurrean joan eta ezarritako astintzen ekintza egiteko.

Gaur egun, autobideekin erlazionatutako bandera gorria errepideen eraikuntza lanekin lotu ohi dugu. Zulatutako errepide batera hurbildu ahala, langileek bandera gorri bat edukiko dute zure arreta bereganatzeko. Horrek moteldu eta alerta egoteko esaten dizu. Baliteke bulldozer bat zure bidean sartuko dena. Aurrean zulo erraldoi bat egon daiteke eta zuhurtziaz zeharkatu beharko duzu inguruan.

Baina itzul gaitezen 1800. hamarkadan bandera gorrien erabilerara.

Sinetsi ala ez, bandera gorriaren astinduak kilometro baten zortziren bat aurrerago egon behar zuen hurrengo motordun makina baino lehenago. Nahiko distantzia luzea dirudi. Batek suposatzen du, baina, horrek zentzu ugari zuela garai haietan. Motorraren zarata harrigarriak eta agian ibilgailua ikustea soila nahikoa izan liteke animaliak urduritzeko. Garai hartako Bandera Gorriaren Lege batzuek ere eskatzen zuten gauean argi gorri distiratsu bat goian edukitzea, ikusmen itxurazko prebentzio-abisu gorria distantzia ilun batetik ikus zedin.

Orokorrean, uste dut bidezkoa dela baieztatzea gizarte gisa bandera gorri bat lotu ohi dugula zerbait potentzialki gaizki dagoela edo, gutxienez, gure arreta zorrotza behar duen seinale edo seinale gisa.

Presta zaitez bandera gorrien fenomeno honi buelta pixka bat emateko.

Adimen Artifizialari (AI) dagokionez bandera gorrien xedapenak eskatu behar genituzkeen eztabaida zabaldu da.

Pixka bat harrigarria eta harrigarria den kontzeptua da, buru asko harrapatzera eramaten dituena. Litekeena da nola edo zergatik deitu behar den Bandera Gorria AI Legeak. Kontuan izan Bandera Gorriaren AI Lege gisa etiketatzen dudala gaia Bandera Gorriaren Trafiko Legeetatik bereizteko (esaterako, 1800eko hamarkadaren amaierakoak) eta, gainera, gaur egungo Bandera Gorriaren Arma Legeetatik bereizteko.

Benetan behar al ditugu Bandera Gorriaren AIren legeak, AI gaietara bereziki eta soilik zuzenduta daudenak?

Proposatutako planteamenduaren alde egiten dutenek azpimarratuko lukete beharbada lege-xedapenak behar ditugula, neurrigabeko joerak eta modu diskriminatzaileak dituen IA murrizten lagunduko dutenak. Oraintxe bertan, AIaren eraikuntza eta hedapena Mendebaldeko basatiaren antzekoak dira. Gaur egun AI txarrari eusteko ahaleginak AI Etika jarraibideen formulazioaren eta onarpenaren araberakoak dira. AI Etikari eta AI etikoari buruz dudan etengabeko estaldura zabala ikusteko, ikus esteka hemen esteka hemen, Gutxi batzuk aipatzearren.

AI txarrean kutxa duten legeak poliki-poliki asmatzen eta ezartzen ari dira, ikusi nire estaldura hemen esteka hemen. Batzuk kezkatzen dute legebiltzarkideak nahikoa azkar ez doazelako. Badirudi munduan AI alboratuak bultzatzea ahalbidetzeko uholde ateak zabal-zabalik daudela oraintxe bertan. Esku-eskuak dio lege berriak liburuetara iristen direnerako, jeinu gaiztoa botilatik aterako dela jada.

Ez hain azkar, kontra argumentuak doaz. Kezkak dira legeak azkarregi ezartzen badira urrezko antzara hilko dugula, AIren ahaleginak lehortu egingo direla eta ez ditugula AI sistema berrien gizartea sustatzeko onurak lortuko. AI-a erabili nahi duten AI garatzaileak eta enpresak beldurtu egin daitezke IA arautzen duten lege berrien bizantziar sorta bat-batean federal, estatu eta tokiko mailan ezartzen bada, aurrera doazen nazioarteko AIarekin lotutako legeak ahaztu gabe.

Afera nahasi honetan Bandera Gorria AI Legeetarako deia dator.

Aurreikusitako Bandera Gorriaren AI Legearen azpian dauden gogoeta basati eta artileei buruz haragi eta patata gehiagotan sartu baino lehen, ezarri ditzagun funtsezko oinarrizko gaiei buruzko oinarri gehigarri batzuk. Laburki murgildu behar dugu AI Etikan eta bereziki Machine Learning (ML) eta Deep Learning (DL) etorreran.

Lausoki jabetuko zara gaur egun AIren alorrean eta baita AIren eremutik kanpo ere ahots ozenenetako bat AI Etikoaren itxura handiagoa aldarrikatzean dela. Ikus dezagun zer esan nahi duen AI Etika eta AI etikoa aipatzea. Horrez gain, Machine Learning eta Deep Learning buruz hitz egiten dudanean zer esan nahi dudan aztertuko dugu.

Komunikabideen arreta handia jaso duen AI Etikaren segmentu edo zati jakin bat alderdikeriak eta desberdintasunak erakusten dituen IAk osatzen dute. Baliteke kontziente izango AIaren azken aroa martxan jarri zenean ilusio handia izan zela batzuek gaur egun deitzen duten hori AI For Good. Zoritxarrez, zirrara isuri horren harira, lekukotzen hasi ginen AI For Bad. Adibidez, AI-n oinarritutako aurpegi-ezagutze-sistemak arraza-alborapenak eta genero-alborapenak dituztela agerian utzi dute, eta horiei buruz hitz egin dudanean. esteka hemen.

Aurkako borroka egiteko ahaleginak AI For Bad aktiboki abian dira. Oihuka gainera legezko gaizki-egiteei eusteko asmoz, AIren etika onartzeko bultzada nabarmena ere badago AIren gaiztakeria zuzentzeko. Ideia da AI etikoaren funtsezko printzipioak onartu eta onartu beharko genituzkeela IA garatzeko eta lantzeko. AI For Bad eta, aldi berean, hoberena iragartzen eta sustatuz AI For Good.

Erlazionatutako ideia batean, AI erabiltzen saiatzearen defendatzailea naiz AIren arazoen konponbidearen zati gisa, suarekin suarekin borrokatzeko pentsamendu modu horretan. Adibidez, AI etikoen osagaiak txerta genitzake AI sistema batean, gainontzeko AIak gauzak nola egiten dituen kontrolatuko duena eta, beraz, denbora errealean edozein diskriminazio-ahaleginak harrapatzeko. Ikusi nire eztabaida hemen. esteka hemen. AI Etika monitore gisa jarduten duen AI sistema bereizi bat ere izan genezake. AI sistemak gainbegiratzaile gisa funtzionatzen du beste AI bat amildegi ez-etikoan sartzen denean jarraitzeko eta detektatzeko (ikusi horrelako gaitasunen azterketa hemen esteka hemen).

Une batean, AI Etikaren azpian dauden printzipio nagusi batzuk partekatuko ditut zurekin. Zerrenda mota asko daude han eta hemen inguruan. Esan liteke oraindik ez dagoela erakargarritasun eta adostasun unibertsalaren zerrenda berezirik. Hori da zorigaiztoko albistea. Berri ona da gutxienez eskuragarri daudela AI Etika zerrendak eta nahiko antzekoak izan ohi direla. Guztiak esanda, horrek iradokitzen du nolabaiteko konbergentzia arrazoitu baten bidez AI Etika zertan datzan komuntasun orokorrerantz aurkitzen ari garela.

Lehenik eta behin, labur ditzagun AI Etikoko manu orokor batzuk AI lantzen, lantzen edo erabiltzen duen edonork ezinbesteko kontua izan behar duena ilustratzeko.

Adibidez, Vatikanoak dioen bezala Erromako AI Etikarako Deia eta sakonki jorratu dudan bezala esteka hemenHauek dira identifikatutako sei oinarrizko AI etika printzipioak:

  • Gardentasuna: Printzipioz, AI sistemek azalgarriak izan behar dute
  • sartzea: Gizaki guztien beharrak kontuan hartu behar dira, guztion onura izan dadin, eta pertsona guztiei eskein diezaieke bere burua adierazteko eta garatzeko baldintza onenak.
  • Erantzukizuna: AIaren erabilera diseinatzen eta zabaltzen dutenek ardura eta gardentasunarekin jarraitu behar dute
  • Inpartzialtasuna: Ez sortu edo ez jokatu joeraren arabera, horrela zuzentasuna eta giza duintasuna bermatuz
  • Fidagarritasuna: AI sistemek modu fidagarrian funtzionatzeko gai izan behar dute
  • Segurtasuna eta pribatutasuna: AI sistemek segurtasunez funtzionatu behar dute eta erabiltzaileen pribatutasuna errespetatu behar dute.

AEBetako Defentsa Sailak (DoD) bere dokumentuan adierazi duenez Adimen artifiziala erabiltzeko printzipio etikoak eta sakonki jorratu dudan bezala esteka hemenHauek dira AIren sei printzipio etiko nagusiak:

  • Arduraduna: DoDko langileek epai eta arreta maila egokiak erabiliko dituzte AI gaitasunen garapenaren, hedapenaren eta erabileraren ardura izaten jarraitzen duten bitartean.
  • Ekitatiboa: Sailak nahita neurriak hartuko ditu AI gaitasunetan nahi gabeko alborapenak minimizatzeko.
  • Trazagarria: Departamentuaren AI gaitasunak garatu eta zabalduko dira, dagokion langileek AI gaitasunei aplikagarri zaizkien teknologia, garapen-prozesu eta metodo operatiboen ulermen egokia izan dezaten, metodologia gardenak eta ikuskagarriak, datu-iturriak eta diseinu-prozedura eta dokumentazioa barne.
  • Seriotasuna: Sailaren AI gaitasunek erabilera esplizituak eta ongi zehaztuak izango dituzte, eta gaitasun horien segurtasuna, segurtasuna eta eraginkortasuna probak eta bermeak izango dira definitutako erabilera horietan bizi-ziklo osoan zehar.
  • Gobernagarria: Sailak AI gaitasunak diseinatu eta diseinatuko ditu aurreikusitako funtzioak betetzeko, nahi gabeko ondorioak detektatzeko eta ekiditeko gaitasuna duen bitartean, eta nahi gabeko portaera erakusten duten sistemak desaktibatzeko edo desaktibatzeko gaitasuna.

AIaren etika-printzipioen analisi kolektibo ezberdinei buruz ere eztabaidatu dut, besteak beste, nazioko eta nazioarteko AI etikako printzipio ugariren funtsa aztertu eta laburtu zuen ikertzaileek asmatutako multzoa aztertu izana "The Global Landscape Of AI Ethics Guidelines" (argitaratutakoa). urtean Nature), eta nire estaldurak hemen aztertzen du esteka hemen, eta horrek giltzarri zerrenda honetara eraman zuen:

  • Transparency
  • Justizia eta zuzentasuna
  • Ez-Malefizia
  • Erantzukizun
  • Pribatutasuna
  • Ongintzaren
  • Askatasuna eta Autonomia
  • Fidatu
  • Iraunkortasun
  • duintasuna
  • Elkartasuna

Zuzenean asmatuko duzun bezala, printzipio horien azpian dauden zehaztasunak zehazten saiatzea oso zaila izan daiteke. Are gehiago, printzipio zabal horiek guztiz ukigarri eta zehatza den zerbait bilakatzeko ahalegina AI sistemak lantzean erabiltzeko moduko intxaur gogorra ere bada. Erraza da, oro har, AI Etikaren manuak zer diren eta orokorrean nola behatu behar diren eskuz astintzea, AI kodeketa askoz ere egoera zailagoa da errepidea betetzen duen benetako goma izan behar izatea.

AI Etika-printzipioak AI garatzaileek erabili behar dituzte, AI garapenerako ahaleginak kudeatzen dituztenekin batera, eta baita, azken finean, AI sistemetan mantentzea lantzen eta egiten dutenekin batera. AIaren garapen eta erabileraren bizitza-ziklo osoan parte hartzen duten eragile guztiak AI Etikoaren ezarritako arauak betetzearen esparruan hartzen dira kontuan. Garrantzi handiko aipamena da hau, ohiko suposizioa delako "kodetzaileak" edo AI programatzen dutenak soilik AI Etika nozioei atxikitzeko menpe daudela. Lehen esan bezala, herri bat behar da AI asmatzeko eta lantzeko, eta, horretarako, herri osoak AI Etika aginduak ezagutu eta bete behar ditu.

Ziurta dezagun, gainera, orrialde berean gaudela gaurko AIaren izaerari buruz.

Gaur egun ez dago sentikorra den AIrik. Ez dugu hau. Ez dakigu AI sentikorra posible izango den. Inork ezin du ongi iragar AI sentikorra lortuko dugun ala ez, ezta AI sentikorra nolabait miragarriki berez sortuko den supernoba kognitibo konputazional baten moduan (normalean berezitasuna deitzen dena, ikus nire estaldura hemen. esteka hemen).

Zentratzen ari naizen AI mota gaur egun daukagun AI ez sentikorra da. Buruz basatian espekulatu nahi bagenu sentikorra AI, eztabaida hau zeharo beste norabide batean joan liteke. AI sentikor bat giza kalitatekoa izango litzateke. Kontuan izan beharko zenuke AI sentikorra gizakiaren baliokide kognitiboa dela. Are gehiago, batzuek IA super-adimentsua izan genezakeela espekulatzen dutenez, pentsa daiteke AI hori gizakiak baino adimentsuagoa izan daitekeela (AI super-adimentsua aukera gisa aztertzeko, ikus estaldura hemen).

Utz ditzagun gauzak lurrean gehiago eta kontuan izan ditzagun gaur egungo AI konputazionala sentikorra.

Konturatu gaur egungo IA ez dela gai giza pentsamenduaren parean "pentsatzeko". Alexa edo Sirirekin elkarreragiten duzunean, elkarrizketa gaitasunak giza gaitasunen antzekoak dirudite, baina errealitatea da konputazionala dela eta giza ezagutza falta dela. AIaren azken aroak asko erabili ditu Machine Learning (ML) eta Deep Learning (DL), zeinak konputazio-ereduen parekatzea baliatzen baitute. Horrek gizakiaren antzeko joerak dituzten AI sistemak ekarri ditu. Bien bitartean, gaur egun ez dago zentzu arruntaren itxura duen AIrik eta giza pentsamendu sendoaren harridura kognitiborik ere ez duenik.

ML/DL eredu konputazionalaren parekatze modu bat da. Ohiko planteamendua erabakiak hartzeko zeregin bati buruzko datuak biltzea da. Datuak ML/DL ordenagailu ereduetara elikatzen dituzu. Eredu horiek eredu matematikoak aurkitu nahi dituzte. Eredu horiek aurkitu ondoren, aurkituz gero, AI sistemak eredu horiek erabiliko ditu datu berriak topatzerakoan. Datu berriak aurkeztean, datu "zahar" edo historikoetan oinarritutako ereduak aplikatzen dira egungo erabakia emateko.

Uste dut hau nora doan asma dezakezula. Erabakien eredua hartzen ari diren gizakiek alborapen txarrak sartu badituzte, litekeena da datuek modu sotil baina esanguratsuan islatzea. Machine Learning edo Deep Learning konputazio-ereduen parekatzea besterik ez da saiatuko datuak matematikoki imitatzen. Ez dago zentzu arruntaren edo beste alderdi sentikorren itxurarik AI-n landutako modelizazioaren berez.

Gainera, AI garatzaileak agian ez dira konturatzen zer gertatzen ari den. ML/DL-ko matematika arkanoak zaildu lezake orain ezkutuko alborapenak atzematea. Ziurrenik espero eta espero zenuke AI garatzaileek lurperatuta egon daitezkeen alborapenak probatuko dituztela, nahiz eta badirudi baino zailagoa den. Aukera sendoa dago, nahiz eta proba nahiko zabalak izan, ML/DL ereduak parekatzeko ereduetan oraindik txertatutako alborapenak egongo direla.

Garbage-in garba-out-en esaera ospetsua edo gaiztoa zertxobait erabil dezakezu. Kontua da, hau AIaren barnean murgiltzen diren alborapenak maltzurki sartzen diren alborapenen antzekoagoa da. AIren algoritmoen erabakiak hartzea (ADM) axiomatikoki desberdintasunez kargatzen da.

Ez da ona.

Itzuli gaitezen Bandera Gorriaren AIren legeei buruzko arretara.

Azpiko kontzeptua da jendeak bandera gorria altxatu ahal izango lukeela uste duten bakoitzean AI sistema bat modu desegokian edo diskriminatzailean funtzionatzen ari zela. Ez zenuke berez bandera fisikorik altxatuko, eta, horren ordez, baliabide elektroniko batzuk erabiliko dituzu zure kezkak ezagutarazteko. Eskemaren edo planteamenduaren bandera gorriaren zatia metafora bat da gorputz fisiko bat baino.

Itxura ezazu etxebizitzako mailegua eskatzen ari zinela. Mailegu bat eskatzeko lineako banku-zerbitzu bat erabiltzea aukeratzen duzu. Datu pertsonal batzuk sartu ondoren, une batean itxaron egiten duzu erabiltzen ari den AI sistemaren mailegua merezi duzun edo ez erabakitzeko. AIk esaten dizu mailegua uko egin dizula. Zergatik baztertu zintuztenen azalpena eskatuz gero, badirudi testu-kontakizunak iradokitzen dizula AIak alborapenik gabeko faktoreak erabiltzen ari zela erabakiak hartzeko algoritmoaren zati gisa.

AIari buruzko Bandera Gorria altxatzeko garaia.

Non astinduko da zehazki bandera gorri hau?

Hori milioi dolarreko galdera da.

Ikuspegi bat da nazio osoko datu-base bat ezarri beharko genuela, jendeak bere AIri dagozkion bandera gorriak markatzeko aukera emango diona. Batzuek diote hori gobernu federalak arautu behar duela. Agentzia federalak bandera gorriak aztertzeaz eta publiko orokorrari laguntzeaz arduratuko lirateke egiazkotasunari buruz eta ustezko "AI txarra"ri aurre egiteaz, bandera gorriaren txostenak piztu zituena.

Badirudi Gorriaren AI Lege Nazionala ezarriko luke Kongresuak. Legeak zehaztuko luke zer den AIri dagokion bandera gorria. Legeak deskribatuko luke nola altxatzen diren AI-ko bandera gorri horiek. Eta abar. Baliteke estatu indibidualak beren Bandera Gorriaren AI Legeak egitea ere aukeratzea. Beharbada, ekimen nazional baten ordez egiten dute, edo beren egoera zehatzerako bereziki erakargarriak diren xehetasunak areagotzeko egiten dute.

Bandera Gorriaren AI programa federal edo gobernuak babestutako edozein kritikariek industria pribatuak egin dezakeen zerbait dela esango lukete eta ez dugula Big Brother behar. Industriak lineako biltegi bat ezar lezake eta bertan jendeak AI sistemei buruzko bandera gorriak erregistratu ditzake. Industriaren autopolizia ekintza batek nahikoa landuko lituzke gai hauek.

Ustezko industriaren ikuspegiari buruzko nahasmendu bat lagunkeriaren kiratsa duela dirudi. Enpresek prest egongo al lirateke Red Flag AI datu-base pribatu batzuk betetzeko? Enpresa askok beren IAri buruz markatutako bandera gorriak alde batera utziko lituzkete. Ez litzateke hortz zorrotzik egongo enpresek sartutako bandera gorriei aurre egiteko.

Aizu, sektore pribatuaren planteamenduaren aldekoek ez dute soinurik, hau Yelp-en antzeko zerbitzu nazionalaren antzekoa izango litzateke. Kontsumitzaileek bandera gorriak aztertu eta beraiek erabaki dezakete negozioa egin nahi duten AIra bideratutako bandera gorri ugari bildu dituzten enpresekin. Beren AI-ari buruzko bandera gorri asko jasotzen ari zen banku batek arreta jarri eta beren AI sistemak berritu beharko lituzke, beraz, logika dio, bestela, kontsumitzaileek izurritea bezala saihestuko lukete enpresa.

Planteamendu hau gobernuak edo industriak egiten duen ala ez, Bandera Gorriaren AI Legeak proposatutako postulatuari aurre egiten dion galdera arantzatsuen icebergaren punta besterik ez da.

Jarri IA garatu duen edo erabiltzen ari den enpresa baten larruan. Baliteke kontsumitzaileek bandera gorriak altxatzea, horretarako oinarri bideragarririk ez zegoen arren. Jendeak AI-ri buruzko bandera gorria libreki argitaratuko balu, baliteke hori kapritxo batean egiteko tentazioa izatea, edo agian kontsumitzaileari ezer txarrik egin ez zion enpresa baten aurka mendekatzeko.

Laburbilduz, AIren inguruko Bandera Gorri faltsu-positibo asko egon litezke.

Beste kontu bat sortzen diren bandera gorrien tamaina edo magnitude masiboa da. Erraz izan litezke milioika eta milioika bandera gorri altxatuta. Nork jarraituko du bandera gorri horiei guztiei? Zein kostu izango litzateke hori egiteak? Nork ordainduko du bandera gorriaren jarraipena egiteko ahaleginak? Etab.

AIri buruzko bandera gorria erregistratzen edo salatzen duen edonork kuota bat ordaindu behar duela esango bazenu, eremu ilun eta maltzur batean sartu zara. Kezka litzateke dirudunek soilik bandera gorriak altxatzeko gai izango liratekeela. Horrek esan nahi du pobretuek ezingo luketela bandera gorriaren jardueretan berdin parte hartu eta, funtsean, ez dutela AI kaltegarrien inguruan ohartarazteko tokirik.

Oraingoz bira gehigarri bat besterik ez da, hots, AI-ri buruzko bandera gorriko lege edo jarraibide mota hau abisu gisa balio izan beharrean dagoela dirudi.

Bandera Gorriaren Trafiko Legeetara itzuliz, bandera gorria erabiltzearen enfasia hondamendi bat izatea saihestea zen hasteko. Bandera gorria astindutako kotxeari aurrea hartu behar zion. Ibilgailuaren aurretik egonez gero, abereei abisua emango zaie eta abereak zaintzen zituztenek jakingo lukete neurriak hartu behar dituztela laster iritsiko den iturri kezkagarria dela eta.

Jendeak antza denez bere eskubideak kaltetu edo murrizten dituen IAri buruzko bandera gorria altxatzeko gai bada, zaldi esaera ukuilutik kanpo dago jada. Honek lortuko lukeen guztia da, zorionez, datozen beste pertsonek orain jakingo luketela AI sistema horrekin kontuz ibili behar dela. Bien bitartean, ustez kaltetutako pertsonak sufritu egin du dagoeneko.

Batzuek iradokitzen dute agian jendeari baimendu genitzakeela AIren inguruko bandera gorriak igotzeko susmagarri alboratuak izan daitezke, nahiz eta AI erabili ez duten eta AI-ak zuzenean eraginik izan ez. Horrela, bandera gorria astintzen da kaltea egin aurretik.

Bai, dio erantzunak, AI-ari aurre egiteko bandera gorriak guztiz kudeatu ezineko eta kaotiko bihurtuko dituzu. Edozein arrazoirengatik edonork AI sistema bati buruzko bandera gorria igo badezake, AI horrekin ezer egin ez arren, bandera gorriz gainezka egingo zara. Okerragoa dena, ezin izango duzu bereizi garia lastotik. Bandera gorriaren hurbilketa osoa bere pisuaren azpian eroriko da, ideiaren ontasuna kenduz, ontzi osoa hondoratzea ahalbidetuz.

Zorabioa eta nahasgarria.

Eztabaida handi honen une honetan, gai hau erakusteko adibide argigarri batzuk nahi dituzula apustu egingo nuke. Badira nire bihotzetik gertu dagoen adibide multzo berezi eta ezagun bat. Ikusten duzu, AI-n aditua naizen aldetik, adar etiko eta legalak barne, maiz eskatzen didate AI Etikaren dilemak erakusten dituzten adibide errealistak identifikatzea, gaiaren izaera teoriko samarra errazago ulertu ahal izateko. AI etiko istilu hau modu bizian aurkezten duen eremu iradokitzaileenetako bat AI-n oinarritutako benetako auto-gidatuen autoen etorrera da. Gaiari buruzko eztabaida zabalerako erabilpen kasu edo eredu erabilgarri gisa balioko du.

Hona hemen hausnarketa merezi duen galdera aipagarri bat: AI-n oinarritutako benetako auto gidatzen duten autoen etorrerak Bandera Gorriaren AI Legeei buruzko zerbait argitzen al du, eta hala bada, zer erakusten du honek?

Utzidazu une bat galdera deskonprimitzeko.

Lehenik eta behin, kontuan izan ez dagoela giza gidaririk benetako auto gidatzen duen auto batean. Gogoan izan norberak gidatzen dituen benetako autoak AI gidatzeko sistema baten bidez gidatzen direla. Ez dago gidari baten beharrik gurpilean, ezta gizaki batek ibilgailua gidatzeko aurreikuspenik ere. Ibilgailu autonomoen (AV) eta batez ere auto gidatzen duten autoen estaldura zabala eta etengabea ikusteko, ikus esteka hemen.

Gehiago argitu nahiko nuke zer esan nahi den benetako auto gidatzen diren autoak aipatzen ditudanean.

Auto gidatzeko autoen mailak ulertzea

Argibide gisa, benetako auto gidatzen diren autoak AIak autoa bere kabuz gidatzen dituenak dira eta gidatzeko zereginean zehar giza laguntzarik ez dagoen.

Gidaririk gabeko ibilgailu hauek 4. maila eta 5. maila hartzen dira (ikus nire azalpena helbidean esteka hau hemen), aldiz, giza gidari batek gidatzeko ahalegina elkarrekin partekatzea eskatzen duen autoa 2. edo 3. mailan hartzen da normalean. Gidatzeko zeregina elkarrekin partekatzen duten autoak erdi-autonomoak direla deskribatzen da, eta normalean hainbat eduki dituzte. ADAS (Advanced Driver-Assistance Systems) deitzen diren gehigarri automatizatuak.

5. mailan oraindik ez dago benetako auto autonomorik, eta oraindik ez dakigu hori lortzerik izango den, ezta zenbat denbora beharko duen bertara iristeko ere.

Bien bitartean, 4. mailako ahaleginak pixkanaka-pixkanaka trakzio pixka bat lortzen saiatzen ari dira bide publikoko entsegu oso estu eta selektiboak jasanez, nahiz eta eztabaida dagoen proba hori berez onartu behar den ala ez (denok gara esperimentu batean hil ala biziko kobaiak). gure autobideetan eta bide-bideetan gertatzen ari dena, batzuek diotenez, ikusi nire estaldura hemen esteka hau hemen).

Auto erdi autonomoak giza gidaria behar dutenez, auto mota horiek ez dira ohiko ibilgailuak gidatzea baino oso desberdinak izango. Beraz, ez dago gai horren inguruko gai asko estaltzeko gai hau (hala ere, ikusiko duzuenez une batez, hurrengo puntuak orokorrean aplikagarriak dira).

Auto erdi autonomoetarako, garrantzitsua da publikoa azkenaldian sortzen ari den alderdi kezkagarri baten aurrean jakitea, hots, 2. mailako edo 3. mailako auto baten gurpilean lokartzen ari diren giza gidariek argitaratzen jarraitzen duten arren. , guztiok saihestu behar dugu gidariak zereginetatik arreta kendu dezakeela auto erdi autonomo bat gidatzen duenean.

Ibilgailuaren gidaritza-ekintzen arduraduna zara, 2. mailara edo 3. mailara zenbat automatizazio bota litekeen kontuan hartu gabe.

Norbere gidatzen diren autoak eta Bandera Gorria AI Legeak

4. eta 5. mailako egiazko autoentzako gidatzeko ibilgailuentzat, ez da gidari lanetan parte hartuko duen gidaririk.

Okupatzaile guztiak bidaiariak izango dira.

AI gidatzen ari da.

Berehala eztabaidatu beharreko alderdi batek dakar gaur egungo AI gidatzeko sistemetan parte hartzen duen AI ez dela sentikorra. Beste modu batera esanda, AI ordenagailuan oinarritutako programazio eta algoritmoen kolektiboa da, eta ziur asko ez da gai gizakiak ahal duen moduan arrazoitzeko.

Zergatik ari da azpimarratzen AI hori sentikorra ez izateari?

Azpimarratu nahi dudalako AI gidatzeko sistemaren papera eztabaidatzerakoan, ez diodala giza ezaugarriak AIri ematen. Jakin ezazu egun antropomorfizatzeko AI joera etengabea eta arriskutsua dagoela. Funtsean, jendeak gizakien antzeko sentikortasuna esleitzen dio gaurko AIri, oraindik AI hori existitzen ez dela ukaezina eta eztabaidaezina izan arren.

Argibide horrekin, AI gidatzeko sistemak berez ez duela nolabait "gidatzearen alderdiak" jakingo pentsa dezakezu. Gidatzea eta horrek dakarren guztia autoa gidatzeko hardwarearen eta softwarearen zati gisa programatu beharko da.

Muga gaitezen gai honen inguruan jokatzera etortzen diren hainbat alderditan.

Lehenik eta behin, garrantzitsua da konturatzea AI auto gidatzen duten auto guztiak ez direla berdinak. Auto-fabrikatzaile eta auto-gidatzeko teknologia-enpresa bakoitzak bere ikuspegia hartzen ari da auto-gidatzeko autoak asmatzeko. Hori dela eta, zaila da AI gidatzeko sistemek egingo edo ez dutenari buruzko adierazpen zabalak egitea.

Gainera, AI gidatzeko sistema batek gauza bereziren bat egiten ez duela adierazten duen bakoitzean, geroago ordenagailua hori egiteko programatzen duten garatzaileek gainditu dezakete. Pausoz pauso, AI gidatzeko sistemak pixkanaka hobetzen eta hedatzen ari dira. Baliteke gaur egun dagoen mugarik ez egotea etorkizuneko sistemaren iterazio edo bertsio batean.

Espero dut horrek kontatuko dudanaren azpian jartzeko oharra nahikoa ematea.

Zirriborratu dezagun Bandera Gorriaren AI Legea balia dezakeen eszenatoki bat.

AIan oinarritutako auto gidatzen duen auto batean sartzen zara eta ibilgailu autonomoak zure tokiko janari dendara eraman zaitzala nahi duzu. Bidaia labur samarrean zehar, AI-ak oker samarra iruditzen zaizun ibilbide bat hartzen du. Biderik zuzenenetik joan beharrean, AIak bide bazterreko kaleetara nabigatzen du eta horrek gidatzeko denbora normalean izan litekeena baino handiagoa da.

Zer gertatzen ari da?

Norberak gidatzen duen autoa erabiltzeagatik ordaintzen ari zarela suposatuz, baliteke AIa ibilbide luzeago bat gidatzeko programatuta dagoela susmatuko duzula bidaiaren tarifa edo kostua igotzen saiatzeko. Inoiz gizakiak gidatutako kabina konbentzionala hartu duen edonork badaki kontagailuan ore gehiago lortzeko izan daitezkeen trikimailuak. Jakina, jendeak telefonoan GPSa daukala kabinan edo baliokidean ibiltzen den bitartean, erraz harrapatzea alferrikako ibilbide luzeak egiten ari dela dirudien giza gidaria.

Ibilbidearen aukeraketari buruz beste kezka bat duzula ematen du, benetan hazten zaituen zerbait.

Demagun bideratzea arraza alderdiengatik herriko zenbait toki saihesteko egin zela. Mota honetako aukerak egiten harrapatu dituzten giza gidarien kasu dokumentatuak daude, ikusi nire eztabaida helbidean esteka hemen. Beharbada, AI-a modu txarrez programatu da.

Bandera gorria altxatzea erabakitzen duzu.

Demagun eztabaidaren mesedetan zure jurisdikzioa estaltzen duen Bandera Gorriaren AI Legea ezarri dela. Tokiko legeak, estatuko legeak, federalak edo nazioartekoak izan daitezke. Harvardeko Autonomous Vehicle Policy Initiative-rekin (AVPI) batera idatzi dudan azterketarako, ikusi esteka hemen.

Beraz, sarean sartzen zara Red Flag AI datu-base batera. Gorabeheren datu-basean, autoz gidatzen duzun bidaiari buruzko informazioa sartzen duzu. Horrek gidatzeko bidaiaren data eta ordua barne hartzen ditu, auto gidatzen duen autoaren marka eta modeloarekin batera. Ondoren, susmagarria iruditu zaizun nabigazio-ibilbidean sartzen zara, eta AI-a asmo eta gaitasun alboratzaile edo diskriminatzaile batekin sortu zela iradokitzen ari zara edo agian erabat aldarrikatzen ari zara.

Bandera Gorriaren AI Legearen beste xehetasunekin espekulatu beharko genuke agertoki zehatz honetan zer gertatzen den. Teorian, norbaitek bandera gorria berrikusteko xedapen bat egongo litzateke. Ustez, auto-fabrikatzaileak edo auto-gidatze teknologia-enpresak erregistratutako bandera gorriaren gaineko ikuspuntua azaltzea lortuko lukete. Beste zenbat bandera gorri erregistratu dira? Zein ondorio izan zituzten bandera gorri haiek?

Eta horrela joango zen.

Ondorioa

Zoragarria, eszeptiko batzuek eskatzen dute.

Ez dugu Bandera Gorria AI Legeak behar, gogor egiten dute. Horrelako edozer egiteak lanak okertuko ditu AIaren erritmoari eta aurrerapenari dagokionez. Horrelako lege oro ezinezkoa izango litzateke. Arazo bat konpontzen ez duen arazo bat sortuko zenuke. Badira AIari aurre egiteko beste modu txarrak. Ez ezazu itsu-itsuan heldu lastoak AI alboragarriari aurre egiteko.

Martxak aldatuz, denok dakigu toreroek kapa gorriak erabiltzen dituztela itxuraz haserretutako zezenaren arreta erakartzeko. Praktika honekin gehien lotzen dugun kolorea gorria den arren, harrituko zaitu jakiteak zientzialariek diotela zezenek ez dutela muletaren kolore gorria hautematen (gorriarekiko daltonikoak dira). Ikuskizun herrikoia Mythbusters gai honi buruzko azterketa nahiko entretenigarria egin zuen. Kaparen mugimendua aukeratutako kolorea baino funtsezko elementua da.

Bandera Gorriaren AI Legeen beharra alde batera uzten dutenentzat, erreklamazio bat da izaera dramatiko eta nahastezina den zerbait behar dugula ziurtatzeko AI garatzaileek eta AI inplementatzen duten enpresek AI alboragarri edo txarra urrunduko dutela ziurtatzeko. Bandera gorri bat ez bada, beharbada kapa astindu bat edo, funtsean, edozein alerta-ikuspegi behar den kontuan hartzearen barruan egon liteke.

Ziur badakigu AI txarra existitzen dela eta askoz ere AI txar gehiago gure norabidean joango dela. AI kaltegarrietatik babesteko moduak aurkitzea funtsezkoa da. Era berean, AI txarrak munduan sartzeari utz diezaion saiatzeko baranda ezartzea ere garrantzitsua da.

Ernest Hemingwayk esan zuen inor ez dela bere bizitza osorik bizi toreroak izan ezik. Ziurtatu behar dugu gizakiek beren bizitza bide osoan bizi dezaketela, AIren gaiztakeria edo eromena aldarrikatzen diguten arren.

Iturria: https://www.forbes.com/sites/lanceeliot/2022/06/29/ai-ethics-skeptical-about-establishing-so-called-red-flag-ai-laws-for-calling-out- alboratuak-algoritmoak-sistema-autonomoetan/