AI etika eta sistema autonomoen ikasgaiak Alaska Airlines konpainiako azken hegaldi hartatik atera ziren non pilotua eta kopilotua ados ez zeuden aireratu baino lehen eta bat-batean terminalera itzultzeko eta beren bide ezberdinetara joatea aukeratu zuten.

Azkenaldian nahiko albiste izan dira aire konpainiak.

Hegaldien udako krisian gaude. Bidaiari nekatuak eta frustratuak hegaldien etenaldi eta aire-konpainien programazio-kontorsioen aurrean aurkitzen dira. Hegaldiak ustekabean bertan behera uzten dira. Hegaldiak atzeratu egiten dira. Bidaiarien kea. Zoritxarrez, bidaiari kasu asko egon dira haserre horiek lehertzea ahalbidetzen dutenak, eta izugarrizko bideo biral gehiegi ikusi ditugu buruz buruko liskarren eta, batzuetan, kolpeka jota.

Arraroagoa da kabinan egon daitezkeen pilotu eta copiloto baten arteko liskarrak ezagutzen ditugu.

Hori nahiko sorpresa da.

Izan ere, berez harrituta gaude pentsatzeak pilotu eta kopilotu batek desadostasun larri baten itxurarik izango lukeela hegaldiaren edozein fasetan. Desadostasuna zein kafe-marka den onenari dagokio, gure ustea da horrek ez lukeela sartuko hegazkinean hegan egitean dakartzan lan-esfortzuan. Biek, besterik gabe, alde batera utziko lukete begi-bistarik ez duten hegaldiari garrantzirik gabeko gai bati buruz. Beren jokaera profesionala eta aspaldiko pilotuaren prestakuntza hasiko ziren eta hegaldiaren xehetasunetara itzuliko zuten arreta.

Kontuan izan arren noiz a desadostasun profesionala esku hartzen du.

Laburki partekatuko dut zurekin AEBetako hegaldi batean gertatutako azken kasu bati buruz zabaldutako albiste bat, kabinako ustezko desadostasun profesional bati buruz.

Batez ere, hemen aipatzen da, Adimen Artifizialaren (AI) agerpenerako garrantzi handikoa den gaia aztertzeko. Ikusten duzu, gizakien arteko desadostasun batean gizakien artean ez ezik, gizakien arteko desadostasun profesionalaren modu bat egon daiteke, baina antzeko zerbait gerta daiteke AIren adopzioaren artean eta, ondorioz, gizakien eta AIren arteko desadostasun profesionalen artean. . Mota guztietako AI Etika kontuak sortzen dira. AI Etika eta AI Etikoko gaiei buruzko nire estaldura zabala eta etengabea ikusteko, ikus esteka hemen esteka hemen, batzuk besterik ez aipatzearren.

Presta zaitez istorio liluragarri baterako.

Berriki albisteetan jakinarazi dutenez, "desadostasun profesional" kasu bat sortu zen itxuraz Washingtonetik San Frantziskora zihoan Alaska Airlineko hegaldi batean. Albisteen arabera, hegaldia atetik urrundu zen eta asfaltoan taxia egiteko eta hegaldia hartzeko baimenaren zain zegoen. Ekaitz bat ari zen eta hegaldia ordu eta erdi baino gehiagoko atzerapena eragin zuen. Bihurtzen da hegazkina azkenean buelta eman eta aterantz itzuli zela, bidaiari batzuek normalean ekaitzarekin lotutako segurtasun neurri bat besterik ez zela suposatuko zutena.

Hainbat txioren arabera, badirudi pilotuek eta copilotoek nolabaiteko liskar bat izan zutela kabinan han egon ziren denboran eta, nolabait, hurbilketa zuhurrena hegaldia garbitu eta terminalera itzultzea izango zela ondorioztatu zuten. . Txioek iradoki zuten kapitaina eta lehen ofiziala, itxuraz, ezin zirela elkarrekin ondo moldatu. Geroago, hegazkin konpainiak egoera tamalgarria zela ohartarazi zuen (egoera ez zen berariaz adierazi edo azaldu, berez), bi hegaldi ofizialak zuzendaritzak ebaluatu eta hegan egiteko egokitzat jo zituen, tripulazioak aldatu egin ziren eta hegaldia gauzatu zen. eta geroago San Frantziskora iritsi zen.

Zentzu batean, egia esan, pilotuek eta copilotoek desadostasun profesional bat izan badute, esate baterako, hegazkina hegaldia hartzeko prest zegoen edo ekaitz batean hegan egiteko arriskua segurtasun-tarte egoki baten barruan zegoen, bidaiari horiek lasaitu beharko lirateke eta eskerrak emanez hegazkina atarira itzuli izana. Hobe seguru egotea barkatu baino. Atzerapen gehigarri bat izateak merezi du hegazkin-bidaia malkartsu edo kaltegarritzat hartutako arriskuak murriztea.

Batzuk harritu liteke halako desadostasun profesional bat sor zitekeela.

Agian inpresio faltsua dugu kabinan gertatzen den guztia guztiz zehatza eta ondo idatzita dagoela. Prozesutik giza diskrezio mota guztiak kendu omen dira. Grafiko zehatzetan eta ondo kalkulatutakoetan oinarrituta, hegaldi bat aurrera egitea ondo dago edo ez dago. Ezin da desadostasunik egon kit eta kaboodle osoa gertakari eta zifren kalkulu ukaezinetan oinarritzen dela uste denean.

Hori ez da kontuaren egia osoa. Noski, protokolo mordoa eta era guztietako kontrol eta balantzak daude, baina horrek ez du giza epaiaren apur bat kentzen. Pilotuek eta kopilotuek giza judizioa erabiltzen dute oraindik. Zorionez, giza judizio hori hegan egiten du urteetako hegazkinez. Litekeena da bidaiarien hegazkin komertzialeko pilotu eta kopilotu batek aldez aurretik hegaldi-esperientzia izatea eta hegaldi-kontroletan egotearekin lotutako urte askotako arrazonamendu eta epaiketa sakona erraz aprobetxatzea.

Gizakiaren epaimenaren eginkizun nabarmena kontuan hartuta, logikoki aurreikus genezake pilotu batek eta kopilotu batek batzuetan desadostasun profesionalak izango dituztela. Gehienetan, ustez, oso desadostasun gutxi dago. Eguneroko hegaldietarako pilotua eta copilota denboraren nagusitasuna ondo lerrokatuta egongo dira. Hegaldi agertoki bat ohiko mugetatik kanpo joan daitekeenean bakarrik espero genuke marruskadura tentsio handiagoa sortzea.

Bien artean iritzi-desberdintasun handia baldin badago, ausartuko nintzateke esatera nahi dugula hashatzea.

Imajinatu egoera bat non pilotuak zorrotz jarraitu nahi duen baina copilotoak arriskuak handiegiak direla hautematen du. Kopilotua pilotuari agurtzea besterik ez litzateke desiragarria iruditzen. Kopilotua pilotu batek egitea pentsa dezakeenaren egiaztapena eta oreka da. Kopilotu bat isiltzea nahi dutenentzat eta pilotuak agintzen duen guztiaz arduragabe jokatzea nahi dutenentzat, hori ez da lasaigarria. Kopilotua ez da ordezko "pilotoa" besterik ez, pilotua erabat ezindua dagoenean bakarrik sartzen dena argazkian. Pilotu eta copiloto bat pilotalekuan edukitzeak duen balioa oker ulertzea da hori.

Honen beste angelu bat dago.

Demagun hegaldiak aurrera egin behar duela uste ez duen pilotu baten kasua eta, bitartean, copilotoa airean altxatzeko gogotsu dago. Zer orduan? Espero den hierarkiaren arabera, pilotua konbentzionalki nagusituko omen da copilotoari. Arduradun nagusia izatearen eginkizunak pilotua bestela zertxobait berdina denetik handiagoa bihurtzen du. Normalean, pilotuak hegaldi-denbora orokorra gehiago izaten du kopilotuak baino eta, ondorioz, copilotoak hierarkikoki pilotuaren nahiak atzeratu behar ditu (arrazoiaren barruan dagoenean).

Edonola ere, uste dut denok ados gaitezkeela hegan egitea ez egitea erabakitzea baino arrisku gutxiagoko aukera dela ziur aski. Hegazkina airean dagoenean, arrisku-mailak izugarriak izaten dira edozein lur egonkor arruntetan egotearen aldean. Airean sartu gabe terminalera taxian itzultzen den ohiko hegaldi komertzial bat nahiko adiskidetsua izango litzateke hegaldira joatearen inguruko eztabaida latz sutsurako.

Aldatu ditzagun engranajeak eta erabil ditzagun albiste zintzo hau guztiz ezberdin baina erlazionatutako helburu baterako.

Pixkanaka gure artean AIan oinarritutako sistema autonomoen prebalentzia izaten ari gara. Batzuetan AIk zuzentzen du ikuskizuna, nolabait. AI-ak dena egiten du Atik Z-ra, eta guztiz autonomoa edo ia-ia den AI gisa interpreta genezake. Beste kasu batzuetan, gizakiarekin elkarreragiten duen eta neurri batean programatuta dagoen IA izan dezakegu begiztaren araberakoa izateko.

AI-n oinarritutako sistema autonomo edo erdi-autonomo baten gaian kontzentratu nahiko nuke, hasieratik gizaki bat begiztetan duen. AI eta gizakia nahita elkartzen dira eta ustez elkarrekin lan egiten dute. Eskuartean duten zeregin jakin bat burutzeko kohorteak dira. AI bakarrik ez omen da zeregin horretan jardun behar. AI-ak izendatutako gizakiarekin elkarreragin behar du.

Karakterizazio hau planteatzen dut giza-begizta aukerako alderditzat hartzen den egoeretatik bereizteko. Funtsean, AIri askatasuna ematen zaio. AIak gizakia erabiltzea aukeratzen badu, hala izan dadila. Ez dago baldintzarik AIak oinarria ukitu behar duenik edo eskuz esku lan egin behar duen izendatutako gizakiarekin. Erlazionatuko ditudan analisiak, zalantzarik gabe, egokiak dira mota horretakoak aukerakoa interakzio antolamendua, baina ez da eztabaida zehatz honetan bereziki gidatzen ari naizena.

Ados, gizaki batek eta AI batek elkarrekin lan egingo duten zeregin mota dugu, elkarrengandik bereiztezina. Zentzu abstraktu batean, gizaki bat eserleku batean eserita eta beste eserleku batera AI sistema bat eserita daukagu. Erran diot hau ez dugulako eztabaida hau eserleku batean eserita egon daitekeen robot batera mugatzen ari. Metaforikoki ari naiz AI nonbait zereginean parte hartzen ari dela eta gizakia ere bai. Fisikoki, haien nondik norakoak ez dira bereziki garrantzitsuak eztabaidarako.

Baliteke egoera hori noiz gerta daitekeen ziur ez egotea.

Erraz-peasy.

Geroago, ibilgailu autonomoen eta auto autonomoen etorrerari buruz arituko naiz. Autonomia-maila jakin batzuetan, AI eta gizakiak elkarrekin lan egiten omen dute. Baliteke AI autoa gidatzen ari izatea eta gizakiak gidatzeko kontrolak hartzea eskatzea. Baliteke gizakia autoa gidatzen aritzea eta AI aktibatu kontrolak hartzeko. Gidatzeko kontroletan txandaka ari dira.

Horrez gain, diseinu batzuek IA funtsean aktibo egon behar dute denbora guztian (edo, itzalita egon ezean), AI beti prest egon dadin. Gainera, AIak zuzenean esku hartu dezake, gizakiak eskatu gabe ere, gertatzen ari den egoeraren arabera. Demagun, adibidez, gizakiak gurpilean lo hartu duela dirudi. Gizakiak itxuraz ezin duenez AI aktibatu (pertsona lo dagoelako), baliteke AI programatzea gizakiaren kontrolak hartzeko.

Diseinu batzuek AI eta gizakiak gidatzeko ikuspegi bikoitzera eramaten dituzte. AI gidatzen ari da eta gizakia gidatzen ari da. Edo, nahiago baduzu, gizakia gidatzen ari da eta AI ere gidatzen ari da. Ibilgailua gidatzen ari dira bakoitza. Gidarien prestakuntza egiterakoan beharbada erabiltzen zenituen bereziki ekipatutako auto horiekin alderatzen dut hau eta ibilgailuan gidatzeko kontrol-multzo bi zeuden, bat ikaslearen gidariarentzat eta beste bat gidatzeko irakaslearentzat.

Hori AI eta gizakiak zeregin batean elkarrekin lan egin dezaketen ezarpen baten adibide bat baino ez da. Aukera mota guztiak daude. Beste ibilgailu autonomo mota batzuk ere antzera sortu daitezke, hala nola, hegazkinak, droneak, urperagailuak, gainazaleko ontziak, trenak, etab. Ez ditugu ibilgailuen eta garraioaren ezarpenak soilik kontuan hartu behar. Ikusi mediku domeinu batek eta AI sistema batek elkarrekin egiten ari diren domeinu medikoa eta ebakuntzak. Zerrenda amaigabea da.

Ia sentitzen dut taberna batera sartzen diren gizaki eta AI bati buruzko txantxa klasikoa zalapartatsuari erreferentzia egiteko. Nahiko barre bat da AI-a dutenentzat.

Serio, itzul gaitezen zeregin jakin batean elkarrekin lan egiten duten gizaki baten eta AI sistema baten ikuspegira. Lehenik eta behin, AI antropomorfizatzea saihestu nahi dut, eta hori guztia azpimarratuko dudan zerbait da. AI ez da sentikorra. Mesedez, kontuan izan.

Hona hemen hausnartzeko zerbait: Izendatutako gizaki bat beti egongo al da adostasun osoz elkarlanean aritutako AI batekin?

Edozein zeregin konplexutarako, nekez dirudi gizakia eta IA erabat eta beti erabat blokeatuta egotea. Gizakia batzuetan agian AIarekin ados ez egongo da. Suposizio hori bankuraino eraman dezakegu.

Aukera harrigarri hau ere kontuan hartzea gustatuko litzaidake: AI beti egongo al da erabat ados dagoen gizaki izendatutako batekin?

Berriz ere, edozein zeregin konplexutarako, nahiko pentsagarria litzateke AI batzuetan gizakiekin ados ez egotea. Dagoeneko AIak beti oker egon behar duela gizakiak arrazoi izan behar duen bitartean ideiarantz makurtzen bazara, jakintsua litzateke ondorio azkar hori birpentsatzea. Ikusi ibilgailu erdi autonomoa elkarrekin gidatzen duten gizakiak eta AI-ak dituen auto bat. Gizakia adreiluzko hormarantz doa. Zergatik? Ez dakigu, beharbada gizakia mozkortuta dago edo lo hartu du, baina badakigu adreiluzko horma batean talka egitea ez dela ideia ona, gainerako guztiak berdinak izanik. AI-ak hurrengo hondamendia hauteman dezake eta hurrengo hesitik aldendu nahi du.

Guztiak esanda, AI eta gizakia elkarren artean ados ez egotearen aukera desberdinak izango ditugu. Gauza bera esateko beste modua gizakiak eta AI da elkarren artean ados ez daudela. Kontuan izan ez dudala nahi AI-eta-gizakia versus gizaki-eta-AIaren sekuentziazioak desadostasunaren norabideari edo sinesgarritasunari buruz ezer iradokitzea.

Bi langileak, bat gizakia eta bestea AI, ez daude ados elkarren artean.

Aldez aurretik deklara genezake AI jakin baten eta gizaki jakin baten artean desadostasun bat gertatzen den bakoitzean, aldez aurretik gizakia AIaren gainetik gailentzen dela aldarrikatzen dugula. Hori esanda, adreiluzko horma batean sartzen ari den kotxeari buruzko nire adibide ilustratzaileak gizakiak beti arrazoi izango duela nahitaez disuaditzen gaituela dirudi.

Aitzitik, aldez aurretik deklaratu genezake desadostasunen bat sortzen den bakoitzean AI zuzena dela eta gizakia oker dagoela aldez aurretik ezarriko dugula. Hau ere ez da zentzuz orokor daitekeen xedapen bat. Imajinatu AI-ak software-akats edo akats batzuk txertatuta dituen auto bat, eta AI-a ibilgailua errepidetik eta lubaki batera eramaten saiatzen ari da. Beste guztia berdina dela suposatuz, gizakiak gai izan beharko luke AI gidatzeko ekintza hori gainditzeko eta ibilgailua sakanan lurreratzea saihesteko.

Egin dezagun honen laburpen azkar bat:

• Gizaki bat beti egongo al da erabat ados AIrekin? Erantzuna: N º.
• AI beti egongo al da erabat ados dagoen gizakiarekin? Erantzuna: Ez.
• Gizakiaren begiztaren bat beti izango al da zuzena AIarekin alderatuta? Erantzuna: Ez da beharrezkoa.
• AI beti izango al da arrazoia gizakiaren begiztarekin alderatuta? Erantzuna: Ez zertan.

Zalantzarik gabe, AI konfigura dezakezu lehenespenez alderdi "oker" edo ahulagoa dela eta, beraz, desadostasun bat agertzen den bakoitzean beti gizakiarengana uztea. Era berean, AI konfigura dezakezu AI "zuzena" dela pentsatzeko gizakia AIarekin ados ez dagoen bakoitzean. Hori egin nahi badugu programatikoki egin dezakegula argitu nahi dut. Hala ere, oro har, hori ez dela beti horrela izango aldarrikatzen dut. Segur aski badaude ezarpenak, zeinetan ez dakigu aldez aurretik AI "zuzena" den ala gizakia "zuzena" den zeregin jakin bati lotutako desadostasun batean bata edo bestea aukeratzeari dagokionez.

Galdera oso garrantzitsu eta oso konplikatu batera eraman zaitut.

Zer egin behar dugu gizakiaren begiztaren eta AIren artean desadostasun profesional bat gertatzen denean (edo, modu baliokidean, hau AIaren eta gizakiaren begiztaren artekoa dela esan dezakegu)?

Ez saiatu galdera saihesten.

Batzuek esan dezakete hori ez zela inoiz gertatuko, baina nire adibidean autoari buruz adierazi dudan bezala, ziur aski gerta liteke. Batzuek esan dezakete gizakia, jakina, goi-mailakoa dela eta edozein desadostasunen irabazlea izan behar dela. Autoaren eta adreiluzko hormaren nire adibidea kolpatzen du hori. Badira AIren aldekoak AI irabazlea izan behar dela azpimarratu dezaketenak, itxuraz giza emozioak eta pentsamendu lausoak ustekabeko gizaki horiek ustekabean gainditzen dituztelako. Berriro ere, autoa lubakira doan nire beste adibide batek baieztapen hori azpimarratzen du.

Mundu errealean, AI eta gizakiak ez dira ados egongo, nahiz eta biak nahita talde-egoera batera eramaten diren elkarrekin egindako zeregin bat egiteko. Gertatuko da. Ezin dugu burua hondarrean sartu eta gertatuko ez den itxura egin.

Hegazkina gidatzen zuten gizakiak itxuraz desadostasun batean sartu zirela ikusi genuen. Zorionez, ados ez egotea onartu zuten, beraz, dirudienez. Hegazkina itzuli zuten terminalera. Desadostasunari aurre egiteko bide bat aurkitu zuten. Haien desadostasunaren konponbidea ondo atera zen, beharbada pilotalekuan ukabilkadara joan edo airera hegan egin eta elkarren artean borrokalari jarraitu bazuten konparatuta. Hori jasanezina den eszenatoki tristea da, eta eskertu dezakegu ez dela gertatu.

Utzidazu nire zerrenda AI eta gizakiaren begiztaren (edo, gizakiaren begiztaren eta IA) desadostasunak konpontzeko modu ezberdinen zerrenda ematea:

• AI eta giza taldeek gauzak lantzen dituzte (adiskidetasunez edo ez)
• Gizakia gailentzen da AIren gainetik, lehenespenez
• AI gailentzen da gizakiaren gainetik, lehenespenez
• Aurrez zehaztutako beste bereizmen finko batzuk nagusitzen dira, lehenespenez
• Hirugarrenen gizakia begiztatuta dago eta haien adierazlea alderdien gainetik gailentzen da
• Hirugarrenen AI-a looped-en dago eta bere adierazlea alderdien gainetik nagusitzen da
• Hirugarren gizakiak lehendik dagoen gizakia ordezkatzen du, gauzak berriro doaz
• Hirugarrenen AI lehendik dagoen AI ordezkatzen du, gauzak berriro jarraitzen dute
• Hirugarren gizakiak lehendik dagoen IA ordezkatzen du, gauzak berriro doaz (orain gizakiz gizaki)
• Hirugarrenen AI lehendik dagoen gizakia ordezkatzen du, gauzak berriro jarraitzen dute (orain AI-tik AI)
• Bestelakoa

Horiek desegitea merezi dute.

AI eta gizakien desadostasunei aurre egiteko moduaren azpian dauden haragi eta patata gehiagotan sartu baino lehen, jar ditzagun funtsezko oinarrizko gaiei buruzko oinarri gehigarri batzuk. Laburki murgildu behar dugu AI Etikan eta bereziki Machine Learning (ML) eta Deep Learning (DL) etorreran.

Lausoki jabetuko zara gaur egun AIren alorrean eta baita AIren eremutik kanpo ere ahots ozenenetako bat AI Etikoaren itxura handiagoa aldarrikatzean dela. Ikus dezagun zer esan nahi duen AI Etika eta AI etikoa aipatzea. Horrez gain, Machine Learning eta Deep Learning buruz hitz egiten dudanean zer esan nahi dudan aztertuko dugu.

Komunikabideen arreta handia jaso duen AI Etikaren segmentu edo zati jakin bat alderdikeriak eta desberdintasunak erakusten dituen IAk osatzen dute. Baliteke kontziente izango AIaren azken aroa martxan jarri zenean ilusio handia izan zela batzuek gaur egun deitzen duten hori AI For Good. Zoritxarrez, zirrara isuri horren harira, lekukotzen hasi ginen AI For Bad. Adibidez, AI-n oinarritutako aurpegi-ezagutze-sistemak arraza-alborapenak eta genero-alborapenak dituztela agerian utzi dute, eta horiei buruz hitz egin dudanean. esteka hemen.

Aurkako borroka egiteko ahaleginak AI For Bad aktiboki abian dira. Oihuka gainera legezko gaizki-egiteei eusteko asmoz, AIren etika onartzeko bultzada nabarmena ere badago AIren gaiztakeria zuzentzeko. Ideia da AI etikoaren funtsezko printzipioak onartu eta onartu beharko genituzkeela IA garatzeko eta lantzeko. AI For Bad eta, aldi berean, hoberena iragartzen eta sustatuz AI For Good.

Erlazionatutako ideia batean, AI erabiltzen saiatzearen defendatzailea naiz AIren arazoen konponbidearen zati gisa, suarekin suarekin borrokatzeko pentsamendu modu horretan. Adibidez, AI etikoen osagaiak txerta genitzake AI sistema batean, gainontzeko AIak gauzak nola egiten dituen kontrolatuko duena eta, beraz, denbora errealean edozein diskriminazio-ahaleginak harrapatzeko. Ikusi nire eztabaida hemen. esteka hemen. AI Etika monitore gisa jarduten duen AI sistema bereizi bat ere izan genezake. AI sistemak gainbegiratzaile gisa funtzionatzen du beste AI bat amildegi ez-etikoan sartzen denean jarraitzeko eta detektatzeko (ikusi horrelako gaitasunen azterketa hemen esteka hemen).

Une batean, AI Etikaren azpian dauden printzipio nagusi batzuk partekatuko ditut zurekin. Zerrenda mota asko daude han eta hemen inguruan. Esan liteke oraindik ez dagoela erakargarritasun eta adostasun unibertsalaren zerrenda berezirik. Hori da zorigaiztoko albistea. Berri ona da gutxienez eskuragarri daudela AI Etika zerrendak eta nahiko antzekoak izan ohi direla. Guztiak esanda, horrek iradokitzen du nolabaiteko konbergentzia arrazoitu baten bidez AI Etika zertan datzan komuntasun orokorrerantz aurkitzen ari garela.

Lehenik eta behin, labur ditzagun AI Etikoko manu orokor batzuk AI lantzen, lantzen edo erabiltzen duen edonork ezinbesteko kontua izan behar duena ilustratzeko.

Adibidez, Vatikanoak dioen bezala Erromako AI Etikarako Deia eta sakonki jorratu dudan bezala esteka hemenHauek dira identifikatutako sei oinarrizko AI etika printzipioak:

• Gardentasuna: Printzipioz, AI sistemek azalgarriak izan behar dute
• sartzea: Gizaki guztien beharrak kontuan hartu behar dira, guztion onura izan dadin, eta pertsona guztiei eskein diezaieke bere burua adierazteko eta garatzeko baldintza onenak.
• Erantzukizuna: AIaren erabilera diseinatzen eta zabaltzen dutenek ardura eta gardentasunarekin jarraitu behar dute
• Inpartzialtasuna: Ez sortu edo ez jokatu joeraren arabera, horrela zuzentasuna eta giza duintasuna bermatuz
• Fidagarritasuna: AI sistemek modu fidagarrian funtzionatzeko gai izan behar dute
• Segurtasuna eta pribatutasuna: AI sistemek segurtasunez funtzionatu behar dute eta erabiltzaileen pribatutasuna errespetatu behar dute.

AEBetako Defentsa Sailak (DoD) bere dokumentuan adierazi duenez Adimen artifiziala erabiltzeko printzipio etikoak eta sakonki jorratu dudan bezala esteka hemenHauek dira AIren sei printzipio etiko nagusiak:

• Arduraduna: DoDko langileek epai eta arreta maila egokiak erabiliko dituzte AI gaitasunen garapenaren, hedapenaren eta erabileraren ardura izaten jarraitzen duten bitartean.
• Ekitatiboa: Sailak nahita neurriak hartuko ditu AI gaitasunetan nahi gabeko alborapenak minimizatzeko.
• Trazagarria: Departamentuaren AI gaitasunak garatu eta zabalduko dira, dagokion langileek AI gaitasunei aplikagarri zaizkien teknologia, garapen-prozesu eta metodo operatiboen ulermen egokia izan dezaten, metodologia gardenak eta ikuskagarriak, datu-iturriak eta diseinu-prozedura eta dokumentazioa barne.
• Seriotasuna: Sailaren AI gaitasunek erabilera esplizituak eta ongi zehaztuak izango dituzte, eta gaitasun horien segurtasuna, segurtasuna eta eraginkortasuna probak eta bermeak izango dira definitutako erabilera horietan bizi-ziklo osoan zehar.
• Gobernagarria: Sailak AI gaitasunak diseinatu eta diseinatuko ditu aurreikusitako funtzioak betetzeko, nahi gabeko ondorioak detektatzeko eta ekiditeko gaitasuna duen bitartean, eta nahi gabeko portaera erakusten duten sistemak desaktibatzeko edo desaktibatzeko gaitasuna.

AIaren etika-printzipioen analisi kolektibo ezberdinei buruz ere eztabaidatu dut, besteak beste, nazioko eta nazioarteko AI etikako printzipio ugariren funtsa aztertu eta laburtu zuen ikertzaileek asmatutako multzoa aztertu izana "The Global Landscape Of AI Ethics Guidelines" (argitaratutakoa). urtean Nature), eta nire estaldurak hemen aztertzen du esteka hemen, eta horrek giltzarri zerrenda honetara eraman zuen:

• Transparency
• Justizia eta zuzentasuna
• Ez-Malefizia
• Erantzukizun
• Pribatutasuna
• Ongintzaren
• Askatasuna eta Autonomia
• Fidatu
• Iraunkortasun
• duintasuna
• Elkartasuna

Zuzenean asmatuko duzun bezala, printzipio horien azpian dauden zehaztasunak zehazten saiatzea oso zaila izan daiteke. Are gehiago, printzipio zabal horiek guztiz ukigarri eta zehatza den zerbait bilakatzeko ahalegina AI sistemak lantzean erabiltzeko moduko intxaur gogorra ere bada. Erraza da, oro har, AI Etikaren manuak zer diren eta orokorrean nola behatu behar diren eskuz astintzea, AI kodeketa askoz ere egoera zailagoa da errepidea betetzen duen benetako goma izan behar izatea.

AI Etika-printzipioak AI garatzaileek erabili behar dituzte, AI garapenerako ahaleginak kudeatzen dituztenekin batera, eta baita, azken finean, AI sistemetan mantentzea lantzen eta egiten dutenekin batera. AIaren garapen eta erabileraren bizitza-ziklo osoan parte hartzen duten eragile guztiak AI Etikoaren ezarritako arauak betetzearen esparruan hartzen dira kontuan. Garrantzi handiko aipamena da hau, ohiko suposizioa delako "kodetzaileak" edo AI programatzen dutenek AI Etika nozioei atxikitzeko menpe daudela. Lehen esan bezala, herri bat behar da AI asmatzeko eta lantzeko, eta, horretarako, herri osoak AI Etika aginduak ezagutu eta bete behar ditu.

Ziurta dezagun, gainera, orrialde berean gaudela gaurko AIaren izaerari buruz.

Gaur egun ez dago sentikorra den AIrik. Ez dugu hau. Ez dakigu AI sentikorra posible izango den. Inork ezin du ongi iragar AI sentikorra lortuko dugun ala ez, ezta AI sentikorra nolabait miragarriki berez sortuko den supernoba kognitibo konputazional baten moduan (normalean berezitasuna deitzen dena, ikus nire estaldura hemen. esteka hemen).

Zentratzen ari naizen AI mota gaur egun daukagun AI ez sentikorra da. Buruz basatian espekulatu nahi bagenu sentikorra AI, eztabaida hau zeharo beste norabide batean joan liteke. AI sentikor bat giza kalitatekoa izango litzateke. Kontuan izan beharko zenuke AI sentikorra gizakiaren baliokide kognitiboa dela. Are gehiago, batzuek IA super-adimentsua izan genezakeela espekulatzen dutenez, pentsa daiteke AI hori gizakiak baino adimentsuagoa izan daitekeela (AI super-adimentsua aukera gisa aztertzeko, ikus estaldura hemen).

Utz ditzagun gauzak lurrean gehiago eta kontuan izan ditzagun gaur egungo AI konputazionala sentikorra.

Konturatu gaur egungo IA ez dela gai giza pentsamenduaren parean "pentsatzeko". Alexa edo Sirirekin elkarreragiten duzunean, elkarrizketa gaitasunak giza gaitasunen antzekoak dirudite, baina errealitatea da konputazionala dela eta giza ezagutza falta dela. AIaren azken aroak asko erabili ditu Machine Learning (ML) eta Deep Learning (DL), zeinak konputazio-ereduen parekatzea baliatzen baitute. Horrek gizakiaren antzeko joerak dituzten AI sistemak ekarri ditu. Bien bitartean, gaur egun ez dago zentzu arruntaren itxura duen AIrik eta giza pentsamendu sendoaren harridura kognitiborik ere ez duenik.

ML/DL eredu konputazionalaren parekatze modu bat da. Ohiko planteamendua erabakiak hartzeko zeregin bati buruzko datuak biltzea da. Datuak ML/DL ordenagailu ereduetara elikatzen dituzu. Eredu horiek eredu matematikoak aurkitu nahi dituzte. Eredu horiek aurkitu ondoren, aurkituz gero, AI sistemak eredu horiek erabiliko ditu datu berriak topatzerakoan. Datu berriak aurkeztean, datu "zahar" edo historikoetan oinarritutako ereduak aplikatzen dira egungo erabakia emateko.

Uste dut hau nora doan asma dezakezula. Erabakien eredua hartzen ari diren gizakiek alborapen txarrak sartu badituzte, litekeena da datuek modu sotil baina esanguratsuan islatzea. Machine Learning edo Deep Learning konputazio-ereduen parekatzea besterik ez da saiatuko datuak matematikoki imitatzen. Ez dago zentzu arruntaren edo beste alderdi sentikorren itxurarik AI-n landutako modelizazioaren berez.

Gainera, AI garatzaileak agian ez dira konturatzen zer gertatzen ari den. ML/DL-ko matematika arkanoak zaildu lezake orain ezkutuko alborapenak atzematea. Ziurrenik espero eta espero zenuke AI garatzaileek lurperatuta egon daitezkeen alborapenak probatuko dituztela, nahiz eta badirudi baino zailagoa den. Aukera sendoa dago, nahiz eta proba nahiko zabalak izan, ML/DL ereduak parekatzeko ereduetan oraindik txertatutako alborapenak egongo direla.

Garbage-in garba-out-en esaera ospetsua edo gaiztoa zertxobait erabil dezakezu. Kontua da, hau AIaren barnean murgiltzen diren alborapenak maltzurki sartzen diren alborapenen antzekoagoa da. AIren algoritmoen erabakiak hartzea (ADM) axiomatikoki desberdintasunez kargatzen da.

Ez da ona.

Itzuli gaitezen AI eta gizaki baten arteko desadostasunei buruzko arretara.

Lehenago adierazi dut hauek direla desadostasunak konpontzeko estrategia batzuk:

• AI eta giza taldeek gauzak lantzen dituzte (adiskidetasunez edo ez)
• Gizakia gailentzen da AIren gainetik, lehenespenez
• AI gailentzen da gizakiaren gainetik, lehenespenez
• Aurrez zehaztutako beste bereizmen finko batzuk nagusitzen dira, lehenespenez
• Hirugarrenen gizakia begiztatuta dago eta haien adierazlea alderdien gainetik gailentzen da
• Hirugarrenen AI-a looped-en dago eta bere adierazlea alderdien gainetik nagusitzen da
• Hirugarren gizakiak lehendik dagoen gizakia ordezkatzen du, gauzak berriro doaz
• Hirugarrenen AI lehendik dagoen AI ordezkatzen du, gauzak berriro jarraitzen dute
• Hirugarren gizakiak lehendik dagoen IA ordezkatzen du, gauzak berriro doaz (orain gizakiz gizaki)
• Hirugarrenen AI lehendik dagoen gizakia ordezkatzen du, gauzak berriro jarraitzen dute (orain AI-tik AI)
• Bestelakoa

Hauek deskonprimitzeko garaia.

Lehenik eta behin, kontuan hartu hau guztia dela profesionala desadostasunak.

Desadostasun profesional bat lanarekin lotutako zeregin bati lotutako desadostasun gisa definitzen da.

Adibidez, ekaitz bati aurre egiten dion hegaldiarekin jarraitu behar den ala ez pilotuaren eta copilotoaren artean sortzen den desadostasuna arrazoiz desadostasun profesionaltzat jo daiteke. Aitzitik, pilotuak zein kafe-markaren defendatzen duen eta kopilotuak nahiago duen markaren inguruko desadostasun zorrotza testuinguru zehatz honetan desadostasun ez-profesional gisa sailkatzen da.

Jakina, desadostasun ez-profesionala desadostasun profesional batean sartzen bada, azken finean, desadostasun ez-profesionala interesatuko zaigu profesionalaren ustezko iturri edo txinparta gisa. Imajinatu pilotu batek eta kopilotu batek gogor eztabaidatzen dutela zein den kafe-marka onena, eta gero, tamalez, hegaldiari buruzko kezka zehatzetara isurtzen da (jokoa!), hala nola aireratu ala ez.

Bigarrenik, gogoan izan behar dugu desadostasun profesionalaren tamaina.

Agian pilotua eta kopilotua edo hegan egiteari buruz desadostasun arina. Ez dira buru-belarri eta aireratzearen alde onak eta txarrak kontenplatzen besterik ez. Hau ez da normalean kontuan hartzen dugun desadostasun profesional baten kalibrea edo magnitudea. Kontua da, izan liteke desadostasun profesionala iragankorra izatea eta bi aldeek konponbidea adeitasunez edo, behintzat, puntualki lantzea. Orokorrean, esparruaren barruan dagoen desadostasun profesionalaren ardatza itxuraz konponezinak direnak dira, eta bi alderdiek irmo jarraitzen dute desadostasunean.

Hirugarrenik, normalean zerbait serio egon behar da jarraibide hauek jokoan sartzeko.

Hegan egitea edo ez hegan egitea erabakitzea erabakigarria da bizitza edo heriotza motako erabakia, baldin eta hegaldia arriskuan badago ekaitz baten ondorioz edo hegazkina bidaia horretarako guztiz prestatuta ez badago. Hau negozio serioa da. Inpaktu gutxiagoko desadostasun profesionaletan jarraibideak aplika ditzakegu, nahiz eta merezi baino traba handiagoa izan.

Ados, gure gogoetak hauek dira:

• Desadostasuna, batez ere, profesionalki bideratua dago, ez-profesionala den zerbaitetan baino gehiago
• Desadostasunak izaera iraunkorra du eta ez iragankorra besterik ez edo bestela erraz konpontzen dena.
• Desadostasunak ondorio larriak iragartzen ditu eta ondorio eragingarriak izan ohi dira
• Alderdiak kolokan daude eta konponezinak dirudite

Ikus ditzagun orain iradokitako jarraibide edo planteamendu bakoitzari, halako desadostasun profesionalei aurre egiteko moduari buruz.

AI eta giza taldeek gauzak lantzen dituzte (adiskidetasunez edo ez)

Zerrenda hasten dut AI eta gizakiaren arteko desadostasun profesionala konpontzeko gai diren aukera zuzenarekin. Badirudi agian bi gizakien kasuak, pilotua eta copilotoa, egoera mota hau ilustratzen duela. Nolabait terminalera itzultzea eta euren bideetatik joatea erabaki zuten. Gerta liteke AI sistema bat eta gizaki bat gai izatea bi aldeentzat orokorrean asegarria den konponbide-ikuspegi bat asmatzea eta, horrela, gaia ondo amaituta egotea.

Gizakia gailentzen da AIren gainetik, lehenespenez

AI konfiguratzerakoan, desadostasun profesional bat sortzen den bakoitzean gizakia beti nagusituko dela dioen arau bat programa genezake. Hau izango litzateke esplizituki kodetutako lehenetsia. Gainbatze moduren bat ere onar genezake, badaezpada, arau iraunkorra gizakia gailentzen dela izango den arren.

AI gailentzen da gizakiaren gainetik, lehenespenez

AI konfiguratzerakoan, desadostasun profesional bat sortzen den bakoitzean IA beti gailenduko dela dioen arau bat programa genezake. Hau da esplizituki kodetutako lehenetsia. Gainbatze moduren bat ere baimendu genezake, badaezpada, arau iraunkorra AI gailentzea izango den arren.

Aurrez zehaztutako beste bereizmen finko batzuk nagusitzen dira, lehenespenez

AI konfiguratzerakoan, aldez aurretik zehaztutako beste ebazpen finkoren bat nagusituko dela dioen arau bat programa genezake gizakiaren begiztarekin desadostasun profesional bat sortzen den bakoitzean. Human-in-the-loop-a ez da berez nagusitzen. AI ez da berez nagusitzen. Aurrez identifikatutako beste bereizmen bat dago. Esaterako, beharbada, bi aldeetatik zein den bide egokitzat erabakitzeko erabiliko den txanpon baten zozketa dago. Hori arbitrario samarra dirudi; beraz, beste hurbilketa adibide bat izango litzateke bi alderdien inputetan oinarritutako balio bat kalkulatzen duen eta berdinketa-hauste gisa emaitza batera iristen den arau espezializatu bat sartzen dela.

Hirugarrenen gizakia begiztatuta dago eta haien adierazlea alderdien gainetik gailentzen da

Desadostasun profesional baten aurrean, arau bat izan liteke gizakia den hirugarren bat deitzea eta ingurunera sartzen dela desadostasuna konpontzeko erabakia hartzeko. AI hirugarren gizakiak erabakitzen duen guztia atzeratzeko programatuta dago. Dagoeneko giza-erregimenean dagoen gizakiari jakinarazi diote aldez aurretik egoera hori gertatzen bada, haiek ere hirugarren gizakiaren esku utzi behar dutela. Alde batera utzita, litekeena da begiztaren barruan dagoen gizakiak kezka izan dezakeela hirugarrenen gizakiak erabakitzen duen edozertara sartzeko, erabakia gizakiaren begiztaren jarrerarekin ados ez badago.

Hirugarrenen AI-a looped-en dago eta bere adierazlea alderdien gainetik nagusitzen da

Desadostasun profesional baten aurrean, arau bat izan liteke AI-sistema desberdina den hirugarren bat deitzea eta ezarpenean sartzen dela desadostasuna konpontzeko erabakia hartzeko. Jatorrizko AI hirugarrenen AIak erabakitzen duen guztia atzeratzeko programatuta dago. Dagoeneko giza-erregimenean dagoen gizakiari adierazi diote aldez aurretik egoera hori gertatzen bada, haiek ere hirugarrenen AIaren esku utzi behar dutela. Alde batera utzita, litekeena da begiztaren barruan dagoen gizakiak kezka izan dezakeela hirugarrenen AI-ak erabakitzen duen edozertara sartzeko erabakia gizakiaren begiztaren jarrerarekin ados ez badago.

Hirugarren gizakiak lehendik dagoen gizakia ordezkatzen du, gauzak berriro doaz

Desadostasun profesional baten aurrean, gizakia gizakia den eta hemendik aurrera gizakia den hirugarren batek ordezkatzen du. Zereginaren jatorrizko giza-begizta zen gizakia jada ez da eskuartean dagoen zereginaren parte hartzen. Alderdi irekia da orain ordezkaturiko gizakiaren begiztarekin bestela gertatzen denaren inguruan, baina esaten ari gara ziur ez dutela zeregin horretan etengabeko zereginik.

Hirugarrenen AI lehendik dagoen AI ordezkatzen du, gauzak berriro jarraitzen dute

Profesionalen desadostasunen bat izanez gero, AI hirugarrenen AI batek ordezkatzen du eta hori aurrerantzean lan egiteko erabilitako AI bihurtzen da. Hasiera batean atazarako erabiltzen ari zen AI-a jada ez da zereginaren parte hartzen. Orain ordeztutako AIarekin bestela gertatzen denari buruzko alderdi irekia da, baina esaten ari gara ziur AIak ez duela etengabeko zereginik laneko zereginean.

Hirugarren gizakiak lehendik dagoen IA ordezkatzen du, gauzak berriro doaz (orain gizakiz gizaki)

Lanbide-desadostasun bat izanez gero, AI hirugarren gizaki batek ordezkatzen du, eta pertsona hori orain esku artean dagoen lan-zereginerako erabiliko den taldekidetzat jotzen den alderdi bihurtzen da. Hasiera batean atazarako erabiltzen ari zen AI-a jada ez da zereginaren parte hartzen. Orain ordeztutako AIarekin bestela gertatzen denari buruzko alderdi irekia da, baina esaten ari gara ziur AIak ez duela etengabeko zereginik laneko zereginean. Laburbilduz, hau orain bi alderdiko giza-gizaki egindako zeregina bihurtzen da.

Hirugarrenen AI lehendik dagoen gizakia ordezkatzen du, gauzak berriro jarraitzen dute (orain AI-tik AI)

Desadostasun profesional baten ondoren, gizakiaren begiztaren ordez hirugarrenen AI batek ordezkatzen du eta AI hau aurreko gizakiaren begiztaren betegarri bihurtzen da aurrerantzean. Zereginaren jatorrizko giza-begizta zen gizakia jada ez da eskuartean dagoen zereginaren parte hartzen. Alderdi irekia da orain ordezkaturiko gizakiaren begiztarekin bestela gertatzen denaren inguruan, baina esaten ari gara ziur ez dutela zeregin horretan etengabeko zereginik. Laburbilduz, hau orain bi alderdiko AI-to-AI bihurtzen da zeregina burutzeko.

Bestelakoa

Desadostasun profesional bati aurre egiteko beste aldakuntza batzuk egin daitezke, baina hemen giltzarrietako batzuk estali ditugu.

Nola erabakiko dugu planteamendu horietako zein izango den egoera jakin baterako egokia?

Hainbat gai sartzen dira aukeraketa hori egiteko. Konsiderazio teknologikoak daude. Enpresa kontuak daude. Konsiderazio legalak eta etikoak daude.

Neurri batean, horregatik AI Etika eta AI etikoa gai erabakigarria da. AI Etikaren aginduek adi egoteko garatzen gaituzte. AI teknologoak batzuetan teknologiarekin kezkatu daitezke, batez ere goi-teknologiaren optimizazioan. Ez dira zertan gizartearen adar handiagoak kontuan hartzen. AI Etikaren pentsamoldea izatea eta AI garapenean eta eremuan modu integralean egitea ezinbestekoa da AI egokia ekoizteko, enpresek AI Etika nola hartzen duten ebaluazioa barne (agian harrigarriki edo ironikoki).

Orokorrean AI Etika manuak erabiltzeaz gain, dagokio galdera bat dago AIaren hainbat erabilera arautzeko legeak izan behar ote ditugun. Lege berriak zabaltzen ari dira federal, estatu eta tokiko mailan, AI nola sortu behar den sorta eta izaerari buruzkoak. Horrelako legeak egiteko eta indarrean jartzeko ahalegina pixkanaka da. AI Etikak geldiune gisa balio du, gutxienez, eta ia ziur aski neurri batean zuzenean sartuko da lege berri horietan.

Kontuan izan batzuek irmo esaten dutela ez dugula IA estaltzen duten lege berririk behar eta gure lehendik dauden legeak nahikoak direla. Izan ere, AIren lege horietako batzuk ezartzen baditugu, urrezko antzara hilko dugula ohartarazi dute, gizartearen abantaila izugarriak eskaintzen dituzten AIren aurrerapenak murrizteko.

Eztabaida handi honen une honetan, gai hau erakusteko adibide argigarri batzuk nahi dituzula apustu egingo nuke. Badira nire bihotzetik gertu dagoen adibide multzo berezi eta ezagun bat. Ikusten duzu, AI-n aditua naizen aldetik, adar etiko eta legalak barne, maiz eskatzen didate AI Etikaren dilemak erakusten dituzten adibide errealistak identifikatzea, gaiaren izaera teoriko samarra errazago ulertu ahal izateko. AI etiko istilu hau modu bizian aurkezten duen eremu iradokitzaileenetako bat AI-n oinarritutako benetako auto-gidatuen autoen etorrera da. Gaiari buruzko eztabaida zabalerako erabilpen kasu edo eredu erabilgarri gisa balioko du.

Hona hemen hausnarketa merezi duen galdera aipagarri bat: AI-n oinarritutako benetako auto gidatzen duten autoen etorrerak argitzen al du AIren eta gizakien desadostasunen ebazpenei buruzko ezer, eta hala bada, zer erakusten du honek?

Utzidazu une bat galdera deskonprimitzeko.

Lehenik eta behin, kontuan izan ez dagoela giza gidaririk benetako auto gidatzen duen auto batean. Gogoan izan norberak gidatzen dituen benetako autoak AI gidatzeko sistema baten bidez gidatzen direla. Ez dago gidari baten beharrik gurpilean, ezta gizaki batek ibilgailua gidatzeko aurreikuspenik ere. Ibilgailu autonomoen (AV) eta batez ere auto gidatzen duten autoen estaldura zabala eta etengabea ikusteko, ikus esteka hemen.

Gehiago argitu nahiko nuke zer esan nahi den benetako auto gidatzen diren autoak aipatzen ditudanean.

Auto gidatzeko autoen mailak ulertzea

Argibide gisa, benetako auto gidatzen diren autoak AIak autoa bere kabuz gidatzen dituenak dira eta gidatzeko zereginean zehar giza laguntzarik ez dagoen.

Gidaririk gabeko ibilgailu hauek 4. maila eta 5. maila hartzen dira (ikus nire azalpena helbidean esteka hau hemen), aldiz, giza gidari batek gidatzeko ahalegina elkarrekin partekatzea eskatzen duen autoa 2. edo 3. mailan hartzen da normalean. Gidatzeko zeregina elkarrekin partekatzen duten autoak erdi-autonomoak direla deskribatzen da, eta normalean hainbat eduki dituzte. ADAS (Advanced Driver-Assistance Systems) deitzen diren gehigarri automatizatuak.

5. mailan oraindik ez dago benetako auto autonomorik, eta oraindik ez dakigu hori lortzerik izango den, ezta zenbat denbora beharko duen bertara iristeko ere.

Bien bitartean, 4. mailako ahaleginak pixkanaka-pixkanaka trakzio pixka bat lortzen saiatzen ari dira bide publikoko entsegu oso estu eta selektiboak jasanez, nahiz eta eztabaida dagoen proba hori berez onartu behar den ala ez (denok gara esperimentu batean hil ala biziko kobaiak). gure autobideetan eta bide-bideetan gertatzen ari dena, batzuek diotenez, ikusi nire estaldura hemen esteka hau hemen).

Auto erdi autonomoak giza gidaria behar dutenez, auto mota horiek ez dira ohiko ibilgailuak gidatzea baino oso desberdinak izango. Beraz, ez dago gai horren inguruko gai asko estaltzeko gai hau (hala ere, ikusiko duzuenez une batez, hurrengo puntuak orokorrean aplikagarriak dira).

Auto erdi autonomoetarako, garrantzitsua da publikoa azkenaldian sortzen ari den alderdi kezkagarri baten aurrean jakitea, hots, 2. mailako edo 3. mailako auto baten gurpilean lokartzen ari diren giza gidariek argitaratzen jarraitzen duten arren. , guztiok saihestu behar dugu gidariak zereginetatik arreta kendu dezakeela auto erdi autonomo bat gidatzen duenean.

Ibilgailuaren gidaritza-ekintzen arduraduna zara, 2. mailara edo 3. mailara zenbat automatizazio bota litekeen kontuan hartu gabe.

Norberak gidatzen dituen autoak eta AI-Versus-Giza desadostasuna

4. eta 5. mailako egiazko autoentzako gidatzeko ibilgailuentzat, ez da gidari lanetan parte hartuko duen gidaririk.

Okupatzaile guztiak bidaiariak izango dira.

AI gidatzen ari da.

Berehala eztabaidatu beharreko alderdi batek dakar gaur egungo AI gidatzeko sistemetan parte hartzen duen AI ez dela sentikorra. Beste modu batera esanda, AI ordenagailuan oinarritutako programazio eta algoritmoen kolektiboa da, eta ziur asko ez da gai gizakiak ahal duen moduan arrazoitzeko.

Zergatik ari da azpimarratzen AI hori sentikorra ez izateari?

Azpimarratu nahi dudalako AI gidatzeko sistemaren papera eztabaidatzerakoan, ez diodala giza ezaugarriak AIri ematen. Jakin ezazu egun antropomorfizatzeko AI joera etengabea eta arriskutsua dagoela. Funtsean, jendeak gizakien antzeko sentikortasuna esleitzen dio gaurko AIri, oraindik AI hori existitzen ez dela ukaezina eta eztabaidaezina izan arren.

Argibide horrekin, AI gidatzeko sistemak berez ez duela nolabait "gidatzearen alderdiak" jakingo pentsa dezakezu. Gidatzea eta horrek dakarren guztia autoa gidatzeko hardwarearen eta softwarearen zati gisa programatu beharko da.

Muga gaitezen gai honen inguruan jokatzera etortzen diren hainbat alderditan.

Lehenik eta behin, garrantzitsua da konturatzea AI auto gidatzen duten auto guztiak ez direla berdinak. Auto-fabrikatzaile eta auto-gidatzeko teknologia-enpresa bakoitzak bere ikuspegia hartzen ari da auto-gidatzeko autoak asmatzeko. Hori dela eta, zaila da AI gidatzeko sistemek egingo edo ez dutenari buruzko adierazpen zabalak egitea.

Gainera, AI gidatzeko sistema batek gauza bereziren bat egiten ez duela adierazten duen bakoitzean, geroago ordenagailua hori egiteko programatzen duten garatzaileek gainditu dezakete. Pausoz pauso, AI gidatzeko sistemak pixkanaka hobetzen eta hedatzen ari dira. Baliteke gaur egun dagoen mugarik ez egotea etorkizuneko sistemaren iterazio edo bertsio batean.

Espero dut horrek kontatuko dudanaren azpian jartzeko oharra nahikoa ematea.

Ibilgailu guztiz autonomoetarako, baliteke gizaki baten eta AIren arteko desadostasun profesional bat izateko aukerarik, hasteko gizakirik ez dagoelako. Gaur egungo auto-gidatzaile askoren nahia giza gidaria gidatzeko zereginetik erabat kentzea da. Ibilgailuak ez du gizakientzat eskuragarri dauden gidatzeko kontrolak ere izango. Kasu horretan, giza gidari batek, egonez gero, ezin izango du gidatzeko zereginean parte hartu, gidatzeko kontroletarako sarbidea ez duelako.

Ibilgailu guztiz autonomo batzuentzat, diseinu batzuek oraindik ere gizakia begiztetan egotea ahalbidetzen dute, nahiz eta gizakiak ez duen erabilgarri egon edo gidatzeko prozesuan parte hartu beharrik. Horrela, gizakiak gidatzen parte hartu dezake, pertsonak hala nahi badu. Hala ere, AI ez da inondik inora gizakiaren menpeko gidatzeko zereginetako bat egiteko.

Ibilgailu erdi autonomoen kasuan, eskuz esku harremana dago giza gidariaren eta AIaren artean. Giza gidariak gidatzeko kontrolak erabat har ditzake eta, funtsean, AI-ak gidatzen parte har dezake. Giza gidariak AI gidari-eginkizunean berrezarri nahi badu, hala egin dezake, nahiz eta horrek batzuetan gizakia gidatzeko kontrolak uztera behartzen du.

Eragiketa erdi-autonomoaren beste era bat giza gidaria eta IA taldean lan egitea ekarriko luke. AI gidatzen ari da eta gizakia gidatzen ari da. Elkarrekin gidatzen ari dira. AIak gizakiarengana jo dezake. Gizakiak AI-ra jo dezake.

Uneren batean, AI gidatzeko sistema eta begizta dagoen giza gidaria "desadostasun profesional" batera iritsi daitezke gidatzeko zereginari dagokionez.

Aipatutako desadostasun profesional bati aurre egiteko arau batzuk nola ezartzeko zailak izan daitezkeen azaltzeko, kontuan hartu hirugarren pertsona bati gaian sartzeko eta ebatzi gabeko arazoa konpontzeko erabakia ematea.

Demagun auto-fabrikatzaile edo norbere gidatzeko teknologia-enpresa batek urruneko giza-operadoreek beren flotaren barruan ibilgailuen gidatzeko kontrolak eduki ditzatela antolatu dutela. Giza operadorea bulego urrun batean edo antzeko ingurune batean eserita dago. Sistema informatiko baten bidez, gidatzeko eszena ikusteko gai dira kameretan eta auto gidatzen duen autoan kargatutako beste sentsore gailuetan sartuta. Haientzat, hau ia online bideo-joko batera jokatzea bezalakoa da, nahiz eta, noski, bizitza errealeko egoerak ondorio latzak izan ditzaketen.

AI sistema bat eta autoaren barruan dagoen giza gidari bat ibilgailu erdi autonomo bat gidatzen ari dira autobide luze batetik. Bat-batean, AIk lubaki batera sartu nahi du. Giza gidariak ez du hori egin nahi. Biak gidatze-kontrolen inguruan eztabaidan ari dira.

Nola konponduko da hori?

Beharbada aldez aurretik ezarri genezake gizakiak beti irabazten duela. Demagun, ordea, hori ez egitea erabaki dugula.

Aurretik ezarri genezake AI beti irabazten duela. Demagun hori ez egitea erabaki dugula. Oro har, ez genuen arau horietako bat ere onartu, beste pertsona batzuen esku hartzea eta edozein izaera sustantiboko desadostasun profesional bat konpontzea erabaki genuen.

Erabilera-kasu honetan, AI eta gurpileko giza gidaria gidatzeko kontrolak lortzeko borrokan ari dira. Hau demagun urruneko giza operadoreari (gure hirugarrenen gizakiari) helarazi zaiola. Urruneko giza-operadoreak gertatzen ari dena aztertzen du eta lubakitik aldentzea erabakitzen du, IA egiten saiatzen ari zena saihestuz. Aldi berean, demagun urruneko giza-operadoreak hurbileko trafikoan sartzen duela, agian ez AI-ak ez autoaren barruko giza-gidariak egin nahi izan ez dutena.

Kontua da arau hau inplementatu den modua hirugarrenen giza-operadoreak AI eta gizakiaren begizta guztiz gainditzeko gai dela. Honek emaitza ona emango duen ala ez, ziur ez dago ziur.

Adibide hau erabiliko dut gai hauei buruzko informazio gehigarri batzuk nabarmentzeko.

Ezin duzu uste ausarta egin arau hauetako bat indarrean jartzeagatik ebatzitako desadostasunaren emaitza nahitaez emaitza ona bermatua dela. Baliteke ez izatea. Ez dago beti egokia den arau motarik hauta daitekeen.

Ondoren, baliteke arau horietako batzuk modu bideragarrian ezartzea.

Demagun urruneko giza operadorearen adibidea AI eta giza gidaria gidatzeko kontrolen inguruan liskarrean ari direnean esku hartzen ari denaren adibidea. Baliteke segundo asko behar izatea urruneko giza operadoreak zer gertatzen ari den jakiteko. Ordurako, baliteke ibilgailuak lubakian amaitu edo beste ondorio kaltegarriren bat edukitzea. Era berean, demagun ibilgailuaren kokapenak urrutiko sarbidea galarazten duela, esate baterako, sareko konexio elektronikorik ez dagoen toki batean egotea. Edo agian ibilgailuaren sareko funtzioak ez dira funtzionatzen momentu zehatz horretan.

Ikusten duzunez, arauak paperean itxura goxoa izan dezake, nahiz eta araua benetako erabileran jartzea oso planteamendu zaila edo oso aukeratsua izan daitekeen. Ikusi nire begi kritikoko estaldura ibilgailu autonomoen eta auto gidatzen duten autoen urruneko operadoreari buruz hemen esteka hemen.

Datorren azterketa batean sakonago landuko dudan beste gai bat laburki jorratu nahiko nuke.

Ibilgailu autonomoen eta erdi-autonomoak diren auto autonomoen inguruan gero eta kezka handiagoa den bat da. Patata beroaren sindromea.

Hona hemen akordioa.

AI gidatzeko sistema bat eta gizaki bat elkarrekin gidatzen ari dira. Egoera larria sortzen da. AI programatu da gidatzeko zeregina utzi eta gizakiari gauzak emateko une latz bat gertatzen denean. Honek agian "zentzuzkoa" dirudi, balizko desadostasun profesionaletan gizakiaren "irabazle" lehenetsiari buruzko araua deitzen dugulako.

Baina AI uztea helburu gaiztoagoetarako edo maltzurtzat jotakoa izan daiteke. Gerta liteke auto-fabrikatzaileak edo auto-gidatze teknologia-enpresak ez duela nahi beren AI "errudun alderditzat" jotzea auto-istripu bat gertatzen denean. Itxuraz horrela atxilotzea saihesteko, AI-ak bat-batean gizakiaren esku uzten ditu kontrolak. Voila, gizakia da orain ustez ibilgailuaren guztiz erantzule.

Jaurtiketa hau da, demagun AIak eskualdaketa hori egiten duela, demagun istripu bat gertatu baino segundo bat falta dela.

Benetan izango al luke gizakiak denbora librerik istripua saihesteko?

Litekeena da ez.

Demagun AIak eskualdaketa egiten duela milisegundo edo nanosegundo batzuk falta direla. Ausartzen naiz esatera gizakiak ez duela inolako aukerarik istripua saihesteko ezer egiteko.

Autogileen edo auto gidatzen duten autoen enpresaren ikuspegitik, halako auto-istripu bat gertatzen denean eskuak garbi egongo balira bezala jokatzen saia daitezke. Autoa gizaki batek gidatzen zuen. AI ez zen autoa gidatzen. Ondorio "logiko" bakarra gizakiak errua izan behar duela eta AIak erabat errugabea izan behar duela dirudi.

Kroka bat da.

Hurrengo zutabe batean sakonago eztabaidatuko dut.

Ondorioa

Desadostasun profesionalak sortuko dira.

Zaila da imajinatzea zeregin konplexurik bi alderdik elkarrekin egiten duten zeregina eta horretarako inoiz sortuko ez den desadostasun profesionalik. Hau fantasiazko lurraldea edo gutxienez bitxikeria handi bat dirudi.

Gaur egun, gizakien arteko desadostasun profesionalen kasu asko eta asko ditugu, eta eguneroko ebazpenak modu baketsuan eta zentzuz asmatzen dira modu batean edo bestean. Izan ere, askotan egoerak nahita sortzen ditugu desadostasun profesionalak sustatzeko eta azaleratzeko. Batzuetan bi buru bat baino hobeak direla dioen jakinduria ospetsua erakusten duela esan dezakezu.

AI gehiago hedatzen den heinean, AI-gizaki edo gizaki-IA-ren arteko bi zereginen buru izango ditugu eta egongo dira. desadostasun profesionalak hori gertatuko da. Ikuspegi alferra beti gizakiarengana uztea da. Baliteke hau ez da planteamendu egokiena. AI aukera hobea izan daiteke. Edo lehen aipatutako beste arauetako bat hurbilketa sanoagoa izan daiteke.

Askotan errepikatu den lerro jakintsu hori denok izan beharko genukeela ados ez egoteko gai izan behar dugu, nahiz eta hariari dagokionez, batzuetan desadostasun bat zalantzarik gabe konpondu behar da, bestela, eskuartean dugun gaiak ezinbesteko hondamendia ekarriko du. Ezin dugu utzi desadostasun bat mahatsondoan iluntzen. Denbora funtsezkoa izan daiteke eta bizitzak jokoan egon daitezke.

Desadostasunak konpontzeko bide zuhur batzuen eskakizun argia dago nahitaez ados ez bada ere, besteak beste, AI eta begiztetan dagoen gizaki bat begiz begi edo bytez byte ikusten ez dutenean.

Ziur nago ez zarela ados egongo eztabaida guztiz atsegin horrekin.