AI Etika Fuming Hot Potato Sindromearen gorakada AI-eko arduradunek enplegatzen ari direla dirudienez, beren bizitza erabakitzen duten sistema autonomoen erantzukizuna saihesten saiatzen ari dira

Denok dakigu ziurtatu behar duzula ez duzula patata beroarekin amaitzen.

Patataren gambit beroak bere sustraiak gutxienez 1800eko hamarkadaren amaieran jarraitzen dituela dirudi, kandelak piztutako saloi-joko batek baloia martxan jarri zuenean. Jendea, normalean, egurrezko aulki batzuetan eserita egoten zen, elkarren ondoan samar zeuden eta garai hartan joko guztiz ikaragarria egiten zuen. Piztutako kandela bat pertsona batetik bestera entregatuko zuten jokalariek eta guk, gerora, esaldi bat emanez adierazi genuena irudikatzen zuen. patata beroa.

Ohitura zen pertsona bakoitzak ozenki hitz egin behar izatea errima herrikoia pixkanaka-pixkanaka piztuta igaro aurretik. Errima itxuraz honela zebilen:

«Jack bizirik dago eta litekeena da bizitzea;

Zure eskuan hiltzen bada, galduko duzu emateko».

Errezitaldi errimatu honek kandelari denbora pixka bat emango lioke azken ondoriora arte erretzen jarraitzeko. Amaieran itzaltzean bere esku zegoen kandelarekin trabatuta geratu zena partida galdu zuena zen (joko-jokoa!).

Errimak adierazitako hitzen arabera, galtzaileak "perfeit" ordaindu behar zuen eta, horrela, normalean, jokoaren beste txandetatik irten behar izaten zuen. Gero, gaur egun eguneroko musika-aulkitzat hartzen ditugunekin konbinatu liteke, txanda galdu duenak hurrengo txandetan parte hartu ez dezan (musika gelditu eta eserleku librerik lortu ezin izango balu bezala). Azken finean, kandela piztuta pasa eta errima esan zuten bi pertsona soberan geratuko ziren, azken itzalaldian behin betiko irabazlea zehaztu zen arte.

Baliteke galdetzen ari zarena zergatik ez dugun jolas honetan kandela piztuarekin jokatzen, eta zergatik aipatzen dugun normalean patata bero gisa hau "kandela piztu" eskema bezala irudikatu beharrean. Ikertzaileek teoria asko sortu dituzte pixkanaka hori nola gertatu zen. Historia lainotua eta erabaki gabea dirudi gai honetan gauzak nola eboluzionatu ziren. Suposatzen dut lasaitu gaitezkeela piztutako kandelak ez direla normalean horrela erabiltzen, zerbait nabariki okertzeko aukerak oso kezkagarriak diruditelako (norbaitek kandela erortzen du eta sua pizten du, edo norbaitek kandelak erre egiten du entregatzean. beste jokalari batetik, etab.).

Piztutako kandelaren ordezko potentzial gisa patata beroari dagokionez, orokorrean patata zertxobait seguruagoa izango dela esan dezakezu. Ez sugar irekirik. Ez urtzen den argizaria. Testuinguru honetan patatak erabiltzeko oinarri potentziala berotu ondoren beroa erraz atxikitzen dutela da. Patata pasa dezakezu eta pixka batean bero egongo da. Batek suposatzen du patata beroa noiz ez dagoen bero eta hotz gisa baloratzen denean erabakitzea gogotsu eztabaidagarria den proposamena litzatekeela.

Jakina, atsotitzen den patata beroaren ideia bakarkako kontua da egun. Patata bero gisa baloratu edo kalifikatzen den edozer kalitatezko kentzeko modukoa izan ohi da. Ez duzu patata bero bat eduki nahi. Beste leku batera joango dela ziurtatu nahi duzu. Hein batean, agian ez zaizu gehiegi kezkatzen nora doan, besterik gabe, jada ez dagoela zure esku.

Nahiko zintzoa iruditzen zaizu patata bero bat lagun min edo antzeko ezagun bati ematea. Hau guztiz kanpokoa dirudi. Agian aurkitu beste norbait edo beste nonbait patata bero hori jartzeko, hala egin dezakezun. Mugimendu etsi bat patata beroa lankide adeitsu bati behartzea izan daiteke, baina hori azken aukera gisa bakarrik egitea espero dugu.

Txanpon horren beste aldea da gustuko ez duzun edo mendeku bila ari zaren norbaiti patata bero bat emateaz gozatuko duzula. Noski, patata beroa ia oso erabilgarria izan daiteke gaizki tratatu zaituen pertsona bat murriztea nahi baduzu. Ea asma dezatela zer egin patata beroari buruz. On egin patatari eta zorterik txarrena etiketatu duzun pertsonari.

Bi pertsona bakarrik parte hartzen duten patata-egoeran, harrera-aurrera liskar azkar bat egiteko aukera dago gai desegokia eta atsegin ez den pertsonari buruz. Adibidez, nik ematen dizut patata beroa, eta zuk ziztu bizian ematen didazu. Esku-eskubide bakoitzaren artean haur-kanta bat iragarri behar ez dugula suposatuz, gutxi gorabehera patatatik pasa dezakegu gure besoek ahalbidetzen diguten bezain azkar.

Agian jakin-mina izango duzu zergatik aukeratu dudan patata bero errespetatu eta maiz aipatzen den murgilketa sakon bat egitea.

Hona hemen zergatik.

Bihurtzen da patata beroaren itxura gero eta gehiago erabiltzen ari dela Adimen Artifizialaren (AI) alorrean.

Jende gehienak ez daki ezer horri buruz. Ez dute inoiz entzun. Zer den guztiz ez dakite. AI garatzaile askok ere ez dute kontua ezagutzen. Hala ere, existitzen da eta badirudi benetan zalantzazko ezarpenetan erabiltzen ari dela, batez ere hil ala biziko egoerak dituzten kasuetan.

Honela aipatzen dut AI Patata beroaren sindromea.

Sindrome honen azpian oihartzun larri asko daude eta ziurtatu behar dugu gure AI Etikaren pentsamendu-txapelak jartzen ditugula eta zer egin behar den kontuan hartu behar dugu. Gogoeta etiko soberan daude. Ondorio juridiko nabarmenak ere egon behar dira (oraindik gizartearen ikusgarritasunera iritsi ez direnak, nahiz eta laster egingo direla aurreikusten dudan). AI Etika, AI etikoa eta Legal AI gaien etengabeko estaldura zabala lortzeko, ikus esteka hemen esteka hemen, Gutxi batzuk aipatzearren.

Deskonprimitu dezagun AI patata beroaren sindromea.

Imajinatu gizaki batekin elkarlanean ari den AI sistema bat. AI eta gizakiak abian diren jarduera batzuen kontrola pasatzen ari dira, batzuetan gizakiak kontrolatzen du eta beste batzuetan AIak kontrolatzen du. Hau hasiera batean modu onean edo zentzuzkoan egin liteke. Momentuz aztertuko ditugun hainbat arrazoirengatik, AIak konputazionalki ziurta dezake kontrola gizakiari azkar pasa behar zaiola.

Hau da patata beroa hori mundu errealeko bizitza arriskuan jartzera dator, haurrentzako jolas hezigarri gisa balio izan beharrean.

Kontrola AItik gizakira azkar pasatzearen arazoa da hori zentzuzko moduan egin daitekeela edo nahiko modu desegokian egin daitekeela. Gizakia ez bada bereziki eskualdaketa espero, hau arazo bat izango da ziurrenik. Gizakia, oro har, ongi badago kontrola pasatzearekin, eskualdaketaren azpian dauden zirkunstantziak ikaragarriak izan daitezke gizakiari denbora eskasa ematen zaionean edo kontrola gizakiaren eskuetan zergatik jartzen den behar besteko kontzientziarik ez duenean.

Honek gizakiarentzat eta, ziurrenik, inguruko beste gizakientzat hil ala biziko arriskua nola sor ditzakeen erakusten duten adibideak aztertuko ditugu. Gauza serioak dira. Aldia, puntua.

Azpian dauden basati eta artilezko gogoetetan haragizko alderdi batzuk gehiago sartu aurretik AI patata beroaren sindromea, jar ditzagun oinarri osagarri batzuk funtsezkoak diren gaietan. Laburki murgildu behar dugu AI Etikan eta bereziki Machine Learning (ML) eta Deep Learning (DL) etorreran.

Lausoki jabetuko zara gaur egun AIren alorrean eta baita AIren eremutik kanpo ere ahots ozenenetako bat AI Etikoaren itxura handiagoa aldarrikatzean dela. Ikus dezagun zer esan nahi duen AI Etika eta AI etikoa aipatzea. Horrez gain, Machine Learning eta Deep Learning buruz hitz egiten dudanean zer esan nahi dudan aztertuko dugu.

Komunikabideen arreta handia jaso duen AI Etikaren segmentu edo zati jakin bat alderdikeriak eta desberdintasunak erakusten dituen IAk osatzen dute. Baliteke kontziente izango AIaren azken aroa martxan jarri zenean ilusio handia izan zela batzuek gaur egun deitzen duten hori AI For Good. Zoritxarrez, zirrara isuri horren harira, lekukotzen hasi ginen AI For Bad. Adibidez, AI-n oinarritutako aurpegi-ezagutze-sistemak arraza-alborapenak eta genero-alborapenak dituztela agerian utzi dute, eta horiei buruz hitz egin dudanean. esteka hemen.

Aurkako borroka egiteko ahaleginak AI For Bad aktiboki abian dira. Oihuka gainera legezko gaizki-egiteei eusteko asmoz, AIren etika onartzeko bultzada nabarmena ere badago AIren gaiztakeria zuzentzeko. Ideia da AI etikoaren funtsezko printzipioak onartu eta onartu beharko genituzkeela IA garatzeko eta lantzeko. AI For Bad eta, aldi berean, hoberena iragartzen eta sustatuz AI For Good.

Erlazionatutako ideia batean, AI erabiltzen saiatzearen defendatzailea naiz AIren arazoen konponbidearen zati gisa, suarekin suarekin borrokatzeko pentsamendu modu horretan. Adibidez, AI etikoen osagaiak txerta genitzake AI sistema batean, gainontzeko AIak gauzak nola egiten dituen kontrolatuko duena eta, beraz, denbora errealean edozein diskriminazio-ahaleginak harrapatzeko. Ikusi nire eztabaida hemen. esteka hemen. AI Etika monitore gisa jarduten duen AI sistema bereizi bat ere izan genezake. AI sistemak gainbegiratzaile gisa funtzionatzen du beste AI bat amildegi ez-etikoan sartzen denean jarraitzeko eta detektatzeko (ikusi horrelako gaitasunen azterketa hemen esteka hemen).

Une batean, AI Etikaren azpian dauden printzipio nagusi batzuk partekatuko ditut zurekin. Zerrenda mota asko daude han eta hemen inguruan. Esan liteke oraindik ez dagoela erakargarritasun eta adostasun unibertsalaren zerrenda berezirik. Hori da zorigaiztoko albistea. Berri ona da gutxienez eskuragarri daudela AI Etika zerrendak eta nahiko antzekoak izan ohi direla. Guztiak esanda, horrek iradokitzen du nolabaiteko konbergentzia arrazoitu baten bidez AI Etika zertan datzan komuntasun orokorrerantz aurkitzen ari garela.

Lehenik eta behin, labur ditzagun AI Etikoko manu orokor batzuk AI lantzen, lantzen edo erabiltzen duen edonork ezinbesteko kontua izan behar duena ilustratzeko.

Adibidez, Vatikanoak dioen bezala Erromako AI Etikarako Deia eta sakonki jorratu dudan bezala esteka hemenHauek dira identifikatutako sei oinarrizko AI etika printzipioak:

• Gardentasuna: Printzipioz, AI sistemek azalgarriak izan behar dute
• sartzea: Gizaki guztien beharrak kontuan hartu behar dira, guztion onura izan dadin, eta pertsona guztiei eskein diezaieke bere burua adierazteko eta garatzeko baldintza onenak.
• Erantzukizuna: AIaren erabilera diseinatzen eta zabaltzen dutenek ardura eta gardentasunarekin jarraitu behar dute
• Inpartzialtasuna: Ez sortu edo ez jokatu joeraren arabera, horrela zuzentasuna eta giza duintasuna bermatuz
• Fidagarritasuna: AI sistemek modu fidagarrian funtzionatzeko gai izan behar dute
• Segurtasuna eta pribatutasuna: AI sistemek segurtasunez funtzionatu behar dute eta erabiltzaileen pribatutasuna errespetatu behar dute.

AEBetako Defentsa Sailak (DoD) bere dokumentuan adierazi duenez Adimen artifiziala erabiltzeko printzipio etikoak eta sakonki jorratu dudan bezala esteka hemenHauek dira AIren sei printzipio etiko nagusiak:

• Arduraduna: DoDko langileek epai eta arreta maila egokiak erabiliko dituzte AI gaitasunen garapenaren, hedapenaren eta erabileraren ardura izaten jarraitzen duten bitartean.
• Ekitatiboa: Sailak nahita neurriak hartuko ditu AI gaitasunetan nahi gabeko alborapenak minimizatzeko.
• Trazagarria: Departamentuaren AI gaitasunak garatu eta zabalduko dira, dagokion langileek AI gaitasunei aplikagarri zaizkien teknologia, garapen-prozesu eta metodo operatiboen ulermen egokia izan dezaten, metodologia gardenak eta ikuskagarriak, datu-iturriak eta diseinu-prozedura eta dokumentazioa barne.
• Seriotasuna: Sailaren AI gaitasunek erabilera esplizituak eta ongi zehaztuak izango dituzte, eta gaitasun horien segurtasuna, segurtasuna eta eraginkortasuna probak eta bermeak izango dira definitutako erabilera horietan bizi-ziklo osoan zehar.
• Gobernagarria: Sailak AI gaitasunak diseinatu eta diseinatuko ditu aurreikusitako funtzioak betetzeko, nahi gabeko ondorioak detektatzeko eta ekiditeko gaitasuna duen bitartean, eta nahi gabeko portaera erakusten duten sistemak desaktibatzeko edo desaktibatzeko gaitasuna.

AIaren etika-printzipioen analisi kolektibo ezberdinei buruz ere eztabaidatu dut, besteak beste, nazioko eta nazioarteko AI etikako printzipio ugariren funtsa aztertu eta laburtu zuen ikertzaileek asmatutako multzoa aztertu izana "The Global Landscape Of AI Ethics Guidelines" (argitaratutakoa). urtean Nature), eta nire estaldurak hemen aztertzen du esteka hemen, eta horrek giltzarri zerrenda honetara eraman zuen:

• Transparency
• Justizia eta zuzentasuna
• Ez-Malefizia
• Erantzukizun
• Pribatutasuna
• Ongintzaren
• Askatasuna eta Autonomia
• Fidatu
• Iraunkortasun
• duintasuna
• Elkartasuna

Zuzenean asmatuko duzun bezala, printzipio horien azpian dauden zehaztasunak zehazten saiatzea oso zaila izan daiteke. Are gehiago, printzipio zabal horiek guztiz ukigarri eta zehatza den zerbait bilakatzeko ahalegina AI sistemak lantzean erabiltzeko moduko intxaur gogorra ere bada. Erraza da, oro har, AI Etikaren manuak zer diren eta orokorrean nola behatu behar diren eskuz astintzea, AI kodeketa askoz ere egoera zailagoa da errepidea betetzen duen benetako goma izan behar izatea.

AI Etika-printzipioak AI garatzaileek erabili behar dituzte, AI garapenerako ahaleginak kudeatzen dituztenekin batera, eta baita, azken finean, AI sistemetan mantentzea lantzen eta egiten dutenekin batera. AIaren garapen eta erabileraren bizitza-ziklo osoan parte hartzen duten eragile guztiak AI Etikoaren ezarritako arauak betetzearen esparruan hartzen dira kontuan. Garrantzi handiko aipamena da hau, ohiko suposizioa delako "kodetzaileak" edo AI programatzen dutenak soilik AI Etika nozioei atxikitzeko menpe daudela. Lehen esan bezala, herri bat behar da AI asmatzeko eta lantzeko, eta, horretarako, herri osoak AI Etika aginduak ezagutu eta bete behar ditu.

Ziurta dezagun, gainera, orrialde berean gaudela gaurko AIaren izaerari buruz.

Gaur egun ez dago sentikorra den AIrik. Ez dugu hau. Ez dakigu AI sentikorra posible izango den. Inork ezin du ongi iragar AI sentikorra lortuko dugun ala ez, ezta AI sentikorra nolabait miragarriki berez sortuko den supernoba kognitibo konputazional baten moduan (normalean berezitasuna deitzen dena, ikus nire estaldura hemen. esteka hemen).

Zentratzen ari naizen AI mota gaur egun daukagun AI ez sentikorra da. Buruz basatian espekulatu nahi bagenu sentikorra AI, eztabaida hau zeharo beste norabide batean joan liteke. AI sentikor bat giza kalitatekoa izango litzateke. Kontuan izan beharko zenuke AI sentikorra gizakiaren baliokide kognitiboa dela. Are gehiago, batzuek IA super-adimentsua izan genezakeela espekulatzen dutenez, pentsa daiteke AI hori gizakiak baino adimentsuagoa izan daitekeela (AI super-adimentsua aukera gisa aztertzeko, ikus estaldura hemen).

Utz ditzagun gauzak lurrean gehiago eta kontuan izan ditzagun gaur egungo AI konputazionala sentikorra.

Konturatu gaur egungo IA ez dela gai giza pentsamenduaren parean "pentsatzeko". Alexa edo Sirirekin elkarreragiten duzunean, elkarrizketa gaitasunak giza gaitasunen antzekoak dirudite, baina errealitatea da konputazionala dela eta giza ezagutza falta dela. AIaren azken aroak asko erabili ditu Machine Learning (ML) eta Deep Learning (DL), zeinak konputazio-ereduen parekatzea baliatzen baitute. Horrek gizakiaren antzeko joerak dituzten AI sistemak ekarri ditu. Bien bitartean, gaur egun ez dago zentzu arruntaren itxura duen AIrik eta giza pentsamendu sendoaren harridura kognitiborik ere ez duenik.

ML/DL eredu konputazionalaren parekatze modu bat da. Ohiko planteamendua erabakiak hartzeko zeregin bati buruzko datuak biltzea da. Datuak ML/DL ordenagailu ereduetara elikatzen dituzu. Eredu horiek eredu matematikoak aurkitu nahi dituzte. Eredu horiek aurkitu ondoren, aurkituz gero, AI sistemak eredu horiek erabiliko ditu datu berriak topatzerakoan. Datu berriak aurkeztean, datu "zahar" edo historikoetan oinarritutako ereduak aplikatzen dira egungo erabakia emateko.

Uste dut hau nora doan asma dezakezula. Erabakien eredua hartzen ari diren gizakiek alborapen txarrak sartu badituzte, litekeena da datuek modu sotil baina esanguratsuan islatzea. Machine Learning edo Deep Learning konputazio-ereduen parekatzea besterik ez da saiatuko datuak matematikoki imitatzen. Ez dago zentzu arruntaren edo beste alderdi sentikorren itxurarik AI-n landutako modelizazioaren berez.

Gainera, AI garatzaileak agian ez dira konturatzen zer gertatzen ari den. ML/DL-ko matematika arkanoak zaildu lezake orain ezkutuko alborapenak atzematea. Ziurrenik espero eta espero zenuke AI garatzaileek lurperatuta egon daitezkeen alborapenak probatuko dituztela, nahiz eta badirudi baino zailagoa den. Aukera sendoa dago, nahiz eta proba nahiko zabalak izan, ML/DL ereduak parekatzeko ereduetan oraindik txertatutako alborapenak egongo direla.

Garbage-in garba-out-en esaera ospetsua edo gaiztoa zertxobait erabil dezakezu. Kontua da, hau AIaren barnean murgiltzen diren alborapenak maltzurki sartzen diren alborapenen antzekoagoa da. AIren algoritmoen erabakiak hartzea (ADM) axiomatikoki desberdintasunez kargatzen da.

Ez da ona.

Itzuli gaitezen patata beroari eta AI-n izan dezakeen erabilera negargarriari buruzko gure arretara. Patata beroaren trikimailuaren barruan ere ezkutatu daitekeen fiendishness bat ere badago.

Patata beroaren gambitaren AI adierazpenari buruzko laburpen azkar gisa:

• AI eta giza-erregimen bat elkarrekin lanean ari dira zeregin jakin batean
• AIk kontrola du denboraren batean
• Gizakiaren begiztaren kontrola du denboraren batean
• Badago eskualdaketa protokoloren bat AIaren eta gizakiaren artean
• Handoff oso ikusgai izan daiteke, edo sotila eta ia ezkutuan egon daiteke
• Hau guztia denbora errealeko testuinguru batean gertatzen da (zerbait aktiboki ari da)

Honen ardatz nagusia eskualdaketa funtsean patata beroa denean eta AIak gizakiari bat-batean kontrolatzea aukeratzen duenean. Kontuan izan aurrerago hemen beste alderdia ere landuko dudala, hots, gizakiak AI-ri emandako kontrola patata bero gisa.

Lehenik eta behin, kontuan hartu zer gerta daitekeen AI-ak patata bero bat gizakiaren begizta bati egiten dionean.

Gizakiari erreferentzia egingo diot gizakia begiztetan dagoen bezala, gizakia dagoeneko martxan dagoen lan-jardueraren parte dela esaten ari naizelako. Beste agertoki batzuk izan genitzake jardueran bereziki inplikatuta ez zegoen gizaki bati, agian gai honi buruz ezezaguna dena, AIak patata beroa ematen diona, beraz, kontuan izan ingurune honetako beste zapore batzuk existitzen direla.

Patata bero bat emango banu eta zentzuzko moduan egin nahi banu, agian ohartaraziko nizuke gauzak zure esku utziko ditudala. Gainera, hori egiten saiatuko nintzateke benetan sinetsiko banu, orokorrean, patata beroa edukitzea nik hura baino hobea zela. Buruz kalkulatuko nuke zuk eduki behar duzun ala horrekin jarraitu behar dudan.

Ikusi saskibaloi partida bat. Zu eta ni talde berean gaude. Espero dugu elkarrekin lanean ari garela partida irabazten saiatzeko. Erlojurako segundo gutxi falta dira eta etsi-etsian gola sartu behar dugu, bestela partida galduko dugu. Azken jaurtiketa egiteko posizioan jartzen naiz. Hala egin behar al dut, ala baloia pasa eta azken jaurtiketa egin behar dizut?

Saskibaloi jokalari hobea banaiz eta jaurtiketa hondoratzeko aukera handiagoa badut, ziurrenik saskibaloia mantendu eta jaurtiketa egiten saiatu beharko nuke. Ni baino saskibaloi jokalari hobea bazara, ziurrenik baloia pasa eta jaurtiketa egiten utzi beharko nizuke. Beste kontu batzuk nabarmentzen dira, esate baterako, gutako zein den kantxan jaurtiketa egiteko posizio hobean, eta gutako bat agortuta dagoen, partida ia amaituta dagoenez eta higatuta egon daitekeen eta parean ez egotea. haien tiroketa. Etab.

Faktore horiek guztiak larritutako unearen erdian, baloia mantendu edo zuri pasatzea erabaki behar dut.

Konturatu zaitez eszenatoki honetan erlojua funtsezkoa dela. Zu eta biok erantzun oso puntual baten aurrean gaude. Joko osoa jokoan dago orain. Erlojua agortzen denean, edo gutako batek jaurtiketa egin duelako irabazi dugu, edo hondoratu ez dugunetik galdu dugu. Baliteke heroia izan ninteke saskia hondoratzen badut. Edo heroia izan zaitezke baloia pasatzen badizut eta hondoratzen baduzu.

Honen ahuntzaren alde edo alde txarrak ere badaude. Baloia mantentzen badut eta jaurtiketa huts egiten badut, denek ahuntza naizela edo talde osoa jausten dudala leporatzen didate. Bestalde, nik baloia pasatzen badizut eta jaurtiketa huts egiten baduzu, ba, ahuntz bihurtzen zara. Hau guztiz bidegabea izan daiteke zuretzat, azken jaurtitzailea izatera eta azken jaurtiketa egitera behartu zintudan.

Zalantzarik gabe, jakingo zenuke posizio desegoki horretan jarri zaitudala. Eta denek hori egiten ikusi ahal izan nauten arren, baloia izan duen azken pertsonan bakarrik kontzentratu behar dira. Agian libre patinatuko nuke. Inork ez zuen gogoratuko azken momentuan baloia pasatu dizudala. Baloia zeukala eta jaurtiketa egin ez duzulako partida galdu duzula bakarrik gogoratuko zuten.

Ados, beraz, baloia pasatzen dizut.

Zergatik egin nuen?

Ez dago hori zehazteko modu errazik.

Nire benetako asmoa ahuntza izanik ez nuela trabatu nahi izan liteke, eta horregatik presio guztia zuri egitea erabaki nuen. Baloia zergatik pasatu dudan galdetuta, hala egin dudala esan nezake, ni baino tiratzaile hobea zarela uste nuelako (baina, itxuratu dezagun hori ez dudala batere sinesten). Edo ni baino egoera hobean zeundela uste nuen (ema dezagun hau ere ez dudala uste). Inork ez zuen sekula jakingo patata beroarekin trabatuta gelditzea saihesten saiatzen ari nintzela.

Gauzen kanpotik begiratuta, inork ezin zuen erraz antzeman nire benetako arrazoia baloia zuri pasatzeko. Agian inuzenteki egin nuen, jokalari hobea zinela uste nuelako. Hori angelu bat da. Beharbada egin nuen, ez nuelako nahi denek galtzaile deitzea, baliteke jaurtiketa huts egiteagatik, beraz, baloia lortu nizuen eta izugarrizko erliebea iruditu zitzaidan. Benetan zutaz arduratzen nintzen ala ez, guztiz bestelako kontua da.

Orain AIarekin lotutako patata beroari xehetasun gehiago gehi ditzakegu:

• AIk aukeratzen du gizakiaren begiztaren kontrola ematea azken momentuan
• Azken unea agian gizakientzako bideragarri den edozein ekintza baino askoz haratago egon daiteke
• Gizakiaren begiztaren kontrola du baina faltsu samarra da eskualdaketaren denbora dela eta

Hautatu une batez.

Demagun AI sistema bat eta giza-begizta batean lanean ari direla denbora errealeko zeregin batean, eskala handiko makina bat fabrika batean exekutatzen duena. AI-k makineria huts egiten ari dela detektatzen du. AIak kontrola mantentzen jarraitu beharrean, AIak bat-batean gizakiari ematen dio kontrola. Fabrika honetako makineria azkar doa kaos hutsera eta ez zaio denborarik geratzen gizakiari neurri zuzentzaileak hartzeko.

AI-k patata beroa gizakiaren begiztaren esku utzi du eta gizakia benetako patata beroarekin trabatu du, zirkunstantzia horiei aurre egiteko ezinezkoa izan dadin. Etiketa, zu zara, txikitan etiketa-jokoetan jolasten ari zarenean. Gizakia nahastearekin etiketatuta dagoela esango dugu.

Saskibaloi jokoari buruzko nire adibidea bezala.

Zergatik egin zuen AIk eskualdaketa?

Beno, gizaki batek saskibaloi bat bat-batean entregatzen duenean ez bezala, eta gero zergatik egin duen zergatik egin duen eskuz astintzen dituenean ez bezala, normalean AIren programazioa aztertu eta AI-k patata bero-emanaldi hori egitea zerk eraman zuen jakin dezakegu.

AI garatzaile batek aldez aurretik erabaki zezakeen AI egoera oso txarrean sartzen denean, AI-ak gizakiaren begiztaren kontrola ematen jarraitu beharko lukeela. Honek guztiz zentzuzkoa eta zentzuzkoa dirudi. Gizakia zelaian "jokalari hobea" izan daiteke. Gizakiok beren gaitasun kognitiboak erabil ditzakete esku artean dagoen edozein arazo konpontzeko. AIak bere programazioaren mugetara iritsi da eta ez dago beste ezer eraikitzailerik egin dezakeen egoeran.

AIak eskualdaketa egin izan balu makineria kablam joan baino minutu bat falta zenean, agian minutu bat buru-belarri nahikoa da gizakiaren begiztak gauzak zuzentzeko. Demagun, ordea, AIk eskualdaketa egin zuela amaitzeko hiru segundoren faltan. Denbora tarte horretan gizaki batek erreakzionatu dezakeela uste duzu? Nekez. Edonola ere, gauzak are gutxiago bihurtzeko, demagun gizakiaren begiztaren eskualdaketa nanosegundo batzuk falta zirela amaitzeko (nanosegundo bat segundo baten bilioiren bat da, eta, konparazioz, keinu bizkor bat da. begia 300 milisegundo geldoa da).

Gizakiaren begiztaren batek nahikoa erreakzionatu al dezake AI-ak patata beroari segundu txiki-txiki hutsak geratzen zaizkiolarik, ekintza ageriko bat egiteko?

N º.

Handoff faltsukeria gehiago da, bestela dirudiena baino.

Egia esan, eskualdaketak ez du ezertarako balioko egoera larrian dagoenean. AIak gizakia ahuntza bihurtzera bultzatu du.

AI garatzaile batzuek ez dute horretan pentsatzen beren IA asmatzen dutenean. Ez dute (gaizki) zorionez kontuan hartzen denbora faktore erabakigarria dela. Gauzak zailak direnean eskualdaketa bat programatzea da egiten dutena. AIak modu eraikitzailean egiteko ezer geratzen ez denean, bota baloia giza jokalariari.

AI garatzaileek IA kodetzeko garaian horri buruzko gogoetarik ez ematea izan liteke, eta askotan huts bikoitza egiten dute hori agerian uzten duten probak egin gabe. Haien probek erakusten duten guztia da AI-ak "zuhurtziaz" eskua egin zuela AIaren mugak iritsi zirenean. Voila, AI ona eta joateko prest dagoela uste da. Probak ez zuen inbidiarik gabeko eta ezinezko posizio horretan kokatutako benetako gizakirik sartu. Ez zegoen gizakiaren begiztaren proba prozesu egokirik, azken momentuan edo azken momentutik igarotako begien keinu horrek ezer gutxi edo ezertarako balio ez ziela protesta zezakeenik.

Jakina, AI garatzaile batzuek zuhurki aztertuko dute egoera mota hau, zentzuz.

Asmakizunaren inguruan hausnartu ondoren, AI-a horrela jokatzeko programatzeari ekingo diote, hala ere.

Zergatik?

Ez baitago beste ezer egiterik, euren buruan behintzat. Beste guztiak huts egiten duenean, eskuz kontrola gizakiari. Agian miraria gertatuko da. Dena den, kontua da hori ez dela kezkatzen AI garatzaileari, eta gizakiari azken aukera ematen ari zaizkiola nahaspilari aurre egiteko. AI garatzaileak eskuak garbitzen ditu ondoren gertatzen dena.

Argitu nahi dut AI garatzaileak ez direla patata beroaren diseinu hauen asmatzaile bakarrak. Beste eragile asko daude horretarako mahaira etortzen direnak. Beharbada, zehaztapenak eta eskakizunen azterketa egin zuen sistema-analista batek adierazi zuen hori dela AIak egin behar duela. Inplikatutako AI garatzaileek AI landu zuten horren arabera. AI proiektuaren kudeatzaileak hau asmatu zuen. AI garapena gainbegiratzen duten zuzendariek eta zuzendaritzak hau asmatu zuten.

Baliteke AI garapenaren bizi-ziklo osoan denek eraman izana patata beroaren diseinu bera. Inork ohartu ote zen, ezin dugu ziur esan. Konturatuko balira, baliteke horiek naysayers gisa etiketatu eta alde batera utzi. Baliteke beste batzuei gaia ezagutarazi, baina ez zuten ondoriorik ulertu. Euren esparruan ez zegoen xehetasun tekniko bat zela uste zuten.

"Arrazoi" zerrenda informal honi aukera askoz ere gaiztoagoa gehituko diot.

AI Hot Potato Sindrome bat batzuetan nahita erabiltzen da, IA egiten dutenek ukazio sinesgarriaren aldarri sutsua izan nahi zutelako.

Presta zaitez ipuinaren zati honetarako.

Lantegiko makineriaren kasuan, gertatutakoaren erantzule nor den hatz-seinalatu behar da. Makineria ustiatzeari dagokionez, AI sistema bat genuen eta hori egiten zuen gizakia genuen. Hauek dira gure bi saskibaloi jokalariak, metaforikoki.

Erlojua jaisten ari zen eta makineria kaboom joateko zorian zegoen. Demagun zuk eta biok badakigula AI-ak gizakiaren begiztaren esku utzi zuela, gizakiari hondamendia zuzentzeko edo ekiditeko behar adinako ekintzak egiteko denbora nahikorik gabe geratuz. Beste inor ez da konturatzen hau dela gertatu zena.

AI egiten duen enpresak, edozein kasutan, berehala deklaratu dezake ez dutela errurik gizakiak kontrola zuelako. Euren erregistro ezinhobeen arabera, AI ez zegoen kontrolpean kaboomaren garaian. Gizakia zen. Horregatik, argi eta garbi, begi-bistakoa da gizaki batek errua duela.

AI konpainiak funtsean gezurretan ari al da baieztapen nabarmen hau egitean?

Ez, badirudi egia esaten ari direla.

AI kontrolpean ez zegoela ziur ote diren galdetuta, konpainiak ozen eta harro aldarrikatuko zuen AI ez zegoela batere kontrolpean. Baieztapen horren froga dokumentatu dute (AIk gertakariaren erregistroa gorde zuela suposatuz). Izan ere, AI konpainiako zuzendariek bekainak altxa ditzakete nazkatuta edonork bere osotasuna zalantzan jarriko lukeelako puntu honetan. Beren zin sakratuan AI zela zin egiteko prest egongo ziren ez kontrolpean. Gizakiaren begiztaren kontrola zuen.

Hau nola engainagarria izan daitekeen ikusten duzulakoan nago.

Bai, gizakiari eman zioten kontrola. Teorian, gizakiak kontrolatzen zuen. AI ez zegoen jada kontrolpean. Baina erabilgarri dagoen denbora eta jakinarazpen ezak ia oso hutsa egiten du hau.

Honen edertasuna, AI ekoizlearen ikuspuntutik, gutxik zalantzan jar ditzaketela eskaintzen ari diren erreklamazioak izango litzateke. Baliteke AI sortzaileak gertakariaren erregistroak ez kaleratzea. Hori eginez gero, egoera txukuna eman dezake. Erregistroak Jabetza Intelektuala (IP) direla edo, bestela, jabetza eta isilpeko izaera dutela argudiatzen da. Enpresak ziurrenik esango luke erregistroak erakutsiko balira, horrek beren AIaren saltsa sekretua erakutsiko lukeela eta IP preziatua agortuko lukeela.

Imajinatu gizarajoaren egoera latza. Harrituta daude denek leporatzen dietelako gauzak eskuetatik kentzen uzteagatik. AIak "gauza zuzena egin zuen" eta kontrola gizakiaren esku utzi zuen. Hau izan zitekeen zehaztapenek esandakoa (berriro ere, zehaztapenak hutsalak izan ziren denbora eta bideragarritasun faktoreak kontuan hartu gabe). Askatu ez diren baina AI-ren egileak burdinezkoak direla dioen erregistroek egiaztatzen dute gizakiari AI-ak kontrola eman ziola.

Ia ziur eroriko den gizaki nahasiaren aurkako kolpe penagarri gisa deklara dezakezu.

Litekeena da hori epaitegietara joanez gero gertatutakoaren errealitatea agerian geratuko dela. Legezko beagles maltzurrak kontzertu mota honen berri izango balute, enborrak legez lortzen saiatuko lirateke. Lekuko aditu bat lortu beharko lukete (noizean behin egin nuen zerbait) erregistroak deszifratzeko. Erregistroak bakarrik ez dira nahikoak izango. Erregistroak moldatu edo aldatu egin daitezke, edo nahita diseinatu xehetasunak argi ez erakusteko. Hori dela eta, baliteke AI kodea ere sakontzea.

Bien bitartean, aurkikuntza legalaren prozesu agoniko eta luze honetan zehar, gizakiaren begiztaren itxura oso txarra izango litzateke. Komunikabideek pertsona arduragabetzat margotuko lukete, burua galduko zuten, arduratsuak izan ez zirenez, eta erantzukizun osoa eskatu beharko lukete. Baliteke hilabete edo urtez, prozesu honetan zehar, pertsona hori oraindik ere denek hatz salatzailea seinalatzen zutena izango zen. Agian kiratsa ez da inoiz kenduko.

Gogoan izan, gainera, zirkunstantzia hori bera erraz gerta litekeela. Eta berriz. AIren egileak AI-a aldatu ez zuela suposatuz, azken orduko antzeko egoera bat sortzen den bakoitzean, AI-k denborarik gabe utzitako eskualdaketa hori egingo du. Egoera hauek maiz ez gertatzea espero litzateke. Gertatzen den aldi bakanetan, gizakiaren begiztaren arabera, udazkeneko tipo erosoa da oraindik.

Trikimailu deabru bat da.

Baliteke AI sortzaileak ezer gaizki egin ez duela azpimarratu nahi izatea. Egia esaten ari dira. AIk kontrola utzi zuen. Orduan gizakia kontrolpean hartzen zen. Horiek dira gertakariak. Eztabaidatzeak ez du zentzurik.

Inork jakintsu eta galdera gogorrak egiten dituen ala ez, eta AI sortzaileak galdera horiei modu zuzenean erantzuten dien ala ez, badirudi gutxitan gertatzen den zerbait da.

Galderak honako hauek dira:

• Noiz egin zion AIak gizakiaren begiztaren esku uztea?
• Zein oinarri programatutan egin zuen AIak eskualdaketa?
• Begizta-gizakiari denbora nahikoa eman al zitzaion kontrola hartzeko?
• Nola diseinatu eta asmatu zen IA arazo horietarako?
• Eta abar.

Neurri batean, horregatik AI Etika eta AI etikoa gai erabakigarria da. AI Etikaren aginduek adi egoteko garatzen gaituzte. AI teknologoak batzuetan teknologiarekin kezkatu daitezke, batez ere goi-teknologiaren optimizazioan. Ez dira zertan gizartearen adar handiagoak kontuan hartzen. AI Etikaren pentsamoldea izatea eta AI garapenean eta eremuan modu integralean egitea ezinbestekoa da AI egokia ekoizteko, enpresek AI Etika nola hartzen duten ebaluazioa barne (agian harrigarriki edo ironikoki).

Orokorrean AI Etika manuak erabiltzeaz gain, dagokio galdera bat dago AIaren hainbat erabilera arautzeko legeak izan behar ote ditugun. Lege berriak zabaltzen ari dira federal, estatu eta tokiko mailan, AI nola sortu behar den sorta eta izaerari buruzkoak. Horrelako legeak egiteko eta indarrean jartzeko ahalegina pixkanaka da. AI Etikak geldiune gisa balio du, gutxienez, eta ia ziur aski neurri batean zuzenean sartuko da lege berri horietan.

Kontuan izan batzuek irmo esaten dutela ez dugula IA estaltzen duten lege berririk behar eta gure lehendik dauden legeak nahikoak direla. Izan ere, AIren lege horietako batzuk ezartzen baditugu, urrezko antzara hilko dugula ohartarazi dute, gizartearen abantaila izugarriak eskaintzen dituzten AIren aurrerapenak murrizteko.

Eztabaida handi honen une honetan, gai hau erakusteko adibide argigarri gehigarri batzuk nahi dituzula apustu egingo nuke. Badira nire bihotzetik gertu dagoen adibide multzo berezi eta ezagun bat. Ikusten duzu, AI-n aditua naizen aldetik, adar etiko eta legalak barne, maiz eskatzen didate AI Etikaren dilemak erakusten dituzten adibide errealistak identifikatzea, gaiaren izaera teoriko samarra errazago ulertu ahal izateko. AI etiko istilu hau modu bizian aurkezten duen eremu iradokitzaileenetako bat AI-n oinarritutako benetako auto-gidatuen autoen etorrera da. Gaiari buruzko eztabaida zabalerako erabilpen kasu edo eredu erabilgarri gisa balioko du.

Hona hemen hausnarketa merezi duen galdera aipagarri bat: AIan oinarritutako benetako auto gidatzen duten autoen etorrerak AI Hot Potato Sindromeari buruzko zerbait argitzen al du, eta hala bada, zer erakusten du honek?

Utzidazu une bat galdera deskonprimitzeko.

Lehenik eta behin, kontuan izan ez dagoela giza gidaririk benetako auto gidatzen duen auto batean. Gogoan izan norberak gidatzen dituen benetako autoak AI gidatzeko sistema baten bidez gidatzen direla. Ez dago gidari baten beharrik gurpilean, ezta gizaki batek ibilgailua gidatzeko aurreikuspenik ere. Ibilgailu autonomoen (AV) eta batez ere auto gidatzen duten autoen estaldura zabala eta etengabea ikusteko, ikus esteka hemen.

Gehiago argitu nahiko nuke zer esan nahi den benetako auto gidatzen diren autoak aipatzen ditudanean.

Auto gidatzeko autoen mailak ulertzea

Argibide gisa, benetako auto gidatzen diren autoak AIak autoa bere kabuz gidatzen dituenak dira eta gidatzeko zereginean zehar giza laguntzarik ez dagoen.

Gidaririk gabeko ibilgailu hauek 4. maila eta 5. maila hartzen dira (ikus nire azalpena helbidean esteka hau hemen), aldiz, giza gidari batek gidatzeko ahalegina elkarrekin partekatzea eskatzen duen autoa 2. edo 3. mailan hartzen da normalean. Gidatzeko zeregina elkarrekin partekatzen duten autoak erdi-autonomoak direla deskribatzen da, eta normalean hainbat eduki dituzte. ADAS (Advanced Driver-Assistance Systems) deitzen diren gehigarri automatizatuak.

5. mailan oraindik ez dago benetako auto autonomorik, eta oraindik ez dakigu hori lortzerik izango den, ezta zenbat denbora beharko duen bertara iristeko ere.

Bien bitartean, 4. mailako ahaleginak pixkanaka-pixkanaka trakzio pixka bat lortzen saiatzen ari dira bide publikoko entsegu oso estu eta selektiboak jasanez, nahiz eta eztabaida dagoen proba hori berez onartu behar den ala ez (denok gara esperimentu batean hil ala biziko kobaiak). gure autobideetan eta bide-bideetan gertatzen ari dena, batzuek diotenez, ikusi nire estaldura hemen esteka hau hemen).

Auto erdi autonomoak giza gidaria behar dutenez, auto mota horiek ez dira ohiko ibilgailuak gidatzea baino oso desberdinak izango. Beraz, ez dago gai horren inguruko gai asko estaltzeko gai hau (hala ere, ikusiko duzuenez une batez, hurrengo puntuak orokorrean aplikagarriak dira).

Auto erdi autonomoetarako, garrantzitsua da publikoa azkenaldian sortzen ari den alderdi kezkagarri baten aurrean jakitea, hots, 2. mailako edo 3. mailako auto baten gurpilean lokartzen ari diren giza gidariek argitaratzen jarraitzen duten arren. , guztiok saihestu behar dugu gidariak zereginetatik arreta kendu dezakeela auto erdi autonomo bat gidatzen duenean.

Ibilgailuaren gidaritza-ekintzen arduraduna zara, 2. mailara edo 3. mailara zenbat automatizazio bota litekeen kontuan hartu gabe.

Norberak gidatzen dituen autoak eta AI Hot Potato sindromea

4. eta 5. mailako egiazko autoentzako gidatzeko ibilgailuentzat, ez da gidari lanetan parte hartuko duen gidaririk.

Okupatzaile guztiak bidaiariak izango dira.

AI gidatzen ari da.

Berehala eztabaidatu beharreko alderdi batek dakar gaur egungo AI gidatzeko sistemetan parte hartzen duen AI ez dela sentikorra. Beste modu batera esanda, AI ordenagailuan oinarritutako programazio eta algoritmoen kolektiboa da, eta ziur asko ez da gai gizakiak ahal duen moduan arrazoitzeko.

Zergatik ari da azpimarratzen AI hori sentikorra ez izateari?

Azpimarratu nahi dudalako AI gidatzeko sistemaren papera eztabaidatzerakoan, ez diodala giza ezaugarriak AIri ematen. Jakin ezazu egun antropomorfizatzeko AI joera etengabea eta arriskutsua dagoela. Funtsean, jendeak gizakien antzeko sentikortasuna esleitzen dio gaurko AIri, oraindik AI hori existitzen ez dela ukaezina eta eztabaidaezina izan arren.

Argibide horrekin, AI gidatzeko sistemak berez ez duela nolabait "gidatzearen alderdiak" jakingo pentsa dezakezu. Gidatzea eta horrek dakarren guztia autoa gidatzeko hardwarearen eta softwarearen zati gisa programatu beharko da.

Muga gaitezen gai honen inguruan jokatzera etortzen diren hainbat alderditan.

Lehenik eta behin, garrantzitsua da konturatzea AI auto gidatzen duten auto guztiak ez direla berdinak. Auto-fabrikatzaile eta auto-gidatzeko teknologia-enpresa bakoitzak bere ikuspegia hartzen ari da auto-gidatzeko autoak asmatzeko. Hori dela eta, zaila da AI gidatzeko sistemek egingo edo ez dutenari buruzko adierazpen zabalak egitea.

Gainera, AI gidatzeko sistema batek gauza bereziren bat egiten ez duela adierazten duen bakoitzean, geroago ordenagailua hori egiteko programatzen duten garatzaileek gainditu dezakete. Pausoz pauso, AI gidatzeko sistemak pixkanaka hobetzen eta hedatzen ari dira. Baliteke gaur egun dagoen mugarik ez egotea etorkizuneko sistemaren iterazio edo bertsio batean.

Espero dut horrek kontatuko dudanaren azpian jartzeko oharra nahikoa ematea.

Ibilgailu guztiz autonomoetarako, baliteke AIaren eta gizakiaren artean eskualdaketarik gertatzeko aukerarik ez egotea, hasteko gizakirik ez egotearen aukera dela eta. Gaur egungo auto-gidatzaile askoren nahia giza gidaria gidatzeko zereginetik erabat kentzea da. Ibilgailuak ez du gizakientzat eskuragarri dauden gidatzeko kontrolak ere izango. Kasu horretan, giza gidari batek, egonez gero, ezin izango du gidatzeko zereginean parte hartu, gidatzeko kontroletarako sarbidea ez duelako.

Ibilgailu guztiz autonomo batzuentzat, diseinu batzuek oraindik ere gizakia begiztetan egotea ahalbidetzen dute, nahiz eta gizakiak ez duen erabilgarri egon edo gidatzeko prozesuan parte hartu beharrik. Horrela, gizakiak gidatzen parte hartu dezake, pertsonak hala nahi badu. Hala ere, AI ez da inondik inora gizakiaren menpeko gidatzeko zereginetako bat egiteko.

Ibilgailu erdi autonomoen kasuan, eskuz esku harremana dago giza gidariaren eta AIaren artean. Diseinu batzuen kasuan, giza gidariak gidatzeko kontrolak erabat har ditzake eta, funtsean, AI-ak gidatzen parte har dezake. Giza gidariak AI gidari-eginkizunean berrezarri nahi badu, hala egin dezake, nahiz eta horrek batzuetan gizakia gidatzeko kontrolak uztera behartzen du.

Eragiketa erdi-autonomoaren beste era bat giza gidaria eta IA taldean lan egitea ekarriko luke. AI gidatzen ari da eta gizakia gidatzen ari da. Elkarrekin gidatzen ari dira. AIak gizakiarengana jo dezake. Gizakiak AI-ra jo dezake.

Uneren batean, AI gidatzeko sistemak konputazionalki ziurta dezake auto gidatzen duen autoa egoera jasangaitz batera doala eta ibilgailu autonomoa talka egingo duela.

Alde batera utzita, aditu batzuk ibiltzen ari dira norbere gidatzen diren autoak hautsi ezinezkoak izango direla esaten, hau da, zentzugabekeria hutsa eta gauza ikaragarri eta okerra dela esatea, ikusi nire estaldura hemen. esteka hemen.

Talka edo auto istripu batera doan auto gidatzen duen auto baten eszenatokiarekin jarraituz, AI gidatzeko sistema programatu daiteke gidatzeko kontrolak giza gidariari laburbilduz emateko. Giza gidariari neurriak ihes egiteko denbora nahikoa badago, hau izan liteke AIrentzat zentzuzko eta egokia den.

Baina demagun AIak eskualdaketa egiten duela segundo zati baten falta dela. Giza gidariaren erreakzio-denbora ez da nahikoa azkar erantzuteko. Gainera, mirariz gizakia nahikoa azkarra izan bazen, litekeena da istripuaren aurretik geratzen den denbora mugatuarekin egin daitekeen ihes-ekintza bideragarririk ez egotea. Hau bi bat da: (1) giza gidariaren neurriak hartzeko denbora nahikoa ez izatea, (2) denbora eskasa giza gidariaren ekintza posible balitz ekintzak emandako denbora eskasean gauzatu ahal izateko.

Oro har, hau saskibaloiaren burrunba-egoerari eta zoratuta zegoen lantegiko makineriari buruz aurreko eztabaidaren antzekoa da.

Gehi diezaiogun osagai gaiztoa.

Auto-fabrikatzaile edo auto-gidatzeko teknologia-enpresa batek ez du bere flotan gertatzen ari diren hainbat auto-istripuz etiketatzea nahi. AI gidatzeko sistema programatuta dago giza gidariaren gain kontrola beti botatzeko, giza gidariak egoerari buruz ezer egiteko denbora nahikoa dagoen kontuan hartu gabe. Mota honetako auto-istripu bat gertatzen den bakoitzean, auto-fabrikatzaileak edo auto-gidatzeko teknologia-enpresak ahoz azpimarratzeko gai da giza gidaria aginteetan zegoela, AI-a ez zegoen bitartean.

Badirudi AI gidatzeko sistemen ibilbidea izarra dela.

Ez da behin ere AI gidatzeko sistema "errua" auto-istripu hauengatik. Beti dira begiak errepidean mantentzen ez duten giza gidari madarikatu horiek. Baliteke blarney hau irensteko joera izatea eta AI zehatza ziurrenik inoiz oker ez dagoela uste izatea. Sinesteko joera genezake (esperientziaz dakigunez) giza gidariak alperrikak direla eta gidatzeko akats asko egiten dituztela. Ondorio logikoa da giza gidariak izan behar direla errudun arduradunak, eta AI gidatzeko sistema guztiz errugabea da.

Norberak gidatzeko defendatzaile batzuk ezaugarri honengatik haserretu baino lehen, aitortu dezagun erabat giza gidariak errua izan dezakeela eta lehenago neurriak hartu beharko lituzketela, esate baterako, AIaren gidatzeko kontrolak hartzea. AIak gidatzeko kontrolak entregatu zituenean gizakiaren gidariak zerbait funtsezkoa egin izana ere badago. Etab.

Hemen fokua izan da AI ibilgailuaren gidaritzat hartzen zen zirkunstantzietan eta gero bat-batean eta giza gidari batek egin zezakeenari arreta gutxirekin, patata beroa giza gidariari botatzen dio. Horregatik ere asko kezkatzen dira ibilgailu erdi-autonomoen gidari-eginkizun bikoitzak. Esan dezakezu gidari gehiegi dagoela bolantean. Helburua, antza denez, gurpilean gizakiaren beharrik ez duten ibilgailu guztiz autonomoak edukitzea litzateke eta AI-a beti ibilgailua gidatzen ari da.

Honek AI gidatzen ari denean zer edo nor den arduraren inguruko galdera aliatua ekartzen du, nire zutabeetan askotan jorratu dudana, esate baterako. esteka hemen esteka hemen.

Ondorioa

Kontuz ibili behar dugu ibilgailu erdi autonomoen inguruko auto-istripuak entzutean edo irakurtzean. Kontuz ibili gurekin engainatzen saiatzen direnekin, beren AI gidatzeko sistema akatsik gabeko erregistroa duela aldarrikatuz. -ren trikimailu konbinatzailea AI patata beroaren sindromea nahasketan egon daiteke.

Gai hauetan delikatuak izaten saiatzen diren enpresentzat, beharbada, gure bihotzetik gertu gorde dezakegu Abraham Lincoln-en ildo ospetsua: «Jende guztiak noizbait engaina ditzakezu eta beste batzuk denbora guztian, baina ezin duzu engainatu. jende guztia denbora guztian».

Pantailaren atzean ezkutatuta eta batzuetan kanpaiaren azpian jartzen den AI magia erakusten saiatu naiz hemen, jende gehiago izan dadin argitu dudana. izango ez gehiago engainatu.