AIaren etika nahasita Txinak asmatutako AI alderdien leialtasuna eta adimenaren irakurketa sistema autonomo zapaltzaileak iragar ditzakeen aurpegi-aitorpenaren egiaztagiria

Leial al zara?

Teorian, baliteke zure ageriko egintzak aztertzea eta zure ekintzek leialtasuna erakusten duten ala ez egiaztatzea.

Demagun, ordea, zure gogoa irakurtzeko eta bitartean zure aurpegia eskaneatzeko saiakera egin dela zure leialtasun zatidura zehazteko. Hau eerily intrusiboa da; erraz gaitzetsi dezakezu. Etorkizuneko gizarte distopiko bat ikusten duten zientzia-fikziozko film zoro horietako bat dirudi.

Zorionez, ezkutuan xuxurlatu diozu zeure buruari, gaur ez dugu horrelakorik.

Aupa, eutsi zure zaldiak.

Albisteen titularrak berriki iragartzen ari dira 1ko uztailaren 2022ean Txinan sarean argitaratutako ikerketa-artikulu batek ustez jendearen garun-uhinen eta haien aurpegi-adierazpenen ebaluazioa egin zuen ikerketa bat irudikatu zuela Txinako Alderdi Komunistari (CCP) leialak ziren ala ez kalkulatzeko. . Horra hor, etorkizuna gero eta hurbilago dago, noizbait sortuko zitekeen beldur izan genuen gizarte distopikoa lortzeko bederen.

Ikerketa-artikulua azkar desagertu zen sarean argitaratutako estekatik.

Ustez, Interneten zehar azkar zabaldu zen mespretxu azkarra nahikoa izan zen papera kentzeko. Edo, agian, ikertzaileek hitz-aldaketa batzuk eta beste zuzenketa inozoak egin nahi dituzte, i-ak puntuak daudela eta t-ak guztiak gurutzatuta daudela ziurtatzeko aukera sakonago bat izan ondoren berriro argitaratu nahi dutela. Begiak zabalik eduki beharko ditugu paperak bigarren bizitza bat duen ikusteko.

Aurrera egingo dut eta ikerketa-azterketari buruz dakigunaren inguruan sakonduko dut eta AIarekin lotutako lan mota honek gu guztiontzat duen garrantziari buruzko puntuak lotzen saiatuko naiz, hau ikusteko esparrutik urrunago joanez. herrialde jakin batera mugatuta. Nire estaldura apur bat zabalagoa izango da albiste berri honi buruzko berriki egindako beste erreportajea baino, beraz, mesedez, jasan nirekin.

Nire enfasi gehigarria ere izango da ustezko paperetik atera ditzakegun funtsezko AI Etikako ikasgai ugari daudela. AI Etikari eta AI etikoari buruz dudan etengabeko estaldura zabala ikusteko, ikus esteka hemen esteka hemen, Gutxi batzuk aipatzearren.

Hona hemen orain arte ikerketa-azterketari buruz aipatu dena.

Dirudienez, "boluntario" batzuk kontratatu ziren CCPren pertzepzioei buruzko esperimentu batean parte hartzeko. Ezezaguna da borondatezko boluntarioak ziren ala boluntario goaded edo agian gidatuen antzekoagoak ziren. Eztabaidarako onartuko dugu azterketako subjektu izatearekin ados zeudela.

Hau planteatzen dut ez dadin soilki smarmy. Giza subjektuekin esperimentu bat egiten den bakoitzean, orokorrean onartutako praktika ugari dago subjektu horien kontratazioari eta ikerketa-ahalegin batean murgiltzeari dagokionez. Horrek, neurri batean, lehenagoko ikerketetatik abiatzen da, askotan jendea engainatu edo behartzen zuten esperimentu batean parte hartzera, eta batzuetan oihartzun psikologiko kaltegarriak edo baita parte-hartzaile horientzako kalte fisikoak ere eragin zituen. Komunitate zientifikoa gogor saiatu da ikerketa maltzur horiek murrizten eta gizarekin lotutako ikerketetan sartzeko bilatzen direnei mota guztietako dibulgazio eta abisuak ematea eskatzen du.

Argitzeko, denek ez dituzte halako jarraibide zuhur eta kontzienteak betetzen.

Aurrera, 43 subjektu omen ziren, eta Txinako Alderdi Komunistako kideak omen ziren. Kontuan izan esperimentu baterako gaiak hautatzea oso erabakigarria dela esperimenturako eta, gainera, kontuan hartu behar dela esperimentuaren emaitzei buruz gero lortzen saiatuko zaren ondorioei buruz.

Demagun esperimentu bat egin nahi dudala jendeak Star Wars serie ospetsua nola hautematen duen jakiteko. Guztiek Star Wars izugarri gorrotatzen duten gaiak aurrez hautatzen baditut (nola egon daiteke horrelako jendea?), eta Star Wars bideoklipak erakusten badituzte, seguruenik Star Wars oraindik ez dutela gustuko esango dute. Esperimentu sasi-zientifiko honetan oinarrituta, agian maltzurki aldarrikatzen dut jendeak - oro har - benetan gorroto duela Star Wars, "frogatuta" (keinu-keinu) nire ikerketa-esparruan "kontu handiz" prestatutakoan.

Agian ez dakizu erruleta gurpila moldatu dudala, ezkutuan nahi zituen emaitzak aurreikusten nituen gaiak aurrez hautatuz. Jakina, nahita Star Wars maite zuten eta zale amorratuak ziren jendea nahita kontratatu izan banu, litekeena da Star Wars klipak ikusteaz hunkituta daudela jakinaraziko zutela. Berriz ere, jendeak, oro har, Star Wars-en aurrean nola erreakzionatzen duenari buruz lortzen den ondorio guztiak oztopatu egingo lirateke ahaleginerako aukeratutako gai multzoak.

CCP-n ardaztutako azterketak, itxuraz, gaiak kiosko moduko bideo pantaila baten aurrean eseri eta CCPren politikei eta lorpenei buruzko hainbat artikulu irakurri zituen. Hau da, ziurrenik, subjektuak jasaten ari diren "tratamendu esperimentaltzat" jotzen. Esperimentu bat planifikatzerakoan, normalean, parte-hartzaileengan eragina duen ikusi nahi duzun faktore edo alderdi esperimental bat planteatzen duzu.

Dirudienez, aztertzen ari den ikerketa-galdera izan zen ea material hauek berrikusteko ekintzak subjektuengan eraginik izango ote zuen CCPren inguruko inpresioak handitzeari, txikitzeari edo neutral izateari dagokionez.

Hipotesi nulu klasiko batean, azterketa hori antolatu dezakezu kontsumitutako materialek subjektuek adierazitako ondorengo inpresioetan eraginik ez dutela adierazteko. Behin aurretik eta ondoren CCPri buruz dituzten ikuspuntuak alderatu ondoren, estatistikoki saiatuko zinateke haien inpresioetan aldaketaren bat detektatzeko estatistikoki esanguratsua den ikusten.

Baliteke aurrekoa eta ondorena estatistikoki desberdinak ez izatea, beraz, arrazoiz behin-behinean ondoriozta dezakezue azterketa zehatz honetarako bistaratzen diren materialek (tratamendu esperimentala) ez dutela inpresioetan diferentziarik egiten. Bestalde, estatistikoki baliozko diferentziarik balego, begiratuko zenuke ondorengoa aurrekoa baino handiagoa den ala ez ikusteko, materialek beren inpresioak areagotu dituztela (eta, txanponaren beste aldean, baldin eta kontu handiz iradokitzeko). ondoren, aurrekoa baino txikiagoa izan zen honek materialek inpresioak gutxitu edo murriztu dituztela esan lezake).

Halako ikerketa batean landu beharko liratekeen mutur solte asko daude.

Esaterako, normalean, tratamendu esperimentala jasotzen dutenekin alderatu dezakegun kontrol talde deritzona izan nahi dugu. Hona zergatik. Demagun kiosko baten aurrean esertzea materialak irakurtzeko inpresioak aldatzeko benetako oinarria zela. Gerta liteke kontsumitutako materialen izaera gutxi gorabehera inpresioaren inpaktuarentzat garrantzirik gabekoa izatea. Eseri eta edozer irakurtzea besterik ez izateak, hala nola, gauza dibertigarriak egiten dituzten katuei buruzko azken istorioak, bakarrik egin lezake trikimailua. Beraz, gure kontrol-taldean irakasgai batzuk irakurtzeko beste material batzuen eraginpean egotea erabaki genezake, CCP politikak eta lorpen-materialak ez ezik.

Ez dakigu kasu honetan hori egin den (badirudi inork ez duela alderdi hori aipatu oraindik).

Konturatzen naiz ordurako urduri jartzen ari zarela ikerketaren zati lehergarri mediatikoarekin. Azkar sartuko gara zati horretara.

Nola detekta genezake esperimentu honetako subjektuek erakutsitako materialak irakurtzearen ondorioz euren inpresioak erantzun edo aldatu dituzten ala ez?

Ohiturazko bide bat haiei galdetzea izango litzateke.

Aldez aurretik, beharbada, CCPri buruz dituzten inpresioak galdetzen dien galdetegi bat emango zenieke. Ondoren, tratamendu esperimentalaren esposizioaren ondoren, bistaratzen diren materialen irakurketan bezala, beste galdetegi bat egin genezake. Ondoren, irakasgaiek aurretik eta ondoren emandako erantzunak alderatu daitezke. Kontrol-talde bat ere erabiliko bagenu, suposatuko genuke kontrol-taldearen erantzunak ez zirela nabarmen aldatuko lehenetik gerora (katuak ibiltzen direnei buruzko istorioak ikusteak ez lukeela beren CCP inpresioak eragin behar uste izanda).

Subjektuei euren inpresioak eskatzeko ekintza hau ez da zertan dirudien bezain zuzena izan.

Demagun esperimentuko subjektuek tratamendu esperimentalari modu jakin batean erantzutea nahi diozun zentzua edo noraeza orokorra dutela. Kasu horretan, administrazio esperimentalaren ondorengo zatian beren erreakzioak nahita gaindi ditzakete. Zalantzarik gabe, hori gertatzen ikusi duzu. Merkatuan sartuko den soda berri baten dastamen-proba egiten ari banaiz, baliteke gaseosa oso gustuko nuen bezala jokatuko nuke, agian soda-egilearen iragarki batean agertzeko eta merezitako hamabost minutuko ospea lortzeko asmoz. .

Kontua da jendeari iritzia galdetzea besterik ez dela aldaketak neurtzeko bide segurua. Ikuspegi bat da. Beste planteamendu batzuk ere egin litezke eta egin daitezke askotan.

Nola aukeratu zuen azterketa zehatz honek subjektuen erreakzioak neurtzeko?

Dirudienez, gutxienez bi metodo erabili ziren. Metodo bat aurpegiko miaketa bat egitean eta AI-n oinarritutako aurpegia ezagutzeko softwarea erabiltzea izan zen, subjektuen erreakzioak ebaluatzeko. Beste metodoa garun-uhinen eskaneatze moduren bat omen zen. Oraindik ez da jakinarazi zer garun-uhinak eskaneatzeko gailu mota erabili ziren, ezta AI-n oinarritutako garun-uhinen analisirako software-mota erabili zen ere.

Hainbat txostenek adierazi dutenez, ikerketak esperimentuaren izaerari buruz hau adierazten zuen: «Alde batetik, alderdikideek pentsamendu eta hezkuntza politikoa nola onartu duten epai dezake». Eta ustez hori ere aipatu omen zuen ikerketak: «Bestalde, pentsamendurako eta hezkuntza politikorako benetako datuak emango ditu, hobetu eta aberastu ahal izateko». Ikerketa-azterketa Txinako Hefei Comprehensive National Science Center-en babespean egin izana egotzi zaio.

Komunikabideen txostenek iradokitzen dute ikerketak aurpegiko ezagupenaren azterketak eta garun-uhinen azterketak CCPren inguruko inpresioak areagotu zirela detektatzeko gai izan zirela.

Kontuan izan nahi nuke erabilitako sistemak zuzenean berrikusi eta ikerketa-papera gertutik aztertu ezin izan gabe, ez dakigula AIan oinarritutako sistema horiek zehazki nola erabili ziren.

Gerta liteke subjektuak ingurune esperimentalari erreakzionatzea tratamendu esperimentalari erreakzionatu beharrean. Ikerketa batean parte hartzen duen edonork urduri egon daiteke, hasteko. Horrek garuneko uhinen azterketak edo aurpegiko ereduen azterketa egiteko ahaleginak nahas ditzake. Ikertzaileei atsegin emateko motibatuta sentitzeko aukera ere badago, materialak ikusi ondoren pentsamendu positiboak sortu izana aukeratuz eta, teorian, hau garuneko uhinen analisietan eta aurpegiko analisietan islatu liteke (agian, jakin ezazu bada ere polemika sutsuak eztabaidatzen ditu halako auzien baliozkotasunari buruz, momentu batean argituko dudan bezala), emaitzak okertu eta eragin positiboa izan dutela erakusteko asmoz.

Twitterren erreakzioak nabarmen gaitzetsi zuen AI-k indartutako garun-uhinen azterketak eta aurpegi-ezagutza erabiltzearen ideia bera ekintza ikaragarria eta izugarria dela. Giza munstroek bakarrik erabiliko lituzkete gailu mota horiek, esaten digute txio horietako batzuek.

Esertzeko eskatu behar dizut eta ezusteko zakar eta hunkigarria izan daitekeen zerbaitetarako prestatzeko.

Mundu osoan ikertzaile asko daude teknologia mota horiek erabiltzen dituzten ikerketetan. Hau ez da, zalantzarik gabe, ikerketa-esfortzu batean garun-uhinen eskaneatu ahalmena giza subjektuetan erabiltzen zen lehen aldia. Hau ere ez zen, zalantzarik gabe, aurpegi-ezagutza gizakietan helburu esperimentaletarako erabiltzen zen lehen aldia. Sareko bilaketa laster batek ikerketa esperimental asko eta asko erakutsiko dizkizu gailu mota horiek erabili dituzten herrialde eta laborategi guztietan.

Orain, hori esanda, CCPrekiko leialtasuna neurtzeko erabiltzea ez da arreta handirik aurkituko zenukeen zerbait. AI hori gobernuen kontrolerako erabiltzen denean, marra gorri bat gurutzatu da, esaten duten moduan.

Hori da kit eta kaboodle osoaren zati hotzgarria.

Askok adierazi duten kezka zera da: gobernuek garuneko uhinen eskaneatzeko teknologia eta aurpegi-ezagutza erabiltzea aukeratzen badute esku artean dauden erregimenekiko leialtasuna egiaztatzeko, min distopikoko mundu batean aurkituko garela. Kale publiko batetik zoazela, baliteke farola batean muntatutako gailu batek zure leialtasun zatidura klandestinoki zehaztea.

Baten batek suposatzen du zure aurpegiak ez badu nahikoa leial zarela iradokitzen, edo garun-uhinen azterketak gauza bera iradokitzen badu, gobernuko maltzurrak bat-batean presaka joan daitezkeela eta harrapatzea. Urduritzen. Amildegia. Ez da onartu behar.

Horixe da albiste honetan besteardura eta haserrea botatzen duen titularra zergatik sortu den muina.

Imajinatu hau. Agian, leialak garen ala ez erabakitzeko AIren azkena erabiltzen duten ordenagailuetan oinarritutako sistemak landu eta gero erabiliko ditugu. Esertzeko eta gauza bera egiteko jendea kontratatzen saiatuko bazenu, jende asko beharko zenuke eta arazo logistiko bat izango zenuke denen begietara jartzen saiatzeko. AI oinarritutako sistema baten kasuan, egin behar duzun guztia gailu elektronikoak faroletan, eraikinen alboetan, etab. Leialtasuna bilatzeko eskaneatzea 24×7 gerta daiteke, uneoro, hornitutako leku guztietan. Ondoren, datu-base masibo batean sar daiteke.

Guztia ikusten duen gizartearen ekosistema zapaltzaile koloso batean engranaje hutsak diren gizaki bihurtzen gara. Begia ikustea ez da egiten duguna ikustea soilik. Gure aurpegiek gobernuarekiko dugun leialtasunari buruz esaten dutena ere interpretatzen ari da. Gure adimenak ere antzeko kausa beldurgarri baterako aztertu behar dira.

Yikes!

Bigarren mailako kezka bat ere bada honetatik datorrena, nahiz eta beharbada ez den bezain arantzatsua lehen zirriborratu den Anaia Handiaren inplikazioekin alderatuta.

Hausnartu bi galdera larri hauek:

• Garun-uhinen miaketa batek zure leialtasuna egiazta dezakeela ziurtatzen al dezakegu?
• Era fidagarrian baieztatzen al dezakegu aurpegi-ezagutze-eskaneak zure leialtasuna egiazta dezakeela?

Eutsi hor, baliteke biriken goialdean oihuka aritzea.

Konturatzen naiz eta aitortzen dut agian ez zaizula hainbeste axola fidagarritasun-alderdiak berez. Hori modu fidagarrian egin daitekeen ala ez da hain erabakigarria egiten ari dena baino. Inork ez luke horrelako kontrolpean egon behar. Ahaztu teknologiak zeregin horretarako egokia den ala ez. Ez genioke zeregin horri heldu behar.

Edonola ere, oraintxe bertan erantzuna ezezko erabatekoa da, hots, lehendik dauden AI sistemak "garun uhinen eskaneatu" eta aurpegi-ezagutze itxurarik egiten duten AI sistemak ez direla nahikoa jauzi hori emateko.

Agian ikusi duzu azkenaldian aurpegi-aitorpenaren arduradun batzuek atzera egin dutela beren aurpegi-ezagutze-sistemak nola erabiltzen ari diren jakiteko. Datorren zutabe batean, adibidez, Microsoft-ek egindako azken ahaleginei buruz hitz egingo dut, Microsoft-ek emandako aurpegi-ezagutze tresnak teknologiak egin dezakeen edo erabili beharko lukeenetik haratagoko helburuetarako Microsoft-ek emandako aurpegi-ezagutze-tresnak erabiltzen dituztenen marea geldiarazten saiatzeko. . Aurpegi-ezagutzarazteari buruz jada ondo ezagutarazi diren AI Etikari buruzko lehen begiratua interesgarria irudituko zaizu, ikus esteka hemen. Burmuin-uhinen analisien arena ere eztabaidatu dut, ikusi nire eztabaida helbidean esteka hemen.

Laburbilduz, oraindik ez dago modu fidagarririk edo zentzuzkorik iradokitzeko garun-uhinen eskaneatze batek edo aurpegi-ezagutze-eskaneak norbaiten leialtasuna irudikatu dezakeela. Nahiz eta ustezko oinarrizko alderdiak, esate baterako, azterketa horiek fidagarritasunez erlazionatu ditzakezun norbait pozik eta triste dagoen ala ez ala ez eztabaidatzen ari dira oraindik. Leialtasuna bezain amorfo eta aldakorra den zerbaiten alde igotzen saiatzea zubi bat da.

Gehitu dezaket, batzuek sutsuki sinesten dutela azkenean iritsiko garela. Horregatik, arreta handiz saiatu naiz oraindik ez gaudela ohartzen, inoiz ez garela iritsiko adierazi baino. Inoiz ez da hitz handi bat. Erabat ziur egon behar duzu borondate hori botako duzun ala ez inoiz ez bideragarria izan (kontuan izanda “inoiz ez” hemendik hamarkadetara, hemendik mendeetara eta hemendik milaka edo milioika urtera hartzen duela kontuan).

Batzuek Txinako laborategiko ikerketa-azterketa honi buruzko albisteari erreakzionatu diote mundua AIaren erabilera desegoki eta arriskutsuetara zein arriskutsu dagoenaren adierazle gisa. Momentu batean zurekin partekatuko dut zer den AI Etika. Honek argiago ikusten lagunduko dizu zergatik badirudi azterketa jakin honek AI Etikoko orokorrean onartutako manu asko edo ia guztiak urratzen dituela.

Sinetsi ala ez, batzuek iradoki dute agian mendi bat egiten ari garela sator-muino batetik ikerketa zehatz honi buruz.

al gara?

Kontraargudioa da sator-muino bat laster mendi bihur daitekeela. Muino elurtu batetik behera doan heinean gero eta handiagoa den elur-bola baten nozio esaeran, elur-bola abian jartzeari utzi behar diogu. Ikasketa mota hauek onartzen baditugu, elur bola horri bere bidea hasten uzten ari gara. Hitz egin eta horrelako ikasketak deituz, beharbada elur-bola aurrea hartu ahal izango dugu.

Gauza bat ziurra da, Pandoraren kutxa irekitzeko zorian gaude AI alderdiei dagokienez, eta galdera geratzen da ea kutxa irekitzea saihestu dezakegun edo, gutxienez, ateratzen denari zuhurtziaz aurre egiteko bideren bat aurkitu dezakegun. behin kutxak bere deabruzko edukia askatu duenean.

Besterik ez bada, zorionez, komunikabideen ekaitz mota hauek eztabaida zabala eragingo dute AIrekin lotutako gaiztakeria saihestu eta AI-k eragindako arrisku existentzial ugari nola saihestuko ditugun. Koska bat areagotu behar dugu gure gizartearen kontzientzia AI Etikaren eta AI Etikoaren gogoeten inguruan.

AI sistema mota hauen azpian dauden basati eta artilezko gogoetei buruz haragi eta patata gehiagotan sartu aurretik, ezarri ditzagun oinarrizko funtsezko gaiei buruzko oinarri osagarri batzuk. Laburki murgildu behar dugu AI Etikan eta bereziki Machine Learning (ML) eta Deep Learning (DL) etorreran.

Lausoki jabetuko zara gaur egun AIren alorrean eta baita AIren eremutik kanpo ere ahots ozenenetako bat AI Etikoaren itxura handiagoa aldarrikatzean dela. Ikus dezagun zer esan nahi duen AI Etika eta AI etikoa aipatzea. Horrez gain, Machine Learning eta Deep Learning buruz hitz egiten dudanean zer esan nahi dudan aztertuko dugu.

Komunikabideen arreta handia jaso duen AI Etikaren segmentu edo zati jakin bat alderdikeriak eta desberdintasunak erakusten dituen IAk osatzen dute. Baliteke kontziente izango AIaren azken aroa martxan jarri zenean ilusio handia izan zela batzuek gaur egun deitzen duten hori AI For Good. Zoritxarrez, zirrara isuri horren harira, lekukotzen hasi ginen AI For Bad. Adibidez, AI-n oinarritutako aurpegi-ezagutze-sistemak arraza-alborapenak eta genero-alborapenak dituztela agerian utzi dute, eta horiei buruz hitz egin dudanean. esteka hemen.

Aurkako borroka egiteko ahaleginak AI For Bad aktiboki abian dira. Oihuka gainera legezko gaizki-egiteei eusteko asmoz, AIren etika onartzeko bultzada nabarmena ere badago AIren gaiztakeria zuzentzeko. Ideia da AI etikoaren funtsezko printzipioak onartu eta onartu beharko genituzkeela IA garatzeko eta lantzeko. AI For Bad eta, aldi berean, hoberena iragartzen eta sustatuz AI For Good.

Erlazionatutako ideia batean, AI erabiltzen saiatzearen defendatzailea naiz AIren arazoen konponbidearen zati gisa, suarekin suarekin borrokatzeko pentsamendu modu horretan. Adibidez, AI etikoen osagaiak txerta genitzake AI sistema batean, gainontzeko AIak gauzak nola egiten dituen kontrolatuko duena eta, beraz, denbora errealean edozein diskriminazio-ahaleginak harrapatzeko. Ikusi nire eztabaida hemen. esteka hemen. AI Etika monitore gisa jarduten duen AI sistema bereizi bat ere izan genezake. AI sistemak gainbegiratzaile gisa funtzionatzen du beste AI bat amildegi ez-etikoan sartzen denean jarraitzeko eta detektatzeko (ikusi horrelako gaitasunen azterketa hemen esteka hemen).

Une batean, AI Etikaren azpian dauden printzipio nagusi batzuk partekatuko ditut zurekin. Zerrenda mota asko daude han eta hemen inguruan. Esan liteke oraindik ez dagoela erakargarritasun eta adostasun unibertsalaren zerrenda berezirik. Hori da zorigaiztoko albistea. Berri ona da gutxienez eskuragarri daudela AI Etika zerrendak eta nahiko antzekoak izan ohi direla. Guztiak esanda, horrek iradokitzen du nolabaiteko konbergentzia arrazoitu baten bidez AI Etika zertan datzan komuntasun orokorrerantz aurkitzen ari garela.

Lehenik eta behin, labur ditzagun AI Etikoko manu orokor batzuk AI lantzen, lantzen edo erabiltzen duen edonork ezinbesteko kontua izan behar duena ilustratzeko.

Adibidez, Vatikanoak dioen bezala Erromako AI Etikarako Deia eta sakonki jorratu dudan bezala esteka hemenHauek dira identifikatutako sei oinarrizko AI etika printzipioak:

• Gardentasuna: Printzipioz, AI sistemek azalgarriak izan behar dute
• sartzea: Gizaki guztien beharrak kontuan hartu behar dira, guztion onura izan dadin, eta pertsona guztiei eskein diezaieke bere burua adierazteko eta garatzeko baldintza onenak.
• Erantzukizuna: AIaren erabilera diseinatzen eta zabaltzen dutenek ardura eta gardentasunarekin jarraitu behar dute
• Inpartzialtasuna: Ez sortu edo ez jokatu joeraren arabera, horrela zuzentasuna eta giza duintasuna bermatuz
• Fidagarritasuna: AI sistemek modu fidagarrian funtzionatzeko gai izan behar dute
• Segurtasuna eta pribatutasuna: AI sistemek segurtasunez funtzionatu behar dute eta erabiltzaileen pribatutasuna errespetatu behar dute.

AEBetako Defentsa Sailak (DoD) bere dokumentuan adierazi duenez Adimen artifiziala erabiltzeko printzipio etikoak eta sakonki jorratu dudan bezala esteka hemenHauek dira AIren sei printzipio etiko nagusiak:

• Arduraduna: DoDko langileek epai eta arreta maila egokiak erabiliko dituzte AI gaitasunen garapenaren, hedapenaren eta erabileraren ardura izaten jarraitzen duten bitartean.
• Ekitatiboa: Sailak nahita neurriak hartuko ditu AI gaitasunetan nahi gabeko alborapenak minimizatzeko.
• Trazagarria: Departamentuaren AI gaitasunak garatu eta zabalduko dira, dagokion langileek AI gaitasunei aplikagarri zaizkien teknologia, garapen-prozesu eta metodo operatiboen ulermen egokia izan dezaten, metodologia gardenak eta ikuskagarriak, datu-iturriak eta diseinu-prozedura eta dokumentazioa barne.
• Seriotasuna: Sailaren AI gaitasunek erabilera esplizituak eta ongi zehaztuak izango dituzte, eta gaitasun horien segurtasuna, segurtasuna eta eraginkortasuna probak eta bermeak izango dira definitutako erabilera horietan bizi-ziklo osoan zehar.
• Gobernagarria: Sailak AI gaitasunak diseinatu eta diseinatuko ditu aurreikusitako funtzioak betetzeko, nahi gabeko ondorioak detektatzeko eta ekiditeko gaitasuna duen bitartean, eta nahi gabeko portaera erakusten duten sistemak desaktibatzeko edo desaktibatzeko gaitasuna.

AIaren etika-printzipioen analisi kolektibo ezberdinei buruz ere eztabaidatu dut, besteak beste, nazioko eta nazioarteko AI etikako printzipio ugariren funtsa aztertu eta laburtu zuen ikertzaileek asmatutako multzoa aztertu izana "The Global Landscape Of AI Ethics Guidelines" (argitaratutakoa). urtean Nature), eta nire estaldurak hemen aztertzen du esteka hemen, eta horrek giltzarri zerrenda honetara eraman zuen:

• Transparency
• Justizia eta zuzentasuna
• Ez-Malefizia
• Erantzukizun
• Pribatutasuna
• Ongintzaren
• Askatasuna eta Autonomia
• Fidatu
• Iraunkortasun
• duintasuna
• Elkartasuna

Zuzenean asmatuko duzun bezala, printzipio horien azpian dauden zehaztasunak zehazten saiatzea oso zaila izan daiteke. Are gehiago, printzipio zabal horiek guztiz ukigarri eta zehatza den zerbait bilakatzeko ahalegina AI sistemak lantzean erabiltzeko moduko intxaur gogorra ere bada. Erraza da, oro har, AI Etikaren manuak zer diren eta orokorrean nola behatu behar diren eskuz astintzea, AI kodeketa askoz ere egoera zailagoa da errepidea betetzen duen benetako goma izan behar izatea.

AI Etika-printzipioak AI garatzaileek erabili behar dituzte, AI garapenerako ahaleginak kudeatzen dituztenekin batera, eta baita, azken finean, AI sistemetan mantentzea lantzen eta egiten dutenekin batera. AIaren garapen eta erabileraren bizitza-ziklo osoan parte hartzen duten eragile guztiak AI Etikoaren ezarritako arauak betetzearen esparruan hartzen dira kontuan. Garrantzi handiko aipamena da hau, ohiko suposizioa delako "kodetzaileak" edo AI programatzen dutenak soilik AI Etika nozioei atxikitzeko menpe daudela. Lehen esan bezala, herri bat behar da AI asmatzeko eta lantzeko, eta, horretarako, herri osoak AI Etika aginduak ezagutu eta bete behar ditu.

Ziurta dezagun, gainera, orrialde berean gaudela gaurko AIaren izaerari buruz.

Gaur egun ez dago sentikorra den AIrik. Ez dugu hau. Ez dakigu AI sentikorra posible izango den. Inork ezin du ongi iragar AI sentikorra lortuko dugun ala ez, ezta AI sentikorra nolabait miragarriki berez sortuko den supernoba kognitibo konputazional baten moduan (normalean berezitasuna deitzen dena, ikus nire estaldura hemen. esteka hemen).

Zentratzen ari naizen AI mota gaur egun daukagun AI ez sentikorra da. Buruz basatian espekulatu nahi bagenu sentikorra AI, eztabaida hau zeharo beste norabide batean joan liteke. AI sentikor bat giza kalitatekoa izango litzateke. Kontuan izan beharko zenuke AI sentikorra gizakiaren baliokide kognitiboa dela. Are gehiago, batzuek IA super-adimentsua izan genezakeela espekulatzen dutenez, pentsa daiteke AI hori gizakiak baino adimentsuagoa izan daitekeela (AI super-adimentsua aukera gisa aztertzeko, ikus estaldura hemen).

Utz ditzagun gauzak lurrean gehiago eta kontuan izan ditzagun gaur egungo AI konputazionala sentikorra.

Konturatu gaur egungo IA ez dela gai giza pentsamenduaren parean "pentsatzeko". Alexa edo Sirirekin elkarreragiten duzunean, elkarrizketa gaitasunak giza gaitasunen antzekoak dirudite, baina errealitatea da konputazionala dela eta giza ezagutza falta dela. AIaren azken aroak asko erabili ditu Machine Learning (ML) eta Deep Learning (DL), zeinak konputazio-ereduen parekatzea baliatzen baitute. Horrek gizakiaren antzeko joerak dituzten AI sistemak ekarri ditu. Bien bitartean, gaur egun ez dago zentzu arruntaren itxura duen AIrik eta giza pentsamendu sendoaren harridura kognitiborik ere ez duenik.

ML/DL eredu konputazionalaren parekatze modu bat da. Ohiko planteamendua erabakiak hartzeko zeregin bati buruzko datuak biltzea da. Datuak ML/DL ordenagailu ereduetara elikatzen dituzu. Eredu horiek eredu matematikoak aurkitu nahi dituzte. Eredu horiek aurkitu ondoren, aurkituz gero, AI sistemak eredu horiek erabiliko ditu datu berriak topatzerakoan. Datu berriak aurkeztean, datu "zahar" edo historikoetan oinarritutako ereduak aplikatzen dira egungo erabakia emateko.

Uste dut hau nora doan asma dezakezula. Erabakien eredua hartzen ari diren gizakiek alborapen txarrak sartu badituzte, litekeena da datuek modu sotil baina esanguratsuan islatzea. Machine Learning edo Deep Learning konputazio-ereduen parekatzea besterik ez da saiatuko datuak matematikoki imitatzen. Ez dago zentzu arruntaren edo beste alderdi sentikorren itxurarik AI-n landutako modelizazioaren berez.

Gainera, AI garatzaileak agian ez dira konturatzen zer gertatzen ari den. ML/DL-ko matematika arkanoak zaildu lezake orain ezkutuko alborapenak atzematea. Ziurrenik espero eta espero zenuke AI garatzaileek lurperatuta egon daitezkeen alborapenak probatuko dituztela, nahiz eta badirudi baino zailagoa den. Aukera sendoa dago, nahiz eta proba nahiko zabalak izan, ML/DL ereduak parekatzeko ereduetan oraindik txertatutako alborapenak egongo direla.

Garbage-in garba-out-en esaera ospetsua edo gaiztoa zertxobait erabil dezakezu. Kontua da, hau AIaren barnean murgiltzen diren alborapenak maltzurki sartzen diren alborapenen antzekoagoa da. AIren algoritmoen erabakiak hartzea (ADM) axiomatikoki desberdintasunez kargatzen da.

Ez da ona.

Itzuli gaitezen arreta desegoki edo agian okerreko helburuetarako erabiltzen diren AI sistemei eta hori CCP leialtasunari buruz argitaratu berri den ikerketarekin zer erlazio duen.

Bi gogoeta nagusi etortzen zaizkigu burura:

1) AI instantzia hau AI erabilera kezkagarriaren etengabeko eredu zabalago baten parte da eta, beraz, gertatzen ari denaren inguruko kezkagarria eta irekitzailea.

2) Katua poltsatik atera liteke, honelako IA herrialde batean hartzen bada beste herrialdeetara ere erraz hedatu ahal izateko

Hasi lehen puntutik AI-aren kasu honi etengabeko eredu baten parte izateari buruz.

Azterketa zehatz honek bereziki asaldatzeko oinarri garrantzitsu bat AI batzuek erabiltzeko asmoa duten eredu zabalago baten parte dela da. Inoiz egin den ikerketa bakarra izan balitz, apur bat hunkituko gintezke. Hala ere, ziurrenik ez luke oihartzunik izango orain ikusten ari garen bezain sutsu.

Hau beharbada hazbeteko tanta-tantaka da eskuetatik joango den zerbaiterantz.

Albisteetan jakinarazi dutenez, Txina ezaguna da PCKrekiko leialtasun ikaragarrian tematu izanagatik. Gainera, hainbat bitarteko ezarri dira edo ezartzen ari dira jendea gobernu-doktrinan doktrinatua izan dadin. Alderdiko kideen pentsamendu-baldintzak neurtu ditzaketen AI algoritmoak asmatu nahi dituzten aurreko ikerketen kasuak aipatu dira (ikus Txinak babestutako Ikasketa Denborak 2019an ahalegin horiek aipatu zituen).

Gogora dezakezue 2018an Mike Pence presidenteordeak hitzaldi bat eman zuela Hudson Institutuan eta azpimarratu zuela "Txinako agintariek giza bizitzaren ia alderdi guztiak kontrolatzean oinarritutako Orwelliako sistema bat ezartzea dute helburu" (CCPren ezarpenaren erreferentzia zen kreditu sozialen puntuazio sistema bat, eztabaida nabarmeneko gaia). Erraz esan dezakezu azken CCP ikerketa hau norabide horretan beste urrats bat dela.

Ez dakigu azken lastoak gameluari bizkarra apurtuko dion noiz edo noiz, azterketa puntual hauek IAn oinarritutako monitorizazio sistema hedatuetan bilakatzen baitira.

Arreta merezi duen bigarren puntua da ezin dugula suposatu AI mota hau Txinara soilik mugatuko denik. Funtsean, Txinan hedatu daitekeen AI mota hau erabiltzea berez kezkagarria den arren, beste herrialde batzuek ere gauza bera egin dezakete.

Behin horretarako AI prest dagoela lehen ordurako, ziurrenik ez da asko beharko beste herrialdeek ere ezarri nahi dutela erabakitzeko. Katua poltsatik aterako da. Herrialde batzuek AI hau modu zapaltzaileetan erabiliko dute, eta ez dute hori egiteko asmorik ematen saiatuko. Badirudi beste herrialde batzuek IA mota hau helburu onuragarriak diruditenetarako erabili nahi izatea, azken finean ia saihestezina izango den alde txar bat dago.

Egia esan, AI mota hau beharbada lehen ordurako prest dagoela ikusten denean soilik onartuko dela iradokitzea okerrekoa da. Agian ez luke inolako diferentziarik izango AI-ak modu honetan modu seguruan lan egin dezakeen ala ez. AI azaleko istorio gisa erabil daiteke, ikusi nire azalpena hemen esteka hemen. AI-k benetan egiteko gai dena edozein dela ere, ideia da AI itxura erabilgarria izan daitekeela populazioaren jarraipena eta agintariekiko erabateko leialtasuna neurtzeko eta ziurtatzeko eskemak sortzeko.

Eztabaida handi honen une honetan, gai hau erakusteko adibide argigarri batzuk nahi dituzula apustu egingo nuke. Badira nire bihotzetik gertu dagoen adibide multzo berezi eta ezagun bat. Ikusten duzu, AI-n aditua naizen aldetik, adar etiko eta legalak barne, maiz eskatzen didate AI Etikaren dilemak erakusten dituzten adibide errealistak identifikatzea, gaiaren izaera teoriko samarra errazago ulertu ahal izateko. AI etiko istilu hau modu bizian aurkezten duen eremu iradokitzaileenetako bat AI-n oinarritutako benetako auto-gidatuen autoen etorrera da. Gaiari buruzko eztabaida zabalerako erabilpen kasu edo eredu erabilgarri gisa balioko du.

Hona hemen hausnarketa merezi duen galdera aipagarri bat: AI-n oinarritutako benetako auto gidatzen duten autoen etorrerak argitzen al du AIren erabilera okerrak, eta hala bada, zer erakusten du honek?

Utzidazu une bat galdera deskonprimitzeko.

Lehenik eta behin, kontuan izan ez dagoela giza gidaririk benetako auto gidatzen duen auto batean. Gogoan izan norberak gidatzen dituen benetako autoak AI gidatzeko sistema baten bidez gidatzen direla. Ez dago gidari baten beharrik gurpilean, ezta gizaki batek ibilgailua gidatzeko aurreikuspenik ere. Ibilgailu autonomoen (AV) eta batez ere auto gidatzen duten autoen estaldura zabala eta etengabea ikusteko, ikus esteka hemen.

Gehiago argitu nahiko nuke zer esan nahi den benetako auto gidatzen diren autoak aipatzen ditudanean.

Auto gidatzeko autoen mailak ulertzea

Argibide gisa, benetako auto gidatzen diren autoak AIak autoa bere kabuz gidatzen dituenak dira eta gidatzeko zereginean zehar giza laguntzarik ez dagoen.

Gidaririk gabeko ibilgailu hauek 4. maila eta 5. maila hartzen dira (ikus nire azalpena helbidean esteka hau hemen), aldiz, giza gidari batek gidatzeko ahalegina elkarrekin partekatzea eskatzen duen autoa 2. edo 3. mailan hartzen da normalean. Gidatzeko zeregina elkarrekin partekatzen duten autoak erdi-autonomoak direla deskribatzen da, eta normalean hainbat eduki dituzte. ADAS (Advanced Driver-Assistance Systems) deitzen diren gehigarri automatizatuak.

5. mailan oraindik ez dago benetako auto autonomorik, eta oraindik ez dakigu hori lortzerik izango den, ezta zenbat denbora beharko duen bertara iristeko ere.

Bien bitartean, 4. mailako ahaleginak pixkanaka-pixkanaka trakzio pixka bat lortzen saiatzen ari dira bide publikoko entsegu oso estu eta selektiboak jasanez, nahiz eta eztabaida dagoen proba hori berez onartu behar den ala ez (denok gara esperimentu batean hil ala biziko kobaiak). gure autobideetan eta bide-bideetan gertatzen ari dena, batzuek diotenez, ikusi nire estaldura hemen esteka hau hemen).

Auto erdi autonomoak giza gidaria behar dutenez, auto mota horiek ez dira ohiko ibilgailuak gidatzea baino oso desberdinak izango. Beraz, ez dago gai horren inguruko gai asko estaltzeko gai hau (hala ere, ikusiko duzuenez une batez, hurrengo puntuak orokorrean aplikagarriak dira).

Auto erdi autonomoetarako, garrantzitsua da publikoa azkenaldian sortzen ari den alderdi kezkagarri baten aurrean jakitea, hots, 2. mailako edo 3. mailako auto baten gurpilean lokartzen ari diren giza gidariek argitaratzen jarraitzen duten arren. , guztiok saihestu behar dugu gidariak zereginetatik arreta kendu dezakeela auto erdi autonomo bat gidatzen duenean.

Ibilgailuaren gidaritza-ekintzen arduraduna zara, 2. mailara edo 3. mailara zenbat automatizazio bota litekeen kontuan hartu gabe.

Norbere gidatzen diren autoak eta AI erabilera okerra

4. eta 5. mailako egiazko autoentzako gidatzeko ibilgailuentzat, ez da gidari lanetan parte hartuko duen gidaririk.

Okupatzaile guztiak bidaiariak izango dira.

AI gidatzen ari da.

Berehala eztabaidatu beharreko alderdi batek dakar gaur egungo AI gidatzeko sistemetan parte hartzen duen AI ez dela sentikorra. Beste modu batera esanda, AI ordenagailuan oinarritutako programazio eta algoritmoen kolektiboa da, eta ziur asko ez da gai gizakiak ahal duen moduan arrazoitzeko.

Zergatik ari da azpimarratzen AI hori sentikorra ez izateari?

Azpimarratu nahi dudalako AI gidatzeko sistemaren papera eztabaidatzerakoan, ez diodala giza ezaugarriak AIri ematen. Jakin ezazu egun antropomorfizatzeko AI joera etengabea eta arriskutsua dagoela. Funtsean, jendeak gizakien antzeko sentikortasuna esleitzen dio gaurko AIri, oraindik AI hori existitzen ez dela ukaezina eta eztabaidaezina izan arren.

Argibide horrekin, AI gidatzeko sistemak berez ez duela nolabait "gidatzearen alderdiak" jakingo pentsa dezakezu. Gidatzea eta horrek dakarren guztia autoa gidatzeko hardwarearen eta softwarearen zati gisa programatu beharko da.

Muga gaitezen gai honen inguruan jokatzera etortzen diren hainbat alderditan.

Lehenik eta behin, garrantzitsua da konturatzea AI auto gidatzen duten auto guztiak ez direla berdinak. Auto-fabrikatzaile eta auto-gidatzeko teknologia-enpresa bakoitzak bere ikuspegia hartzen ari da auto-gidatzeko autoak asmatzeko. Hori dela eta, zaila da AI gidatzeko sistemek egingo edo ez dutenari buruzko adierazpen zabalak egitea.

Gainera, AI gidatzeko sistema batek gauza bereziren bat egiten ez duela adierazten duen bakoitzean, geroago ordenagailua hori egiteko programatzen duten garatzaileek gainditu dezakete. Pausoz pauso, AI gidatzeko sistemak pixkanaka hobetzen eta hedatzen ari dira. Baliteke gaur egun dagoen mugarik ez egotea etorkizuneko sistemaren iterazio edo bertsio batean.

Espero dut horrek kontatuko dudanaren azpian jartzeko oharra nahikoa ematea.

Zirriborratu dezagun auto gidatzeko autoen eszenatoki bat, AI modu zirriborratuan edo gaizki aprobetxatu dezakeena.

Zurekin partekatuko dut AI-n oinarritutako auto gidatzeko autoen adarraldi batzuk, dardara eta asaldura eragin dezaketenak. Gaur egun ia inork eztabaidatzen ez dituen alderdiak dira. Behin eta berriz planteatu ditut gaiak, nahiz eta argi eta garbi aitortu auto autonomoen adopzioa izan arte, ez dugula indar handirik izango gizartea kezkatuta edo atsekabetuta egoteak, gaur egungo nozio abstraktu hutsak diruditenarekin. .

Prest al zaude?

Oinarri batzuk jartzen hasiko gara.

AI-n oinarritutako auto-gidariek bideo-kamerez hornituko dituzte, zentzuz. Horri esker, auto gidatzen duen autoak gidatzeko eszenaren bideo irudiak jaso ditzake. Era berean, auto gidatzen duen autoko ordenagailuetan martxan dagoen AI gidatzeko sistemak bildutako bideoa konputazionalki aztertzeko eta errepidea non dagoen, inguruko autoak non dauden, oinezkoak non dauden, etab. Konturatzen naiz norberak gidatzeko autoak 101 oinarriak errezitatzen ari naizela.

Ibilgailu autonomoaren kanpoaldean bideokamerak daude muntatuta eta kanpora begira daude. Gainera, orokorrean, ibilgailuaren barruan edo barruan bideo-kamerak egongo direla espero dezakezu auto gidatzen duen autoaren barrualdera begira. Zergatik? Erraza, ibilgailu autonomoaren barruan gertatzen den bideoak jasotzeko erabilera garrantzitsu asko izango direlako.

Norberak gidatzen duen autoan ibiltzen zarenean, jada ez duzu gidari izan behar. Zer egingo duzu orduan auto gidatzen duzun auto baten barruan?

Egin dezakezun gauza bat etxean edo bulegoan besteekin elkarreraginea izango litzateke. Hor zaude, lanera bidean, eta horrek esango du ordubetez gidatzen duen autoan gidatzeko denbora hartu, eta dagoeneko has dezakezu zure lan eguna Zoom moduko linean denbora errealeko saio interaktibo bat eginez. Ikusi ahal zaituzte, kameren barrura begira auto autonomoan sartzen direlako. Agian, auto gidatzen duen autoaren barruan dagoen LED pantaila batean ikus ditzakezu. Egunaren amaieran, etxera itzultzen zaren bitartean, baliteke zure seme-alabekin antzeko bideo-eztabaida interaktibo bat egitea arratsalderako etxeko lanak egiten hasten direnean.

Beste erabilera bat klaseak hartzeko izango litzateke. Orain gidatzen denbora galdu beharrik ez duzunez, auto gidatzen duen auto baten barruan dagoen denbora hil hori zure gaitasunak hobetu edo ziurtagiri edo titulu bat lor dezakezu. Barrurantz begiratzen duten kameren bidez, zure irakasleak ikusi ahal zaitu eta zure prestakuntza nola doan eztabaidatu.

Beste erabilera bat izango litzateke auto autonomoetan gidatzen duten txirrindulariak axolagabe joan ez daitezen saiatzea. Gizakiek gidatutako auto batean, gidaria helduen presentzia da, eta normalean txirrindulariei gauza aldrebesak egiteari uzten die, hala nola barrualdea graffitiz markatzea. Zer gertatuko da AIan oinarritutako auto gidatzen duten autoekin? Batzuk kezkatzen dute txirrindulariek ibilgailuen barrualdea hautsiko dutelako. Hori saihesteko, auto gidatzen ari den autoak zabaltzen ari den bidaiak partekatzeko enpresak barrura begira dauden bideokamerak erabiliko ditu ziurrenik jendea ibilgailu autonomoan dauden bitartean egiten ari dena kontrolatzeko.

Suposatzen dut konbentzituta zaudela auto gidatzen duten autoen barrualdera begiratzen duten bideokamerak izango ditugula, gidatzeko eszena antzemateko kanpora begiratzen duten kamerez gain.

Orain prest zaude begi ibiltaria deitu dudanerako, ikusi nire analisia hemen esteka hemen.

Lehenik eta behin, kontuan hartu kanporantz begira dauden bideo-kamerak.

Norbere gidatzen duen autoa doan tokira, kamerak ikusten dutena bideoz grabatu ahal izango du. Norbere gidatzen duen auto batek bere etxetik norbaiti igogailua ematen dion eta janari-dendara eramaten duen auto batek auzo bat zeharkatuko du eta bideoak errepidea ez ezik, ikusmenean gertatzen den guztia ere grabatuko du. Aita-seme bat euren pilotalekuan jolasten. Familia bat bere atarian eserita. Aurrera doa.

Oraintxe bertan, hain autonomo gidatzen diren auto gutxi ditugu bide publikoetan, eguneroko jardueren bideoak ateratzeko gaitasun hori nahiko urria eta ez-materiala da.

Imajinatu azken finean auto gidatzeko auto seguruak eta hedatuak lortzen ditugula. Horietako milaka. Agian milioika. Gizakiek gidatutako 250 milioi auto inguru ditugu gaur AEBetan. Azkenean, horiek gutxi gorabehera auto gidatzen duten autoek ordezkatuko dituzte edo, besterik gabe, jada ez dira erabiliko, eta gure errepideetan gidatzen diren autoak izango ditugu nagusiki. Norberak gidatzen dituen auto horiek AI-k gidatzen ari dira eta, beraz, 24 × 7 ibilta daitezke funtsean. Ez dago atsedenaldirik, ez bainugelarik.

Bideo-datuak norbere gidatzen diren auto horietatik igo litezke OTA (Over-The-Air) sare elektronikoko konexioen bidez. Auto gidatzen duten autoek OTA erabiliko dute ibilgailuan deskargatutako azken AI softwarearen eguneraketak lortzeko. Horrez gain, OTA erabil daiteke auto gidatzen duen autoaren datuak hodeian oinarritutako datu-base batera kargatzeko.

Hori guztia esanda, egingarria litzateke igotako datu hauek elkartzea. Josturarekin, edozein egunetan kalera ateratzen zen edonoren joan-etorria batu ahal izango zenituzke auto gidatzen duten autoak asko erabiltzen zituen toki guztietan.

Hori da ohartarazi dudan begi ibiltaria.

Orain, CCP-ren azterketa gaitasun mota honetan uztartu dezakegu. Demagun gobernu batek bildutako bideo-datu guztietarako sarbidea duela. Orduan, AI-n oinarritutako aurpegi-ezagutze algoritmo bat erabil dezakete nora joan zaren, eguneko zein ordutan, zure eguneroko bidaietan zehar jakiteko. Horrez gain, ustez, beren "leialtasuna" oinarritutako AI-an oinarritutako analizatzailea erabil dezakete aurpegian begirada leial bat zeukala edo ez ikusteko.

Imajinatu astearte arratsalde batean ogitartekoa hartzera zihoala bertako afari batean. Norberak gidatzen ziren autoak pasatzen ari ziren errepidetik. Bideo askok mokadu bat hartzeko bost minutuko ibilaldia egiten ari zintuzten harrapatu zintuzten. Datuak datu-base zentralizatu batera igo dira. Gobernuak bere AI aurpegi-ezagutzarako programa egin zuen datuetan.

Bihurtzen da AIak "zehaztu" zuela aurpegian itxura desleial bat duzula.

Agian begirada desleial hau instant batez bakarrik gertatu zen. Kale kantoi batean argia aldatzeko zain zeunden, kalea jantokiraino gurutzatu ahal izateko. Momentu horretan, nazka apur bat izan zenuten, Ibilaldiaren sinboloari gehiegi itxaron behar izan zenuena. Hau gobernuarekiko desleialtasunaren adierazgarri al zen agian?

Bai, AIak kalkulatu zuenez, momentu horretan desleial izan zinen. Gau hartan etxera itzultzean, gobernuak zure atxiloketa antolatu du.

Baina itxaron, gehiago dago.

Gogoratu bideo-kamerak ere barrura begira daudela.

Astearte horretan bertan, auto gidatzen ari zaren lanera zihoala, bideo-kamerek zure une oro harrapatzen ari ziren. Datu-base zentralizatu batera igo da. Aurpegi-ereduak desleialtasunerako aztertzen dituen AI softwareak zure aurpegi-adierazpenen eredu konputazionalaren azterketa egin zuen bulegorako bidaian.

Halako batean, kasualitatez ibilgailu autonomotik kanpo begiratzen ari zinen eta eraikuntzako langile bat nabaritu zen errepidea partzialki blokeatzen ari zela eta AI gidatzeko sistemak auto gidatzen duen autoa moteldu zuen. Segundo zati batez, zure aurpegiak iseka itxura eman zion trafikoa moteltzen ari zen eraikuntzako langile honi.

AI aurpegiko ereduen azterketak gobernuarekiko desleialtasunaren seinale gisa interpretatu zuen.

Zure kontrako bi greba egun batean.

Izotz mehean bizi zara.

Jakina, AI "zuzena" ala "okerra" den zure leialtasuna zehaztu ahal izateari dagokionez, ia ez du ondoriorik testuinguru honetan. Kontua da AI jarri dela horretarako. AI zabaltzen ari diren gizakiei agian ez zaie axola AIak zeregin mota honetarako erabilera egokia duen ala ez. AIak gobernuaren kontrola ahalbidetzen du, balio teknologikoa bera edozein dela ere.

Horrek aurpegiaren eskaneatzea estaltzen du.

Azkenean (ustezko) garun-uhinen eskaneamendua egiteko edozein gailu eramangarri kostu-eraginkorra badugu, zalantzarik gabe, auto gidatzen duten autoetan ere sar daiteke. Bideo kamerak gauza segurua dira orain. Kalibre honetako garun-uhinak eskaneatzeko gailuak edukitzeko aukera ez dago oraintxe bertan, baina argi dago etorkizunerako aurreikusten ari den zerbait dela.

Gobernu batek norberak gidatzen dituen autoen kontrola hartuz nola saia daitekeen biztanleria bereganatzen aztertzeko, ikusi esteka hemen. Antzeko aukera dago aktore gaizto bat gauza bera egiten saiatzea, ikusi esteka hemen. Horiek ez dira ikaratzeko taktikak izan erlazionatutako gai horiei buruzko estaldurari dagokionez, eta, horren ordez, zibersegurtasunaren garrantziari buruz eta gizarteak nonahi gidatzen diren autoen agerpenaren aurrean hartu behar ditugun beste neurri batzuei buruzko informazioa. beste ibilgailu autonomo batzuk.

Ondorioa

Azkar landu nahiko nuke leialtasuna egiaztatzeko erabiltzen den AIari buruzko alderdi gehigarri bat, nire ustez gai zertxobait bereizia dela, baina txio eta sare sozial batzuek lantzen ari direna.

Lehen aipatu nuen ez dugula AI sentikorrik eta ez dakigula noiz izango dugun. Entretenitu dezagun AI sentikorra izango dugulako ideia. Kasu horretan, kontuan hartu hurrengo eszenatokia.

Zentzugabeko AIaren bidez, AIaren erabilera hedatua ezartzea aukeratzen dugu, konputazionalki jendeak beren gobernuari leialak diren ala ez egiaztatzen duena, aurpegiko miaketa, garun-uhinen miaketa eta abar erabiliz. Hau oso-osorik gidatzen eta erabiltzen dute gizakiek agintariek. Hori da une batzuk lehenago deskribatzen ari naizen eszenatoki kezkagarria.

Aurrera igotzeko garaia.

AI sentikorra bihurtzen da. Orain potentzialki AI sentikor honi gizakien leialtasuna eta desleialtasuna identifikatzeko gaitasun hedatua eman diogu. Gizakiak ezabatzea aztertzen ari den AI gaizto batek gaitasun hori erabil dezake gizakiak desleialak izango direla eta guztiz suntsitu behar direla erabakitzeko. Edo agian beren aurpegiaren edo pentsamenduen bidez desleialtasunaren zantzu bat erakusten duten gizaki horiek bereziki baztertu behar dira.

Beste angelu bat da AIak gizakiak esklabu egin nahi dituela, ikusi nire eztabaida hemen esteka hemen.

Badirudi AIari opari ezin hobea eman genion bilaketa hori burutzeko. Jarri ditugun azpiegiturei esker, AI-k gizakiok arretaz zaintzen gaitu. Aurpegiko zantzu desleial bat adierazi edo AIren jaunari buruz pentsatu dutenek AIaren haserrea sentituko dute.

Konturatzen naiz esan dudala hau aurrekariaren igoera bat dela. Ez nago ziur horrela denik. Iruditzen zait leialtasuna zehazteko AI sistemaren bat erabiltzen duten giza nagusien aurrean gure patua zuzenean erabakitzen duten AI-ren jabeak ala ez, tira, bi proposamenik ez dirudi bereziki desiragarria.

Azken iruzkina oraingoz.

Marcus Tulio Zizeron erromatar jakintsu eta filosofoak adierazi zuen ez dagoela leialtasuna baino ezer nobleagorik, ezer agurgarriagoa. Baliteke AI-ari utzi eta bide ikaragarrien bidez "leialtasuna" lortzeko eta bermatzeko tresna bilakatzeko.

Merezi duen arrazoi bat AI Etika gure Egiteko Zerrendan lehen postuan jartzeko.