AI etika kontu handiz baloratzea AI alborapenak eskaintzea ehiza sariak harrapatzeko eta sistema guztiz autonomoak etikoki gaiztoak harrapatzeko, zuhurra edo alferrikakoa den.

SE bila: AI bias ehiztariak.

Gaur egungo iragarkia izan daiteke, sare sozialetako kanaletan agertzen hasiko zarena eta lineako hainbat lan-deialditan agertzen. Kontzeptu edo rol nahiko berria da. Polemika dakar berekin. Fededun sutsu batzuek sutsuki argudiatzen dute zentzu ugari duela eta denbora guztian gertatu beharko litzatekeela, eta beste batzuk, berriz, urduri samar ari dira buru-belarri larriak egiten eta ez daude hain ziur ideia ona denik.

Rolaren mamia AItik ezkutuko alborapen edo praktika diskriminatzaile barneratuta kentzean datza. Erreskatatzera AI gogotsu eta antzinako ehiztariak alboratuko ditu. Ustez, ordenagailuan adituak diren sari-ehiztariak izango ziren. Are gehiago, zorionez, AI gaitasunen sakontasunean murgilduta.

Pistola izan, bidaiatuko du eta AI-n trebea den punteria zorrotzaren bidez lortu ahal izango du AI-ren aldeko joera txarrak eta txarrak agerian uztea.

Horrek galdera arantzatsu ugari sortzen ditu taktika hori jarraitzearen sentsibilitateari buruz, AIaren alborapenak ezagutzeko orduan. Momentu batean eztabaidatuko dudanez, jakin ezazu AIaren etorrerak AIren alborapenen agerpena ere ekarri duela berekin. AI alborapenen jaria. AI Etikari eta AI etikoari buruz dudan etengabeko estaldura zabala ikusteko, ikus esteka hemen esteka hemen, Gutxi batzuk aipatzearren.

Nola ezagutuko dugu AI sistema jakin batek alborapenak dituela?

Baliteke AI asmatu duten AI garatzaileei enkargatzea. Kontua da, hain nahastuta egon daitezkeela alborapenetan beraiek ezin dituztela antzeman beren asmatutako AIaren barnean. Dena ondo iruditzen zaie. Edo baliteke AI-ri buruz hain hunkituta egotea eta bere burua harrotasun sentimendua izatea, non orduan begi kritikoa hartu behar izatea alborapenak aztertzeko zaila eta benetako penagarria izango litzatekeela. Badirudi horrelako beste arrazoi askok AI garatzaileek zeregin hori bere gain har ditzatela murrizten dutela, besteak beste, txertatutako alborapenak ezagutzeko trebetasun falta, proiektu batean horretarako denbora falta, etab.

Ados, beraz, aurrera eta kontratatu kanpoko aholkulariak zuretzako lan zikina egiteko, nolabait. Bihurtzen da aholkulariek pozik aztertuko dutela zure AI alborapenen bila, eta horretarako zentimo polit bat kobratuko dizute (zentimo asko eta asko). Konturatu haiek ordaindu behar dituzula zure AI sistemaren abiadura bizitzeko. Ondoren, inguruan arakatu behar dituzu, eta horrek ordu neketsu garesti asko behar izan ditzake. Aholkulariak erabiltzea aukera bat da horretarako aurrekontua baduzu.

AI alborapen maltzur horiek aurkitzeko moduaren balizko "hutsunean" sartzen dira AI alborapen ehiztari heroiko eta ausarta.

Normalean ez dituzu aldez aurretik ordaintzen. AIren alborapenak beren garaian aurkitzen saiatzen dira eta beren fakturak ordaindu behar dituzte horrela. Alborapenak arrakastaz aurkitzen badituzte bakarrik ordaintzen dute. Uste dut erraz baieztatzen zenezakeela pentsamendu egoki batean hori dela sari-ehiztariaren definizio konbentzionala. Ordaindua lortzen baduzu. Ez kobratu arrakastarik ez baduzu. Aldia, istorioaren amaiera.

Bounty programak gutxienez erromatarren garaitik existitzen dira eta, beraz, funtzionatzen dutela pentsa genezake, urte hauetan guztietan praktika gisa arrakastaz iraun baitute.

Hona hemen bitxikeria historikoen zati liluragarri bat zuretzat. Jakinarazi duenez, Erromatar Inperioaren garaian Ponpeiako hirian argitaratutako mezu batek aldarrikatu zuen diru-ehiztariak behar zirela denda txiki batean desagertu zen kobrezko lapiko bat aurkitzeko. Kobre-ontzia berreskuratzearen saria hirurogeita bost brontzezko txanponen sari ikusgarria izan zen. Barkatu esatea ez dakigula diru-ehiztariren batek kobrezko potoa aurkitu zuen eta brontzezko txanponak erreklamatu zituen, baina badakigu diru-ehizak antzinako garai haietatik jarraitu duela.

Garai modernoagoetan, jakitun izango zara 1980ko hamarkadan sari aipagarri batzuk eskaintzen zirela ordenagailuko akatsak edo akatsak eskuragarri dauden software paketeetan aurkitzeko eta, ondoren, 1990eko hamarkadan Netscape-k bere web arakatzailean akatsak aurkitzeko sari bat eskaintzen zuela. (horretarako garai hartako enpresarik nabarmenenetako bat bihurtuz). Googlek eta Facebookek akatsen sari-ehizaren aldeko apustua egin zuten 2010 eta 2013 urteetan, hurrenez hurren. Urte batzuk geroago, 2016an, AEBetako Defentsa Saila ere (DoD) jardunean sartu zen "Hack the Pentagon" sari-esfortzua izanda (kontuan izan publikoki bideratutako saria DoDrekin lotutako hainbat webgunetan aurkitutako akatsengatik zela eta ez. defentsarako misio kritikoko sistemak).

Sakon dezagun akatsen sari-gaian. Konturatzen naiz eztabaida honetan sari-ehizaren AI-alborapenei buruz hitz egitea dudala batez ere, baina badaudela akatsen sari-arloarekin paralelismo nahiko garrantzitsuak.

Batzuk guztiz harrituta daude edozein enpresak sari bat eskaini nahi duelako akatsak aurkitzeko (edo, kasu honetan, AI alborapenak) beren sistemetan.

Azalean, "eskatzen ari zaren" estrategia moduko bat dirudi. Munduari aditzera ematen badiozu zure softwarean zuloak aurkitzen saiatuko direnei ongi etorria ematen diezula, badirudi lapurrei esatea dela zure etxean sartzen saiatzeko. Dagoeneko uste baduzu lapurreta-sistema nahiko ona duzula eta inork ezingo lukeela zure etxebizitza seguruan sartu, imajinatu lapurrei galdetzen eta erregutzen, denak zure bizilekura jaisteko eta ea ahal duten. pitzatu. O, geure buruari ehuntzen ditugun arazoak.

Gauza bera esan liteke sari-ehiztariei zure AIan alborapenak aurkitzeko eskatzeari buruz.

Lehenik eta behin, beharbada esan nahi du dagoeneko uste duzula edo nahiz eta erabat dakizula zure AI-ak alborapenak dituela. Hori gutxik egiteko prest dirudien eta potentzialki atzera bota dezakeen onarpen zintzo eta zintzoa da.

Bigarrenik, ez dakizu ziur zer egin dezaketen sari-ehiztari horiek. Zure AIan alborapenak aurkitu dituztela mundu osoari esatea aukera dezakete. Batek suposatzen du horrek saria eskuratzea galduko duela, nahiz eta batzuek arretaz goza dezaketen edo haien egoera indartzeko asmoa duten aholkularitza kontzertuak eta diru-sarrerak sortzeko beste aukera batzuk lortzeko. Agian guztiz altruista izan liteke. AI aktibismo modu bat izan daiteke. Jarrai dezaket.

Hirugarrenik, gerta liteke afera guztiari bihurritu maltzur bat. AI alborapenen bila dabilela dioen sari-ehiztari bat agian deabruzko bila ari da zure AI sistema erasotzeko moduak aurkitzeko. Gauza osoa azken finean zibereraso larri bati ekiteko txantxa bat da. Baliteke laguntza ematen saiatzen ari zirela suposatuko zenuten, bihotzean gaizki eginak dituzten bitartean. Tristea, baina posiblea.

Laugarrenik, gai honetan are maltzurkiago bihur gaitezke. Sari-ehiztari batek AIaren alde lotsagarriak eta auziak bultza ditzaketenak aurkitzen ditu. Saria X deituko diogun dolar kopuru bat da. Sariak erreklamatu beharrean, sari-ehiztariak ransomware probokazio bitxi bat egiten du. Sari-ehiztariari hamar aldiz X edo agian zeruak muga ordaintzen badiozu, AIren alborapenen berri emango dizute. Igande gauerdira arte duzue erantzuteko. Une horretatik aurrera, AIaren alborapenak agerian geratuko dira guztiek ikus ditzaten. Aupa, egoera zitala.

Bosgarrena, azkenak "hack to return" deitzen diren ziber-lapurretakoak dira, sareko ore mordo bat lapurtu ostean, damutzea eta hartutako harrapakinaren zati bat itzultzea erabakitzen dutenak. Bere dirua partzialki itzultzen duen konpainiak lapurtutako gainontzeko zenbatekoa lapurrei saritutako sari gisa hartzeko prest dago. Dirudienez, denek "irabazten" dute, funtsen zatirik handiena itzultzen dutelako eta, bitartean, ziber-egileak legez jazartzen ez direlako, gainera piraten saria lortzen dute. Hori zuhurra ala maltzurkeriaz betikotzen al da okerrak?

Konturatzen naiz zuetako batzuk esango zaretela inork ez lukeela alborapenik duen AI askatu behar. Horrek AI alborapenak sari-ehiztariak erabili edo ez erabiltzeari buruzko dilema osoa konponduko lukeela dirudi. Ez zaitez sari egoera batean sartu. Ziurtatu zure AI garatzaileek gauza egokia egiten dutela eta ez dutela onartzen AI alborapenik beren AI sistemetan. Agian erabili aholkulariak egiaztapen bikoitza egiteko. Funtsean, egin behar duzun guztia mahaira etor daitezen AI alborapeneko sari-ehiztari horiei buruz pentsatzea edo eskatzea saihesteko.

Bai, guztiz zentzuzkoa irudituko litzateke. Arazoa da ameslari samarra ere badela. AI sistema askoren konplexutasuna hain da handia, non AI alborapen ontza bakar bat ere azaleratzen ez dela ziurtatzen saiatzea zaila izango da. Horrez gain, AI sistema batzuk nahita diseinatuta daude aurrera egin ahala doitzeko eta "ikasteko". Horrek esan nahi du etorkizuneko denboraren batean zuk asmatu duzun AI-ak, hasiera batean garbi hutsa eta alborapenik gabekoa zela suposatu dezagun, alborapenak gorpuzten joan litekeela (ez dut hori modu antropomorfo batean esan nahi, aurrerago azalduko dudanez. joan gai honi buruz).

Software-akatsen sari-ehizaren alde egiten dutenek halako sariak eskaintzeak zentzuzkoa duela argudiatu ohi dute. Haien arrazoia kontuan hartu eta ikusi ahal izango dugu AI alborapenen eremuan ere aplikatzen den.

Akats-sarien aldekoek azpimarratzen dute zure sisteman zulorik ez dagoela itxuratzen saiatu beharrean, zergatik ez sustatu zuloak aurki daitezen, modu "kontrolatuan" eginez? Aitzitik, halako diru-esfortzurik egin gabe, espero eta otoitz egin dezakezu kasualitatez inork zulorik aurkituko ez duela, baina, horren ordez, sari bat eskaintzen bazaizu eta zuloa aurkitzen dutenei sarituko zaiela esaten badiezu, horrek eskaintzen dizu. zuloa zure kabuz finkatzeko aukera eta gero besteei ezkutuan aurkitzea eragozten die denboraren batean.

Gauza bera esan liteke AI alborapenen erabileran. Sari nahikoa eskaintzen baduzu, zorionez, sari-ehiztariek AIaren alborapenen aurkikuntza zure arreta jarriko dute. Orduan, AI-alborapenei aurre egin diezaiekezu modu nahiko lasai eta neurtuan. Horrek arazo askoz handiagoa eta beldurgarriagoa saihes dezake gero, hots, beste norbaitek zure AIan AI-alborapenak aurkitzen dituela eta zeru altuetara oihukatzen duela.

Orokorrean, akatsen sariak ehizatzeko ahalegina gaitu nahi duen enpresa batek Ahultasunen Dibulgaziorako Politika (VDP) ezarriko du. VDP-k akatsak nola aurkitu eta enpresari nola jakinarazi behar zaizkion adierazten du, ehiztariari saria edo saria nola emango zaion ere. Normalean, VDP-k ehiztariari Ez-Dibulgaziorako Akordio bat (NDA) sinatzea eskatuko dio, aurkitutakoa besteei ez diezaieten agerian utziko.

Sari-ehiztariekin NDA erabiltzearen ideiak eztabaida bat du. Aurkitutako esposizioak ama mantendu nahi izateak dirua eskaintzen duen konpainiari zentzuzkoa den arren, akats horien inguruko kontzientzia orokorra itotzen duela ere esaten da. Ustez, software-akatsei buruz hitz egiten uzten bada, baliteke beste sistema batzuen segurtasuna laguntzea, gero haien esposizioak indartuko lituzkete beste enpresetan. Sari-ehiztari batzuek ez dute NDA sinatuko, neurri batean publikoaren nahia dela eta, eta neurri batean, beren identitatea ezkutuan mantentzen saiatzeagatik. Gogoan izan, gainera, NDA alderdia ez dela normalean sortzen ehiztariak akats bat aurkitu duela esan arte, aurretik behar izan beharrean.

VDP batzuek zehazten dute NDA denbora-tarte mugatu baterako soilik dela, enpresari lehenik itxurazko zuloari irtenbidea aurkitzeko eta, ondoren, horri buruzko informazio zabalagoa ahalbidetzeko. Zuloa tapatu ondoren, enpresak NDA askatzea ahalbidetzen du, mundu osoan akatsaren berri izan dezan. Sari ehizatutako akatsen konponbide-denbora ohikoa 15-20 egun ingurukoa da enpresa batek berehala konektatu nahi duenean, eta beste kasu batzuetan, berriz, 60-80 egun arte luza daiteke. Sari-ehiztariari ordaintzeari dagokionez, ordaintzeko denbora deritzona, zuloa benetan existitzen dela egiaztatu ondoren, sari-ordainketak 15-20 eguneko epean egon ohi dira kasu txikientzat eta 50-60 inguru. egun handiagoetarako (hauek etengabe aldatzen ari dira industriaren zantzuak eta ilustratibo gisa soilik aipatzen dira).

AI alborapenak sari-ehiztariei VDP batean parte hartzeko eta NDA bati aurre egiteko ere eskatu behar al zaie?

Galdera horri baiezkoa eta ezezkoa lor diezaiokezu. Bai, enpresa batzuek bide horretatik jo beharko lukete. Ez, agian ez duzu zertan bide horretatik joatea aukeratu. Faktoreek AIaren tamaina eta izaera, inplikatutako edozein AI-alborapen-esposizioen potentziala eta kontuan hartzen diren beste hainbat kontu etiko, juridiko eta enpresarial daude.

Gehitu dezaket zure AIaren AIaren alborapenetarako sari-ehizaren ahalegina ezartzea hasierako begirada batean suposa dezakezun baino ordena askoz altuagoa dela.

AI alborapenen sari-ehiztariek larrituta geratzeko aukera izugarriarekin hasiko gara.

Oraintxe bertan, zaila izango zenituzke horrelako dei-txartel bat izango luketen asko aurkitzea. Inguruan ez dago asko. Mendebalde basatiaren garaiak dira zentzu horretan. Baina sari-ehizan AI-aren alborapenen nozioak harrapatzen badu, batez ere sariak ugariak eta aberasgarriak direnean, apustu egin dezakezu denak alborapenen ehizaren igerilekuan murgilduko direla.

Zure AI sisteman AI joerak bilatzen dituzten era guztietako iruzkinak nahi dituzu? Mota honetako gauzetan benetan adituak diren hartzaileak lortuko dituzu. Afizionatuak diren eta nahastea edo otsoa negar egin dezaketen beste hartzaileak lortuko dituzu. Dakizuen hurrengo gauza, "Adimen artifiziala" idazten duen edonor etorriko da zure AI sistema baten urre meategian AI alborapen preziatu horietarako urrezko pepita bilatzera. Urrearen presa martxan da. Hori agian ez da ona izango zuretzat.

Sari-ehiztarien bidalketak aztertu beharko dituzu. Salatutako erreklamazioetan "zarata" asko egongo da, aldarrikatutako AI alborapen asko existitzen ez diren zentzuan, sari-ehiztariak batzuk aurkitu dituztela azpimarratu arren. Imajinatu zenbat lan beharko duten zure AI taldeek sari-erreklamazioak aztertzeko, bakoitzaren baliozkotasuna aztertzeko eta, gero, sari-ehiztariarekin batera eta bestera joan urrea aurkitu zen ala ez jakiteko.

Batzuek esango lukete hori dela gauza osoa zeuk egiteko beste arrazoi bat. Ezinbestean deskubrituko duzu sariak merezi baino arazo gehiago dituela.

Hona hemen hausnartzeko beste galdera bat. Nola jakingo dute sari-ehiztariek nolakoa den AIaren alborapena? Funtsean, zer bilatu behar den itxurarik gabe, edozein arroka distiratsuak induskatzen ari den hautematen den AI urre meategian AI alborapena erakusten duela esan liteke.

Mendebalde Zaharreko garaian, demagun Billy the Kid (legez kanpoko famatua) harrapatzeko sari bat eskaini zenuela. Hala egin bazenu eta ez bazenuen Billyren itxuraren argazkirik sartu, imajinatu zenbat sari-ehiztari kopurua Sheriffaren bulegora eraman dezaketen norbait Billy Kid zela espero edo uste zuten. Baliteke Billy faltsuez gainezka egitea. Hau txarra da, ustez bakoitzari begiratu, galdera sakonak egin eta pertsona benetan Billy zen ala ez egiaztatzen saiatu beharko zenuke.

Kontua da AI alborapenen sari-esfortzua konfiguratzeko AI alborapenak zertan datzan uste duzun argitzea komenigarria izango litzateke. Honek Goldilocks kalibrazio mota bat behar du. Ez duzu hain mugatua izan nahi sari-ehiztariek AIaren alborapenak alde batera uzten ez dituztelako zure ezarritako definizioan sartzen ez direlako, eta ez duzu nahi "Eureka!" Agian aurkitzen duten AI alborapenaren zati bakoitzean.

Goldilocks oreka egokia beharko duzu AIaren alborapenak zertan datzan eta, beraz, horren jarraibide esplizituak eman.

AI alborapen honen sari-ehiza asko AI-n oinarritutako Machine Learning (ML) eta Deep Learning (DL) sistemetara bideratuko dira. Honek zentzua du ML/DL hedaduraren etorrera hazten ari denez, eta badirudi AI alborapen desegokiak biltzeko erronka litekeenetako batzuk dituela.

Ikertzaile hauek identifikatzen dute AI alborapen batek sari-ehizaren ahalegina nola nabarmena izan daitekeen, batez ere ML/DL testuinguruan: "Denborarekin, software eta segurtasun komunitateek 'akatsen sariak' garatu dituzte sistemaren garatzaileen eta haien kritikoen artean antzeko dinamika bihurtu nahian. (edo hackerrak) helburu interaktibo eta produktiboagoetarako. Itxaropena da kanpoko alderdiei nahita gonbidatuz software- edo hardware-akatsak beren sistemetan aurki ditzaten, eta askotan horretarako diru-pizgarriak emanez, ekosistema osasuntsuagoa eta azkarrago erantzuten duen ekosistema eboluzionatuko dela. Naturala da ML komunitateak "alborapen-sari" antzeko planteamendu bat kontuan hartzea alborapena edo bestelako jokabide desiragarriak dituzten eredu eta sistemak garaiz aurkitu eta konpontzeko. Softwarean akatsak aurkitzea baino, kanpoko alderdiak alborapenak aurkitzera gonbidatzen dira (adibidez, trebatutako eredu batek errendimendu txikia duten inputen azpitaldeak (demografikoak edo bestelakoak) eta hori egiteagatik saritzen dira" (Alborapenerako marko algoritmikoa) paperean. Bounties” Ira Globus-Harris, Michael Kearns eta Aaron Roth-ek).

Ikerketa-paperean, egileek sari-ehiztariek AI-alborapen motak bilatu ditzaketen iradokitzen dute. Hala aurkitutako ustezko AI-alborapenekin lotutako sari-ehiztarien erreklamazioak nola ebaluatu buruzko zantzu bat ere badago. Hemengo nire lehen oharren arabera, probabilitateak erreklamazio entzutetsuak jasoko dituzu eta AIren alborapenak garia lastotik bereizi beharko dituzu.

AI alborapenaren ehizaren azpian dauden haragi eta patata gehiagotan sartu baino lehen, ezarri ditzagun oinarri osagarriak sakonki integraleko gaiei buruz. Laburki murgildu behar dugu AI Etikan eta bereziki Machine Learning (ML) eta Deep Learning (DL) etorreran.

Lausoki jabetuko zara gaur egun AIren alorrean eta baita AIren eremutik kanpo ere ahots ozenenetako bat AI Etikoaren itxura handiagoa aldarrikatzean dela. Ikus dezagun zer esan nahi duen AI Etika eta AI etikoa aipatzea. Horrez gain, Machine Learning eta Deep Learning buruz hitz egiten dudanean zer esan nahi dudan aztertuko dugu.

Komunikabideen arreta handia jaso duen AI Etikaren segmentu edo zati jakin bat alderdikeriak eta desberdintasunak erakusten dituen IAk osatzen dute. Baliteke kontziente izango AIaren azken aroa martxan jarri zenean ilusio handia izan zela batzuek gaur egun deitzen duten hori AI For Good. Zoritxarrez, zirrara isuri horren harira, lekukotzen hasi ginen AI For Bad. Adibidez, AI-n oinarritutako aurpegi-ezagutze-sistemak arraza-alborapenak eta genero-alborapenak dituztela agerian utzi dute, eta horiei buruz hitz egin dudanean. esteka hemen.

Aurkako borroka egiteko ahaleginak AI For Bad aktiboki abian dira. Oihuka gainera legezko gaizki-egiteei eusteko asmoz, AIren etika onartzeko bultzada nabarmena ere badago AIren gaiztakeria zuzentzeko. Ideia da AI etikoaren funtsezko printzipioak onartu eta onartu beharko genituzkeela IA garatzeko eta lantzeko. AI For Bad eta, aldi berean, hoberena iragartzen eta sustatuz AI For Good.

Erlazionatutako ideia batean, AI erabiltzen saiatzearen defendatzailea naiz AIren arazoen konponbidearen zati gisa, suarekin suarekin borrokatzeko pentsamendu modu horretan. Adibidez, AI etikoen osagaiak txerta genitzake AI sistema batean, gainontzeko AIak gauzak nola egiten dituen kontrolatuko duena eta, beraz, denbora errealean edozein diskriminazio-ahaleginak harrapatzeko. Ikusi nire eztabaida hemen. esteka hemen. AI Etika monitore gisa jarduten duen AI sistema bereizi bat ere izan genezake. AI sistemak gainbegiratzaile gisa funtzionatzen du beste AI bat amildegi ez-etikoan sartzen denean jarraitzeko eta detektatzeko (ikusi horrelako gaitasunen azterketa hemen esteka hemen).

Une batean, AI Etikaren azpian dauden printzipio nagusi batzuk partekatuko ditut zurekin. Zerrenda mota asko daude han eta hemen inguruan. Esan liteke oraindik ez dagoela erakargarritasun eta adostasun unibertsalaren zerrenda berezirik. Hori da zorigaiztoko albistea. Berri ona da gutxienez eskuragarri daudela AI Etika zerrendak eta nahiko antzekoak izan ohi direla. Guztiak esanda, horrek iradokitzen du nolabaiteko konbergentzia arrazoitu baten bidez AI Etika zertan datzan komuntasun orokorrerantz aurkitzen ari garela.

Lehenik eta behin, labur ditzagun AI Etikoko manu orokor batzuk AI lantzen, lantzen edo erabiltzen duen edonork ezinbesteko kontua izan behar duena ilustratzeko.

Adibidez, Vatikanoak dioen bezala Erromako AI Etikarako Deia eta sakonki jorratu dudan bezala esteka hemenHauek dira identifikatutako sei oinarrizko AI etika printzipioak:

• Gardentasuna: Printzipioz, AI sistemek azalgarriak izan behar dute
• sartzea: Gizaki guztien beharrak kontuan hartu behar dira, guztion onura izan dadin, eta pertsona guztiei eskein diezaieke bere burua adierazteko eta garatzeko baldintza onenak.
• Erantzukizuna: AIaren erabilera diseinatzen eta zabaltzen dutenek ardura eta gardentasunarekin jarraitu behar dute
• Inpartzialtasuna: Ez sortu edo ez jokatu joeraren arabera, horrela zuzentasuna eta giza duintasuna bermatuz
• Fidagarritasuna: AI sistemek modu fidagarrian funtzionatzeko gai izan behar dute
• Segurtasuna eta pribatutasuna: AI sistemek segurtasunez funtzionatu behar dute eta erabiltzaileen pribatutasuna errespetatu behar dute.

AEBetako Defentsa Sailak (DoD) bere dokumentuan adierazi duenez Adimen artifiziala erabiltzeko printzipio etikoak eta sakonki jorratu dudan bezala esteka hemenHauek dira AIren sei printzipio etiko nagusiak:

• Arduraduna: DoDko langileek epai eta arreta maila egokiak erabiliko dituzte AI gaitasunen garapenaren, hedapenaren eta erabileraren ardura izaten jarraitzen duten bitartean.
• Ekitatiboa: Sailak nahita neurriak hartuko ditu AI gaitasunetan nahi gabeko alborapenak minimizatzeko.
• Trazagarria: Departamentuaren AI gaitasunak garatu eta zabalduko dira, dagokion langileek AI gaitasunei aplikagarri zaizkien teknologia, garapen-prozesu eta metodo operatiboen ulermen egokia izan dezaten, metodologia gardenak eta ikuskagarriak, datu-iturriak eta diseinu-prozedura eta dokumentazioa barne.
• Seriotasuna: Sailaren AI gaitasunek erabilera esplizituak eta ongi zehaztuak izango dituzte, eta gaitasun horien segurtasuna, segurtasuna eta eraginkortasuna probak eta bermeak izango dira definitutako erabilera horietan bizi-ziklo osoan zehar.
• Gobernagarria: Sailak AI gaitasunak diseinatu eta diseinatuko ditu aurreikusitako funtzioak betetzeko, nahi gabeko ondorioak detektatzeko eta ekiditeko gaitasuna duen bitartean, eta nahi gabeko portaera erakusten duten sistemak desaktibatzeko edo desaktibatzeko gaitasuna.

AIaren etika-printzipioen analisi kolektibo ezberdinei buruz ere eztabaidatu dut, besteak beste, nazioko eta nazioarteko AI etikako printzipio ugariren funtsa aztertu eta laburtu zuen ikertzaileek asmatutako multzoa aztertu izana "The Global Landscape Of AI Ethics Guidelines" (argitaratutakoa). urtean Nature), eta nire estaldurak hemen aztertzen du esteka hemen, eta horrek giltzarri zerrenda honetara eraman zuen:

• Transparency
• Justizia eta zuzentasuna
• Ez-Malefizia
• Erantzukizun
• Pribatutasuna
• Ongintzaren
• Askatasuna eta Autonomia
• Fidatu
• Iraunkortasun
• duintasuna
• Elkartasuna

Zuzenean asmatuko duzun bezala, printzipio horien azpian dauden zehaztasunak zehazten saiatzea oso zaila izan daiteke. Are gehiago, printzipio zabal horiek guztiz ukigarri eta zehatza den zerbait bilakatzeko ahalegina AI sistemak lantzean erabiltzeko moduko intxaur gogorra ere bada. Erraza da, oro har, AI Etikaren manuak zer diren eta orokorrean nola behatu behar diren eskuz astintzea, AI kodeketa askoz ere egoera zailagoa da errepidea betetzen duen benetako goma izan behar izatea.

AI Etika-printzipioak AI garatzaileek erabili behar dituzte, AI garapenerako ahaleginak kudeatzen dituztenekin batera, eta baita, azken finean, AI sistemetan mantentzea lantzen eta egiten dutenekin batera. AIaren garapen eta erabileraren bizitza-ziklo osoan parte hartzen duten eragile guztiak AI Etikoaren ezarritako arauak betetzearen esparruan hartzen dira kontuan. Garrantzi handiko aipamena da hau, ohiko suposizioa delako "kodetzaileak" edo AI programatzen dutenak soilik AI Etika nozioei atxikitzeko menpe daudela. Lehen esan bezala, herri bat behar da AI asmatzeko eta lantzeko, eta, horretarako, herri osoak AI Etika aginduak ezagutu eta bete behar ditu.

Ziurta dezagun, gainera, orrialde berean gaudela gaurko AIaren izaerari buruz.

Gaur egun ez dago sentikorra den AIrik. Ez dugu hau. Ez dakigu AI sentikorra posible izango den. Inork ezin du ongi iragar AI sentikorra lortuko dugun ala ez, ezta AI sentikorra nolabait miragarriki berez sortuko den supernoba kognitibo konputazional baten moduan (normalean berezitasuna deitzen dena, ikus nire estaldura hemen. esteka hemen).

Zentratzen ari naizen AI mota gaur egun daukagun AI ez sentikorra da. Buruz basatian espekulatu nahi bagenu sentikorra AI, eztabaida hau zeharo beste norabide batean joan liteke. AI sentikor bat giza kalitatekoa izango litzateke. Kontuan izan beharko zenuke AI sentikorra gizakiaren baliokide kognitiboa dela. Are gehiago, batzuek IA super-adimentsua izan genezakeela espekulatzen dutenez, pentsa daiteke AI hori gizakiak baino adimentsuagoa izan daitekeela (AI super-adimentsua aukera gisa aztertzeko, ikus estaldura hemen).

Utz ditzagun gauzak lurrean gehiago eta kontuan izan ditzagun gaur egungo AI konputazionala sentikorra.

Konturatu gaur egungo IA ez dela gai giza pentsamenduaren parean "pentsatzeko". Alexa edo Sirirekin elkarreragiten duzunean, elkarrizketa gaitasunak giza gaitasunen antzekoak dirudite, baina errealitatea da konputazionala dela eta giza ezagutza falta dela. AIaren azken aroak asko erabili ditu Machine Learning (ML) eta Deep Learning (DL), zeinak konputazio-ereduen parekatzea baliatzen baitute. Horrek gizakiaren antzeko joerak dituzten AI sistemak ekarri ditu. Bien bitartean, gaur egun ez dago zentzu arruntaren itxura duen AIrik eta giza pentsamendu sendoaren harridura kognitiborik ere ez duenik.

ML/DL eredu konputazionalaren parekatze modu bat da. Ohiko planteamendua erabakiak hartzeko zeregin bati buruzko datuak biltzea da. Datuak ML/DL ordenagailu ereduetara elikatzen dituzu. Eredu horiek eredu matematikoak aurkitu nahi dituzte. Eredu horiek aurkitu ondoren, aurkituz gero, AI sistemak eredu horiek erabiliko ditu datu berriak topatzerakoan. Datu berriak aurkeztean, datu "zahar" edo historikoetan oinarritutako ereduak aplikatzen dira egungo erabakia emateko.

Uste dut hau nora doan asma dezakezula. Erabakien eredua hartzen ari diren gizakiek alborapen txarrak sartu badituzte, litekeena da datuek modu sotil baina esanguratsuan islatzea. Machine Learning edo Deep Learning konputazio-ereduen parekatzea besterik ez da saiatuko datuak matematikoki imitatzen. Ez dago zentzu arruntaren edo beste alderdi sentikorren itxurarik AI-n landutako modelizazioaren berez.

Gainera, AI garatzaileak agian ez dira konturatzen zer gertatzen ari den. ML/DL-ko matematika arkanoak zaildu lezake orain ezkutuko alborapenak atzematea. Ziurrenik espero eta espero zenuke AI garatzaileek lurperatuta egon daitezkeen alborapenak probatuko dituztela, nahiz eta badirudi baino zailagoa den. Aukera sendoa dago, nahiz eta proba nahiko zabalak izan, ML/DL ereduak parekatzeko ereduetan oraindik txertatutako alborapenak egongo direla.

Garbage-in garba-out-en esaera ospetsua edo gaiztoa zertxobait erabil dezakezu. Kontua da, hau AIaren barnean murgiltzen diren alborapenak maltzurki sartzen diren alborapenen antzekoagoa da. AIren algoritmoen erabakiak hartzea (ADM) axiomatikoki desberdintasunez kargatzen da.

Ez da ona.

Itzuli gaitezen orain AI alborapenaren ehizaren gaira.

AI alborapenezko sari-ehizaren ahalegina kontuan hartzen ari zaretenontzat, hona hemen gomendatutako zazpi urrats gakoak nola jarraitu behar den:

1) ebaluatzea. Ebaluatu AI-alborapeneko sari-ehizaren ahaleginaren egokitasuna zure egoerarentzako eta zure AI sistemen arabera.

2) Diseinua. Diseinatu AI-alborapeneko sari-ehizaren ikuspegi egokia

3) ezartzea. Inplementatu eta ezagutarazi zure AI alborapena sari-ehizaren ahaleginak

4) Field. Eremu AI-ak sari-erreklamazioak alboratuko ditu eta horren arabera prozesatu

5) Konpondu. Konpondu edo doitu zure AI aurkitutako AI-alborapen esposizio horiei dagokien moduan

6) Egokitu. Doitu AI alborapenak sari-ehiza behar den moduan

7) discontinue. Eten AI alborapenaren sari-ehiza behar ez denean

Nire goiko urratsen seriean, kontuan izan aipatzen dudala ziurrenik zure AI konpondu edo egokitu nahi duzula zure AI sisteman AI-alborapen bat dagoela egiaztatzen oinarrituta. Horrek zentzu handia du. Ia zalantzarik gabe aurkitutako AIaren alborapen guztiak babestu nahi dituzu. Pentsa ezazu legezko (eta etiko) adarretatik horrela egiten ez baduzu. Gauza bat da ez zenekiela AI alborapenik existitzen zenik eta, beraz, existitzen utzi zenuela baieztatzea, baina askoz ere astinduagoa da AIaren alborapenaz jabetu zinela eta horri buruz ezer egin zintuztela erregistratzea.

AIren konponketa edo doikuntzaren izaera eta maila, jakina, AIaren alborapenak zenbaterainokoak diren eta arazoak zein sakon txertatuta dauden araberakoak izango lirateke. Zorterik baduzu, agian AIan egindako aldaketa xume batek konponduko du. Beste potentziala AIaren berridazketa osoa egin beharko zenukeela da. ML/DL AI motarako, marraztera bueltatu eta datu-multzo guztiz berri batekin eta ML/DL eredu garbi batekin hastea eska liteke. AI desgorgearen edo AI suntsitzearen etorrera eztabaidatu dut AI desegokiaren aurkako legezko erremedio gisa, ikusi esteka hemen.

Hausnartu beharreko galdera bat da sari-ehiztariek AI alborapenen existentzia identifikatzea baino gehiago egitea nahi duzun ala ez. Esaterako, baliteke saria goxoagotzea proposatutako konponketak ere ongi etorriak direla adieraziz. AI alborapena aurkitu sari-ehiztari batek adierazitako sari edo sari bat ordain dezake. Sari-ehiztariak bideragarri bat ere eskaintzen badu konpondu AI alborapenaren ondorioz, baliteke sari gehigarri bat ematea.

Batzuek diote zubia urrunegi dela. Diotenez, AI-alborapeneko sari-ehiztariak AI-alborapenak aurkitzera bideratu behar dituzu. Ondorio kaltegarri desiragarri ugari sortuko dituzu konponketak ere iradokitzera gonbidatuz. Mantendu gauzak sinpleak. Helburua AIaren alborapenak aurkitzean beste begi gehiago lortzea da, gero zer egin erabaki dezazun. Ez lokaztu urak.

Asmatu beharreko alderdi arantzatsu batek AIaren alborapenak benetan aurkitzen dituzten sariaren edo sariaren magnitudea dakar. Ordainketa erakusgarria izatea nahi duzu. Sari nahikorik gabe, ez dituzu sari-ehiztari asko lortuko edo ez dira bereziki gogotsu egongo zure AI sistemetan AI alborapenak bilatzeko. Horren ordez, AI alborapeneko beste sari-saio batzuetan kontzentratu ahal izango dira.

Gainera, esan bezala, sari-ehiztariek beren AI-alborapenaren aurkikuntzak beste urre forma batzuetan bihurtzeko gogoa erreprimitu nahi duzu. Saria eskasa badirudi, sari-ehiztariak beste ordainsari handiagoak bilatzera bultzatu ditzake. Ransomware hurbilketa bat har dezakete zuregana. Lehiakide batek ezagutzea gustatuko litzaiokeen eta zure enpresaren aurka erabil dezakeen AI alborapen mamitsu bat dutela deklaratu dezakete, zure AIan AI alborapena dagoela esanez. Horrela, aurkitutako AI alborapena lizitatzaile handienari saltzen diote. Eta abar.

Batek suposatzen du saria oso maila altuan ezartzen baduzu, balizko arazoak ere eskatzen ari zarela. Horrek mota guztietako sari-ehiztariak erakar ditzake. Aldi berean, sare sozialak AIaren alborapen ugari aurkitu zituztelako aldarrikapen lausoz gaindi ditzakete, euren auto-sustapenerako eta benetan AI-alborapenik bultzatu gabe. Zentzu batean, zure sari handituak nahi gabe zure AIari argia ematen dio eta sits gaizto mordoa erakartzen ditu argi-izpi distiratsuak modu kaltegarrian erakartzera.

Beste kontu bat zure AIrako irisgarritasuna dakar.

AI sari-ehizaren aukera gaitzeko, sari-ehiztariek nahikoa sarbidea lortu behar dute zure AIrako. Ez dute zorte handirik izango AI alborapenak aurkitzeko, guztiz blokeatuta badaude. Baina ez duzu zure zibersegurtasun babesak utzi nahi, hori eginez gero zure AI sistema guztiz arriskuan jar daitekeelako.

Saia zaitezke sari-ehiztariak legez lotesle diren hainbat deklarazio sinatzen eta gero beharrezko sarbidea ematen. Sari-ehiztari batzuei ez zaie horrelako planteamendua gustatuko. Haien ikuspuntua da publikoki eskuragarri dauden eta irekitako bideek ahalbidetzen duten guztia bakarrik egingo dutela. Mavericks askeak dira, nolabait, eta ez dute gustuko jarlekuak, nolabait. Lege-dokumentu beldurgarrietan sinadura jar ditzaten lortuz gero, horietako askok zure AIan AI-alborapenak bilatzea saihestuko du. Edo baliteke zure lege-gaukoari haserretzea eta erabakitzea zer aurki dezaketen bide publikoen bidez ikusiko dutela, benetan nola zaurgarria zaren erakusteko gogo zorrotzarekin.

Beste angelu bat daukat burua biraka eragin dezakeena.

AI trebea den sari-ehiztari batek zure AI azter dezakeen AI sistema bat sortzea erabaki dezake eta, agian, zure AIan AI-alborapenak aurki ditzaketenak. Hau tresna-egileak lana egiteko tresna bat egitea aukeratzen du, eskuzko lana beraiek egin beharrean. Zure AI neketsu aztertu beharrean, AI-a ezagutzen duen sari-ehiztariak bere denbora ematen du gauza bera egiten duen AI tresna bat asmatzen. Ondoren, AI tresna erabiltzen dute zure AIan. Edertasuna da ustez AI tresna berrerabil dezaketela dagokien AIan ere sari-ehiza aukera eskaintzen duen beste edonorentzat.

Badakit ziurrenik zer pentsatzen ari zaren. AI tresna bat asma badaiteke AI alborapenak aztertzeko, AI alborapenak aztertzen ari den AIaren egileak AI tresna hori landu beharko luke edo erosi beharko luke bere erabilerarako. Teorian, orduan ez dute sari-ehiztarien inauteri osoari aurre egin behar, hasteko. Erabili AI beren AI alborapenak aurkitzeko.

Bai, pixkanaka-pixkanaka sortuko den zerbait da. Bien bitartean, ahalegin horien oinarria AI garatzaileek sari-ehiza egitea izango da. Hainbat tresna erabil ditzakete beren ahaleginak laguntzeko, baina epe laburrean, nekez ezarriko dute AI tresna automatikoki eta siesta bat egingo dute tresnak AI alborapenaren ehiza osoa egiteko.

Oraindik ez gaude.

Eztabaida handi honen une honetan, gai hau erakusteko adibide argigarri batzuk nahi dituzula apustu egingo nuke. Badira nire bihotzetik gertu dagoen adibide multzo berezi eta ezagun bat. Ikusten duzu, AI-n aditua naizen aldetik, adar etiko eta legalak barne, maiz eskatzen didate AI Etikaren dilemak erakusten dituzten adibide errealistak identifikatzea, gaiaren izaera teoriko samarra errazago ulertu ahal izateko. AI etiko istilu hau modu bizian aurkezten duen eremu iradokitzaileenetako bat AI-n oinarritutako benetako auto-gidatuen autoen etorrera da. Gaiari buruzko eztabaida zabalerako erabilpen kasu edo eredu erabilgarri gisa balioko du.

Hona hemen hausnarketa merezi duen galdera aipagarri bat: AI-n oinarritutako benetako auto gidatzeko autoen etorrerak argitzen al du AI alborapenaren sari-ehizaren erabilerari buruzko zerbait, eta hala bada, zer erakusten du honek?

Utzidazu une bat galdera deskonprimitzeko.

Lehenik eta behin, kontuan izan ez dagoela giza gidaririk benetako auto gidatzen duen auto batean. Gogoan izan norberak gidatzen dituen benetako autoak AI gidatzeko sistema baten bidez gidatzen direla. Ez dago gidari baten beharrik gurpilean, ezta gizaki batek ibilgailua gidatzeko aurreikuspenik ere. Ibilgailu autonomoen (AV) eta batez ere auto gidatzen duten autoen estaldura zabala eta etengabea ikusteko, ikus esteka hemen.

Gehiago argitu nahiko nuke zer esan nahi den benetako auto gidatzen diren autoak aipatzen ditudanean.

Auto gidatzeko autoen mailak ulertzea

Argibide gisa, benetako auto gidatzen diren autoak AIak autoa bere kabuz gidatzen dituenak dira eta gidatzeko zereginean zehar giza laguntzarik ez dagoen.

Gidaririk gabeko ibilgailu hauek 4. maila eta 5. maila hartzen dira (ikus nire azalpena helbidean esteka hau hemen), aldiz, giza gidari batek gidatzeko ahalegina elkarrekin partekatzea eskatzen duen autoa 2. edo 3. mailan hartzen da normalean. Gidatzeko zeregina elkarrekin partekatzen duten autoak erdi-autonomoak direla deskribatzen da, eta normalean hainbat eduki dituzte. ADA deitzen diren gehigarri automatizatuakADA
S (Gidariari Laguntzeko Sistema Aurreratuak).

5. mailan oraindik ez dago benetako auto autonomorik, eta oraindik ez dakigu hori lortzerik izango den, ezta zenbat denbora beharko duen bertara iristeko ere.

Bien bitartean, 4. mailako ahaleginak pixkanaka-pixkanaka trakzio pixka bat lortzen saiatzen ari dira bide publikoko entsegu oso estu eta selektiboak jasanez, nahiz eta eztabaida dagoen proba hori berez onartu behar den ala ez (denok gara esperimentu batean hil ala biziko kobaiak). gure autobideetan eta bide-bideetan gertatzen ari dena, batzuek diotenez, ikusi nire estaldura hemen esteka hau hemen).

Auto erdi autonomoak giza gidaria behar dutenez, auto mota horiek ez dira ohiko ibilgailuak gidatzea baino oso desberdinak izango. Beraz, ez dago gai horren inguruko gai asko estaltzeko gai hau (hala ere, ikusiko duzuenez une batez, hurrengo puntuak orokorrean aplikagarriak dira).

Auto erdi autonomoetarako, garrantzitsua da publikoa azkenaldian sortzen ari den alderdi kezkagarri baten aurrean jakitea, hots, 2. mailako edo 3. mailako auto baten gurpilean lokartzen ari diren giza gidariek argitaratzen jarraitzen duten arren. , guztiok saihestu behar dugu gidariak zereginetatik arreta kendu dezakeela auto erdi autonomo bat gidatzen duenean.

Ibilgailuaren gidaritza-ekintzen arduraduna zara, 2. mailara edo 3. mailara zenbat automatizazio bota litekeen kontuan hartu gabe.

Norbere gidatzen diren autoak eta AI Bias Bounty Hunting

4. eta 5. mailako egiazko autoentzako gidatzeko ibilgailuentzat, ez da gidari lanetan parte hartuko duen gidaririk.

Okupatzaile guztiak bidaiariak izango dira.

AI gidatzen ari da.

Berehala eztabaidatu beharreko alderdi batek dakar gaur egungo AI gidatzeko sistemetan parte hartzen duen AI ez dela sentikorra. Beste modu batera esanda, AI ordenagailuan oinarritutako programazio eta algoritmoen kolektiboa da, eta ziur asko ez da gai gizakiak ahal duen moduan arrazoitzeko.

Zergatik ari da azpimarratzen AI hori sentikorra ez izateari?

Azpimarratu nahi dudalako AI gidatzeko sistemaren papera eztabaidatzerakoan, ez diodala giza ezaugarriak AIri ematen. Jakin ezazu egun antropomorfizatzeko AI joera etengabea eta arriskutsua dagoela. Funtsean, jendeak gizakien antzeko sentikortasuna esleitzen dio gaurko AIri, oraindik AI hori existitzen ez dela ukaezina eta eztabaidaezina izan arren.

Argibide horrekin, AI gidatzeko sistemak berez ez duela nolabait "gidatzearen alderdiak" jakingo pentsa dezakezu. Gidatzea eta horrek dakarren guztia autoa gidatzeko hardwarearen eta softwarearen zati gisa programatu beharko da.

Muga gaitezen gai honen inguruan jokatzera etortzen diren hainbat alderditan.

Lehenik eta behin, garrantzitsua da konturatzea AI auto gidatzen duten auto guztiak ez direla berdinak. Auto-fabrikatzaile eta auto-gidatzeko teknologia-enpresa bakoitzak bere ikuspegia hartzen ari da auto-gidatzeko autoak asmatzeko. Hori dela eta, zaila da AI gidatzeko sistemek egingo edo ez dutenari buruzko adierazpen zabalak egitea.

Gainera, AI gidatzeko sistema batek gauza bereziren bat egiten ez duela adierazten duen bakoitzean, geroago ordenagailua hori egiteko programatzen duten garatzaileek gainditu dezakete. Pausoz pauso, AI gidatzeko sistemak pixkanaka hobetzen eta hedatzen ari dira. Baliteke gaur egun dagoen mugarik ez egotea etorkizuneko sistemaren iterazio edo bertsio batean.

Espero dut horrek kontatuko dudanaren azpian jartzeko oharra nahikoa ematea.

Nire zutabeetan, dagoeneko luze eztabaidatu dut akatsetara bideratutako sari-ehiztariak ibilgailu autonomoen eta auto gidatzeko autoen eremuan. Ikuspegi hau nitxo honetan gertatu da. Ideia sanoa den ala ez eztabaidatzen dira ohikoak. Ahaleginak normalean mugatuak izan dira, askotan isil samarrak mantendu dira.

Era berean, diskurtso bat sor daiteke arreta AIaren alborapenen ehizarantz aldatzen denean, berez sistemaren akatsak bilatu beharrean. Batzuek iradokitzen dute iraingarria dela egiten baduzu, izurritea egiten ez baduzu.

Hona hemen zergatik.

Lehenik eta behin, argi izateko, modu ugari daude ibilgailu autonomoek eta auto gidatzen duten autoek AI alborapenak edukitzeko gai izan daitezen, ikusi nire estaldura helbidean. esteka hemen esteka hemen, batzuk aipatzearren. Autogileek eta auto gidatzen duten autoen enpresek zentzuzkoa dirudi AI alborapen horiek beren AI sistemetan agertzea saihestea. Zalantzarik gabe, horrelako enpresen aurkako su-ekaitz legal eta etikoa bizia izango da.

Testuinguru zehatz honetan AI biases sari-ehizaren ahalegina erabiltzea hurbilketa egokia al da?

Erantzun bat da bai, hau erabilgarria izango dela eta begi berri "doako" ugari emango dituela AI auto gidatzen duen auto baten edo antzeko AI txertatutako AI-alborapenak harrapatzen saiatzeko. Auto gidatzeko autoak eraikitzen dituzten AI garatzaile gehienak lanpetuta daude A puntutik B puntura autoa segurtasunez gidatzeko gai den IA egiten. Funtsezko gaitasun horrekin arduratuta daude eta ez dute ez denborarik ez arretarik nonbait egon litekeen AI-alborapenetarako. haien AI.

Beste erantzuna ezetz da, ibilgailu autonomoentzako eta auto gidatzeko autoentzako diru-sarien ehiza ahalbidetzea edozein oinarritan, akatsengatik edo AI alborapenengatik, erabat saihestu behar dela. Argudioa da ibilgailu hauek eta haien AI hil ala biziko kalibrekoak direla. Edozein modutan AIarekin nahastea nolabait AIrako kaltegarria izan daiteke eta AI gidatzeko sistemak egiten duen eragina izan dezake.

Azken puntu horren aurkako argudio bat da sari-ehiztariek ezin dutela aztertzen ari diren IA aldatu. Beraz, ez dago arriskurik AIarekin nahasteko eta testuinguru honetan AI bat-batean AI gidatzeko sistema zoro bihurtzeko. Sari-ehiztariek irakurtzeko soilik sarbidea dute. Harago joaten uztea ergelkeria eta akats izugarria izango litzateke.

Kontraargudio horren kontrako argumentua zera da: sari-ehiztariei zure IA aztertzen utziz eta sustatuz, gai osoa arriskutsua bihurtzen da. Sari-ehiztari horiek aurkitutako akatsak edo alborapenak ustiatzeko moduak aurki ditzakete. Baliteke ustiapen horiek helburu maltzuretarako izatea. Hobe izango zenuke zure etxera "lapurrik" ez gonbidatzea, nolabait esatearren. Artikulazioa kendu ondoren, azkenean arazo asko izango dituzu.

Bizitza edo heriotza-maila txikiagoa duten AI sistemak dituztenentzat, uste da oker egiten den sari-ehizaren oihartzunak askoz arrisku txikiagoak direla. Agian hala. Bestalde, enpresa batek diru-sariak usurpatzea lortzen duen AI sistema batean sartu badu, pentsa dezakezu ospe-kalteek eta beste kalte potentzialek oraindik kalte egingo dutela.

Ez dago doako bazkaririk AI bias sari-ehizari dagokionez.

Amaierako ohar azkar bat oraingoz.

Mendebalde Zaharrean Jesse James legez kanpoko ezaguna bilatu zutenean, "Wanted" kartel bat inprimatu zen, harrapatzeko 5,000 $-ko diru-sariak eskaintzen zituena ("hil ala bizi" adieraziz). Garai hartan diru kopuru izugarria zen. Bere koadrilako kide batek Jesse tiroz hil eta saria jasotzeko aukeratu zuen. Uste dut horrek erakusten duela sari bat zein eraginkorra izan daitekeen.

AI bias sari-ehiztariak erabiltzea ona izango da, edo txarra izango da?

AI-alborapeneko sari-ehiztarien ahalegin bat martxan jartzea aukeratzen baduzu, begiak zabal-zabalik edukitzea gomendatzen dizut eta sorbaldaren gainetik begira egotea uneoro. Hau zuhurra da zuretzat eta zure AIrentzat. Inoiz ez dakizu zer gerta litekeen, besteak beste, sari-ehiztari konbinatzaile batek nolabait ezkutuan txertatzen duela AI-ren alborapena zure AIan eta munduari oihu egiten diola zure AIan eskrupulurik gabeko AI-alborapena aurkitu duela. Beharbada, sari-saria bilatzeko saiakera ausart eta handi batean egiteaz gain, Jesse James ospetsua lortu zuen heroi bat aldarrikatuz.

Pentsatzera etorrita, AI sentikor bati ziurrenik ez zaio gustatuko hil ala biziko hornidura kezkagarri baten ideia hori, litekeena da larriki espekulatzea.