AI etika eta etorkizuneko hondamendia New York hiriko lege hori AI alborapenetarako auditoriak eskatzen dituenean martxan jartzen denean

Batzuetan, asmorik onena xehetasunei arreta falta larri batek zapuztu egiten du.

Jakinduria jakintsu honen adibide nagusi bat esploratzea merezi du.

Zehazki, ikus dezagun New York hirian 1ko urtarrilaren 2023ean indarrean sartuko den Adimen Artifizialaren (AI) buruzko lege berri bat. Erraz irabaz dezakezu apustu handi bat, nahasmena, harridura eta arazoak sortuko direlako. behin legea indarrean jartzen denean. Arazoak diseinuz ez badira ere, zalantzarik gabe, diseinu eskas baten ondorioz edo, gutxienez, erraz asmatu eta esplizituki adierazi beharko liratekeen beharrezko xehetasunen zehaztapen eskas baten ondorioz gertatuko dira.

Iaz 11eko abenduaren 2021n onartutako tokiko lege batez ari naiz, 2023. urtearen hasieran martxan jarriko den New York hiri errespetatuan. Momentu honetan, hilabete gutxi batzuk falta dira esnatze handitik. lege berri hau mugituko da. Nahiago nuke esango nuke asmo handiko legeak ezin hobeto egingo duela egin behar duena, hots, enpleguaren erabakiak hartzeko AIren alborapen potentzialei aurre egingo diela. Ai, asmoa laudagarria den arren, lege hau murrizten duten eta enpresaburuak zoratu egingo dituzten zirrikitu, hutsune eta zehaztasun faltan zehar ibiliko zaituztet, nahi ez diren baina nahiko kaltegarriak diren ondorioei aurre egin nahi dietelako.

Esan dezakezu erdi landutako plan batekin aurrera egiteko gai klasikoa dela. Dwight Eisenhoweri egotzitako maxima errespetatua zen plan bat ezer ez dela plangintza dena den bitartean. Laburbilduz, lege jakin honek adibide bizia emango du legegileek batzuetan huts egin dezaketenaren inguruan hausnarketa huts eginez. aldez aurretik beharrezkoak diren xehetasunak, legeak bere helburu txalogarriak bete ditzan eta zentzuzko eta zuhurtasunez onartu ahal izateko.

Debacle bat zain dago.

Dagoeneko aitzakiak jartzen ari dira.

Zenbait adituk esan dute ezin dela inoiz lege bat guztiz zehaztu eta ekintzan ikusi behar dela legearen zer alderdi moldatu behar diren jakiteko (kasu honetan neurriz kanpo okertzen ari den truismo orokorra). Gainera, gogor argudiatzen dute hori gertatzen dela AIrekin lotutako legeen berritasunari dagokionez. Arraioa, gomendatzen dute, AI goi-teknologiako sorginkeria da, legebiltzarkide gisa ezer gutxi dakiguna, beraz, logika dio lege orrietan zerbait jartzea hobe dela hor ezer ez edukitzea baino.

Azalean, zalantzarik gabe, hori limurgarria dirudi. Hala ere, sakondu eta potentzialki hooey dela konturatzen zara, barne eta bereziki lege zehatz honen kasuan. Lege hau erraztasun handiagoz eta zentzuz xedatu liteke. Ez dugu edabe magikorik behar. Ez dugu itxaron behar hondamendiak sortu arte. Legea landu zen garaian, idazkera eta xehetasun egokiak ezarri zitezkeen.

Ziurta dezagun, halaber, adopzio-alderdiak aldez aurretik asmatzea ezinezkoa dela dioen ideia desegokia dela. Legezko mumbo-jumbo eskuz astintzea da hutsuneena. Dagoeneko ezagutzen diren gogoeta ugari daude AI-alborapenei aurre egiteari eta AI-ikuskaritzak egiteari, lege honetan erraz egosi zitezkeenak. Gauza bera esan daiteke lege hori ezartzea aurreikusten duen beste edozein jurisdikzioz. Ez zaitez engainatu haize basatietara legezko dardo bat itsu-itsuan jaurtitzera eta larritasuna jasatera jo behar dugula soilik. Pentsamendu juridikoaren zati bat AIaren ulermen egokiarekin konbinatuta dagoeneko egingarria da eta ez dago lastoetatik soilik heldu beharrik.

Gaineratu dezaket, oraindik denbora dagoela hau zuzentzeko. Erlojuak martxan jarraitzen du. Baliteke iratzargailuak jotzen hasi aurretik esnatzea. Beharrezko aholkua atera eta ezagutarazi daiteke. Denbora laburra da, beraz, horri behar bezalako lehentasuna eman behar zaio.

Edonola ere, mesedez, ziurtatu hemen enfasia ulertzen ari zarela.

Utzidazu sutsuki argitzen AIaren alborapenei buruzko lege horrek meritua duela. Momentu batean zergatik azalduko dut. Lege berri honek zer arazo dituen ere deskribatuko dut, askok esango luketen lege-liburuetan jarri den lehena dela (beste aldakuntza batzuk badaude, agian ez hau bezalakoak).

Izan ere, espero dezakezu pixkanaka antzeko legeak sortuko direla herrialde osoan. Kezka aipagarri bat da New York hiriko lehen mugimenduko saiakera hau gaizki ateratzen bada, gainerako herrialdeak lege horiek ezartzeko kontuz ibiltzea eragin dezakeela. Hori ez da ikasi beharreko ikasgai egokia. Ikasgai zuzena da halako lege bat idatziko baduzu, egin ezazu zentzuz eta kontuan hartuz.

Azterketa egokirik gabe liburuetara botatako legeak nahiko kezkagarriak izan daitezke eta era guztietako zailtasunak sor ditzakete. Zentzu horretan, mesedez, ez bota haurra bainurako urarekin (esaera zahar bat, ziurrenik erretiratu beharko litzateke). Kontua da lege horiek benetan emankorrak eta babesgarriak izan daitezkeela behar bezala osatuta.

Bereziki honek, zoritxarrez, ez du atetik aterako.

Mota guztietako gidaritza izugarriak legearen eragile eta betearazleengandik etorri behar dira. Markatu zure egutegiak urtarrila amaierarako eta 2023ko otsailera arte nahasmendua sortzen den ikusteko. Hatz-seinaleak izugarri biziak izango dira.

Inor ez da bereziki txaloka ari oraintxe, legea oraindik ez baita lehorreratu lege berriak zonkatutako enpresaburuen buruetan. Imajinatu 2023ko hasierako asteetan gertatuko den lurrikara bat dela metaforikoki hitz eginez. Gutxi dira lurrikararako prestatzen. Askok ez dakite lurrikara dagoeneko egutegian sartuta dagoenik. Hori guztia esanda, behin lurrikara gertatutakoan, oso harrituta eta harrituta dauden negozio askok galdetuko dute zer gertatu den eta zergatik gertatu behar den nahastea.

Horrek guztiak AI Etikaren inplikazio nabarmenak ditu eta ikasitako ikasgaietarako leiho erabilgarri bat eskaintzen du (ikasgai guztiak gertatu baino lehen ere) IA legeztatzea saiatzeko orduan. AI Etikari buruz dudan etengabeko estaldura zabalagatik, AI etikoa, AI Legearekin batera, AIren gobernantzaren alderdi juridikoen artean aurki daiteke. esteka hemen esteka hemen, batzuk besterik ez aipatzearren.

Zorigaitzezko istorio juridiko hau egungo AIaren inguruan sortzen ari ziren kezkekin erlazionatzen da eta, batez ere, Machine Learning (ML) eta Deep Learning (DL) erabilera teknologia gisa eta nola erabiltzen den. Ikusten duzu, badaude ML/DL-ren erabilerak publikoak AI antropomorfizatua izatea inplikatzeko joera dutenak, ML/DL AI sentikorra dela edo gertukoa dela sinetsiz edo hautatzeko (ez da). Horrez gain, ML/DL-k eredu konputazionalaren parekatze-alderdiak izan ditzake desiragarriak edo guztiz desegokiak edo legez kanpokoak diren etika edo legezko ikuspegitik.

Baliagarria izan liteke lehenik eta behin zer esan nahi dudan argitzea AI orokorrean aipatzean eta, gainera, Machine Learning eta Deep Learning-en ikuspegi labur bat eskaintzea. Nahasmen handia dago Adimen Artifizialak zer esan nahi duen. AI Etikaren manuak ere aurkeztu nahi nizkizuke, diskurtso honen gainerakoan bereziki integralak izango direnak.

AIri buruzko erregistroa adieraziz

Ziurta dezagun orrialde berean gaudela gaurko AIaren izaerari buruz.

Gaur egun ez dago sentikorra den AIrik.

Ez dugu hau.

Ez dakigu AI sentikorra posible izango den. Inork ezin du ongi iragar AI sentikorra lortuko dugun ala ez, ezta AI sentikorra nolabait mirakuluz berez sortuko den supernoba kognitibo konputazional batean (normaltasun berezitasuna deitzen dena, ikusi nire estaldura hemen. esteka hemen).

Konturatu gaur egungo IA ez dela gai giza pentsamenduaren parean "pentsatzeko". Alexa edo Sirirekin elkarreragiten duzunean, elkarrizketa gaitasunak giza gaitasunen antzekoak dirudite, baina errealitatea da konputazionala dela eta giza ezagutza falta dela. AIaren azken aroak asko erabili ditu Machine Learning eta Deep Learning, eredu konputazionalak parekatzea baliatzen dutenak. Horrek gizakiaren antzeko joerak dituzten AI sistemak ekarri ditu. Bien bitartean, gaur egun ez dago zentzu arruntaren itxura duen AIrik eta giza pentsamendu sendoaren harridura kognitiborik ere ez duenik.

Arazoaren zati bat ordenagailuak eta batez ere AI antropomorfizatzeko dugun joera da. Sistema informatiko batek edo AI batek giza jokabidearekin lotzen dugun moduan jokatzen duela dirudienean, ia erabateko gogoa dago giza ezaugarriak sistemari egozteko. Ohiko tranpa mentala da, sentiberatasunera iristeko aukeren inguruan eszeptikorik intransigenteena ere har dezakeena.

Neurri batean, horregatik AI Etika eta AI etikoa gai erabakigarria da.

AI Etikaren aginduek adi egoteko garatzen gaituzte. AI teknologoak batzuetan teknologiarekin kezkatu daitezke, batez ere goi-teknologiaren optimizazioan. Ez dira zertan gizartearen adar handiagoak kontuan hartzen. AI Etikaren pentsamoldea izatea eta AI garapenean eta eremuan modu integralean egitea ezinbestekoa da AI egokia ekoizteko, enpresek AI Etika nola hartzen duten ebaluatzeko barne.

Orokorrean AI Etika manuak erabiltzeaz gain, dagokio galdera bat dago AIaren hainbat erabilera arautzeko legeak izan behar ote ditugun. Lege berriak zabaltzen ari dira federal, estatu eta tokiko mailan, AI nola sortu behar den sorta eta izaerari buruzkoak. Horrelako legeak egiteko eta indarrean jartzeko ahalegina pixkanaka da. AI Etikak geldiune gisa balio du, gutxienez, eta ia ziur aski neurri batean zuzenean sartuko da lege berri horietan.

Kontuan izan batzuek irmo esaten dutela ez dugula IA estaltzen duten lege berririk behar eta gure lehendik dauden legeak nahikoak direla. Aurrez ohartarazten dute AIren lege horietako batzuk ezartzen baditugu, urrezko antzara hilko dugula gizartearen abantaila izugarriak eskaintzen dituzten AIren aurrerapenei eutsiz. Ikusi adibidez nire estaldura helbidean esteka hemen.

Aurreko zutabeetan, AI arautzen duten legeak landu eta abian jartzeko nazioko eta nazioarteko hainbat ahalegin azaldu ditut, ikusi esteka hemen, adibidez. Hainbat naziok identifikatu eta onartu dituzten AI Etikaren printzipio eta jarraibide ezberdinak ere aztertu ditut, besteak beste, Nazio Batuen ahalegina, adibidez, ia 200 herrialdek onartutako AIren UNESCOren multzoa, ikusi. esteka hemen.

Hona hemen lehendik gertutik aztertu ditudan AI sistema etikoen irizpide edo ezaugarrien giltzarri lagungarri bat:

• Transparency
• Justizia eta zuzentasuna
• Ez-Malefizia
• Erantzukizun
• Pribatutasuna
• Ongintzaren
• Askatasuna eta Autonomia
• Fidatu
• Iraunkortasun
• duintasuna
• Elkartasuna

AI Etika-printzipio horiek AI garatzaileek benetan erabili behar dituzte, AI garapenerako ahaleginak kudeatzen dituztenekin batera, eta baita, azken finean, AI sistemetan mantentzea lantzen eta egiten dutenekin batera. AIaren garapen eta erabileraren bizitza-ziklo osoan parte hartzen duten eragile guztiak AI Etikoaren ezarritako arauak betetzearen esparruan hartzen dira kontuan. Garrantzi handiko aipamena da hau, ohiko suposizioa delako "kodetzaileak" edo AI programatzen dutenek AI Etika nozioei atxikitzeko menpe daudela. Aurretik hemen azpimarratzen den bezala, herri bat behar da AI asmatzeko eta lantzeko, eta, horretarako, herri osoak AI Etika aginduak ezagutu eta bete behar ditu.

Utz ditzagun gauzak lurrean eta zentratu gaitezen gaur egungo AI konputazionalean.

ML/DL eredu konputazionalaren parekatze modu bat da. Ohiko planteamendua erabakiak hartzeko zeregin bati buruzko datuak biltzea da. Datuak ML/DL ordenagailu ereduetara elikatzen dituzu. Eredu horiek eredu matematikoak aurkitu nahi dituzte. Eredu horiek aurkitu ondoren, aurkituz gero, AI sistemak eredu horiek erabiliko ditu datu berriak topatzerakoan. Datu berriak aurkeztean, datu "zahar" edo historikoetan oinarritutako ereduak aplikatzen dira egungo erabakia emateko.

Uste dut hau nora doan asma dezakezula. Erabakien eredua hartzen ari diren gizakiek alborapen txarrak sartu badituzte, litekeena da datuek modu sotil baina esanguratsuan islatzea. Machine Learning edo Deep Learning konputazio-ereduen parekatzea besterik ez da saiatuko datuak matematikoki imitatzen. Ez dago zentzu arruntaren edo beste alderdi sentikorren itxurarik AI-n landutako modelizazioaren berez.

Gainera, AI garatzaileak agian ez dira konturatzen zer gertatzen ari den. ML/DL-ko matematika arkanoak zaildu lezake orain ezkutuko alborapenak atzematea. Ziurrenik espero eta espero zenuke AI garatzaileek lurperatuta egon daitezkeen alborapenak probatuko dituztela, nahiz eta badirudi baino zailagoa den. Aukera sendoa dago, nahiz eta proba nahiko zabalak izan, ML/DL ereduak parekatzeko ereduetan oraindik txertatutako alborapenak egongo direla.

Garbage-in garba-out-en esaera ospetsua edo gaiztoa zertxobait erabil dezakezu. Kontua da, hau AIaren barnean murgiltzen diren alborapenak maltzurki sartzen diren alborapenen antzekoagoa da. AIren algoritmoen erabakiak hartzea (ADM) axiomatikoki desberdintasunez kargatzen da.

Ez da ona.

Uste dut orain agertokia prestatu dudala nahikoa eztabaidatzeko AIren papera uzteko isiltasunaren errubrikaren barruan.

Enplegu Erabakiak Harketan erabiltzen den IA

New Yorkeko legeak enpleguaren erabakiak hartzeko gaia du ardatz.

Azkenaldian lurreko ia edozein lekutan lan moderno bat eskatzen saiatu bazara, ziurrenik AI-n oinarritutako elementu bat topatu duzu enpleguaren erabakiak hartzeko prozesuan. Noski, baliteke ez jakitea hor dagoela, eszenaren atzean ezkutatu zitekeelako eta ez zenuke AI sistema bat parte hartu izana antzemateko modurik izango.

AI sistema hauek aipatzeko erabiltzen den esaldi arrunta kontuan hartzen direla da Enplegu Erabaki Automatizatuko Tresna, AEDT gisa laburtua.

Ikus dezagun nola definitzen zituen NYC legeak enpleguaren erabakiak hartzea dakarren tresna edo aplikazio hauek:

• "Enplegu erabakitzeko tresna automatizatua" terminoak esan nahi du edozein prozesu konputazional, ikaskuntza automatikotik, modelizazio estatistikotik, datuen analisitik edo adimen artifizialetik eratorria, emaitza sinplifikatuak ematen dituena, puntuazioa, sailkapena edo gomendioa barne, nabarmen laguntzeko edo laguntzeko erabiltzen dena. pertsona fisikoei eragiten dieten enplegu-erabakiak hartzeko erabaki diskrezionalak ordezkatzea. "Enpleguaren erabaki automatizatuko tresna" terminoak ez du barne hartzen erabakiak hartzeko prozesu diskrezionalak automatizatzen, onartzen, nabarmen laguntzen edo ordezkatzen ez dituen tresnarik eta pertsona fisikoengan eragin materialik ez duena, zabor-mezu elektronikoen iragazkia barne, baina ez bakarrik. suebakia, birusen aurkako softwarea, kalkulagailua, kalkulu-orria, datu-basea, datu-multzoa edo beste datu-bilketa batzuk" (NYC, Int 1894-2020, 25. azpikapitulua, 20-870 artikulua).

Hitzaldi hau laburki aztertuko dut, legearen izaera eta esparru osorako ezinbestekoa baita.

Lehenik eta behin, nire idatzietan askotan esan dudan bezala, AIari buruzko legeak idaztean oztoporik zailenetako bat AI-a zer esan nahi duen behar bezala zehazten saiatzean datza. Ez dago denek lurreratu duten legez balen aurkako estandar berezirik. Definizio mota guztiak daude. Batzuk lagungarriak dira, beste batzuk ez. Ikusi nire analisiak hemen esteka hemen.

Pentsatzeko tentazioa izango duzu ez duela bereziki axola AI nola defini genezakeen. Barkatu, baina oker egongo zinateke horretan.

Arazoa da lege jakin batean AI definizioa lausoki zehazten bada, AI garatzen dutenei legearen inguruan saiatzea ahalbidetzen diela, bere softwarea edo sistema AI-n sartuta ez dagoela esanez. Ausardia handiz argudiatuko lukete legea ez dela beren softwareari aplikatzen. Era berean, softwarea erabiltzen duen norbaitek legeak berari dagokiola ere esan lezake, erabiltzen ari den softwarea edo sistema legeak adierazitako AI definiziotik kanpo baitago.

Gizakiak delikatuak dira horrela.

Zuk onartzen ez duzun lege batek zapaldu ez ditzan modurik buruenetariko bat legea ez zaizula aplikatzen baieztatzea da. Kasu honetan, AEDTren definizioa zatika kentzea bilatuko zenuke. Zure helburua, legeak zure bizkarrean egotea nahi ez duzula suposatuz, legeak legean ematen den definizioa zure enpleguarekin lotutako sistema informatikoa zein den edo egiten duen okerra dela argudiatzea izango litzateke.

Mota honetako lege bat lagungarri izan daiteke eta, gainera, batzuetan murrizten da, definizioan nahita baztertutako xedapenak sartuta.

Begiratu berriro lege honetan esaten den AEDTren definizioari. Zorionez, ikusi zenuten salbuespen-klausula bat dagoela dioena: "... ez du barne hartzen ez duen tresnarik, erabakiak hartzeko prozesu diskrezionalak automatizatzen, onartzen, funtsean laguntzen edo ordezkatzen ez dituena eta pertsona fisikoengan eragin materialik ez duena...".

Alde batetik, bazterketa hori sartzeko oinarria guztiz lagungarria da.

Badirudi iradokitzen ari dela (nire profanoaren iritziz) AEDTk helburu zehatz bat eman behar duela eta modu substantibo batean erabili behar duela. AEDT apur bat edo periferikoa bada, eta enpleguaren erabakia oraindik gizakiaren eskuz egina bada, agian erabiltzen ari den software-sistema ez da AEDT gisa ulertu behar. Gainera, softwareak edo sistemak ez badu “materialki” pertsona fisikoei (gizakiak) eragiten, orduan ez dirudi suari oinak eustea merezi.

Zentzuz, ez duzu nahi lege batek bere hedadura gainditzea eta sukaldeko harraska barne dena irentsi denik. Hori egitea funtsean bidegabea eta zamagarria da legeak barneratu nahi ez zituenentzat. Sare guztiak harrapatzeko sare horietako baten antzera jarduten duen zingira batean harrapatu daitezke. Ustez, gure legeek kontuz ibili beharko lukete errugabeak legearen esparrura arrastatzea saihesteko.

Dena ondo eta ona.

Abokatu aditu batek konturatuko du salbuespen-klausula bat espetxetik irteteko legezko txartel moduko bat izan daitekeela (alde batera utzita, lege jakin honek zigor zibilak ezartzen ditu, ez zigor penalak, beraz, kartzelatik atera oharra metaforikoa besterik ez da eta zaporetsutasunagatik). Norbaitek esango balu enpresa batek AEDT bat erabiltzen ari zela enplegua prozesatzeko, erreklamazio hori gainditzeko lehen moduetako bat AEDT deritzona benetan eremu baztertzailean zegoela argudiatzea izango litzateke. AEDT delakoak ez duela erakusten saiatuko zara automatizatzeko enpleguaren erabakia, edo ez laguntza enpleguaren erabakia, edo ez nabarmen lagundu or ordeztu erabakiak hartzeko prozesu diskrezionalak.

Ondoren, "automatizatu", "laguntza", "funtsean lagundu" edo "ordezkatu" hitzek testuinguru honetan zer esan nahi duten identifikatzeko bide bihurritik joan zaitezke. Nahiko erabilgarria da legezko untxi-zuloa. Sinesgarria den kasua egin liteke software edo sistema AEDT bat dela ustezko zantzu baztertzaileen parte dela. Beraz, ez kalterik, ez gaizkilerik, lege berezi honi dagokionez.

Jakina, lizentziadun abokatuei kontsultatu behar zaie horrelako gaietarako (hemen ez da lege-aholkularitzarik adierazten eta hau erabat laikoen iritzia da).

Nire kontua da lege berri honetan mugikortasuna egongo dela. Wiggle aretoak AEDT bat benetan erabiltzen ari diren enpresaburu batzuei AEDT erabilerari aurre egiteko zirrikitua aurkitzeko aukera emango die. Txanpon horren beste aldea da lege honek harrapatuko duen AEDT bat benetan erabiltzen ez duten enpresak egon daitezkeela. Erabiltzen ari zirena AEDT bat zela erreklamatu liteke, eta beren softwarea edo sistemak AEDTtik kanpo eta xedapen baztertzailean sartu zirela erakusteko bitarteko bat aurkitu beharko dute.

Iragarpen ausart hau egin dezakegu:

• Zalantzarik gabe, enpresaburuak egongo dira jakitun AEDT bat erabiltzen ari direnak, beren legezko erantzukizunetatik irteten saiatuko direnak.
• Ezinbestean AEDT erabiltzen ez duten enpresaburuak egongo dira AEDT bat erabiltzen ari direlako erreklamazioetan nahastuta, eta AEDT bat erabiltzen ez dutela erakusteko ahalegin "gehiago" bat egin behar izango dute.

Eztabaida honetan aurrera egiten dugunean permutazio eta konbinazio ugari hauek gehiago azalduko ditut. Askoz lur gehiago dugu zapaltzeko.

Berez AEDT bat erabiltzea ez da kezka erakusgarriak sortzen dituen arazo honen zatia, AEDT-k bere ekintzak nola egiten dituen baizik eta lege-iragarpena lortzen duena. Funtsa hauxe da: AEDT-k agian enplegu-erabakiak hartzearekin lotutako alborapenak sartzen baditu, orduan potentzialki ur beroan zaudela (beno, nolabait).

Nola jakingo dugu AEDT batek AIz betetako alborapenak sartzen dituen ala ez enpleguaren erabakiak hartzeko ahaleginean?

Lege honen arabera erantzuna AI auditoria bat egin behar dela da.

Aurretik eta maiz landu dut AI auditoreten izaera eta zer diren, dauden alde txarrak eta gaizki definitutako alderdiak ohartzearekin batera, esate baterako. esteka hemen esteka hemen, antzeko beste mezu askoren artean. Besterik gabe, ideia da enpresa baten finantza-ikuskaritza bat egin dezakezun bezala edo sistema informatiko batekin lotutako teknologia-ikuskaritza bat egin dezakezula, AI sistema batean auditoria bat egin dezakezula. Ikuskaritza teknika, tresna eta metodo espezializatuak erabiliz, AI sistema bat zertan datzan aztertu eta ebaluatzen duzu, besteak beste, mota bateko edo besteko alborapenak dituen egiaztatzen saiatuz.

Hau hazten ari den arreta eremua da.

AI ikuskaritzari eskainitako ikuskaritzaren azpiesparru hau hazten jarraituko duela espero dezakezu. Igartzen da gero eta AI sistema gehiago merkaturatuko ditugun heinean, eta, aldi berean, gero eta aldarrikapen handiagoa izango dela AI auditoretzak. Lege berriek hori pizten lagunduko dute. Lege horiek gabe ere, AI auditoretzak ugari izango dira, pertsonek eta enpresek AIren kalteak jasan dituztela baieztatzen baitute eta kaltea egon zela eta erabiltzen ari den AIarekin lotuta dagoela frogatu nahi izango dute.

AI ikuskariak beroak eta eskaera handia izango dira.

Lan zirraragarria izan daiteke. Elementu zirraragarri batek AIren azken eta handienean murgiltzea dakar. AIk aurrera jarraitzen du. Hori gertatzen den heinean, AI ikuskari aditu batek behatzak mantendu beharko ditu. Eguneroko ohiko auditoriak egiteaz nekatuta dagoen ikuskaria bazara, beti irekiko den AI auditoretza arloko eskaintzak agintzen du (hau diot ikuskarien maila partzialki igotzeko, askotan lubakietan lan egiten duten heroi ezezagunak baitira eta beren esfortzuengatik baztertuta egon ohi dira).

Alde batera utzita, sistema informatikoen auditore ziurtatua izan naiz (halako izendapen bat CISA da) eta hainbat aldiz egin ditut IT (Informazio Teknologiak) auditoriak urte askotan zehar, AI auditoriak barne. Gehienetan, ez duzu horrelako ahaleginengatik merezi duen aitortzarik lortzen. Ziurrenik asmatuko duzu zergatik. Oro har, ikuskariek gaizki dauden edo hautsitako gauzak aurkitu ohi dituzte. Zentzu horretan, nahiko lagungarriak izaten ari dira, nahiz eta batzuek berri txartzat har dezaketen, eta berri txarren mezularia ez da bereziki idulki batean jartzen.

Itzuli esku artean dugun gaira.

NYC legeari dagokionez, hona hemen legeak zer dioen AI ikuskaritzari buruz eta AIaren alborapenak aurkitzeari buruz:

• "Alborapenaren auditoretza" terminoak ikuskatzaile independente batek egindako ebaluazio inpartziala esan nahi du. Alborapen-ikuskaritza horrek enplegua erabakitzeko tresna automatizatu bat probatzea barne hartuko du, 1e-2000 artikuluaren c) idatz-zatiaren arabera, enplegatzaileek 8e-42 artikuluaren c) idatz-zatiaren arabera tresnak 1602.7. osagaietako edozein kategoriatako pertsonengan duen eragin desberdina ebaluatzeko. Estatu Batuetako kodearen 29. arau federalen kodearen 1894. tituluko 2020 zatian zehazten den moduan” (NYC, Int 25-20, 870. azpikapitulua, XNUMX-XNUMX artikulua).

Laburbilduz, hona hemen orain arte lege hau desegitean non gauden:

• Legeak Enplegu Erabakitzeko Erreminta Automatizatuak (AEDT) estaltzen ditu
• AEDT zer den identifikatzeko motaren definizio bat sartzen da
• AEDTren definizioak xedapen baztertzaileak ere aipatzen ditu
• Kontua da legeak AEDT-n AI-alborapenak agerian utzi nahi dituela
• AI alborapenak dauden jakiteko, AI auditoria bat egin behar da
• AI ikuskaritzak ustez, AIaren alborapenak ezagutaraziko ditu

Ondoren, legea pixka bat gehiago sakondu dezakegu.

Hona hemen enplegu-erabaki bat zertan datzan:

• "Enplegu-erabakia" terminoak enplegurako hautagaiak edo hirian sustatzeko langileak hautatzea esan nahi du" (NYC, Int 1894-2020, 25. azpikapitulua, 20-870 artikulua).

Kontuan izan "hiriaren" alderdi mugatzaileak iradokitzen duela gaiak NYC-ko enpleguarekin lotutako egoerak soilik lantzen dituela. Era berean, nabarmentzekoa da definitutako enplegu-erabaki batek hautagaiak hautatzea dakarrela, hau da, enplegu-erabaki gisa pentsatzen dugunaren ohiko konnotazioa, eta promozioak ere barne hartzen ditu.

Hau zartada bikoitza da, enpresek konturatu beharko dutela beren AEDT (bat erabiltzen ari badira) hasierako enplegu-ezarpenetarako eta enpresa barruan sustatzeko orduan nola erabiltzen den jakin behar dutela. Litekeena da enpresa askok ez dutela nahiko jakingo sustapen-elementua errubrika honen barruan dagoela. Ezinbestean ahaztuko dute eraikuntza osagarri hori beren arriskuan.

Jarraian, legearen zati gako gehigarri bat emango dut lege honek legez kanpokotzat jotzen denaren funtsa argitzeko:

• “Enplegu erabakitzeko tresna automatizatuen baldintzak. a. Hirian, legez kanpokoa izango da enplegatzaile batek edo enplegu-agentzia batek enplegua erabakitzeko tresna automatizatu bat erabiltzea hautagaia edo langilea enpleguaren erabakia hartzeko, salbu eta: 1. Tresna hori ez bada egin den alborapen-ikuskapen baten gaia. tresna hori erabili baino urtebete lehenago; eta 2. Tresna horren azken alborapenaren ikuskapenaren emaitzen laburpena eta auditoretza hori aplikatzen zaion tresnaren banaketa-data publikoki eskuragarri jarri da enpresaburuaren edo enplegu-agentziaren webgunean, erabili aurretik. tresna hori...” (NYC, Int 1894-2020, 25. azpikapitulua, 20-871 artikulua). Begiratu nahi dituzun azpiklausula osagarriak daude, lege-idazkera biziki interesatzen bazaizu.

Eszeptikoek eta kritikek argudiatu dute hori epel samarra dirudiela legez kanpoko jarduerari buruz.

Esaten dute legeak modu estuan eta gutxienean jartzen duela arreta realización AI auditoria bat eta publizitatea emaitzak, baizik eta AIren auditoriak AIaren alborapenak aurkitu dituen ala ez eta horrek lege honen esparruan sartzen diren enplegu-erabakiak hartzerakoan izan dituen ondorioak. Funtsean, itxuraz legez kanpokoa da ez Aukeratu AI auditoria hori egitea (hala badagokio, lehen aipatu dugun moduan), eta kasu horretan ere legez kanpokoa da AI auditoria egiten baduzu baina egiten baduzu. ez ezagutarazi.

Legeak isildu egiten du AI-alborapenak detektatu eta presente dauden ala ez galderari buruz. Era berean, isiltasuna AI-alboramenduek enpleguaren erabakiak hartzeko jarduera nabarmen batekin lotutako inori eragin zioten ala ez. Gakoa itxuraz argi eta garbi "soilik" AI auditoria bat egitea eta horren berri ematea da.

Lege hau ez al da nahikoa urrun?

Lege honek barne hartzen duenaren barrutiari edo irismenari dagokionez, hori itxuraz pozgarria dela esatearen aurkako argudioaren zati bat da AIren auditoretzak AIaren alborapenak aurkitzen baditu eta AIaren alborapen horiek enpleguaren erabakiak hartzeko instantzia jakin batzuei lotuta badaude, pertsona horrek. edo kaltetutako pertsonek enpresaburuari jarraitzeko gai izango lirateke beste legeak. Beraz, ez dago zertan alderdi hori lege zehatz honetan sartu.

Ustez, lege honek horrelako gaiak argitara atera nahi ditu.

Praktika gaizto horiei argia ematen zaienean, beste bide juridiko guztiak jorratu ahal izango dira AIaren alborapenak existitzen badira eta pertsonengan eragina badute. Lege hori gabe, argudioa dio AEDT-ak erabiltzen dituztenek hori egingo luketela, seguru asko, axolagabekerian eta potentzialki AI-alborapen ugari izan ditzaketela, eta, horretarako, enplegua bilatzen dutenek edo promozioak bilatzen dituztenek ez lukete jakingo gertatzen ari dela.

Ekarri itzazu azalera. Esan iezaiezu. Sar zaitez kaputxa azpian. Ikusi zer dagoen motor horren barruan. Hori da kasu honetan mantra. Agerraldi eta kontakizun horretatik, ekintza osagarriak egin daitezke.

AI auditoria batek agian AI alborapenak egon zirela argitzeaz gain, emaitza horiek argitaratzeak ospe-oihartzunak ekarriko dituela uste da. AI alborapenak dituzten AEDTak erabiltzen dituztela erakusten ari diren enpresaburuek gizartearen haserreak jasango dituzte, esate baterako, sare sozialen eta antzekoen bidez. Haien gaiztakeriagatik agerian geratuko dira eta euren jokabidea zuzentzeko lotsatuta geratuko dira, eta baliteke bertan lan egin nahi duten pertsonak gabe geratuko direlako, AIaren alboramenduek kontratazioa edo promozioak usurpatzen dituztelako.

Legez kanpokoa izatearekin lotutako zigorrak hauek dira:

• «Zigorrak. a. Azpikapitulu honetako xedapenen bat edo azpikapitulu honen arabera promulgatutako edozein arau urratzen duen pertsona orok 500 $ baino gehiagoko zigor zibila izango du lehen arau-hauste batengatik eta urraketa gehigarri bakoitza lehen arau-haustearen egun berean gertatzen denean, eta gutxienez. 500 $ edo $ 1,500 baino gehiago ondorengo urraketa bakoitzeko” (NYC, Int 1894-2020, 25. azpikapitulua, 20-872 artikulua). Begiratu nahi dituzun azpiklausula osagarriak daude, lege-idazkera biziki interesatzen bazaizu.

Eszeptikoek eta kritikek diote zigorrak ez direla nahiko gogorrak. Enpresa handi batek trufa egingo luke edo barre egingo luke dakartzan dolarreko isun txikiekin. Beste batzuek adierazi dute isuna begiz ikusten baino gehiago izan daitekeela, hala nola, enpresa batek egunero mila dolar urraketa izango balu (egoera bakarra, beste eszenatoki asko daude), urtebeteko balioa izango litzateke. 365,000 $, enpresak urtebetez legeari jaramonik egin gabe utzi eta hori egiteaz gain (imaginatzea zaila dirudi, baina gerta liteke, eta baita gehiago ere gerta liteke edo eguneroko isunen gailurra handiagoa izateko, teorian).

Bien bitartean, batzuk kezkatuta daude negozio txikiagoekin eta lotutako isunek. Ozta-ozta dirua lortzen ari den enpresa txiki bati isunekin kolpatzen bazaio, eta ustez legea saihesteko nahita egin ez badu, isunek eragin materiala izan dezakete beren negozioa.

The Keystone Problematic Considerations At Issue

Galdera sinple eta zuzen bat daukat zuretzat.

Lege honen testuinguruan, zer da zehazki AI auditoria bat?

Arazoa da, legearen kontakizunaren barruan ez dago behin betiko zantzurik. Badirudi esaten zaiguna da "alborapenaren auditoretza" "ikuskari independente batek egindako ebaluazio inpartzial baten bidez" (legearen idazkeraren arabera) egin behar dela.

Mac kamioi bat gidatu dezakezu zulo zabal horretatik.

Hona hemen zergatik.

Demagun adibide kezkagarri hau. Iruzurgile bat NYC-ko enpresa batekin harremanetan jartzen da eta bere AEDT-ren "alborapen-ikuskaritza" deritzona egingo duten zerbitzu bat eskaintzen dutela azaltzen du. Hori "inpartzialki" egingo dutela hitzeman dute (horrek esan nahi duena edozein dela ere). Auditore independente gisa eusten dute beren burua, eta bat bezala gantzutu dute beren burua. Ez da inolako kontabilitate edo auditoretzako prestakuntzarik, titulurik, ziurtagiririk edo horrelakorik behar. Beharbada, negozio-txartel batzuk inprimatzera edo euren auditore independentea erakusten duen webgunea azkar jartzen dute.

100 $-ko kuota xume bat kobratuko diote enpresari. Haien zerbitzua agian AEDTri buruzko galdera batzuk egitean datza eta, ondoren, AEDT alborapenik gabekoa dela aldarrikatzean datza. Ondoren, orrialde bateko tamaina duen txosten bat bidaltzen dute eta auditoretza deritzonaren “emaitzak” deklaratzen ditu. Enpresak behar bezala argitaratzen du hau bere webgunean.

Enpresak bete al du lege hori?

Esaten didazu.

Badirudi.

Baliteke berehala harrituko zaizu auditoria modu laburrean egin izana (eszenatoki zehatz honetan adeitsu eta eskuzabala izatea da). Baliteke alborapenaren detekzioa (edo horren falta) funtsean aldez aurretik zehaztuta zegoelako kezkatuta egoteak (voila, alborapenik gabekoa dirudizu). Agian atsekabetuta egongo zara argitaratutako emaitzek ikuskatzaile ondu, trebatu, esperientziadun eta egiaztatutako ikuskari zorrotz batek gainditu izanaren aura eman dezaketelako.

Bai, horrek tamaina handitzen du.

Enplegatzaile bat lasaitu liteke baldintza "tonto" hori bete izana eta pozik egongo da 100 dolar eskasak baino ez dituelako kostatzen. Enplegatzaileak barrutik eta isil-isilik konturatu zitekeen auditoretza independentea txarto bat zela, baina hori ez omen dago erabakitzea. Erreklamatutako auditore independente batekin aurkeztu zitzaien, auditoreak auditoreak esandako lana egin zuen, enpresak ordaindu zuen, emaitzak lortu zituzten eta emaitzak argitaratu zituzten.

Enpresaburu batzuek hori egingo dute eta legearen keinu-keinua betetzen ari direla ohartuko dira. Hala ere, guztiz betetzen ari direla uste izango dute.

Beste enpresaburu batzuk iruzur egin ditzakete. Ezagutzen dutena da legea bete beharra. Zorionez beraientzat (edo hori suposatzen dute), "auditore independentea" haiekin harremanetan jartzen da eta kexa-ikuskaritza eta emaitza 100 $-ren truke izan daitezkeela agintzen du. Egunero 500 dolar edo gehiagoko isun hori saihesteko, enpresak zerutik opari bat eman dietela uste du. 100 dolar ordaintzen dituzte, "ikuskaritza" egiten da, doako osasun-faktura bat lortzen dute beren AI alborapenik ezaren inguruan, emaitzak argitaratzen dituzte eta hau ahazten dira horrelako beste auditoretza bat egin behar duten hurrengo aldira arte. .

Nola jakin behar da lege honen menpe dagoen NYCko enpresa bakoitzak zer den legea egiazko betetzea?

Dagoeneko urdaileko nahasterik ez baduzu, gauzak okerrera egin ditzakegu. Espero dut azken orduetan bazkaririk ez izana hurrengo bira oso-osorik mantentzea zaila izango dela.

Prest al zaude?

Zerbitzu-hornitzaile faltsu hau uste zenezakeena baino itxuragabeagoa da. Enpresari 100 $ zerbitzuan erregistratzea lortzen dute alborapen inpartzialaren auditoretza auditore independente gisa egiteko. Hara, “ikuskaritza” egiten dute eta AEDTko txoko eta txoko guztietan alborapenak daudela deskubritzen dute.

Labezomorroen infestazioa bezalako AI alborapenak dituzte.

Bai, dio enpresak, zer egin dezakegu horri buruz?

Ez dago arazorik, esaten zaie, AI alborapen horiek konpondu ditzakegu. 50 dolar besterik ez dituzu kostatuko aurkitutako alborapen bakoitzeko. Ados, enpresak dio, mesedez, konpondu itzazu, eskerrik asko hori egiteagatik. Zerbitzu-hornitzaileak kodeketa pixka bat egiten du eta enpresari esaten dio ehun AI alborapen konpondu dituztela, eta, beraz, 5,000 $ kobratuko dizkiela (hori da 50 $ konpondu beharreko AI alborapen bakoitzeko, aurkitutako 100ekin biderkatuta).

Ai, enpresa apurtuta sentitzen da, baina oraindik hobe da eguneko 500 $ edo gehiagoko urraketari aurre egitea baino, beraz, "ikuskari independenteari" ordaintzen diote eta, ondoren, orain alborapenik gabe daudela erakusten duen txosten berri bat jasotzen dute. Hau harro argitaratzen dute euren webgunean.

Ez dakite hau iruzur bat, iruzurra, iruzur bat izan zela.

Baliteke zerbitzu-hornitzaile hau beren trikimailuagatik zigortu behar dela azpimarratu. Trikimailu hauek harrapatzea eta geldiaraztea imajina dezakezuena baino askoz zailagoa izango da. Zuretzat dirua duten atzerriko printze horien atzetik joatea bezala, litekeena da Estatu Batuetako legetik kanpo dagoen atzerriko lurralde batzuetan egotea, kasu honetan ere gauza bera gerta liteke.

Lege berri honen ondorioz landa-industria bat sortuko dela espero.

Zerbitzu hauek eskaini nahi dituzten egiazko auditoreak egongo dira. Haientzat ona. Lan honen atzetik joango diren ikuskari zirriborratuak egongo dira. Lan honen atzetik doazen auditore faltsu aldarrikatuak egongo dira.

Aipatu nuen zerbitzu hornitzaileen eszenatokiak 100 $ eskatzea AI auditoria deritzona egiteko. Hori osatutako leku-marka bat besterik ez zen. Agian batzuek 10 $ kobratuko dituzte (zirriborratua dirudi). Agian $ 50 (oraindik zirriborratuta). Etab.

Demagun zerbitzu-hornitzaileak esaten duela 10,000 $ kostatuko dela lana egitea.

Edo 100,000 $ hori egiteko.

Baliteke 1,000,000 dolar hori egiteko.

Enplegatzaile batzuek ez dute inolako arrastorik izango zenbat kosta daitekeen edo zenbat kosta beharko lukeen. Zerbitzu horien marketina doakoa izango da. Zerbitzu hauek legitimoki egiten dituztenentzat dirua irabazteko legea da eta dirua irabazten dutenentzat ere. Zaila izango da jakitea zein den.

Beste zulo zabal bat kontenplatzeko ere eskatuko dizut.

Lege honen testuinguruan, zer da zehazki AI alborapena?

Estatu Batuetako araudi federalen kodea aipatzeaz gain (horrek ez dio AIren alborapenen galderari bereziki erantzuten eta ez du, hortaz, gaiaren geldiune edo konponbide gisa balioko), zaila izango litzateke baieztatzea legeak AIaren alborapenak zeintzuk diren adierazten du. Berriro ere, hau guztiz zabalik egongo da interpretazio oso desberdinetara eta ez duzu bereziki jakingo zer bilatu den, zer aurkitu den, etab. Gainera, egiazko AI auditoreek egindako lana ia ziurrenik beste batekin paregabea izango da, bakoitzak bere definizio eta planteamendu jabedunak erabiltzeko joera izango duelarik.

Laburbilduz, beldurrez eta kezkaz ikusi ahal izango dugu enpresaburuek zer topatuko duten ongi pentsatutako legearen ondorioz:

• Zenbait enpresaburuk legearen berri izango dute eta serio eta guztiz beteko dute ahal duten neurrian
• Zenbait enpresaburuk legearen berri izango dute eta aurki dezaketen edo euren atarira iristen den biderik lirain, merke eta agian desegokiena beteko dute.
• Enplegatzaile batzuek legearen berri izango dute eta legearen esparruan ez daudela uste dute, beraz, ez dute ezer egingo horri buruz (bihurtzen den arren, esparruan egon daitezke).
• Enpresaburu batzuek legearen berri izango dute eta hori baztertzea erabakiko dute, agian inor ez dela ohartuko edo legea ez dela beteko, edo legea beteezina dela uste dutelako, etab.
• Enpresaburu batzuek ez dute legearen berri izango eta oin zaparrada harrapatuko dute, bete nahian
• Enpresaburu batzuek ez dute legearen berri izango eta iruzurgileek zoritxarrez botako dituzte
• Enpresaburu batzuek ez dute legearen berri izango, ez daude esparruan, baina hala ere esparruan daudela sinestarazten duten iruzurgileek iraultzen dituzte.
• Enpresaburu batzuek ez dute legearen berri izango eta ez dute ezer egingo horri buruz, mirakuluz inoiz ez dituztela harrapatu edo haien gainbegiratzeagatik iraultzen.
• Bestelakoa

Kontuan izan beharreko kontu garrantzitsu bat lege berri honekin lotutako magnitudea edo eskalatzea da.

New Yorkeko negozio kopuruari buruzko hainbat estatistiken arabera, zenbaketa normalean 200,000 enpresa ingurukoa dela adierazten da (erabil dezagun hori magnitude-ordena gisa). Hau zentzuzko hurbilketa bat dela suposatuz, ustez enpresaburu gisa enpresa horiek lege berri honen menpe daude. Beraz, hartu lehen aipatutako enpresaburuek lege honen aurrean erreakzionatuko duten hainbat modu eta pentsatu zenbat egongo diren aipatu berri ditudan ontzietan.

Eskalatze-arazo nahiko ikaragarria da.

Gainera, jakinarazitako estatistiken arabera, New Yorken sektore pribatuko 4 milioi lanpostu daude agian, gehi NYCko gobernuak enplegatutako 300,000 edo XNUMX langile inguru (berriz ere, erabili kopuru zehatzak baino magnitude ordena gisa). Kontuan hartzen baduzu kontratazio berriak itxuraz lege berri honen esparruan daudela, lehendik eta etorkizuneko langile horiei guztiei lotutako sustapenekin batera, lege honek era batera edo bestera ukituko dituen langile kopurua harrigarria da. .

Sagar Handiak lehen begiratuan inozoa eta itxuraz arbuiagarria edo arrunta dirudien lege berri bat du, baina inplikatutako eskalatze-faktoreez jabetzen zarenean, bada, zure burua bira eman dezake.

Ondorioa

Eztabaida honen hasieran aipatu nuen ondo pentsatutako lege berria dela.

Balizko zirrikituak, hutsuneak, hutsuneak, arazo eta antzeko gisa deskribatu berri dudan guztia erraz aurreikus liteke. Hau ez da suziri zientzia. Gehitu dezaket, are berezko kezka eta alderdi nahasgarriagoak daude lege honetan, espazio-murrizketak direla eta, ez ditudan aipatu.

Upel batean arrainak tiro egin ditzakezun bezain erraz aurki ditzakezu.

Mota honetako legeak kontu handiz landu behar dira amaiera maltzur horiek saihesteko. Suposatzen dut konpositore zintzoek lege bat idatzi nahi zutela uste zutena nahiko burdinezkoa zela eta agian, kasurik txarrenean, txiki-txiki txiki batzuk izango zituztela han edo hemen. Tamalez, tantakako su-hose bat da. Zinta hodi asko beharko da.

Legea modu argiago batean idatzi zitekeen itxurazko hutsune eta arazo horiek ixteko?

Bai, ugari.

Orain, hori horrela izanik, haserre gomendatuko zenuke lege horrek, dudarik gabe, askoz luzeagoa izango zela. Beti dago konpromezua etengabea den lege bat edukitzea, astun bilakatzea, laburra eta trinkoa izatearen aldean. Ez duzu, ordea, laburtasuna lortu nahi argitasun eta zehaztasun funtsezkoa eta merezimenduzkoa izango litzatekeenaren galeraz. Lege labur bat traketsak onartzen dituena arazoetarako ugaria da. Lege luzeago bat, itxuraz konplexuagoa bada ere, normalean merezitako trukea izango litzateke adopzio fasean beherako arazoak saihesten baditu, saihesten edo, gutxienez, gutxitzen baditu.

San Agustinek esan zuen: "Iruditzen zait lege injustua ez dela lege batere".

Ondorio bat eman genezake hizkuntza problematikoz osaturiko lege justua arazo latzak sortzeko eskatzen duen legea dela. Kasu honetan, badirudi Oliver Wendell Holmes Jr. jurista handiaren hitz jakintsuekin geratu garela, alegia, historiako orrialde batek logika kilo bat balio duela.

Behatu historia laster egitear dagoen bezala.