[Se redă muzică]
Bine.
Sper că ați
avut cu toții o
pauză bună... vacanța de primăvară, așa cum le
spun ei, fără creativitate.
Cu siguranță am avut unul.
Nu a făcut nicio treabă.
Asta e sigur.
De ce ar pune
această clasă de filozofie
într-o clădire de inginerie?
Stai un moment, te rog.
Eu vorbesc și voi ajunge
la tine când va fi rândul tău.
Sunt profesorul Breck Knowles.
Aceasta este Etica Avansată.
Ar trebui să fii
specialişti în filozofie din clasa superioară.  Ar
trebui să fie în
regulă aici.
Poți te rog să-ți aștepți rândul?
Vă rog.
Acesta este manualul.
Acum, acest manual acoperă unele
dintre cele mai importante subiecte de
etică, editate,
bineînțeles, de către dvs. cu adevărat.
[Chicote]
Mă aştept să-l aveţi cu
toţii, şi puteţi trage asta...
niciunul dintre voi nu o are.
Librăria trebuie să fi
încurcat cu adevărat de data asta.
Nu.
Când îl primiți, asigurați-vă că
obțineți cea mai recentă ediție nouă.
Nu primesc tăietura
pentru cărțile folosite.
Acum, dacă întoarceți pagina
432, acesta este capitolul meu.  Ai
putea citi?
[ÎȘI ȘI GÂJUL]
Capitolul 18, „Prejudiciul
este rău”, de Brack Know-less.
Knowles!
Este Knowles.  Cu
siguranță nu știți
cum să vă impresionați profesorii.
Ai citit.
Când investigăm
implicațiile societale ale părtinirii
în cadrul
dependențelor non-ierarhice,
trebuie să integrăm faptul că
taxonomia părtinirii și inechității
sunt împletite combinațional.  În
primul rând, părtinirea afectează
atât sub-super-conștientul --
Scuze pentru întârziere.
Sistemele informatice
îmi cer să ajut să remediez
o defecțiune care
a avut loc în această dimineață
și a afectat sălile de clasă în care
sunt trimiși câțiva profesori.
Bună.
Eu sunt Sophie Muller.
Nu cred că ne-am întâlnit.
Asta încercam să-i spun
profesorului Know-less, că este
în sala de clasă greșită.
Scuzele mele.
Problema cu
upgrade-ul de software în această dimineață,
dar totul a fost rezolvat.
Aceasta nu este clasa avansată?
Nu.
Asta
încercam să-ți spun.
Suntem în etica ingineriei.  Ei
bine, ar trebui
să predau întotdeauna clasa avansată.
Nu vreau să fiu
blocat cu începătorii.
Dar unde ar trebui să merg?
Să vedem.
Knowles?
Clasa ta se
întoarcă la etajul de filosofie de la
subsolul
clădirii șapte, camera 001.
Mi-e teamă că este o mică excursie.  Rămâi
mereu
blocat în peșteră.
Scuzați-mă.
Vrei cartea înapoi?
Mulțumesc.
Voi, inginerii, puteți face ceva pe care
filozofii americani îl merită.
Doar...
[Râsete]
[MUZICĂ]
Ce mai face toată lumea?
Oh.
Cred că nu m-am prezentat
tuturor.
Eu sunt Sophie Muller.  Îl voi
prelua
pe profesorul Baer, ​​căruia i s-a
cerut să conducă
un proiect important
privind etica IA.
Ai avut o
vacanță bună de primăvară?
Da.
Asta e bine, dar pe
lista de înscrieri
scria 40 de studenți.
Unde sunt toți ceilalți?
Da.  Ei
bine, ceilalți s-au dus să-l audă
pe președinte vorbind
despre noua
structură organizatorică administrativă.  A
schimbat-o din nou.  A
treia oară anul acesta.
Mhm.
Președintele universității.
Sună interesant.
Dar credeam că studenții
nu merg aproape niciodată la astfel de lucruri.
Da.
Dar din moment ce nimeni nu merge la
acestea și președintele
nu a mai vrut să vorbească în fața
unei sălii goale, a
oferit tuturor
mâncare și băutură gratuită
și le-a permis
să încalce regulile
și să mănânce și să bea
în sală.
El a angajat, de asemenea, o
echipă mare de curățare cu abur,
cu
echipamente de uscare industrială
pentru a curăța imediat după aceea.
Înțeleg.
Oh.  Mi-am dat
seama că
m-am prezentat,
dar am fost distras
de conversația noastră
și nu v-am lăsat să
vă prezentați.
Care sunt numele tale?
Alyssa.
Eu sunt Patch.
Numele meu este Sophie.
Alvis.
Glenda.
Încântat de cunoștință.  Ei
bine, mă bucur să
vă cunosc pe toți.
Deci, îmi spuneai despre
evenimentul care se petrece chiar acum.
Dar de ce nu sunteți acolo cinci?
Da, Sophie.  Ei
bine, domnule profesor, nu
spune nimănui,
dar suntem cu adevărat
dedicați înțelegerii
problemelor etice
ale părtinirii în IA.
De fapt, în loc să
călătorim în vacanța de primăvară,
am rămas aici doar pentru a
discuta despre etică.
Și ne-am uitat la resursele
pe care le-am putea găsi online.
Dăruirea ta este admirabilă.
Ce ai găsit
în cercetarea ta?  Ei
bine, există o grămadă
de videoclipuri și articole
online, dar...
Dar ce?
Le-am găsit nesatisfăcători.
De ce este asta?
Alyssa.  Ei
bine, nu toată lumea le-
a găsit nesatisfăcătoare.  Am
crezut că au făcut
câteva puncte bune.
Ei bine, nu ai putut să-i
explici eșecurile.
Ai fost?
Nu, dar nu ai fost în stare
să oferi o abordare mai bună.
Ai fost?
Stați, voi doi.
Mereu ceartă.
Nu am răspuns la
întrebarea profesorului.
Profesore Muller, ni s-au părut
nesatisfăcători pentru că
nu ne-au dat un răspuns.
Asta e corect.
Ne-au spus că
este o problemă
și ne-au spus că
este o problemă grea,
dar nu
ne-au spus cum să o rezolvăm.
Este mai mult decât atât.
Videoclipurile despre părtinire în
AI sunt toate la fel.
Toți spun că se află în setul de
date-- bias in,
bias out-- și continuă să
recicleze aceleași exemple.
Unele videoclipuri au o grafică mai bună
sau difuzoare mai bune,
dar în afară de asta,
toate sunt la fel.
Atât de conformist.
Da.
Și în timp ce ei spun că
părtinirea este în setul de date, nu
pare să existe o
soluție generală.
Ei indică doar că pentru
fiecare algoritm
trebuie cercetată problema părtinirii.
Chiar și pentru asta, nu
oferă o abordare sistematică.
Da.
Chiar dacă ați putea alege
setul de date potrivit
și să-l cuantificați pe
acel set de date pentru a vă asigura că
nu există părtiniri în
setul de antrenament pentru o anumită analiză,
nu aveți de unde să știți dacă
acest lucru se aplică tuturor situațiilor.
Ideea mea este că suntem cu toții
de acord că părtinirea este rea.
Trebuie pur și simplu să
o abordăm în fiecare algoritm pe care îl
facem.
Da sunt de acord.
Nu vrem nicio
părtinire în AI-ul nostru.  Ne
dorim ca toți să fie fericiți.
Acesta este un început bun,
dar poate că este
mai bine dacă ajungem la detalii.
Alyssa, care au fost câteva dintre
punctele bune despre
părtinirea algoritmică pe
care le-ai menționat?
De exemplu,
algoritmii sunt părtinitori
împotriva
minorităților subreprezentate.
Recunoașterea facială nu
funcționează la fel de bine pentru negri
ca și pentru albi,
în special pentru femeile de culoare.
Un exemplu comun arată
că, deși identifică
aproape perfect bărbații albi,
a identificat greșit femeia de culoare în
peste 20% din timp.  Ei
bine, un algoritm dă
20% eroare, iar celălalt 30%.
Nici măcar nu pot fi
consecvenți în părtinirea lor.
Dacă nu putem stabili
amploarea problemei,
cum o rezolvăm?  Ați
putea măcar să lucrați pentru a
încerca să vă asigurați că
setul de date este mai reprezentativ.
Ah, și cum rămâne cu algoritmul
care identifică miresele indiene
ca actori?  Ei
bine, de ce ar trebui să se plângă?  A
fi identificat ca actor
este cea mai mare onoare pe care o
poate avea oricine.
Oh, foarte amuzant.
Îmi plac sandvișurile cu pui.
Cum ți-ar plăcea dacă
un algoritm te identifică
ca un sandviș cu pui?
BINE.
Înțeleg de ce îl numesc
un exemplu contradictoriu.
În orice caz, nu este
ușor să abordăm prejudecățile
la nivel general
din cauza distorsiunilor
în seturile de date din cauza
inechităților istorice.
Și acele înclinații diferă.
Cel puțin știm că au
existat inechități istorice
pe care trebuie să le abordăm.
Și, deși s-ar putea să
nu fie ușor de făcut,
trebuie cel puțin să încercăm, chiar
dacă este de la caz la caz.
Chiar dacă este de la
caz la caz,
suntem sortiți să
pierdem o mulțime de părtiniri
până mult timp după ce
toată lumea este egală.
Și eu unul
nu sunt atât de pacient.  Ei
bine, această problemă
este atât de importantă
încât, chiar dacă durează foarte
mult timp și chiar dacă
trebuie să o facem
algoritm cu algoritm,
asta ar trebui să facem.
Dacă toți facem asta,
toți vor fi fericiți.
Dar nu, mulți oameni
nu vor fi fericiți să
aștepte ca părtinirea să dispară.
Deci, domnule profesor, aici am
rămas blocați în vacanța de primăvară.  Pur și
simplu nu este
practic să proiectezi
fiecare algoritm împotriva părtinirii.
Chiar dacă am putea, am
ajunge să-l eliminăm
în câteva dimensiuni.
Dar atunci trebuie să ne lipsească
în alte dimensiuni importante.
Mai mult decât
atât, nici măcar nu putem
cuantifica părtinirea în mod consecvent,
deoarece studii diferite
pe același set de date oferă
cantități diferite de părtinire.
Știm că trebuie să facem
ceva pentru a aborda prejudecățile,
dar ceea ce spun videoclipurile va
face în cel mai bun caz un mic pas înainte.
Știm că alții pot
fi mulțumiți cu asta,
dar nu este suficient să ne
simțim bine cu noi înșine.
Nu, nu este.
Ah.
Ai ajuns într-un impas,
care, crezi sau nu,
este adesea un loc necesar pentru a
fi înainte de a putea progresa.
Cred, totuși, că este mai bine să facem
un pas înapoi și să explorăm
cum funcționează acești algoritmi
și rădăcinile dorinței
de a elimina părtinirea.
[REDARE MUZICA]
Deci probabil că știți cu toții
acest lucru, dar doar ca să vă reamintesc,
abordarea generală este simplă.
Începeți cu un
set de date de antrenament
aici împreună cu descriptori,
pe care îi folosim pentru a deriva un model.
Apoi introducem datele,
iar modelul le clasifică
pe baza unui criteriu.
Evident, diavolul
este în detalii.  Pe
baza acestei
abordări la nivel înalt,
unde vedeți părtinire?
Nu există nicio părtinire aici.
Algoritmul - să zicem, o
rețea neuronală convoluțională -
analizează în mod obiectiv
datele furnizate acestuia.
Este doar matematică.
Nu este doar matematică.
Alegem setul de antrenament.
Alegem algoritmul.
Chiar dacă credem că
nu suntem părtinitori,
suntem părtinitori în mod subconștient.
Cum le
alegem de fapt dacă totul
este descris de matematică?
Nu prea avem de ales.
Duh.
Prejudecata este deja în date din
cauza inechității istorice.
Ai spus-o singur.
Deci alegerea noastră este
să notăm asta și să adăugăm
o funcție de pierdere adecvată.
Știe toată lumea
ce este o funcție de pierdere?
Desigur.
Da.
Da.
O funcție de pierdere este
doar funcția de eroare
asociată unui eveniment,
cum ar fi recunoașterea facială.
Este ceea ce ar trebui
minimizat matematic.
Bun.
Doar pentru a clarifica,
nu ar trebui să fie pur și simplu minimizată
în general, ci
vizată, de exemplu,
astfel încât eroarea generală
în recunoașterea facială
să fie minimizată cu
constrângerea că este
egală între diferitele grupuri.
Dar dacă nu aveți
seturi de antrenament echivalente
pentru diferitele grupuri,
erorile statistice
nu vor fi echivalente.
Și nu puteți cuantifica
erorile în avans
pentru a determina dacă vor fi sau nu
echivalente.
Cu alte cuvinte, nu puteți alege
abordarea funcției de pierdere
pentru a rezolva problema din cauza
fluctuațiilor sau aleatorii.
Problema este statistica.
Trebuie să avem
un set de date foarte mare
pentru a face o medie ale aleatoriei
la procente acceptabil de mici
și să ne asigurăm că
datele noastre sunt reprezentative.
Da, dar ideea mea este că pur și
simplu nu este posibil.
Sunt de acord că am
putea egala
ratele de eroare din
algoritmii de recunoaștere facială
pentru albi și negri
și pentru bărbați și femei.
Dar cum rămâne cu toate celelalte
minorități rasiale și etnice?
Și pentru asta, cum rămâne cu
toate genurile diferite?
Chiar dacă am fi de
acord asupra grupurilor care
trebuie eliminate părtinirea,
practic nu
le putem aborda pe toate.
Da, și
chiar așa nu funcționează câmpul.
Nimeni nu va petrece cinci
sau 10 ani pentru fiecare algoritm
pentru a elimina părtinirea.
Pentru cercetarea de ultimă oră
, oamenii
încearcă doar să atingă 80%, uneori 90%
acuratețe pentru un anumit algoritm
și apoi publică o lucrare despre el.
Stimulentele sunt de așa natură
încât nu pot petrece ani de zile
obținând o precizie de aproximativ 99% în
general, cel puțin
pentru algoritmi noi.  Doar că
nu sunt suficiente date.
Mai bine să scoți
ceva acolo,
chiar dacă nu este atât de bun, așa că
măcar să obții credit pentru asta.
Dacă am putea
elimina aleatoriile,
problemele noastre s-ar rezolva.
Dar aleatorietatea este bună pentru că
este baza alegerii,
altfel mintea noastră ar
urma doar o cale deterministă
bazată pe căile noastre neuronale
și semnalele electrice.
Inima ei este
mecanica cuantică,
care introduce
aleatorietatea intrinsecă.
Ei bine, aleatorietatea nu îți
dă de ales, doar haos.
Acesta este și
motivul pentru care avem prejudecăți
pentru început, din cauza
circumstanțelor istorice aleatorii.
Vrem să eliminăm părtinirea,
nu doar să o facem aleatorie.
Dacă este aleatoriu, atunci
poate că o vei atenua
pentru minorități sau
poate, cel puțin pentru unii,
vei găsi o modalitate de a o mări.
[Se bate]
Asta spuneam și eu.
Deci se pare că suntem din nou blocați.
Matematica este
modalitatea riguroasă de a înțelege lumea,
dar nu ne dă de ales.
În lumea descrisă
de matematică,
alegerea este o iluzie.  Domnule
profesor, am intrat
în același impas
când am avut această discuție
săptămâna trecută în vacanța de primăvară.
Dar cum scăpăm din asta?
Cred că pot fi
de ceva ajutor aici.
Deci toți sunteți de acord că este
de dorit să eliminați părtinirea,
nu?
Da.
Da.
Deci toți credeți că este posibil
să atenuați părtinirea în funcție
de acțiunile pe care le luați?
Da.
Da.
Deci crezi că asta poate face
alegeri și nu doar la întâmplare.  Alegerile
mai bine întemeiate
sunt mai bune decât cele
mai puțin bine întemeiate,
de exemplu, pentru abordarea prejudecăților.
Nu cred că
avem de ales în privința lucrurilor.
Oamenii ar putea crede că
da, dar chiar nu cred.
Nu putem alege unde ne
naștem sau cât de deștepți suntem
și nu putem alege dacă
ne lovim o mașină.
Credem că facem o
alegere, dar chiar nu o facem.  E
așa cum a spus Sophie.
Totul este doar o iluzie.
Da.
Da, ai dreptate.
Aleatoriile nu ajută.  M
-ai convins.
Aștepta.  Am
avut de ales sau am
fost obligat să fiu de acord?
Nu.
Neuronii tăi ți-au spus să fii de acord.
Da, exact.
Iar aleatorietatea, o consecință
a unui proces cuantic haotic,
face doar ceea ce
nu facem previzibil,
dar nu înseamnă că
alegem ceea ce facem.
Dreapta.  Ei
bine, ai de ales dacă
vei fi părtinitor
sau nu.
Mhm.
Într-adevăr.  Se
pare că
judecățile implică alegere.
Dar Alyssa, dacă ți s-ar
oferi deplina înțelegere
a unei situații, nu ai lua
întotdeauna cea mai bună acțiune?
Da desigur.
Nu.
Nu poți alege cu adevărat dacă
ceva este mai bun sau mai rău.
Totul este doar o judecată de valoare.  S-
ar putea să fii obligat să
faci ceva de către alții,
dar niciodată nu
alegi cu adevărat liber.
Chiar crezi
asta sau te
joci doar avocatul diavolului?
BINE.
Puțin din ambele.
Dar chiar dacă mă
joc doar avocatul diavolului,
ce e în neregulă cu
ceea ce spun?
Ceea ce este greșit este că modelul tău
de viață umană este inadecvat.
Nu descrie
ce este cu adevărat.
Nu suntem doar niște bile care se
mișcă în mod determinist
cu zgomot aleatoriu intercalate
ca un termen dintr-o
ecuație Langevin.
Nu este adevărat,
profesore Muller?
Ce mare discuție este asta.
Se pare că ai avut
o vacanță de primăvară mult mai bună
discutând aceste întrebări
decât să mergi la plajă.
Cred că ești pe
drumul cel bun, Sophie.
Amuzant.
Întâmplător, acesta este
și prenumele meu.
În orice caz, ați
dezvăluit o mare tensiune
în știința modernă.
Suntem crescuți să credem
că știința modernă este modalitatea
de a descrie
lumea, dar pare
inadecvată pentru a
descrie lucrurile umane.
Întrebările etice nu pot fi
reductibile la matematică -
asemănătoare dreptății și
frumuseții, speranței și suferinței
și, de altfel,
chiar și adevărului.
Da, Glenda.
Nu sunt acele lucruri chiar mai
importante decât știința modernă?
Aș zice așa.
Nu.
Aceste lucruri sunt
arbitrare sau sunt o chestiune
de interese individuale --
ce este în asta pentru ei.
Acesta este modul de a
le privi științific.
Prejudecățile există deoarece oamenii
au interese conflictuale.
Sigur, dacă te uiți la asta
pur științific,
dar doar interesul nu poate
fi adecvat, deoarece oamenii sunt
dispuși să sacrifice interesele
pentru pasiuni și, mai
important, pentru lucruri
dincolo de ei înșiși.
În orice caz, cei mai mulți
dintre noi ne cunoaștem cu adevărat
toate interesele?  Cu
toții avem preferințe care
depășesc cu mult interesele.
Poate că putem spune în cel mai bun caz că
acele interese sunt împletite
cu diferite
abordări ale lumii.
De altfel, nu sunt cei mai
plictisitori oameni cei care spun,
am dreptate și, chiar dacă nu se
poate face niciodată judecăți de valoare,
am propriile mele valori
și rămân cu ele?
[Chicote] Da, aceștia sunt
cei mai iritanti și plictisitori
oameni.
Așadar, acum să dezgrovăm puțin
mai mult în matematica
AI și în problema de sortare.
Poate că cel mai bine este să începeți
cu un exemplu concret.
Care este motivul
părtinirii în recunoașterea facială despre
care am discutat cu
puțin timp în urmă?
Un set de antrenament părtinitor din cauza
inechității istorice.
BINE.
Deci, una dintre probleme
este setul de antrenament.
Cealaltă problemă
este algoritmul,
inclusiv hiperparametrii săi,
toate conducând la modul în care
se face clasificarea.
Acesta este motivul pentru care algoritmi diferiți
oferă rate de eroare diferite
folosind aceleași date de antrenament.
Altceva?
Dreapta.
Deci acestea sunt cele două probleme cheie.
Cu toate acestea, în
alegerea algoritmului,
există problema
clasificării.
Permiteți-mi să proiectez
acest set de date, aici
cu puncte în roșu și albastru.
Aveți multe opțiuni pentru a
pune suprafața despărțitoare.
Dar dacă o
alegem pe cea greșită?
Unele dintre date pot fi
clasificate greșit, nu-i așa?
Adică așa?
Da, exact.
Deci, cum alegi
din timp linia potrivită?
Aceasta este o problemă.
Ar putea fi și mai rău dacă
setul dvs. de date arată așa.
Dar apoi nu trebuie să
rămânem cu replici.
De ce nu desenezi
o curbă în jurul lor?
Ca aceasta?
Da, exact.
Acum le-ai clasificat pe
toate perfect.  Ei
bine, așteaptă o secundă.
Dacă faceți asta, funcționează
pentru setul de antrenament,
dar este posibil să nu funcționeze pentru
niciun set de date suplimentar.
De fapt, s-ar putea să fie
chiar mai rău decât liniile,
deoarece vă adaptați prea mult
la datele de antrenament.
Adică așa?
Da.
Asta nu merge.
O da.  O
vad.
Exact.
Amintiți-vă că acesta este un
algoritm de sortare, aici în două
dimensiuni cu doi descriptori,
deci este destul de limitat.
Dar chiar dacă o faci într-un
număr foarte mare de dimensiuni cu
un număr foarte mare
de descriptori,
tot proiectezi
un sistem complicat -- să
spunem un sistem natural --
pe un
construct matematic artificial
care lasă în mod necesar
mult din afara  Descriere.
Sau dacă vrei să rămâi pe
tărâmul matematicii,
ai putea spune că din cauza
unui set incomplet necesar
de descriptori ți
se potrivea cu zgomot.
Acest lucru vă permite să obțineți o
potrivire perfectă pentru setul dvs. de antrenament,
dar apoi aveți o
potrivire și mai proastă pentru setul dvs. de date în
viitor.
Plasture.
Cu alte cuvinte,
trebuie să acceptăm faptul
că vor exista erori.
Dar cel puțin am putea distribui
erorile în mod egal între grupuri.
Asta a spus Alyssa înainte.
Putem încerca, dar
atunci mă tem că
nu vom include toate grupurile.
Chiar dacă am putea, vor
exista erori în erori.
Dacă nu avem un set de antrenament foarte, foarte
mare, pe
care practic nu îl
avem niciodată,
nu vom putea face asta.
Da.
Setul de antrenament ar
trebui să încorporeze
toate datele din lume.
Știi, asta
îmi amintește de o poveste pe care
am auzit-o odată, cred că de la
un scriitor sud-american, în
care cineva face o
hartă la scară unu-la-unu a țării sale,
cu toate detaliile incluse.
[Chicote]
Ha, ha.
Ei bine, accept problema.
Dar atunci ce facem?  Cu
toții suntem de acord că
trebuie să eliminăm părtinirea,
dar pare atât de greu.
Ce se întâmplă dacă am putea
avea măcar un model foarte extins,
care, în toate scopurile practice,
surprinde o situație dată?
Ceea ce cred că este
de fapt imposibil,
deoarece ar necesita un
model complet și precis
al tuturor obiectelor
din întreaga lume.
Da.
Ca ingineri, putem
măcar să lucrăm pentru a face asta.
Dacă modelul este
suficient de extins, putem elimina părtinirea.
Dar atunci vom elimina orice
alegere pe care am fi avut-o.  Am fi
controlați
de un algoritm.
Sună...
sună tiranic.
Într-adevăr.
Matematizarea
lucrurilor umane le distorsionează atât de mult
încât devin ceva
ce nu sunt.
Aceasta este de fapt
abordarea utilitarista.
Lucrurile umane precum bucuria, mânia,
dreptatea, onoarea, frumusețea
și fericirea nu sunt într-adevăr
matematicizabile.
Pierdem tot ceea ce
este important în ele
atunci când le matematizăm.  Am
putea, în principiu, să încercăm să
facem acest lucru și, prin aceasta, să transformăm
realitatea umană.
Glenda.
Asta nu sună atrăgător.
Sună îngrozitor.
Da, nu ar fi bine.
Dar o putem face cel puțin
parțial, nu-i așa?
Da.
Poate că asta ar
fi o soluție bună.
Da.
Chiar dacă acele
lucruri umane nu pot fi descrise
de matematică, este totuși
singura modalitate riguroasă de a înțelege
lumea.
Nu mai sunt atât de sigur, dar
părtinirea este în setul de date
și este în algoritmi.
Așa că trebuie să fim capabili să ne adaptăm
modelele pentru a rezolva problema.
Nu trebuie?  Ei
bine, luați în considerare asta...
recunoașterea noastră a problemei
părtinirii nu este matematică.
Matematica vine doar
după o astfel de recunoaștere.
Matematica este ceva ce
impunem înțelegerii noastre mai largi
a lumii.  O
putem folosi pentru a dezvolta
modele, dar ele vor
fi întotdeauna doar atât, modele
care sunt neapărat
descrieri incomplete.
Văd ce
spui, cred.
Sophie.
Dar AI se bazează pe matematică.
Deci, trebuie să rezolvăm această
problemă în algoritmi
prin remedierea algoritmilor, adică
prin utilizarea matematicii.
nu-i asa?  Ei
bine, ne putem gândi
la lucruri în acest fel,
dar asta ne va duce
la un dublu zgomot.  Nu
putem dezvolta o
definiție nearbitrară
a criteriilor pentru
setul de antrenament și, în al doilea rând, nu
putem dezvolta o
definiție nearbitrară
a țintei de eroare pentru
algoritmul de sortare.  Ei
bine, știam că
suntem într-un impas,
dar nu credeam că
este așa de mare.
Profesore, clasa dumneavoastră ne-a

blocat mai mult decât eram înainte.
Deci ce facem?
Există o altă cale?
Într-adevăr, Glenda, există asta.
Este nevoie de o reconsiderare a
preocupărilor noastre și a problemei.
[Se redă muzică]
[Ușa se închide]
Mulțumesc.
Sophie.
Deci, care este celălalt drum?  Ei
bine, să ne gândim la asta.
Tocmai am arătat că, din cauza
incompletității intrinseci
a modelelor, eliminarea
părtinirii în toate dimensiunile
este imposibil din punct de vedere matematic.
Fără îndoială, am putea reduce
părtinirea unor grupuri într-
o anumită măsură, cu o marjă de eroare
acceptabil de mică, dar totuși
semnificativă.
Chiar dacă am scăpa de părtinire în
unele dimensiuni predefinite,
tot l-am avea
în alte dimensiuni.
Dar tocmai asta este.
Vrem egalitate măcar în
unele dimensiuni,
cele importante.
Aia este bună.
Cum alegi ce
dimensiuni sunt importante?
Alvis.
O
dimensiune importantă este bogăția.
Bun.
Deci chiar și voi cinci, cei
mai buni studenți la inginerie
din clasa voastră de la
școala de inginerie de top, ar trebui să fiți
plătiți la fel de mult ca cineva
ca Dean, colecționarul de hârtie.
Ei bine, este un tip foarte drăguț
, chiar dacă este puțin ciudat.
Dar nu, credem că ar trebui să fim
răsplătiți pentru contribuțiile pe care le
aducem societății.
Dar bogăția ar trebui să fie
distribuită mai egal.
Asta e corect.
Dar cum decizi
cât de egal ar trebui să fie?
Poate că problema
este încă o dată
că matematica, în
omogenizarea sa de tipuri,
nu este modalitatea corectă
de a aborda problema.
Permiteți-mi să vă întreb:
este cu adevărat egalitatea ceea ce
doriți sau este dreptate?
Justiţie.
Da.
Voi merge cu dreptatea.
Foarte bine că sunteți de
acord cu ceva.
Glenda.  Ar
trebui să meargă mână în
mână, dreptatea și egalitatea.
Da.
Egalitatea nu este dreptate?  Cred că
trebuie să adăugăm o
altă considerație,
deoarece începem să
aprofundăm în întrebările umane complexe care
stau la baza
definiției
și percepției noastre despre părtinire.
Așa că lasă-mă să te întreb asta.
Care este cel mai important -
egalitatea, dreptatea
sau fericirea?
Sophie.
Aș spune fericire.
Chiar dacă cineva are
mai mult decât tine
și chiar dacă
nu merită,
nu contează pentru tine
atâta timp cât ești fericit.
Gândiți-vă la toți oamenii
născuți în familii bogate.
De obicei,
nu sunt fericiți, deoarece
nu trebuie să aibă un obiectiv și,
prin urmare, nu au unul.
Tot aș avea un scop dacă m-aș
fi născut într-o familie bogată.
De ce au nevoie de
un obiectiv dacă se
distrează atât de bine?
Pentru că oamenii trebuie să
aibă un scop pentru a fi fericiți.
Și cum pot oamenii să fie fericiți
dacă nu sunt tratați corect?
Deci avem egalitate,
dreptate și fericire,
dar nu este clar care
este cel mai important.
Glenda.
Nu pot fi ele de
importanță egală?
De fapt nu.
Ele sunt cu siguranță interdependente.
Dar din moment ce sunt cel
puțin oarecum diferite
și din moment ce, după cum am văzut,
pot intra în conflict, unul dintre ele
trebuie să fie cel mai important, trebuie să
aibă prioritate față de celălalt.
Cred că dreptatea este mai
importantă decât egalitatea.
La urma urmei, nu vrem ca
toți să fie exact la fel,
dar dreptatea și
egalitatea sunt legate.
Oamenii pot fi inegali pentru că
sunt tratați incorect.  De
asemenea, pot fi inegale din
cauza norocului, bune sau rele.
Nu cred că fericirea
poate fi standardul.
Avem nevoie de egalitate și de
aceea matematica este încă
atât de importantă, pentru că
o putem folosi cu rigurozitate
pentru a face pe toți egali.
Dar dacă toți sunt la fel,
nu ar fi lumea mohorâtă?
Adică, ce se întâmplă dacă toți am
fi la fel?  Nici
măcar nu am putea
avea acest dialog, pentru că toți am
spune același punct.  Nu
ar fi
nimic interesant,
căci toată lumea este redusă
la o omogenitate forțată.
În plus, cum îi
faci pe toți
egali fără a le
încălca drepturile?  Va
trebui să
încălcăm unele drepturi pentru a face
oamenii cel puțin mai egali.
Dar atunci poate cred că
asta nu este dreptate.
Da.
Nu este esența tiraniei
atunci când drepturile sunt încălcate
în numele justiției?
Da.
Avem motive serioase să
nu ne dorim asta.
Vrem egalitate,
dar cu siguranță
nu vrem să încălcăm
drepturile oamenilor pentru a o obține.
Dar ce facem?
Iată-ne din nou într-un impas.
Cum înțelegem
acest conflict
între egalitate și drepturi?
Apropo, domnule profesor, ce zici de
alt mod pe care l-ai
promis?
[MUZICA PLAYING]
Mă întrebam când ai
vrea să mergi la asta.
Îți amintești că ai aflat
despre dreptul natural modern
de la profesorul Baer
înainte de vacanța de primăvară?
Da putin.  Am
studiat starea
naturii lui Locke și legătura ei
cu dreptul natural, dacă
despre asta vorbești.
Profesorul Baer a
susținut, de asemenea,
că dreptul natural modern este
baza regimului american
și motivul
succesului acestei țări.
Bun.
Și da,
exact asta vreau să spun.
Este grozav că îți
amintești că l-ai citit pe
Locke și despre
dreptul natural modern care
a stat la baza
regimului american.
Oh.
Bună, profesor Knowles.
Ce faci aici?
Sper că nu te deranjez.  Am
auzit că
discutați despre dreptul natural modern
și am vrut să mă alătur.
Lucrurile pe care m-ai auzit vărsând
mai devreme
au fost un front pe care
trebuie să le prezint
colegilor mei de la
departamentul de filosofie
și unor studenți care
apreciază astfel de lucruri.
Este singurul mod în care îmi
pot păstra un loc de muncă, de care
am nevoie pentru a putea
urma adevărata filozofie.
Este reconfortant de auzit.
Și da, vă rugăm să ni se alăture.
Tocmai începeam
pe dreptul natural modern.
Deci, cum vede Locke
problema AI și a părtinirii?
Plasture.
Locke ar crede că este
greșit, deoarece părtinirea
vă încalcă dreptul natural.
Da sunt de acord.
Sună corect,
dar nu sunt sigur
pentru că am spus că dreptatea este
mai importantă decât egalitatea.
Dar se pare că egalitatea
este fundamentală în Locke.
Dar atunci unde este
justiția în Locke?  Să
luăm asta pas cu pas.
Își amintește cineva
începutul?
Dar ai spus că
lucrezi la aceste întrebări
în vacanța de primăvară.
Alvis?  Ei
bine, discutam despre ele,
dar nu ne-am întors niciodată
la textele de la clasă.
Da.  Am
vrut doar să
le dăm seama singuri.
Bănuiesc că dezaprobați,
profesore Muller?
Dimpotrivă.
Sunteți un
grup foarte impresionant pentru că ați
stat aici în
vacanța de primăvară și ați investigat
aceste întrebări.
Orice profesor ar fi încântat să
aibă chiar și un elev ca tine,
iar eu am cinci.
Dar ai spus că te-ai blocat.
Care a fost planul tău să
ieși din impas?
Ei bine, clasa ta, desigur.
[RÂDE]
Taci, Patch.
Se pare că nu îți dai seama
că profesorul Muller ne mustră
într-un mod cât se poate de blând
pentru că nu
folosim resursele la îndemână.
Ei bine, hai să le folosim acum.
Profesore, vă rugăm să ne amintiți
de punctul de plecare al lui Locke.
Desigur.  Să
trecem la al doilea
tratat, capitolul 1.
Profesore Knowles, de unde
credeți că ar trebui să începem?
Aș spune ultima secțiune
a paragrafului unu,
începând cu „el acela”.
Exact la asta
ma gandeam.
Glenda, ai putea
citi afirmația care
începe cu „el asta?”
Desigur.
Cel care nu va
da ocazia
să creadă că toată
guvernarea din lume
este produsul numai al
forței și al violenței,
trebuie neapărat să găsească o
altă ascensiune a guvernului.
Bun.
Deci Locke
ne oferă două opțiuni cu privire la
originea guvernării,
forța sau altceva -
poate altceva
bazat pe rațiune,
dar nu pe rațiune îngustă sau
matematică.
Da, desigur.
Asta e mult mai bine.  Ar fi
groaznic să
credem că politica înseamnă doar
forță.
Sunt de acord.  Ar
trebui să fie despre a
permite oamenilor
să fie fericiți, așa cum am spus mai înainte.
Dar pe ce se
bazează această alternativă?
Poți să te uiți la
cărțile tale, știi.
Alvis.
Este starea naturii.
Bun.
Care este starea naturii?  Ei
bine, să vedem.
De fapt, am subliniat
asta destul de mult.
Este o stare de libertate perfectă
și, de asemenea, o stare de egalitate.
Da.
Îmi amintesc acum.
Dar cum poate fi o
stare de libertate perfectă
dacă cineva îți poate lua
lucrurile și depinde doar de tine
să le protejezi?
Nu-ți amintești?
Acesta este ideea.
Nu există guvern,
așa că suntem cu toții
perfect liberi în acest sens.
Dar viața nu este
de dorit, deoarece toți suntem
vulnerabili individual.  De
aceea formăm
guverne, pentru securitate.  Foarte
bine, Sophie, dar te
miști prea repede.
Amintiți-vă că spune Locke, dar deși
aceasta este o stare de libertate,
totuși nu este un
stat de licență.
Îți amintești de ce este asta?
Oh, stai.
O am chiar aici.  Din
cauza unei legi a naturii.  Da
asta e.
Legile naturii se
bazează pe rațiune.
Da.  Am
vorbit despre asta
înainte de vacanța de primăvară.
Acum îmi amintesc.
Este o prostie să irosești lucruri,
inclusiv propria ta viață.  Dar
acești oameni
care își irosesc banii
pe lux,
mașini scumpe și alte lucruri?
Da.
M-aș mulțumi cu
o mașină degradată ieftină.
De ce ar trebui să cumpere cineva un
Ferrari când cei mai mulți dintre noi
nu își pot permite o Kia veche?  Își
amintește cineva
răspunsul lui Locke la asta?
Poate că, încă o dată, ne
mișcăm prea repede.  Să
mergem pas cu pas.
Cum este starea
naturii?
Alvis.
Pe lângă libertate și
egalitate, există o lege.
Bun.
Ce altceva?
Există o pedeapsă.
În paragraful șapte, el
spune că toată lumea are dreptul
de a pedepsi pe cei care încalcă
această lege într-o măsură
care ar putea împiedica încălcarea acesteia.
Foarte bine, Sophie.
Cred că vom vedea că
obiecția noastră față de părtinire
se bazează ea însăși pe sentimentul
că există o lege a naturii.
Cum caracterizează Locke
această afirmație?
El spune în paragraful nouă că
aceasta va părea o doctrină foarte ciudată
pentru unii.
Excelent.
Ți se pare ciudat?  Ei
bine, nu mai ciudat
decât starea naturii.
De ce este
ciudată starea naturii?
Deci natura este ceea ce
experimentezi atunci când mergi într-o drumeție
sau mergi în camping.
Ceea ce descrie Locke
nu a existat niciodată cu adevărat.
Ce crezi că
a existat în locul lui?
Deci, oamenii au evoluat
din umanoizi
și au trăit în triburi.
Nu erau singuri.
Corect, Patch.
Dar care este baza
stăpânirii conducătorului tribului?
Putere.
Dar nu este exact ceea ce a
spus Locke la început?
Putem avea o
guvernare tribală bazată pe putere
sau putem avea o alternativă,
pe care Locke o oferă.
În plus, nu crezi că
starea naturală a ființelor umane este
libertatea și egalitatea?
Toate acestea au sens.
Dar atunci de ce o numește Locke
o doctrină foarte ciudată?
Unora.
Vezi, cred că asta va
descoperi că ceea ce se cere
nu este atât o nouă doctrină, să
zicem o structură latentă învățată
pentru atenuarea prejudecăților algoritmice
sau adaptarea domeniului,
ci o reflecție
asupra doctrinei pe care
unii consideră ciudată,
iar alții nu.
Ceea ce ne este ciudat contrazice de fapt
propriile noastre părtiniri.
Din punct de vedere psihologic, avem tendința
de a rezista acestor lucruri
pentru că ne evidențiază
părtinirile noastre către noi înșine.
Aha, înțeleg.
Ceea ce ni se pare ciudat este o
indicație a propriei noastre părtiniri.
Asta spune Locke.
Mulțumesc, domnule profesor Knowles.
Și îmi dau seama că el
apără această doctrină
susținând că guvernele
pot pedepsi străinii
care încalcă o lege,
ceea ce este legat
de exemplul din
paragraful 14, când spune
că prin starea naturii
există astăzi, din moment ce toți prinții
și conducătorii
guvernelor independente.
toată lumea
se află într-o stare de natură.
Foarte bine, iar apoi
aduce în paragraful următor
greutatea scrierilor
lui Hooker, sau să
spunem judiciosul Hooker.
Și încheie capitolul
cu ideea de consimțământ.
Deci societatea politică este
legitimată doar prin consimțământ.  Ei
bine, din moment ce
avem puțin timp,
va trebui să trec la
capitolul cinci despre proprietate.
Dar explorați când
puteți ce spune el
despre starea de război și
sclavie în capitolele Skip.
Vom reveni, de asemenea,
la alte subtilități,
cum ar fi motivul pentru care el numește
doctrina de către toți
în starea de natură
are putere executivă
această doctrină ciudată
în paragraful 13
și, de
altfel, de ce
nu există nicio autoritate în starea de
natură în afară de fiecare individ.  .
Deci, care sunt argumentele sale cheie cu privire
la proprietate?
Alyssa.
Una este că fiecare dintre noi are o
proprietate în propria persoană.
Asta e în paragraful 27.
Bine.
Și mai târziu, în paragraful 27, că
facem din lucruri proprietatea noastră
amestecând munca noastră
cu lucruri din natură.
Foarte bun.
Da.
Îmi place exemplul de ghindă.
Culegând o
ghindă, o facem a noastră.
Cred că asta se aplică
și fructelor.
[Râsete]
Și el spune în paragraful
26 că Pământul este al nostru
pentru sprijinul și
confortul ființei noastre
și că ni se oferă
motive să-l folosim bine.
Asta mă readuce la
punctul meu de înainte.
Cineva nu îl folosește
bine dacă este bogat
și adună lucruri.  Ei
bine, poți
strânge doar atât de mult.
Cum ar fi, cine are nevoie de 10 Ferrari-uri?
Fac.
Ha, ha.
Ha, ha, tu însuți.
Ideea este că nu poți
tezauriza pentru că lucrurile tale se vor
strica.
Da.  De
aceea vorbește undeva
despre bani.
Banii nu merg prost.
Da, la paragraful 36.
Dar vei vedea că el
spune la paragraful 31
că fiecare poate lua
cât vrea de la natură,
dar există o limitare.
Care este limitarea care
ne împiedică să acumulăm
atât de mult încât lucrurile să se strice?  Ei
bine, ce este prezent și
în natură în afară de lucrurile pe care le
poți lua?
O da.
Legea rațiunii.
Este o prostie să tezaurizezi pentru că
atunci doar irosești lucruri
și asta contravine
legii rațiunii.
Dar odată ce există bani,
îi poți strânge fără să strici.
Deci de ce nu este greșit să faci?
Pentru că ai pus
munca ta în asta?
Dar dacă ești doar norocos?
Sau ce dacă l-ai moștenit?
OK dacă răspund la asta?
Se datorează faptului că altcineva și-a
pus munca în asta,
prin urmare poate da
oricum alege.
Excelent.
Mulțumiri.
Îți amintești cât de mult
spune Locke că munca crește
valoarea a ceea ce este în natură?  De
100 de ori în paragraful 40. De
1.000 de ori în paragraful 43.
Atât de 10, cât și de 100 de ori
în paragraful 37.
Și din moment ce am menționat
paragraful 40,
ar trebui să subliniem
celebra lui declarație
în cea ulterioară.
Un rege al unui teritoriu mare și
fructuos din America se
hrănește, găzduiește și este îmbrăcat mai rău
decât un zilier din Anglia.
Deci, oricare ar fi
factorul de creștere,
ideea nu este doar că
munca reprezintă aproape toată valoarea
proprietății, ci că
prin protejarea proprietății
vom beneficia cu toții de
multe lucruri bune.
Da, ca această universitate.
[Chicotește]
Exact.
Încă nu cred că este corect
ca unii oameni să aibă mult
mai mult decât alții.
Dar toți beneficiem.
În plus, dacă nu ar fi
acest sistem, nici
măcar nu ai putea
să obții acea Kia avariată
la care visezi.
Oh.
Ha, ha.
[Râsete]
Dar chiar dacă plăcinta
devine din ce în ce mai mare,
unii oameni îi vor
controla pe alții
pentru că au
o bucată mai mare,
făcându-i pe acești oameni nefericiți.
Sau vrei să spui mai puțin gratuit?
Dacă da, se pare că AI nu
rezolvă deloc problema.
Desigur, unii oameni
cred că se poate,
că matematizarea
tuturor lucrurilor
poate duce la un fel
de tehno-utopie.
Locke ne dă de ales.
Putem fi controlați de
algoritmi proiectați de
oameni inteligenți, dar nepământeni, care lucrează
ore îndelungate într-un subsol --
sau să-i spunem o peșteră --
sau ni se poate permite
alegerea noastră.
Desigur, acea alegere
ar trebui să fie produsul
unei reflecții atente, în
special asupra propriilor noastre părtiniri.
Dar AI ar putea oferi mai multă
libertate, nu-i așa?
Văd ce spui.  Cu
siguranță, poate aduce
beneficii în îngrijirea sănătății
și transport și poate face
multe lucruri mai eficiente.
Dar în mod intrinsec
nu poate rezolva problema
părtinirii nici măcar în sine.
De fapt, este și mai rău.
Cei care dezvoltă și,
prin urmare, controlează AI,
vor construi sisteme AI părtinitoare
în propriul beneficiu.
Hmm.
Hmm.  Acestea
fiind spuse, mi-am
dat seama că cumva se pare că ne-am

distras atenția de la înțelegerea
modului în care dreptul natural ne poate ajuta
să abordăm părtinirile în AI.
Și mai avem doar câteva
minute de curs.
Mă întrebam când
aveai să realizezi asta.  Ei
bine, ne-ați convins
că toate sistemele AI
vor fi părtinitoare în
anumite dimensiuni,
indiferent de ceea ce faceți.
Dar apoi
ne-ați convins și că proprietatea
trebuie respectată.
Deci, ce facem în privința părtinirii?
Da.
Și cum ar trebui să-i
pedepsim pe oamenii care scriu
sisteme AI părtinitoare inacceptabil?
Sau recompensați-i pentru că au realizat
sisteme AI părtinitoare acceptabil.
Mă refer la sisteme AI imparțiale.
[Râsete]
Da.
Nu putem recompensa
sau pedepsi oamenii,
conform sistemului lui Locke.
Dimpotrivă,
îi putem recompensa
cumpărându-le
produsele dacă ne plac
sau îi putem pedepsi necumpărând
produsele lor
dacă nu ne plac.
Deci transparența este cheia?
Da, dacă oamenii sunt dispuși
să plătească pentru transparență.
Vedeți, legea
naturii se adresează și la asta.
Și în majoritatea
abordărilor contemporane,
există o
presupunere, una pe care am

abordat-o și astăzi,
că părtinirea este rea și ar trebui
eradicată
prin mijloace tehnice matematice.
Înțelegem acum că este necesară o reflecție mai profundă
asupra legii naturii
și a legii rațiunii
, dar noi, inginerii,
trebuia să vedem mai întâi limitările abordării
matematice sau informatice

înainte de a trece
la una mai amplă sau mai profundă.
Da.
Cred că înțeleg
asta acum, dar încă
nu s-a schimbat nimic.
Vreau un Ferrari.
Ideea este că în
sistemul Lockean suntem cu toții mai bine-- mai
fericiți, am putea spune--
pentru că algoritmii
cu
părtiniri inacceptabile vor dispărea pentru că
nimeni nu-i va cumpăra.
Începi să înțelegi.
Mai devreme, ați menționat
utilitarismul
și ați arătat nu numai
că IA este legată de el,
ci și că nu tratează
bine lucrurile umane.
Dar ceea ce nu am
înțeles cu adevărat
este că mai trebuie să
facem alegeri utilitare,
cum ar fi alocarea de resurse.
Ne puteți arăta cum să ne
gândim la această necesitate
în domeniul
lucrurilor umane?
Da, pot.  Am
spus că utilitarismul
ca formă de gândire
tinde să dea o
relatare incompletă a preocupărilor
și pasiunilor umane,
indiferent cât de mult ne
străduim să facem
modelul matematic complet.
Dar am indicat că
ingineria este utilitară
și că se străduiește întotdeauna
să optimizeze anumite funcții.
Cum ar trebui să ne gândim la
asta în beneficiul uman
ar fi subiectul
pentru următoarea clasă.
[SONETE DE CLOPOTE]
[Se redă MUZICA]