Google promite modificări ale supravegherii cercetării după revolta internă

Google, Alphabet Inc, va schimba procedurile înainte de luna iulie pentru a-și revizui activitatea oamenilor de știință, potrivit unei înregistrări a primăriei auzite de Reuters, parte a unui efort de a înăbuși tumultul intern asupra integrității cercetării sale în domeniul inteligenței artificiale (AI).
În declarațiile de la o ședință a personalului, vinerea trecută, directorii Google Research au declarat că lucrează la recâștigarea încrederii după ce compania a demis două femei proeminente și le-a respins munca, potrivit unei înregistrări de o oră, al cărei conținut a fost confirmat de două surse.

Echipele testează deja un chestionar care va evalua proiectele în ceea ce privește riscul și va ajuta oamenii de știință să navigheze pe recenzii, a declarat în cadrul ședinței Maggie Johnson, directorul operațional al unității de cercetare. Această modificare inițială se va lansa până la sfârșitul celui de-al doilea trimestru, iar majoritatea ziarelor nu vor necesita verificări suplimentare, a spus ea.

Reuters a raportat în decembrie că Google a introdus o revizuire a „subiectelor sensibile” pentru studii care implică zeci de probleme, precum China sau părtinirea serviciilor sale. Evaluatorii interni au cerut ca cel puțin trei lucrări despre inteligența artificală să fie modificate pentru a se abține de la aruncarea tehnologiei Google într-o lumină negativă, a raportat Reuters.

Jeff Dean, vicepreședintele senior Google care supraveghează divizia, a declarat că analiza „subiectelor sensibile” „este și confuză” și că a însărcinat un director de cercetare principal, Zoubin Ghahramani, să clarifice regulile, conform înregistrării.

Ghahramani, profesor la Universitatea din Cambridge care s-a alăturat Google în septembrie de la Uber Technologies Inc, a declarat: „Trebuie să fim confortabili cu acel disconfort” al cercetării autocritice.

Google a refuzat să comenteze întâlnirea.

Un e-mail intern, văzut de Reuters, oferea detalii noi despre preocupările cercetătorilor Google, arătând exact modul în care departamentul juridic Google a modificat una dintre cele trei lucrări AI, numită „Extragerea datelor de instruire din modelele de limbă mare”.

E-mailul, datat pe 8 februarie, de la un coautor al lucrării, Nicholas Carlini, a fost trimis către sute de colegi, căutând să le atragă atenția asupra a ceea ce el a numit editări „profund insidioase” ale avocaților companiei.
„Să fim clar aici”, a spus e-mailul de aproximativ 1.200 de cuvinte. „Când noi, ca universitari, scriem că avem o„ îngrijorare ”sau găsim ceva„ îngrijorător ”, iar un avocat Google ne cere să-l schimbăm pentru a parea mai frumos, asta înseamnă că Big Brother intervine.”

Modificările necesare, conform e-mailului său, includeau modificări „negativ-neutre”, cum ar fi schimbarea cuvântului „îngrijorări” în „considerații” și „pericole” în „riscuri”. Avocații au solicitat, de asemenea, ștergerea referințelor la tehnologia Google; constatarea autorilor că AI a scurs conținut protejat prin drepturi de autor; și cuvintele „încălcare” și „sensibil”, se spunea în e-mail.

Carlini nu a răspuns la solicitările de comentarii. Google, ca răspuns la întrebări despre e-mail, a contestat afirmația că avocații încearcă să controleze tonul ziarului. Compania a declarat că nu are probleme cu subiectele investigate de ziar, dar a găsit câțiva termeni legali folosiți inexact și a dus la o modificare completă.
Săptămâna trecută, Google a numit-o și pe Marian Croak, un pionier în tehnologia audio pe internet și unul dintre puținii vicepreședinți negri ai Google, pentru a consolida și gestiona 10 echipe care studiază probleme precum prejudecată rasială în algoritmi și tehnologie pentru persoanele cu dizabilități.

Croak a declarat în cadrul ședinței de vineri că va fi nevoie de timp pentru a aborda preocupările cercetătorilor în domeniul eticii AI și pentru a atenua daunele aduse mărcii Google.

„Vă rog să mă considerați pe deplin responsabil pentru încercarea de a întoarce situația respectivă”, a spus ea pe înregistrare.

Johnson a adăugat că organizația AI aduce o firmă de consultanță pentru o evaluare largă a impactului echității rasiale. Primul audit de acest tip al departamentului ar conduce la recomandări „care vor fi destul de grele”, a spus ea.
Tensiunile din divizia lui Dean s-au adâncit în decembrie, după ce Google a renunțat la Timnit Gebru, co-conducător al echipei sale etice de cercetare AI, în urma refuzului ei de a retrage o lucrare despre AI generatoare de limbaj. Gebru, care este negru, a acuzat compania la momentul respectiv de a-și revizui munca diferit din cauza identității sale și de marginalizarea angajaților din medii subreprezentate. Aproape 2.700 de angajați au semnat o scrisoare deschisă în sprijinul lui Gebru.

„Vrem investigații responsabile de AI și etice ale AI”, a spus Dean, dând exemplul studierii costurilor de mediu ale tehnologiei. Dar este problematic să cităm datele „aproape de un factor de o sută”, ignorând în același timp statistici mai exacte, precum și eforturile Google de a reduce emisiile, a spus el. Dean a criticat anterior lucrarea lui Gebru pentru că nu a inclus concluzii importante privind impactul asupra mediului.

Gebru și-a apărat citarea lucrării. „Este un aspect foarte rău pentru Google să iasă în mod defensiv împotriva unei lucrări care a fost citată de atât de multe instituții de la egal la egal”, a declarat ea pentru Reuters.

Angajații au continuat să posteze despre frustrările lor din ultima lună pe Twitter în timp ce Google a investigat și apoi a concediat-o pe Margaret Mitchell, co-conducătoare etică a AI pentru mutarea fișierelor electronice în afara companiei. Mitchell a spus pe Twitter că a acționat „pentru a ridica îngrijorări cu privire la rasa și inechitatea de gen și pentru a vorbi despre concedierea problematică de către Google a Dr. Gebru”.

Mitchell colaborase la ziarul care a determinat plecarea lui Gebru și la o versiune publicată online luna trecută fără afiliere la Google numită „Shmargaret Shmitchell” ca și coautor.

Solicitată pentru comentarii, Mitchell și-a exprimat dezamăgirea în legătură cu critica lui Dean față de ziar și a spus că numele ei a fost înlăturat în urma unui ordin al companiei.

Citeste continuarea aici: Google promite modificări ale supravegherii cercetării după revolta internă