# Google promite modificări ale supravegherii cercetării după revolta internă

> Google, Alphabet Inc, va schimba procedurile înainte de luna iulie pentru a-și revizui activitatea oamenilor de știință, potrivit unei înregistrări a primăriei auzite de Reuters, parte a unui efort...

Publicat: 25 februarie 2021, 12:00 · Autor: Teodora Stanescu · Categorie: [Business](https://stiri.com.ro/category/business/index.html.md) · Pagina web: https://stiri.com.ro/2021/02/25/google-promite-modificari-ale-supravegherii-cercetarii-dupa-revolta-interna/ · Publicație: Stiri.com.ro

![](https://stiri.com.ro/wp-content/uploads/2022/01/google-hq-logo.webp)

Google, Alphabet Inc, va schimba procedurile înainte de luna iulie pentru a-și revizui activitatea oamenilor de știință, potrivit unei înregistrări a primăriei auzite de Reuters, parte a unui efort de a înăbuși tumultul intern asupra integrității cercetării sale în domeniul inteligenței artificiale (AI).

În declarațiile de la o ședință a personalului, vinerea trecută, directorii Google Research au declarat că lucrează la recâștigarea încrederii după ce compania a demis două femei proeminente și le-a respins munca, potrivit unei înregistrări de o oră, al cărei conținut a fost confirmat de două surse.

Echipele testează deja un chestionar care va evalua proiectele în ceea ce privește riscul și va ajuta oamenii de știință să navigheze pe recenzii, a declarat în cadrul ședinței Maggie Johnson, directorul operațional al unității de cercetare. Această modificare inițială se va lansa până la sfârșitul celui de-al doilea trimestru, iar majoritatea ziarelor nu vor necesita verificări suplimentare, a spus ea.

Reuters a raportat în decembrie că Google a introdus o revizuire a „subiectelor sensibile” pentru studii care implică zeci de probleme, precum [China](http://financiarul.ro/tag/china/) sau părtinirea serviciilor sale. Evaluatorii interni au cerut ca cel puțin trei lucrări despre inteligența artificală să fie modificate pentru a se abține de la aruncarea tehnologiei Google într-o lumină negativă, a raportat Reuters.

Jeff Dean, vicepreședintele senior Google care supraveghează divizia, a declarat că analiza „subiectelor sensibile” „este și confuză” și că a însărcinat un director de cercetare principal, Zoubin Ghahramani, să clarifice regulile, conform înregistrării.

Ghahramani, profesor la Universitatea din Cambridge care s-a alăturat Google în septembrie de la Uber Technologies Inc, a declarat: „Trebuie să fim confortabili cu acel disconfort” al cercetării autocritice.

Google a refuzat să comenteze întâlnirea.

Un e-mail intern, văzut de Reuters, oferea detalii noi despre preocupările cercetătorilor Google, arătând exact modul în care departamentul juridic Google a modificat una dintre cele trei lucrări AI, numită „Extragerea datelor de instruire din modelele de limbă mare”.

E-mailul, datat pe 8 februarie, de la un coautor al lucrării, Nicholas Carlini, a fost trimis către sute de colegi, căutând să le atragă atenția asupra a ceea ce el a numit editări „profund insidioase” ale avocaților companiei.

„Să fim clar aici”, a spus e-mailul de aproximativ 1.200 de cuvinte. „Când noi, ca universitari, scriem că avem o„ îngrijorare ”sau găsim ceva„ îngrijorător ”, iar un avocat Google ne cere să-l schimbăm pentru a parea mai frumos, asta înseamnă că Big Brother intervine.”

Modificările necesare, conform e-mailului său, includeau modificări „negativ-neutre”, cum ar fi schimbarea cuvântului „îngrijorări” în „considerații” și „pericole” în „riscuri”. Avocații au solicitat, de asemenea, ștergerea referințelor la tehnologia Google; constatarea autorilor că AI a scurs conținut protejat prin drepturi de autor; și cuvintele „încălcare” și „sensibil”, se spunea în e-mail.

Carlini nu a răspuns la solicitările de comentarii. Google, ca răspuns la întrebări despre e-mail, a contestat afirmația că avocații încearcă să controleze tonul ziarului. Compania a declarat că nu are probleme cu subiectele investigate de ziar, dar a găsit câțiva termeni legali folosiți inexact și a dus la o modificare completă.

Săptămâna trecută, Google a numit-o și pe Marian Croak, un pionier în tehnologia audio pe internet și unul dintre puținii vicepreședinți negri ai Google, pentru a consolida și gestiona 10 echipe care studiază probleme precum prejudecată rasială în algoritmi și tehnologie pentru persoanele cu dizabilități.

Croak a declarat în cadrul ședinței de vineri că va fi nevoie de timp pentru a aborda preocupările cercetătorilor în domeniul eticii AI și pentru a atenua daunele aduse mărcii Google.

„Vă rog să mă considerați pe deplin responsabil pentru încercarea de a întoarce situația respectivă”, a spus ea pe înregistrare.

Johnson a adăugat că organizația AI aduce o firmă de consultanță pentru o evaluare largă a impactului echității rasiale. Primul audit de acest tip al departamentului ar conduce la recomandări „care vor fi destul de grele”, a spus ea.

Tensiunile din divizia lui Dean s-au adâncit în decembrie, după ce Google a renunțat la Timnit Gebru, co-conducător al echipei sale etice de cercetare AI, în urma refuzului ei de a retrage o lucrare despre AI generatoare de limbaj. Gebru, care este negru, a acuzat compania la momentul respectiv de a-și revizui munca diferit din cauza identității sale și de marginalizarea angajaților din medii subreprezentate. Aproape 2.700 de angajați au semnat o scrisoare deschisă în sprijinul lui Gebru.

„Vrem investigații responsabile de AI și etice ale AI”, a spus Dean, dând exemplul studierii costurilor de mediu ale tehnologiei. Dar este problematic să cităm datele „aproape de un factor de o sută”, ignorând în același timp statistici mai exacte, precum și eforturile Google de a reduce emisiile, a spus el. Dean a criticat anterior lucrarea lui Gebru pentru că nu a inclus concluzii importante privind impactul asupra mediului.

Gebru și-a apărat citarea lucrării. „Este un aspect foarte rău pentru Google să iasă în mod defensiv împotriva unei lucrări care a fost citată de atât de multe instituții de la egal la egal”, a declarat ea pentru Reuters.

Angajații au continuat să posteze despre frustrările lor din ultima lună pe Twitter în timp ce Google a investigat și apoi a concediat-o pe Margaret Mitchell, co-conducătoare etică a AI pentru mutarea fișierelor electronice în afara companiei. Mitchell a spus pe Twitter că a acționat „pentru a ridica îngrijorări cu privire la rasa și inechitatea de gen și pentru a vorbi despre concedierea problematică de către Google a Dr. Gebru”.

Mitchell colaborase la ziarul care a determinat plecarea lui Gebru și la o versiune publicată online luna trecută fără afiliere la Google numită „Shmargaret Shmitchell” ca și coautor.

Solicitată pentru comentarii, Mitchell și-a exprimat dezamăgirea în legătură cu critica lui Dean față de ziar și a spus că numele ei a fost înlăturat în urma unui ordin al companiei.

Citeste continuarea aici: [Google promite modificări ale supravegherii cercetării după revolta internă](https://financiarul.ro/2021/02/25/google-promite-modificari-ale-supravegherii-cercetarii-dupa-revolta-interna/)