Controverse over Google voor het opnemen van een denier op haar ethische commissie

Meer dan duizend werknemers hebben een brief ondertekend om te protesteren tegen de samenstelling van hun nieuwe onafhankelijke AI-ethische raad. Kay Coles James, die wordt beschuldigd van een trasfoba, een klimaatverandering ontkenner en een harde stond tegen immigratie

Meer dan duizend Google-medewerkers, academische onderzoekers en andere leden van de tech-industrie hebben een brief ondertekend om te protesteren tegen de samenstelling van de onafhankelijke ethische raad die de reus heeft opgericht om toezicht te houden op zijn kunstmatige intelligentie (AI) projecten.

Het bedrijf kondigde de oprichting van deze groep vorige week tijdens MIT Technology Review’s EmTech Digital conferentie in San Francisco, USA. De zogenaamde Externe Raad voor de Raadpleging Van Geavanceerde Technologieën (ATEAC) bestaat uit acht leden van verschillende profielen: economen, filosofen, politici en technologen met ervaring in onderwerpen als algoritmische bias. Zijn plan zou zijn om vier jaarlijkse vergaderingen te houden en rapporten te schrijven om opmerkingen te maken over de projecten van het bedrijf met behulp van kunstmatige intelligentie.

Maar twee van die leden hebben controverse gezaaid. Een daarvan is Trumbull’s CEO, Dyan Gibbens, een bedrijf dat autonome systemen voor Defensie ontwikkelt, een controversiële optie gezien het feit dat duizenden Google-medewerkers al hebben geprotesteerd tegen het besluit van het bedrijf om AI te leveren voor beeldanalyse gemaakt door Amerikaanse luchtmachtdrones. Maar de grootste verontwaardiging komt van de opname van Heritage Foundation president Kay Coles James, wiens mind lab verzet zich tegen koolstofregulering, heeft een harde stand tegen immigratie en is tegen de bescherming van LGBTQ rechten.

Een ander bestuurslid, professor van de Carnegie Mellon University, gespecialiseerd in digitale privacy, Alessandro Acquisti, kondigde op 30 maart aan dat hij niet zal aantreden. In een tweet verklaarde hij: “Hoewel ik ben gewijd aan het onderzoeken en omgaan met de fundamentele ethische problemen over onpartijdigheid, rechten en inclusie in AI, ik denk niet dat dit het juiste forum voor mijn deelname aan dit belangrijke werk.”

In feite zou de oprichting van de ATEAC, en de opname van Gibbens en James, de intentie kunnen verbergen om de rechtse critici van Google te sussen. Rond dezelfde tijd dat de raad werd aangekondigd, Google CEO Sundar Pichai een ontmoeting met de Amerikaanse president Donald Trump. Later twitterde Trump: “Hij beweerde stellig dat hij zich volledig inzet voor het Amerikaanse leger, niet aan het Chinese leger. [We] hebben het ook over politieke rechtvaardigheid en verschillende dingen die Google voor ons land kan doen. De bijeenkomst eindigde heel goed!”

Maar een Google-medewerker die betrokken was bij het opstellen van de protestbrief, die sprak op voorwaarde van anonimiteit, beweert dat James meer was dan alleen een conservatieve stem in de Raad: “Ze is een reactionair die ontkent dat er transgender mensen zijn, die anti-immigrantenstandpunten radicaal steunen en die standpunten tegen klimaatverandering en tegen wetenschap ondersteunt.”

Sommige AI-algoritmen kunnen de vooroordelen versterken die al bestaan in de samenleving (zie AI-evaluatie van criminelen bestendigt onrecht jegens minderheden). Sommigen van hen hebben aangetoond dat het misidentificeren van transgenders, bijvoorbeeld. In die context, de anonieme werknemer stelt: “Het feit dat [James] is opgenomen is heel schokkend. Deze technologieën geven vorm aan onze sociale instellingen, ons leven en de toegang tot hulpbronnen. Als AI faalt, doet dat geen pijn aan de rijke blanke mannen die in techbedrijven werken. Het is niet schadelijk voor precies dezelfde gemeenschappen die het beleid van de Heritage Foundation al wil schaden.”

Berichten geplaatst op een interne Google communicatie platform in het bijzonder kritiek op james’s benoeming. Volgens een post, eerder gepubliceerd door Verge en bevestigd door de werknemer, James “verdient niet een platform gelegitimeerd door Google, en natuurlijk behoort het niet tot een gesprek over hoe Google-technologie moet worden toegepast op de wereld.”

Gistermiddag in Spanje, de open brief, gepubliceerd in Medium, had al bijna 1.300 handtekeningen van Google-medewerkers en 143 andere mensen, waaronder een aantal vooraanstaande leraren. De brief luidt: “James’s standpunten zijn niet alleen in strijd met de genoemde waarden van Google, maar zijn direct in strijd met het project om ervoor te zorgen dat de ontwikkeling en toepassing van AI prioriteit geeft aan justitie boven winst. Een dergelijk project moet daarom vertegenwoordigers van kwetsbare gemeenschappen centraal stellen in het besluitvormingsproces.”

Leave a Comment