Benjamin Peters, Mar Hicks, Kavita Philip i Thomas Mullaney

MIT Press, 2021

Technologia dotyka dziś praktycznie każdego aspektu życia ludzi, ale niewielu zatrzymuje się, by pomyśleć o jej pochodzeniu lub o tym, dokąd może ona zaprowadzić społeczeństwo. Wielu zapomina, że ludzie są zaangażowani na każdym etapie projektowania, rozwoju i wdrażania technologii oraz że światopogląd tych osób kształtuje tworzoną przez nich technologię. Ten zbiór esejów autorów z nauk społecznych i STEM argumentuje przeciwko poglądowi, że technologia ma „neutralny” charakter i ujawnia uprzedzenia i struktury władzy nieodłącznie związane z projektami i narzędziami technologicznymi.

Streszczenie zostało przetłumaczone maszynowo (przepraszamy za niedoskonałości tłumaczenia) jako materiał na nasze wykłady motywacyjne.

Wnioski

• Postęp technologiczny bez wkładu nauk społecznych jest niebezpieczny, ponieważ nie zdaje sobie sprawy z jego politycznych, społecznych i ekonomicznych implikacji.
• Pozornie wirtualny świat handlu elektronicznego i technologii jest głęboko fizyczny.
• Sztuczna inteligencja nigdy nie jest czysto sztuczna – zawsze zależy od wkładu człowieka.
• Seksizm rzucił na kolana brytyjski przemysł komputerowy.
• Technologia nie jest ani neutralna, ani obiektywna, a raczej często wzmacnia negatywne stereotypy rasowe i płciowe.
• Klawiatura QWERTY służy zarówno jako miejsce wykluczenia, jak i twórczych możliwości.
• W przeciwieństwie do tego, w co branża technologiczna chce wierzyć, nie jest to merytokracja.

Podsumowanie

• Postęp technologiczny bez wkładu nauk społecznych jest niebezpieczny, ponieważ nie zdaje sobie sprawy z jego politycznych, społecznych i ekonomicznych implikacji.
• Rozwój technologiczny zawsze ma potencjał poprawy życia. Ale nawet gdy innowacja ma na celu rozwiązanie poważnego problemu społecznego, często generuje niezamierzone konsekwencje: Google odegrał kluczową rolę w mapowaniu Internetu dla mas, ale otworzył także drzwi do inwazyjnego eksplorowania danych i naruszania prywatności użytkowników. Zazwyczaj ludzie z niewielką lub żadną władzą w społeczeństwie cierpią z powodu najbardziej negatywnych skutków nowych technologii.

• „Jesteśmy świadkami okresu, w którym coraz pilniejsze staje się uznanie, że postęp technologiczny bez odpowiedzialności społecznej nie jest prawdziwym postępem”.
• Brak troski twórców technologii o powszechne skutki ich twórczości wynika częściowo z braku wkładu ze strony innych dyscyplin, takich jak nauki społeczne lub polityczne oraz inne przedmioty STEM. Pozostawienie ekspertów technicznych bez wystarczającej wiedzy z zakresu historii lub psychologii – a nawet wystarczającej motywacji do sprawdzania faktów – odpowiedzialnych za systemy, które dotykają każdego aspektu życia ludzi, może prowadzić do niebezpiecznych rezultatów. Pomyślmy na przykład o tym, jak brak nadzoru rządowego pozwolił Boeingowi zainstalować wadliwe systemy autopilota w swoich liniach lotniczych 737 Max, co doprowadziło do śmierci setek osób.

• Wiele z dzisiejszych technologii i systemów ma wbudowane w siebie dysproporcje władzy i dyskryminację. Pierwsza platforma społecznościowa założyciela Facebooka, Marka Zuckerberga, miała charakter podglądactwa i uprzedmiotawiała jego koleżanki z klasy, więc problematyczna historia naruszeń prywatności na Facebooku nie powinna być zaskoczeniem. Wczesne komputery i technologia pomogły wygrać wojny i wysłać ludzi w kosmos, ale ludzie często zapominają o kobietach – w szczególności czarnoskórych – zaangażowanych w te przedsięwzięcia. Historia informatyki jest zatem również historią dominacji zamożnych białych mężczyzn.

• Pozornie wirtualny świat handlu elektronicznego i technologii jest głęboko fizyczny.
• Chmura to zbiór zasobów technologicznych, do których ludzie mogą uzyskać dostęp za pośrednictwem Internetu, takich jak hosting, aplikacje serwerowe lub hurtownie danych. Ludzie często myślą o chmurze jako o czymś bez fizycznej obecności, ze względu na płynną usługę, którą zwykle zapewnia, oraz niewidoczność zaangażowanej pracy i sprzętu. Chmura jest jednak zasadniczo dużą fabryką ze złożoną i rozległą infrastrukturą fizyczną. Jest to jeden z największych konsumentów energii elektrycznej i wody oraz jedno z największych źródeł zanieczyszczeń na świecie. Serwery i komputery w chmurze zależą od rzadkich materiałów, takich jak lit, cyna czy kobalt, które firmy pozyskują z całego świata.

• „Czyniąc niewidoczną infrastrukturę materialną, która umożliwia gospodarkę cyfrową, metafora chmury pozwala branży komputerowej ukryć i uzewnętrznić cały szereg problemów, od kosztów energii po zanieczyszczenie odpadami elektronicznymi”.
• Globalny łańcuch dostaw chmury wiąże się z kwestiami politycznymi, społecznymi i środowiskowymi, począwszy od bezpieczeństwa pracowników, a skończywszy na stosunkach politycznych i gospodarczych między krajami. Pojawiają się również pytania o to, dlaczego duże firmy e-commerce są zwolnione z niektórych kontroli społecznych, politycznych i środowiskowych. Na przykład, pomimo tego, że Amazon jest w istocie nowoczesną wersją firmy zajmującej się sprzedażą wysyłkową, otrzymuje dotacje podatkowe, określając się jako przedsiębiorca handlu elektronicznego.

• Sztuczna inteligencja nigdy nie jest czysto sztuczna – zawsze zależy od wkładu człowieka.
• Wszystkie serwisy społecznościowe polegają na sztucznej inteligencji (AI) w celu monitorowania i moderowania treści. Wykorzystują one podstawową sztuczną inteligencję do filtrowania słów kluczowych, adresów IP i adresów URL, a także znacznie bardziej zaawansowane narzędzia, takie jak technologie haszowania, narzędzia nastrojów i prognozowania, analiza pikseli i uczenie maszynowe. Wykorzystanie sztucznej inteligencji może sprawiać wrażenie, że usuwa potencjalne uprzedzenia z procesu – ale zamiast tego usuwa odpowiedzialność. Ludzie zapominają, że za algorytmami, programami i procesami składającymi się na sztuczną inteligencję kryją się ludzkie decyzje i działania.

• Jakość decyzji podejmowanych przez sztuczną inteligencję zależy od materiałów źródłowych technologii. Jeśli wprowadzisz słabe informacje, otrzymasz słabe informacje. Na przykład technologie policyjne zwykle opierają się na statystykach przestępczości. Jednak statystyki przestępczości często dają wypaczony obraz ze względu na nadmierną policję w dzielnicach o niższych dochodach i wynikającą z tego częstotliwość aresztowań osób rasy innej niż biała. W ostatnich latach większość dużych firm technologicznych, w tym Facebook, Twitter i YouTube, musiała zwiększyć liczbę pracowników do moderowania treści z powodu skandali związanych z wpływem na wybory, fałszywymi kontami lub automatycznymi rekomendacjami treści.

• „Sztuczna inteligencja jest obecnie i zawsze będzie składać się z ludzkiej inteligencji i interwencji oraz będzie od nich zależna”.
• Ludzki wkład ma kluczowe znaczenie na przykład w przypadku przestępstw takich jak pornografia dziecięca. Podczas gdy algorytmy mogą wykryć potencjalnie pornograficzny obraz, decyzja o tym, czy jest on klasyfikowany jako pornografia dziecięca, zależy całkowicie od ludzkiej interpretacji i przeglądu. Ponadto istnieją znane problemy z oprogramowaniem do rozpoznawania obrazów: Na przykład, większość z tych narzędzi ma trudności z dokładną identyfikacją mniejszości rasowych. Dzieje się tak dlatego, że wiele zestawów danych wykorzystywanych do szkolenia algorytmów domyślnie wykorzystuje białych dorosłych mężczyzn.

• Seksizm rzucił na kolana brytyjski przemysł komputerowy.
• Pierwszymi operatorami komputerów i programistami w Wielkiej Brytanii były kobiety, które podczas II wojny światowej pracowały na komputerach łamiących kody. Powodem, dla którego kobiety pełniły te role, nie był brak mężczyzn do ich wykonywania – raczej dlatego, że ludzie uważali informatykę za podobną do pracy w fabryce.

• „Wraz z utożsamianiem pracy przy komputerach z władzą, kobiety pracujące przy komputerach, które posiadały wszystkie umiejętności techniczne do wykonywania pracy, były coraz bardziej wypierane przez nowe zasady zatrudniania, które faworyzowały niesprawdzonych stażystów płci męskiej bez umiejętności technicznych”.
• Kiedy komputery stały się ważniejszą częścią gospodarki w latach 60-tych, rząd zmienił praktyki zatrudniania na stanowiska techniczne. Kobiety posiadające umiejętności techniczne musiały szkolić kolegów, którzy następnie obejmowali stanowiska kierownicze. Mimo to mężczyźni postrzegali pracę przy komputerach jako sfeminizowaną, więc często odbywali rządowe szkolenia, a następnie odchodzili, by objąć kierownicze, niekomputerowe stanowiska gdzie indziej. Doprowadziło to do ogromnego niedoboru siły roboczej, ale rząd nadal odmawiał zatrudniania lub promowania kobiet na kierownicze stanowiska techniczne. Jedną z takich kobiet była Stephanie „Steve” Shirley.

• Po kilkukrotnym odrzuceniu jej awansu w służbie cywilnej, Shirley postanowiła założyć własną firmę programistyczną, korzystając z dużej puli utalentowanych technicznie kobiet, które zatrudniała na elastycznych zasadach. Ponieważ rządowi i innym dużym firmom brakowało talentów, zaczęły one zlecać prace informatyczne firmom takim jak Shirley.

• Ostatecznie, aby poradzić sobie z ciągłym niedoborem siły roboczej, rząd postanowił zainwestować w rozwiązanie, które wymagałoby mniejszej liczby pracowników. Rząd zmusił brytyjskie firmy komputerowe do połączenia się w jedną spółkę – International Computers Limited (ICL) – i zażądał od niej skoncentrowania produkcji na dużych, zaawansowanych technologicznie komputerach mainframe w zamian za rządowe dotacje i kontrakty. Ale zanim te komputery mainframe były gotowe, świat przeszedł na mniejsze i bardziej elastyczne rozwiązania, pozostawiając ICL – a tym samym brytyjski przemysł komputerowy – w tyle.

• Technologia nie jest ani neutralna, ani obiektywna, a raczej często wzmacnia negatywne stereotypy rasowe i płciowe.
• Technologie mowy ułatwiają życie wielu ludziom. Jednak ci, którzy nie mówią standardowym angielskim, są wykluczeni z korzystania z usług zależnych od tych technologii, ponieważ ich konstrukcja wzmacnia uprzedzenia dotyczące akcentu. Badania wykazały, że ludzie postrzegają osoby mówiące z akcentem jako mniej inteligentne, lojalne i kompetentne, a nierodzima mowa często prowadzi do dyskryminacji w zakresie mieszkalnictwa, zatrudnienia lub wymiaru sprawiedliwości. Język zawsze był narzędziem imperializmu; język kolonizatora stał się językiem władzy – który skolonizowani musieli przyjąć, jeśli chcieli mieć głos. Podobnie, niezdolność technologii mowy do zrozumienia niestandardowego języka angielskiego zmusza osoby niebędące rodzimymi użytkownikami języka lub mówiące z akcentem do zmiany sposobu mówienia.

• „Media cyfrowe – a co za tym idzie, język mediów cyfrowych – są prawdopodobnie jednym z najpotężniejszych narzędzi neoimperializmu”.
• Ponieważ gromadzenie danych w celu szkolenia technologii mowy jest kosztowne, większość firm nadal korzysta z korpusu składającego się głównie z amerykańskich akcentów środkowo-zachodnich. Oprócz wzmacniania struktur władzy i dyskryminacji, technologia wzmacnia również negatywne stereotypy. Na przykład w wielu hollywoodzkich filmach „dobre” roboty są zazwyczaj białe, podczas gdy czarne lub ciemne roboty są złe.

• Klawiatura QWERTY służy zarówno jako miejsce wykluczenia, jak i twórczych możliwości.
• Firmy zaczęły używać klawiatury QWERTY, której nazwa pochodzi od kolejności pierwszych sześciu klawiszy w lewym górnym rzędzie liter, w latach siedemdziesiątych XIX wieku. Dziś jest to globalnie akceptowany interfejs. Jednak ponad 50% światowej populacji, w tym osoby posługujące się językiem arabskim, hindi, koreańskim i chińskim, nie może używać jej do pisania w swoim rodzimym alfabecie. Dzieje się tak, ponieważ klawiatura QWERTY ma zestaw wbudowanych funkcji, które nie są dostosowane do specyfiki tych skryptów. Na przykład arabskie litery łączą się i zmieniają kształt oraz są pisane od prawej do lewej, co jest sprzeczne z izomorfizmem QWERTY (litery nie zmieniają kształtu), monoprzestrzennością (wszystkie litery zajmują tę samą przestrzeń poziomą) i jednokierunkowością. Litery Hangul, pochodzące z pisma koreańskiego, zmieniają rozmiar i położenie w zależności od kontekstu i łączą się zarówno w pionie, jak i w poziomie, co jest sprzeczne z izomorfizmem, izopozycją (litery nie zmieniają położenia), izolacją (litery nie łączą się) i monolinearnością (litery znajdują się na jednej linii bazowej).

• „Stworzenie specjalnej klasy systemów pisma i nazwanie ich 'złożonymi’ pomija w dyskusji kwestię tego, jak i dlaczego te systemy pisma stały się 'złożone’.”
• Początkowo ludzie próbowali zmienić te niełacińskie skrypty, aby działały z klawiaturą QWERTY, w tym usuwając litery z alfabetu tajskiego, przesuwając dolną połowę koreańskich glifów na prawo od wykresu i oddzielając litery w alfabecie arabskim. W końcu ludzie zaczęli używać klawiszy klawiatury QWERTY jako „systemu wyszukiwania”: naciskając kombinacje klawiszy, które „opisują” maszynie znak, który chcą odzyskać. Aby maszyna znalazła wykres, który próbujesz napisać, nie musisz wykonywać każdego pociągnięcia wykresu. Średnio wystarczy przeliterować pierwsze pięć do sześciu znaków, aby urządzenie rozpoznało, o jaki wykres chodzi. Oznacza to, że 22 kombinacje kresek i liter – które mieszczą się na klawiaturze QWERTY – pozwalają na napisanie około 2000 najczęściej używanych chińskich grafemów. Zamiast odrzucać problematyczną klawiaturę, kreatywni myśliciele nauczyli się ją przekraczać.

• Wbrew temu, w co chce wierzyć branża technologiczna, nie jest to merytokracja.
• Pomimo twierdzeń, że każdy, kto ma chęci i umiejętności, może dostać się na szczyt, różnorodność w branży technologicznej jest bardzo niewielka. W Stanach Zjednoczonych szereg inicjatyw, takich jak Code.org i Girls Who Code, ma na celu nauczanie kodowania dzieci w wieku szkolnym, a tym samym skierowanie większej liczby kobiet i mniejszości na ścieżkę wejścia do branży technologicznej. W Indiach programy rozwoju umiejętności technicznych skierowane do młodych ludzi i kobiet obiecują sposób na pokonanie barier społecznych i zdobycie lepiej płatnej pracy.

• Przekonanie, że luka w umiejętnościach jest główną barierą wejścia do dużych firm technologicznych dla kobiet i innych niedostatecznie reprezentowanych grup, sugeruje, że sami są winni; sugeruje, że ponieśli porażkę, ponieważ nie włożyli wystarczającego wysiłku w zdobycie niezbędnych umiejętności. Jednak takie inicjatywy ignorują fakt, że praktyki zatrudniania w dużych firmach technologicznych często odgrywają ważniejszą rolę w ograniczaniu różnorodności niż jakikolwiek brak umiejętności. Ogólnie rzecz biorąc, firmy technologiczne nadal faworyzują pracowników z elitarnych instytucji edukacyjnych, o „właściwym” pochodzeniu kulturowym: ludzi, którzy są zgodni ze stereotypem „białego, męskiego kujona”. Rekrutacja często odbywa się również poprzez rekomendacje od obecnych pracowników, których sieci kontaktów często składają się z ludzi takich jak oni sami.

• „Mamy Black Girls Code, ale nie mamy 'White Boys Collaborate’ czy 'White Boys Learn Respect’. Dlaczego nie, jeśli chcemy pielęgnować pełen zestaw umiejętności potrzebnych w informatyce?”.
• Kolejnym problemem jest przecenianie umiejętności technicznych. Menedżerowie ds. rekrutacji często ignorują znaczenie umiejętności społecznych podczas obsadzania stanowisk technicznych. Taki pogląd jest niekorzystny dla kobiet, które mają tendencję do pracy bardziej zespołowej i starają się rozwiązywać problemy przed upływem terminów.

O autorach

• Thomas S. Mullaney jest profesorem historii na Uniwersytecie Stanforda. Benjamin Peters jest profesorem nadzwyczajnym Hazel Rogers i katedrą studiów nad mediami na Uniwersytecie w Tulsa. Mar Hicks jest profesorem nadzwyczajnym historii w Illinois Institute of Technology. Kavita Philip jest profesorem historii w Kalifornii, Irvine.