Skąd Netflix wiedział, że jestem gejem, zanim ja to zrobiłem?

Po tym, jak reporterka BBC, Ellie House, ujawniła się jako gej, zdała sobie sprawę, że Netflix już o tym wiedział. Jak to się stało?

Zdałem sobie sprawę, że jestem biseksualny na drugim roku studiów, ale wydawało się, że Big Tech rozpracował to kilka miesięcy wcześniej.

Wcześniej miałam jednego wieloletniego chłopaka i zawsze uważałam się za heteroseksualną. Szczerze mówiąc, randkowanie nie było wysoko na moim planie.

Jednak w tamtym czasie dużo oglądałem Netflixa i dostawałem coraz więcej rekomendacji seriali z lesbijskimi historiami lub postaciami bi.

Były to seriale telewizyjne, których moi przyjaciele — ludzie w podobnym wieku, o podobnym pochodzeniu i podobnej historii — nie polecali ani o których nie słyszeli.

Jeden z zatrzymanych programów nosił tytuł You Me Her i opowiadał o parze z przedmieść, która wita trzecią osobę w swoim związku. Wypełniony dziwacznymi historiami i podwójnymi postaciami, został opisany jako „pierwsza telewizyjna komedia multi-romantyczna”.

Nie chodziło tylko o Netflixa. Wkrótce potem zauważyłem podobne rekomendacje na kilku platformach. Spotify zasugerowało playlistę, którą opisał jako „sapphic” – słowem opisującym kobiety, które kochają kobiety.

Po dwóch miesiącach na TikTok zacząłem oglądać filmy na moim kanale od biseksualnych twórców treści.

Po kilku miesiącach doszedłem do wniosku, że sam jestem biseksualny.

Jakie znaki odczytały te platformy technologiczne, których sam nie zauważyłem?

Netflix ma 222 miliony użytkowników na całym świecie i tysiące filmów i seriali dostępnych do strumieniowego przesyłania w niezliczonych gatunkach. Ale każdy indywidualny użytkownik będzie przesyłać strumieniowo tylko średnio Sześć rodzajów miesięcznie.

Aby pokazać Ci treści, które według nich ludzie będą chcieli oglądać, Netflix stosuje silny system rekomendacji. Ta sieć algorytmów pomaga identyfikować filmy, obrazy i reklamy, które pojawiają się na stronie głównej użytkownika.

Na przykład You Me Her został oznaczony kodem gatunku „100010” — lub „LGBTQ+ Stories” dla ludzkiego oka.

Celem systemu rekomendacji jest związanie osoby korzystającej z platformy z treścią.

To cyfrowe narzędzie dopasowujące zbiera informacje z obu stron i wykreśla połączenia. Można rozróżnić takie rzeczy, jak gatunek piosenki, tematy eksplorowane w filmie lub aktorzy występujący w programie telewizyjnym. Na tej podstawie algorytm przewidzi, kto może zająć się czym.

„Big data to ogromna góra” — mówi były dyrektor generalny Netflix, Todd Yellen. Na filmie z serwisu Przyszłość opowiadania historii. „Dzięki najnowocześniejszym technikom uczenia maszynowego próbujemy dowiedzieć się — jakie są ważne oznaki?”

Ale co te platformy wiedzą o swoich użytkownikach — i jak ich odkrywają?

Zgodnie z brytyjskimi przepisami dotyczącymi ochrony danych osoby fizyczne mają prawo wiedzieć, jakie dane na ich temat przechowuje organizacja. Wiele firm nadawczych i mediów społecznościowych stworzyło zautomatyzowany system, w którym użytkownicy mogą prosić o te informacje.

Pobrałem wszystkie moje informacje z ośmiu największych platform. Facebook śledził inne odwiedzane przeze mnie strony internetowe, w tym narzędzie do nauki języków i strony z listami hoteli. Zawierał on również współrzędne mojego adresu domowego, w folderze zatytułowanym „Lokalizacja”.

Instagram miał listę ponad 300 różnych tematów, którymi według niego byłbym zainteresowany, które wykorzystałem do spersonalizowanych reklam.

Netflix przesłał mi arkusz kalkulacyjny z wyszczególnieniem każdego zwiastuna i programu, który oglądałem, kiedy, na jakim urządzeniu i czy odtwarzał się automatycznie, czy też wybrałem go.

Nie było dowodów na to, że którakolwiek z tych platform oflagowała cokolwiek związanego z moją seksualnością. W oświadczeniu dla BBC Spotify powiedział: „Nasza polityka prywatności określa dane, które Spotify gromadzi na temat swoich użytkowników, które nie obejmują orientacji seksualnej. Ponadto nasze algorytmy nie przewidują orientacji seksualnej na podstawie preferencji słuchania użytkownika”.

Inne platformy mają podobne zasady. Netflix powiedział mi, że to, co oglądał użytkownik i jak wchodzi w interakcje z aplikacją, jest lepszym predyktorem jego upodobań niż dane demograficzne, takie jak wiek czy płeć.

„Nikt wprost nie mówi Netflixowi, że jest gejem” — mówi Greg Serapio Garcia, doktorant na Uniwersytecie w Cambridge, specjalizujący się w obliczeniowej psychologii społecznej. Ale platforma mogła patrzeć na użytkowników, którzy lubili „treści gejowskie”.

Użytkownik nie musi wcześniej przesyłać strumieniowo treści oznaczonych jako LGBT+, aby otrzymywać te sugestie. Systemy rekomendacji sięgają głębiej.

Według Gregga, jedną z możliwości jest to, że oglądanie niektórych filmów i programów telewizyjnych innych niż LGBTQ+ może pomóc algorytmowi przewidzieć twoją „tendencję do lubienia treści gejowskich”.

To, co ktoś ogląda, to tylko część równania; Często sposób, w jaki ktoś korzysta z platformy, może być bardziej wymowny.

Inne szczegóły mogą być również wykorzystywane do prognozowania użytkownika – na przykład, jaki procent czasu spędza on na oglądaniu bez przerwy lub czy przegląda napisy końcowe.

Według Gregga te nawyki same w sobie mogą nic nie znaczyć, ale zebrane razem u milionów użytkowników można je wykorzystać do „naprawdę konkretnych prognoz”.

Może więc algorytm Netflix przewidział moje zainteresowanie historiami LGBT+ nie tylko na podstawie tego, co oglądałem w przeszłości. Patrzyło też, kiedy w niego kliknąłem, a nawet jakie urządzenie oglądałem i kiedy.

Dla mnie to kwestia ciekawości, ale Greg uważa, że ​​w krajach, w których homoseksualizm jest nielegalny, może to potencjalnie narazić ludzi na niebezpieczeństwo.

Rozmawiając z osobami LGBT+ na całym świecie, słyszałem mieszane wiadomości. Z drugiej strony często podoba im się to, co polecają w serwisach streamingowych – być może postrzegają to jako wyzwalające.

Ale z drugiej strony są niespokojni.

„Czuję, że to ingerencja w naszą prywatność”, powiedział mi gej (zachowujemy anonimowość dla jego bezpieczeństwa).

„Daje ci trochę więcej wiedzy o tym, jak wyglądałoby twoje życie, gdyby było darmowe. I to jest miłe i dobre”. Dodaje jednak, że algorytmy „naprawdę trochę mnie przerażają”.