Kedves Mark,

"Nem tudnám definiálni mi az a pornográfia, de amikor látom, felismerem."  A legendás mondat az USA Legfelsőbb Bíróságán hangzott el 1964-ben. 2020-ban a Facebook robotjainak és húsvér moderátorainak ez a felismerés egyáltalán megy. 

Szép új világ. Privatizáljuk a szólásszabadságot is! 

A Facebook pár másodpercen belül törölte a Wikipedia Éhezés https://en.wikipedia.org/wiki/Famine szócikkének linkjét tartalmazó kommentemet, ráadásul egy zárt csoportban. Az indoklásuk a meztelenségre és a szexuális tevékenységre vonatkozó Facebook szabályok megsértése volt. A rögtönítélő bíróság 24 órás eltiltást szabott ki érte büntetésül. Kevés nagyobb hülyeséget tudtam elképzelni ennél évkezdésnek. Ezért összevont szemöldökkel néztem fel a reggeli kávémat kortyolgatva. A korai szenilitás utolérte a social media óriás mesterséges intelligenciáját.

1. Az most hagyján, hogy eszem ágában sem volt semmilyen képet posztolni ugyebár. Valójában a kép tényleges posztolásért ugyanúgy a Facebook egyik algoritmusa felelt, mint a letiltásért. Tehát valójában a Facebook saját magát cenzúrázta ki az ő végtelen bölcsességében. Ha az ember beszúr egy internethivatkozást, a Facebook motorja akaratán kívül azonnal megpróbál az adott weboldalról berángatni valamilyen képfájlt illusztrációként, ha kell, ha nem, ha releváns a kép, ha nem. Egészen komikus, amikor egy újságból egy teljesen irreleváns képet szúr be, de hát értelemszerűen ez az egyszerű algoritmus nem képes kontextust értelmezni. (Még.) 

2. Nem úgy a moderációs algoritmus, amely végigpásztázza a képeket és igyekszik felismerni a meztelenséget és a pornográf tartalmakat. Ugyanez a fejlett algoritmus egy éhezés miatt meghalt afrikai kisfiú ikonikus fotójáról azonnal felismerte, mi a baj: nincs rajta elég ruha.  (Én a problémát inkább az éhezésben láttam, ami az 1970-es évekig a Wikipedia cikk szerint évi közel egymilliárd halálesetet követelt. Ma már igazi éhínséggel legfeljebb a polgárháború sújtotta területeken lehet találkozni, ahova nem jut el segélyszállítmány se, mert nem biztonságos.) A régi bélyegszerű illusztrációt én ilyen tüzetesen nem néztem meg, sem elsőre, sem másodikra, de talán ugyanez a homályos régi kép már az én áltanános iskolai tankönyveimben is az afrikai éhezést volt hivatott illusztrálni, annyira általános a használata. De hogy pornográf tartalom lenne...?

3. Ok. Az vesse az AI-ra az első követ, aki sosem hibázik. Néha én sem bírom megkülönböztetni hol kezdődik a kortárs művészet, a pornográfia vagy borult csak ki a festékes vödör vételetnül. A mesterséges intelligencia fejlesztésében nem tartunk még ott, hogy a komplex és ellentmondásos emberi lélek ilyen mélységeit egy gép megértse. (Sok mindenben, pl. alapérzelmek arcról való felismerésében a gépi tanulás amúgy jobb már, mint az emberek.) De mi értelme van akkor ilyen végletes döntéseket rábízni? Kitől és mitől véd meg minket a Facebook? Nem kéne olyan alapvető információforrásoknak, mint a Wikipedia eleve whitelist-en lennie? (Mint ahogy most a fenti link már blacklist-re került?) Miért én kell aggódjak, hogy nem lépek át egy ismeretlen határt és miért nem a Facebook-nak kell sámot adnia a visszaélései miatt?

4. A Facebook-nál lehet fellebbezni az ilyen döntések ellen és rendszerint megnyugtató választ kap az ember, hogy hát tévedtek. Az internetóriás nem érzi magát elszámoltathatónak, nagyon elnézést nem kér azért, de korrigál, mint egy kegyelmes úr a maga végtelen jóságában, amiért esedezünk.

Az afrikai kisfiú Facebook által behúzott képe miatt tiltást azonban a Facebook húsvér moderátora is helybenhagyta, úgyhogy, ha jót akartok magatoknak, akkor az Éhezés szócikket kerülitek, mint ördög a tömjénfüstöt. Lehet továbbhaladni, nincs itt semmi látnivaló, örülj, hogy élsz, bűnös bűnhődj. Aztán persze úgyis lejár a letiltás, valójában az egésznek semmi jelentősége. De mégis. Felhasználók ezrei élnek át hasonló abszurd élményt naponta. Mark Zuckerberg egyre kafkaibb világában. Évekkel korábban ilyen problémák nem voltak a social mediá-val. 

5. A Facebook tényleg csak egy weboldal? Azt csinál-e a Facebook a saját weboldalán, amit akar, vagy vonatkoznak rá közös szabályok pl. olyan, amit nem ő maga alkot? Szükség van-e egyáltalán tartalomszűrésre? És kinek legyen ehhez joga? Nem okoznak-e több bosszúságot a vitatható belátóképességű algoritmusok, mint amennyi hasznot remélünk tőlük?

Nem korai-e rábíznunk az életünket a mesterséges intelligenciára, az évezredeken át kiirthatatlannak bizonyuló emberi ostobaság helyett nem válunk-e a "mesterséges intelligenciahiány" áldozatává egy új őrült digitalizált kafkai világban? Jó-e, ha közművé váló technológiai monopóliumok teljes mértékben magánirányítás alatt fejlődnek és hatnak közvetlenül milliók, milliárdok életére? Az internet biztosította végtelennek tűnő szabadság nem fordul-e hirtelen a totális ellenkezőjére, és tartunk a szemlátomást a folyamatból profitáló Zuckerberg-ék által elkerített és privatizált "új internet" felé (lásd nyitó kép)? A közös jövőnk is "privát"? Mégis kié? Mennyiért adtuk el? 

Kecskére bízzuk a káposztát? Biztosíthatja-e a mi magán jogainkat egy olyan másik magánszemély, aki pont mások magán információiból húz magán hasznot?

Vagy nyilvánvalóan és szükségszerűen ütköznek a magánérdekeink, és pont erre találtuk ki százévekkel ezelőtt a közintézményeket, a demokráciát és a jogállamot, és ezt kéne most is alkalmazni az internet új világában valamiféle magánostítás és technológiai abszolút monarchiák megerősítése helyett.