Out-of-Distribution chyby - Jak algoritmy "vidí" lidi vně jejich tréninkových dat
Algoritmy pracují na základě "typických" dat. Typický člověk = má telefon, email, adresu, práci, přihlášku zdroje. Bezdomovec? Nic z toho. Je to "neobvyklý".
💡 Paradox: Algoritmus nemůže klasifikovat to, co nikdy neviděl.
Když algoritmus se setkáním s OOD (out-of-distribution), má tři možnosti: 1) Ignorovat to, 2) Klasifikovat to špatně, 3) Označit jako "neznámé/anomální".
Bez telefonu, bez emailu, bez adresy, bez kreditní karty - bezdomovci jsou zcela mimo systém. Není je, aby je sledoval. Nejsou záznam.
Algoritmy se nesnaží "chápat" lidi. Snaží se je "klasifikovat". Tvůj profil je vektor: [věk, pohlaví, poloha, příjmy, chování, politické názory, preference, nákupy...]. Když jsou všechny tyto údaje známé, jsi kategorizován. Bezdomovec? To je vektor s příliš mnoho nul.
Tvůj telefon, email, účet, lokace - všechno to vypráví příběh. Algoritmus tě zná. Bezdomovec bez mobilu? Není k dispozici.
Bankovní účet, kreditní karta, příjmy, výdaje. Bezdomovec to má všechno na nule. Systém: "Tyhle uživatele neznám".
Bez adresy = Neregistrován. Všechny databáze (zdravotnické, právní, sociální) pracují s fyzickou adresou. Bez ní = Neexistuje.
Bezdomovec je neviditelný pro algoritmy. To znamená:
Ale být mimo systém má cenu:
Být mimo systém má dvě tváře. Melancholici vidí svobodu. Systém vidí anomálii. Oba mají pravdu.
Když nemáš digitální stopu, nemůže tě nikoho sledovat. Není co zpracovávat. OOD status = relativní svoboda od dohledu.
Algoritmy se učí z "normálních" dat. Bezdomovec je abnormální. Systém: "To je anomálie" a ignoruje to. Nebo to zamítne bez důvodu.
Jak se algoritmy zlepšují, OOD únikový prostor se zmenšuje. Brzy nebude místo mimo systém. Bezdomovec nebude anomálie - bude "nedovolený".
Některé skupiny se "mimují" jako OOD - aby se vyhly dohledu. Ne kvůli chudobě, ale kvůli svobodě. Je to inverzní logika: Být mimo systém = Být svobodný.
Minimální digitální stopa, bez sociálních sítí, bez GPS. Někdo se rozhoduje být anomálií - ne kvůli chudobě, ale kvůli autonomii.
Firmy si vytvářejí "falešné identity" - shell companies, dummy accounts - aby se vyhnuly detekci. Jsou to "záměrné anomálie".
Komentáře
Zatím žádné komentáře.
Komentáře jsou součástí placeného přístupu.
Vyberte si tarif a diskutujte pod všemi stránkami.
Zobrazit tarify