SL övervakar resenärerna med AI-analys

Massövervakning är ett sluttande plan. SL övervakar redan alla resenärer i tunnelbana och ombord på bussar och stationer. Men sedan några år låter SL ett AI-system analysera resenärernas rörelsemönster genom kameralinserna. Det som från början bara skulle användas för att detektera om någon var på spåret har nu utökats till att omfatta hela perrongerna och att t.ex larma ordningsvakter om nån sitter ”för länge” på en bänk.

I två artiklar i Mitti respektive DN får SL:s perspektiv på övervakningen okritiskt komma fram. Vinkeln är, med SL själva som källa, att AI-övervakningen sedan 2021 kan ha räddat 17 liv, utan närmare klargörande om hur. Där framgår också hur gränserna för vad som ska ge larm har flyttats fram flera gånger. Först skulle bara spårbeträdelser aktivera ett larm. Men sedan har det utökats till att larma redan om någon vinglar nära kanten. Och i ett ytterligare steg har man börjat ”registrera resenärernas rörelser även på perrongerna”. Då omfattas alltså allas rörelser av den automatiska analysen. Ett exempel på ett oönskat beteende som genererar larm är om någon ”sitter länge på en bänk”.

Att låta ett övervakningssystem analysera alla resenärers rörelser är integritetskränkande och problematiskt. Personer som är sjuka, svaga, fattiga/hemlösa eller med funktionsnedsättning drabbas mest av denna analys, då deras rörelsemönster avviker från normen. Det gäller såväl i exemplet med att behöva sitta ”länge” på en bänk eller med annan av SL införd godtycklig analys av annorlunda rörelser. Det uttryckliga syftet med behandligen är dessutom att låta systemet bedöma vilka personer som mår psykiskt dåligt vilket är en ganska grov integritetskränkning även om man menar att det är av en god anledning för att hindra suicidförsök.

Men SL verkar inte se någon gräns för hur mycket de vill kunna analysera med övervakningstekniken. ”I de bästa av världar kommer vi kunna snappa upp och göra något innan en person ofredar eller stör någon annan” säger Alpay Aksoy, operativ samordnare på SL för övervakning och vakter, till DN. Till Mitti säger han att han också välkomnar att börja spela in ljuden i kollektivtrafikens vagnar.

Vi vet sedan tidigare att SL tenderar att se allt som avviker från normen som störande eller “trygghetsproblem” och skickar ordningsvakter med batonger på allt från musikanter och tiggare till personer med funktionsnedsättning. Och som alltid när övervakning är på plats banar den väg för ännu mer övervakning. Användningen har redan utökats från spårområdet till perrongerna och risken är stor att ändamålsglidningen kommer fortsätta och att systemet kommer att utökas till fler områden och till att larma om fler saker.

SL har tidigare dömts till mångmiljonböter för sin olagliga användning av biljettkontrollanternas kroppskameror. Att få resa fritt utan att bli övervakad är tyvärr inget varken SL:s egna ansvariga eller politikerna som styr regionen värderar högt. Någon information av att ens rörelsemönster automatiskt analyseras av perrongernas övervakningskameror finns till exempel inte, trots att det lär krävas för att den här övervakningen ska vara laglig, om ens då.

Det som behövs och hjälper mer än övervakning och vakter är att vi tar hand om varandra i kollektivtrafiken. Dessa system där allt avvikande alltid är någon annans problem som ska mötas med batonger och kameror, riskerar istället att vi bryr oss mindre om våra medresenärer.

Lyssningstips: Allt åt alla pratar om SL:s AI-övervakning i sitt senaste podavsnitt av Mina drömmars stad:

Mina drömmars stad? #20: AI-övervakad i tuben