Instagram tar steg mot minskat näthat med nytt kränkningsfilter

Det är inte orimligt att säga att näthat och nättrollande är ett av de stora orosmomenten i sociala medier-världen, tillsammans med falska nyheter och bristen på källkritik. Nyligen presenterade Instagram presenterade en funktion för att försöka motarbeta näthat och kränkningar som drabbar deras användare.

I ett inlägg beskrev de bakgrunden till funktionen och varför de väljer att lansera den. De förklarar bland annat att många hör av sig till dem och uttrycker att de inte vågar uttrycka sig fritt på grund av de stötande kommentarer som ibland dyker upp i kommentarsfälten. Instagram vill vara ett säkert ställe för att självuttryck, så de har nu arbetat fram ett kränkningsfilter.

Tidigare har de haft ett filter som tar bort ord och kommentarer som är uppenbart kränkande, baserat på de anmälningar av kommentarer som kommer in till Instagram. Detta har man kunnat aktivera i ”Kommentarer”-menyn under Inställningar, och man har dessutom kunnat lägga till egna ord som man anser vara kränkande eller spammiga.

Nu använder man sig av Artificial Intelligence, AI, för att ytterligare förfina filtret och hitta ord och kommentarer som kan uppfattas som kränkande. I denna artikel från Wired beskriver de ingående hur tekniken fungerar och hur Facebook (som numera äger Instagram) tidigare har jobbat med denna typ av AI, under produktnamnet DeepText.

Tanken är att filtret ska känna av vissa ord och kommentarer som anses vara olämpliga eller kränkande, och automatiskt radera dem ur flödet utan att en anmälning behöver göras. Självklart kommer detta inte at kunna funka fullt ut, nog för att Artificial Intelligence är framtiden, men när det kommer till såna här funktioner gissar jag att vi har en bit kvar. Ord är inte alltid elaka när de står ensamma, men när de sätts ihop kan de bilda hemska budskap som kan uppfattas som kränkande. Här misstänker jag att Instagram med sitt nya filter kommer att ha den största utmaningen. Dock tycker jag att tanken är god, och om man kan få bort så mycket som en tiondel av alla elaka eller kränkande kommentarer har man ju kommit en bit på väg. Om inte annat visar Instagram att de tycker att frågan är viktig.

Än så länge fungerar funktionen bara på engelska, men man kommer att rulla ut den för fler språk längre fram.

I samband med att kränkningsfiltret lanseras förfinar man också det spamfilter som funnits sedan september förra året. Nu fungerar spamfiltret inte bara för engelskspråkiga användare utan även för nio andra språk, bland annat spanska och japanska.

Som vanligt, när det kommer till lilla Sverige, kommer det antagligen att dröja ett bra tag innan vi kan ta del av kränkningsfiltret. Men den som väntar på något gott väntar aldrig för länge, säger dom ju!

Today, we’re introducing two comment filters to help keep Instagram a safe place for self-expression: an offensive comments filter and a spam filter. These tools are the next step in our commitment to foster kind, inclusive communities on Instagram. Many of you have told us that toxic comments discourage you from enjoying Instagram and expressing yourself freely. To help, we’ve developed a filter that will block certain offensive comments on posts and in live video. You can turn this filter off in the “…” settings menu from the profile and scroll to tap “Comments.” We’ll launch this in English first, but will offer it in more languages over time. The spam filter removes any obvious spam in comments written in English, Spanish, Portuguese, Arabic, French, German, Russian, Japanese and Chinese. These filters are powered by machine learning, trained by our team to recognize certain types of offensive and spammy comments so you never have to see them. They will improve over time, enabling the community’s experience to improve as well. Our work is far from finished and perfect, but I hope we’re helping you feel safer and more welcome on Instagram. Kevin Systrom CEO & Co-founder Photo by @runnerkimhall

Ett inlägg delat av Instagram (@instagram) Jun 29, 2017 kl. 6:04 PDT