Kunstmatige intelligentie kan online beledigen helpen bestrijden

Sociale netwerken en online fora hebben de potentie tot het voeren van zinvolle discussies en dialogen. In de praktijk ontaarden online discussies helaas vaak in scheldpartijen en beledigingen. Artificiële intelligentie zou daar wel eens een einde aan kunnen helpen maken.

Onderzoekers van het Georgia Institute of Technology’s School of Interactive Computing hebben namelijk een technologie ontwikkeld die kan helpen beledigende bijdragen op een effectieve en efficiënte manier te modereren. Deze technologie -Bag of Communities genaamd- is in staat een algoritme te trainen dat beledigingen binnen specifieke communities kan identificeren.

De onderzoekers gebruiken hiervoor grote hoeveelheden data van bestaande communities. Vijf communities staan bekend om hun misbruik, vier andere communities staan bekend om hun ondersteuning en positieve karakter (mede dankzij intensief modereren). Aan de hand van linguïstische kenmerken van deze communities hebben de onderzoekers algoritmes ontwikkeld dat kunnen helpen voorspellen of een bijdrage zal leiden tot beledigende commentaren. Als een bijdrage lijkt op bijdragen van communities waar beledigingen veel voorkomen, dan kan deze automatisch worden geweigerd.

De onderzoekers hebben twee algoritmes ontwikkeld. Het eerste algoritme is een statisch model dat niet is getraind met voorbeelden van de specifieke community waar het algoritme gebruikt zal worden. Dit model voorspelt in 75% van de gevallen correct of een bijdrage tot beledigingen zal leiden. Als je in staat bent als community zelf te investeren in training van het algoritme met eigen data, dan kun je het tweede, dynamische, model gebruiken. Dit model voorspelt in ruim 91% van de gevallen correct of een bijdrage tot beledigingen zal leiden. Het dynamische model leidt ook tot meer tolerantie ten aanzien van wat wel zal worden toegelaten.

Door gebruik te maken van bestaande data van communities die bekend staan om hun beledigende of juist ondersteunende karakter, omzeil je discussies over wat een belediging is. Ik vind deze toepassing daarom veelbelovend. Veel sociale netwerken, maar ook nieuwssites, kunnen er alleen maar beter van worden.

This content is published under the Attribution 3.0 Unported license.

Posted in Wetenswaardigheden
Tags: , ,

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

*

Volg

Subscribe via RSS
oktober 2017
m D w d v Z Z
« sep    
 1
2345678
9101112131415
16171819202122
23242526272829
3031  

Archief

Categorieën

%d bloggers liken dit:
Spring naar werkbalk