Els articles de notícies de Yahoo conten amb molts comentaris desagradables, com la resta d’Internet, de manera que l’equip de Yahoo va decidir utilitzar la seva secció de comentaris per desenvolupar un algorisme que pogués identificar amb èxit els pitjors infractors. Els seus nou algorisme de detecció d'abús funciona el 90 per cent del temps, cosa que segons ells el fa més eficaç que els intents d’altres organitzacions d’assumir gestes similars i que es descriu com un gran pas endavant en el camp. 90 per cent fa sona força bé, ho reconec.
Amb cable informa que Yahoo també publica la primera base de dades de discursos d'odi en línia seleccionats públicament com a part del seu projecte de lluita contra l'abús. Això significa que altres llocs podran utilitzar la base de dades de comentaris de Yahoo per tal de dissenyar els seus propis algoritmes. L’algorisme de Yahoo es va desenvolupar basant-se en l’aprenentatge automàtic i també en dades informades pels usuaris sobre les seves seccions de comentaris.
La part més complicada de qualsevol algorisme de moderació de comentaris és tractar amb falsos positius. Molts algorismes de detecció d'abús busquen paraules o frases específiques, com insultes o insults habituals, i marquen automàticament els comentaris per moderar-los. Tanmateix, això fa que els comentaris es marquin, fins i tot si fan referència a un insult en el context de dir que no és adequat, per exemple, o si el comentari és una imitació sarcàstica d’un troll. Aparentment, l’algorisme de Yahoo pot detectar determinats patrons de parla i està dissenyat per poder diferenciar entre el sarcasme i l’abús real. (Per descomptat, si el vostre divertit comentari no es distingeix dels abusos reals, estic segur que l'algoritme encara ho marcarà, però no puc dir amb seguretat com funciona aquesta part de la IA.)
Yahoo va contractar moderadors de comentaris entrenats per ajudar a perfeccionar l'algorisme, i també van pagar alguns moderadors sense formació, i van trobar que els moderadors formats eren molt millors a l'hora d'esbrinar quins comentaris eren adequats (una cosa poc intel·ligent, però bé). Al llarg de la creació de la IA, Yahoo va trobar que el treball d’aquests moderadors humans formats era essencial per mantenir l’eficàcia de l’algoritme i perfeccionar les seves tècniques de detecció.
És clar, els algorismes encara tenen biaixos , la qual cosa requeriria un equip (esperem que divers) de moderadors humans per continuar iterant les metodologies utilitzades per classificar els comentaris. Sembla una feina dura, però Yahoo com a mínim comprèn ara la importància d’entrenar i valorar el paper dels moderadors humans ben entrenats i del seu nou company d’IA.
Buffy la caçavampires violació
(via La següent web , imatge via Michael Cordedda / Flickr )
