V člankih Yahooja je veliko neprijetnih komentarjev, podobno kot preostali del interneta, zato se je ekipa Yahoo odločila, da bo uporabila njihov odsek s komentarji, da bi razvila algoritem, ki bi lahko uspešno ugotovil najhujše kršitelje. Njihov nov algoritem za odkrivanje zlorab deluje v 90 odstotkih, kar je po njihovem mnenju učinkovitejše od poskusov drugih organizacij, da bi si prizadevale za podobne podvige, in ga opisujejo kot velik korak naprej na tem področju. 90 odstotkov naredi zveni kar dobro, priznam.
Žično poroča, da Yahoo v okviru svojega projekta za boj proti zlorabam objavlja tudi prvo javno dostopno kurirano bazo podatkov o spletnem sovražnem govoru. To pomeni, da bodo lahko druga spletna mesta uporabila Yahoojevo zbirko komentarjev za oblikovanje lastnih algoritmov. Yahoov algoritem je bil razvit na podlagi strojnega učenja in tudi podatkov, ki jih sporočajo uporabniki o njihovih komentarjih.
Najtežji del katerega koli algoritma za moderiranje komentarjev je obravnavanje lažnih pozitivnih rezultatov. Številni algoritmi za odkrivanje zlorab iščejo določene besede ali besedne zveze, na primer neprimerne besede ali pogoste žalitve, in komentarje samodejno označijo za moderiranje. Vendar to povzroči, da se komentarji označijo, tudi če se sklicujejo na nenavadne besede v kontekstu, na primer, če niso primerni ali če je komentar sarkastična imitacija trola. Yahoov algoritem očitno lahko zazna določene vzorce govora in je zasnovan tako, da lahko razlikuje med jokey sarkazmom in dejansko zlorabo. (Seveda, če se vaš smešen komentar ne razlikuje od dejanske zlorabe, sem prepričan, da ga bo algoritem še vedno označil, vendar ne morem z gotovostjo trditi, kako deluje ta del AI.)
Yahoo je za izpopolnitev algoritma povabil usposobljene moderatorje komentarjev, plačali pa so tudi nekaj neizučenih moderatorjev in ugotovili, da so bili izurjeni moderatorji veliko boljši pri ugotavljanju, kateri komentarji so primerni (na nek način, vendar hej). Med ustvarjanjem AI je Yahoo ugotovil, da je bilo delo teh usposobljenih človeških moderatorjev ključnega pomena za ohranjanje učinkovitosti algoritma in izpopolnjevanje tehnik zaznavanja.
Seveda, algoritmi imajo še vedno pristranskosti , zaradi česar bi (upam, da je raznolika) skupina človeških moderatorjev še naprej ponavljala metodologije, uporabljene za razvrščanje komentarjev. Sliši se kot težko delo, vendar vsaj zdaj Yahoo razume pomen usposabljanja in vrednotenja vlog svojih dobro usposobljenih človeških moderatorjev in novega kolega z umetno inteligenco.
ubisoft ženski liki pretežki
(prek Naslednji splet , slika prek Michael Cordedda / Flickr )
