Tärkeimmät oppimispisteet
- Bostonissa toimivan Modulate-yrityksen ToxMod väittää tunnistavansa häiritsevän puheen ja torjuvansa sitä automaattisesti reaaliajassa.
- Yksinkertaisen kielen rajoittamisen sijaan ToxMod käyttää koneoppimista selvittääkseen aineettomia asioita, kuten tunteita, äänenvoimakkuutta ja rytmiä.
- ToxMod on tällä hetkellä suunniteltu käytettäväksi pelin sisäisissä chat-huoneissa, mutta ei ole mitään syytä, miksi se ei voisi tulla Twitch-kanavallesi.
Terveisiä kaikille uusille robottimoderaattoreillemme
Modulate on työskennellyt ToxModin parissa viime syksystä lähtien ja on sisällyttänyt sen yhdeksi yrityksen kolmesta ydinpalvelusta. Se tarjoaa myös VoiceWearin, koneoppimiseen perustuvan äänen naamioitumisen, ja VoiceViben, keräyspalvelun, jonka avulla käyttäjät voivat selvittää, mistä heidän yhteisönsä keskustelevat. Kun ToxMod on aktiivinen chatissa, se voidaan ohjelmoida Modulaten hallintapaneelin kautta suorittamaan erilaisia automaattisia toimintoja, kuten antamaan varoituksia, mykistämään soittimia tai säätämään äänenvoimakkuutta erikseen. Se käyttää triage-järjestelmää, jossa paikallinen ilmentymä ryhtyy ensin toimiin ennen kuin se tarkistaa Modulaatin palvelimilta vahvistuksen. Sitten se lopulta kärjistyy pisteeseen, jossa se voi vaatia ihmisen väliintuloa. Käymällä läpi jokaisen tarkistuksen vuorollaan, jota Modulate kutsuu «triage-porteiksi», ToxMod pyrkii antamaan pienelle moderaattoritiimille työkalut, joilla voidaan tehokkaasti valvoa paljon laajempaa yhteisöä. «Surullinen totuus on, että jokainen, joka on kokenut yrittäessään käyttää äänichattia millä tahansa alustalla, ja saada selville, poika, se oli huono idea», Modulate toimitusjohtaja Mike Pappas sanoi videopuhelussa Lifewiren kanssa. «Mahdollisuus mennä sinne ja sanoa: «Tämä ei ole villi länsi. Siellä on säännöt.» Mielestäni se on erittäin tärkeää.»
Järjestelmän rikkominen
Tietenkin toinen tai kolmas kysymys ToxModista on, kuinka se voidaan rikkoa. Monilla automaattisilla valvontajärjestelmillä, kuten Twitteriä ohjaavilla algoritmeilla, on helppo pelata niitä vastaan ihmisiä, joista et pidä. Rekisteröi vain kohderyhmäsi muutamalla sukkanukketilillä ja he syövät luotettavasti kiellon. «Ruohonjuuritasolla ToxModin ei tarvitse luottaa noihin ylimääräisiin pelaajaraportteihin», Pappas sanoi. ”Se pystyy edelleen tekemään vankkoja arvioita siitä, mitä rikkomuksia tarvitsemme [to pay] huomiota varten. Sinun ei tarvitse huolehtia siitä, että pelaajat yrittävät pelata järjestelmää, koska pelissä ei ole oikeastaan mitään. «Kaikki tietävät, että häirintä, vihapuhe ja myrkyllisyys äänichatissa ja pelaamisessa ovat valtava ongelma.» «Ainoa asia, jota voit hallita pelaajana, on oma ääni», jatkoi Pappas. «Pahinta, mitä voit tehdä, on olla vähemmän huono, jotta emme leikkaa sinua huonoksi näyttelijäksi, mikä on mielestäni jotain lähellä tehtävän menestystä.» Yleisesti ottaen ToxModin taustalla on aktiivinen palautusyritys. Monet pelaajat ovat tässä vaiheessa kokeneet jonkinlaista häirintää satunnaisten tuntemattomien taholta avoimissa äänikanavissa, aina satunnaisista loukkauksista aktiivisiin uhkauksiin. Tämän seurauksena pelaajat yleensä ujostelevat äänikeskusteluja ja luopuvat mieluummin mukavuudesta vastineeksi oman mielenrauhansa puolesta. «Mitä odotamme näkevämme» [are bad actors spending] paljon vähemmän aikaa äänikeskustelussa ennen kuin ne löydetään ja poistetaan», Pappas sanoo. «Sillä on enemmän kuin vain lineaarinen vaikutus. Kun kaikki näkevät äänichatin turvallisempana paikkana, useammat hyvät näyttelijät ovat valmiita palaamaan äänikeskusteluun ja kokeilemaan sitä. Uskon, että kaikki voi kääntyä positiiviseen suuntaan.»