Haitalliseksi käytökseksi Facebookissa katsotaan esimerkiksi roskapostin levittäminen, toisien käyttäjien huijaaminen sekä aseiden ja huumeiden myyminen.

Nyt Facebook käy taistoon ongelmia vastaan tekoälyn avulla, kirjoittaa The Verge. Yrityksen insinöörit ovat valjastaneet tekoälypohjaiset botit levittämään ei-toivottuja toimintatapoja Facebookin rinnakkaisversiossa.

Tutkijat voivat perehtyä bottien käyttäytymiseen simulaatiossa ja kokeilla saadun tiedon pohjalta uusia tapoja näiden estämiseksi. Simulaattori tunnetaan nimellä WW ja se perustuu Facebookin oikeaan koodikantaan.

Simulaation hyödyntäminen on tekoälyyn lukeutuvassa koneoppimisessa verrattain yleinen toimintamalli. Facebookin ratkaisu on kuitenkin huomattava, sillä se pohjautuu palvelun todelliseen versioon. Yhtiö nimittää ratkaisua verkkopohjaiseksi simuloinniksi.

”Toisin kuin perinteisessä simulaatiossa, verkkopohjaisessa simulaatiossa toimet ja havainnot tapahtuvat todella todellisen infrastruktuurin kautta, joten ne ovat paljon realistisempia”, tutkimusta johtava insinööri Mark Harman kertoo.

Facebookin simulaattorissa on myös rajoituksensa. WW ei voi mallintaa esimerkiksi käyttäjän aikomuksia, eikä se voi myöskään simuloida monimutkaisia ​​käyttäytymismalleja.

Botit tekevä hakuja etsivät, lähettävät kaveripyyntöjä, kommentteja ja viestejä, mutta näiden toimien todellista sisältöä, kuten keskustelun todellista sisältöä, ei simuloida.

Harmanin mukaan WW:n voima on sen kyky toimia valtavassa mittakaavassa. Sen avulla Facebook voi suorittaa tuhansia simulaatioita ottaakseen käyttöön erilaisia ​​pieniä muutoksia sivustolle vaikuttamatta käyttäjiin. Uusien toimintojen käyttöönotosta lähtien simulaattori löytää uusia käyttäytymismalleja.

"Mielestäni big datan tilastollista voimaa ei vieläkään arvosteta täysin", Harman kiteyttää. Big datalla tarkoitetaan niin suurta määrää kerättyä monimuotoista tietoa, että tämän tiedon käsittely ei onnistu perinteisiä järjestelmiä käyttämällä.