Facebook Menggunakan Kecerdasan Buatan Untuk Mendeteksi Meme Ofensif

231

Moderator Facebook tidak mungkin melihat setiap gambar yang diposting di platform yang luas, jadi Facebook tengah membangun teknologi AI untuk membantu memudahkan pekerjaan mereka. Dalam postingan blog hari ini, Facebook menjelaskan sistem yang dibuatnya, dijuluki Rosetta yang menggunakan pembelajaran mesin untuk mengidentifikasi teks dalam gambar dan video, kemudian mentranskripsikannya menjadi sesuatu yang dapat dibaca oleh mesin. Secara khusus, Facebook menemukan alat ini juga bermanfaat untuk mendeteksi teks pada meme.

Alat transkripsi teks bukanlah hal yang baru, tetapi Facebook menghadapi tantangan yang berbeda karena ukuran platformnya dan keragaman gambar yang dilihatnya. Rosetta dinyatakan telah hadir secara live sekarang ini dan mengekstraksi teks dari 1 miliar gambar serta frame video per hari di Facebook dan Instagram.

 

Saat ini, tidak sepenuhnya jelas apa yang dilakukan Facebook dengan data tersebut. Ini berguna untuk fitur dasar seperti penelusuran foto dan screen readers, entri blog menunjukkan hal itu. Sepertinya Facebook juga memiliki goal untuk menentukan apa yang menarik di-posting di News Feed Anda, dan mendeteksi mana meme yang hanya sekedar konyol dan yang menyebarkan pidato kebencian atau komentar ofensif lainnya.

Facebook menyatakan bahwa mesin pembelajaran dan ekstraksi teks tengah digunakan untuk “secara otomatis mengidentifikasi konten yang melanggar kebijakan (hate-speech policy) kami” dan itu akan berlaku dalam berbagai bahasa.