Di era baru kebijakan moderasi konten dan pemeriksaan fakta, sebuah startup menghadirkan solusi inovatif dengan mengandalkan kecerdasan buatan (AI) untuk menjaga kepercayaan dan keamanan di dunia digital.
Pendanaan dan Latar Belakang Musubi
Musubi, perusahaan rintisan yang menggunakan AI untuk moderasi konten online, baru saja mengamankan pendanaan sebesar $5 juta dalam putaran pendanaan awal. Pendanaan ini dipimpin oleh J2 Ventures, dengan partisipasi dari Shakti Ventures, Mozilla Ventures, dan J Ventures yang sebelumnya telah berinvestasi dalam tahap pra-seed.
Startup ini didirikan oleh Tom Quisel, mantan Chief Technical Officer (CTO) di Grindr dan OkCupid. Bersama dengan Fil Jankovic dan Christian Rudder, Quisel melihat peluang untuk mengintegrasikan AI dengan tim moderator manusia. Tujuannya adalah membantu platform sosial dan aplikasi kencan tetap selangkah lebih maju dalam menghadapi pelaku kejahatan digital.
Mengatasi Tantangan Moderasi Konten
Menurut Quisel, tim keamanan di berbagai platform sering mengeluhkan hasil moderasi yang kurang optimal. Hal ini bukan karena kesalahan manusia, tetapi karena keterbatasan dalam menangani volume konten yang besar. Oleh karena itu, AI dan otomatisasi menjadi solusi untuk meningkatkan efisiensi serta akurasi.
Saat bekerja di OkCupid, Quisel menghadapi tantangan besar dalam mengawasi pengguna berbahaya. Moderasi konten memerlukan keterlibatan tim teknis, ilmuwan data, dan pengembang produk, sehingga mengorbankan fokus pada inovasi utama. Setiap kali pola serangan diblokir, pelaku dengan cepat menemukan celah baru untuk menghindari sistem keamanan yang telah dibangun.
Serangan ini meliputi spam, penipuan, pelecehan, serta penyebaran konten ilegal. Biasanya, konten ini dihapus oleh moderator manusia, tetapi metode tersebut memiliki keterbatasan dalam skala dan kecepatan.
Teknologi AI Musubi: PolicyAI dan AIMod
Musubi memperkenalkan dua sistem AI andalan: PolicyAI dan AIMod, yang bekerja sama untuk menyaring serta mengambil keputusan dengan tingkat kesalahan 10 kali lebih rendah dibandingkan moderator manusia.
- PolicyAI berfungsi sebagai garis pertahanan pertama dengan mendeteksi potensi pelanggaran kebijakan platform.
- AIMod kemudian meninjau kembali konten yang ditandai dan menentukan tindakan yang harus diambil, meniru keputusan moderator manusia.
Menariknya, sistem AI ini juga mampu menganalisis kinerja moderator manusia dan mendeteksi potensi bias dalam pengambilan keputusan.
Masa Depan Moderasi Konten Online
Musubi hadir di tengah tren industri yang semakin mengurangi moderasi konten berlebihan. Contohnya, Meta baru-baru ini menghentikan program pemeriksaan fakta pihak ketiga dan menggantinya dengan sistem Community Notes, yang mengandalkan pengguna untuk memoderasi konten satu sama lain. Pendekatan ini sebelumnya diperkenalkan oleh platform X milik Elon Musk.
Saat ini, Musubi telah menarik perhatian berbagai platform besar seperti Grindr dan Bluesky.
Bluesky mengalami lonjakan pengguna hingga lebih dari 20 juta pasca-Pemilu 2024, yang berdampak pada meningkatnya laporan konten bermasalah. Untuk mengatasi tantangan ini, tim Musubi yang terdiri dari 10 orang bekerja tanpa henti demi menghadirkan solusi yang dapat diskalakan.
Menurut Aaron Rodericks, Kepala Kepercayaan dan Keamanan di Bluesky, Musubi sangat efektif dalam mendeteksi akun palsu dan penipuan dalam hitungan detik, sehingga meningkatkan perlindungan bagi pengguna platform.
Dengan berkembangnya teknologi AI dalam moderasi konten, Musubi berpotensi menjadi pionir dalam menciptakan ekosistem digital yang lebih aman dan terpercaya bagi semua pengguna internet.
Baca artikel seru lainnya di sini!
Sumber : cnbc.com
