Instagram Gunakan AI untuk Deteksi Intimidasi Online

TEKNO BANGET, Social Media – Instagram mengatakan pada hari Selasa (09/10) jika mereka telah mulai menggunakan teknologi baru yang mampu mendeteksi intimidasi online dalam foto, sebuah langkah yang menyoroti upaya dari perusahaan teknologi tersebut menggunakan kecerdasan buatan atau artificial intelligence (AI) untuk memoderasi platform mereka.

“Meskipun sebagian besar foto yang dibagikan di Instagram positif dan membawa kegembiraan, terkadang foto yang dibagikan tidak ramah atau tidak diinginkan,” sebut kepala Instagram yang baru, Adam Mosseri, dalam sebuah siaran pers. “Kami sekarang menggunakan teknologi pembelajaran mesin untuk secara proaktif mendeteksi intimidasi di foto dan keterangan mereka dan mengirimkannya ke tim Community Operations kami untuk ditinjau.”

Perusahaan induk Instagram, Facebook, juga memperkenalkan alat anti-intimidasi sendiri bulan ini. Fitur-fitur tersebut memungkinkan pengguna untuk menghapus “komentar troll” dari feed mereka, dengan opsi untuk menghapus atau menyembunyikan komentar dalam “bulk” dan melaporkan komentar atas nama korban. Perusahaan media sosial tersebut telah berada di bawah tekanan untuk mengelola pelecehan dan kebencian yang lebih baik, tantangan yang sulit karena banyak dari mereka memiliki jutaan pengguna. Facebook telah mempekerjakan ribuan orang untuk melihat konten yang mungkin melanggar aturannya.

Perusahaan teknologi juga telah berinvestasi dalam teknologi khusus untuk memoderasi komentar dan posting, yang sangat sulit ketika berhadapan dengan foto. Facebook juga menggunakan teknologi khusus untuk mendeteksi pidato kebencian dalam gambar ataupun orang-orang yang memposting materi ofensif. Fiona Brown, yang memimpin komunikasi di Instagram, mengatakan fitur anti-intimidasi baru menggunakan kecerdasan buatan untuk mengontekstualisasikan gambar itu sendiri dan menandainya sebagai pelecehan.

“Diperlukan beberapa sinyal dari foto itu sendiri dan jika ada caption, dari caption juga.” Brown menjelaskan. “Contoh taktik intimidasi yang dideteksi oleh teknologi foto adalah membandingkan, memberi peringkat, dan memberi peringkat pada gambar dan keterangan, seperti gambar layar terpisah di mana seseorang dibandingkan dengan orang lain dengan cara yang negatif.” lanjutnya.

Pembaruan terhadap teknologi platform bertujuan untuk mengenali dan memblokir penindasan, menargetkan pos pada aplikasi yang “banyak orang yang mengalami atau mengamati intimidasi tersebut namun tidak melaporkan.”

Mosseri juga mengumumkan perluasan “filter komentar intimidasi” perusahaan untuk sekarang dapat memindai melalui komentar yang dibuat selama video langsung, dan fitur baru yang disebut Kindness Camera Effect yang dimaksudkan untuk melawan penyebaran negatif di platform.

“Sementara menghentikan penindas adalah penting, kita juga harus berbuat lebih banyak untuk merayakan dan menginspirasi kebaikan di Instagram.” kata Mosseri.

Bekerja sama dengan Maddie Ziegler, seorang penari dan pendukung anti-intimidasi terkenal, Kindness Camera Effect mendorong pengguna untuk mendukung teman-teman mereka melalui komentar baik dan filter overlay. Meskipun pengguna yang mengikuti Ziegler akan memiliki fitur yang diinstal secara otomatis, pengguna lain akan memiliki opsi untuk “mencobanya” untuk menambahkannya ke fitur kamera dalam aplikasi mereka.

“Dalam mode selfie, hati akan mengisi layar – dan Anda akan didorong untuk menandai teman yang ingin Anda dukung.” Mosseri menjelaskan. “Teman Anda akan menerima pemberitahuan bahwa Anda menyebutkannya dalam cerita Anda. Mereka dapat membagikannya ke cerita mereka sendiri atau menggunakan efek kamera untuk menyebarkan kebaikan kepada orang lain.”

Mosseri, yang sebelumnya mengelola News Feed Facebook, diumumkan sebagai kepala Instagram pada awal Oktober. Salah satu pendiri Instagram, Kevin Systrom dan Mike Krieger, mengumumkan untuk pergi dari perusahaan pada bulan September.