Meta telah menerima permintaan informasi resmi (RFI) lainnya dari regulator Uni Eropa yang meminta rincian lebih lanjut mengenai tanggapannya terhadap masalah keselamatan anak di Instagram — termasuk apa yang dilakukan Meta untuk mengatasi risiko terkait dengan pembagian materi pelecehan seksual terhadap anak yang dibuat sendiri (SG- CSAM) di jejaring sosial.
Permintaan ini dibuat berdasarkan buku peraturan online yang baru-baru ini diperbarui oleh blok tersebut, yakni Digital Services Act (DSA), yang mulai berlaku untuk platform dengan cakupan yang lebih besar (termasuk Instagram) pada akhir Agustus.
DSA mewajibkan Big Tech untuk memberantas konten ilegal — termasuk dengan menerapkan langkah-langkah dan perlindungan untuk mencegah penyalahgunaan layanan mereka. Peraturan ini juga memiliki fokus yang kuat pada perlindungan anak di bawah umur sehingga tidak mengherankan jika sejumlah RFI awal yang dibuat oleh Komisi Eropa berkaitan dengan keselamatan anak.
Permintaan Komisi terbaru ke Meta muncul setelah laporan WSJ yang menunjukkan bahwa Instagram sedang berjuang untuk membereskan masalah CSAM yang terungkap musim panas ini — ketika dilaporkan bahwa algoritme Instagram menghubungkan web akun yang digunakan untuk membuat , membeli dan memperdagangkan konten seks di bawah umur.
Pada bulan Juni, setelah paparan WSJ, UE memperingatkan Meta bahwa mereka menghadapi risiko “sanksi berat” jika tidak bertindak cepat untuk mengatasi masalah perlindungan anak.
Sekarang, beberapa bulan kemudian, laporan lain dari WSJ mengklaim Meta telah gagal memperbaiki masalah yang teridentifikasi – meskipun perusahaan tersebut membentuk satuan tugas keselamatan anak untuk mencoba menghentikan “sistemnya sendiri dalam mengaktifkan dan bahkan mempromosikan jaringan akun pedofil yang luas” , seperti yang dimuat di surat kabar.
“Lima bulan kemudian, pengujian yang dilakukan oleh Journal serta Pusat Perlindungan Anak Kanada menunjukkan bahwa sistem rekomendasi Meta masih mempromosikan konten semacam itu. [i.e. accounts dedicated to producing and sharing underage-sex content], ”lapornya. “Perusahaan telah menghapus tagar yang terkait dengan pedofilia namun sistemnya terkadang merekomendasikan tagar baru dengan sedikit variasi. Bahkan ketika Meta diperingatkan tentang akun dan kelompok pengguna yang bermasalah, Meta masih gagal dalam menghapusnya.”
Kinerja Meta yang buruk dalam mengatasi penyebaran CSAM/SG-CSAM ilegal dan kegagalan untuk bertindak secara efektif terhadap risiko keselamatan anak yang terkait bisa menjadi sangat mahal bagi perusahaan di UE: DSA memberi wewenang kepada Komisi untuk mengeluarkan denda hingga 6% dari omset tahunan global jika ditemukan peraturan peraturan telah dilanggar.
Lebih dari setahun yang lalu, Meta didenda di bawah setengah miliar dolar setelah Instagram diketahui melanggar aturan perlindungan data blok tersebut untuk anak di bawah umur.
“Komisi meminta Meta untuk memberikan informasi tambahan mengenai langkah-langkah yang telah diambil untuk memenuhi kewajibannya dalam menilai risiko dan mengambil langkah-langkah mitigasi yang efektif terkait dengan perlindungan anak di bawah umur, termasuk mengenai peredaran SG-CSAM di Instagram. Informasi juga diminta mengenai sistem rekomendasi Instagram dan amplifikasi konten yang berpotensi membahayakan,” tulis UE dalam siaran pers hari ini, mengumumkan langkah pengumpulan intelijen terbarunya di platform tersebut.
Selain kemungkinan sanksi keuangan, terdapat kekhawatiran reputasi bagi Meta jika regulator UE berulang kali mempertanyakan pendekatannya dalam melindungi anak di bawah umur.
Ini adalah RFI Meta ketiga yang diterima sejak kepatuhan DSA mulai diterapkan di perusahaan — dan yang kedua berfokus pada keselamatan anak di Instagram. (UE juga telah meminta Meta untuk memberikan rincian lebih lanjut mengenai penanganan risiko konten terkait perang Israel-Hamas; dan tentang apa yang dilakukannya untuk menjamin keamanan pemilu.)
Sejauh ini UE belum mengumumkan proses penyelidikan formal apa pun berdasarkan DSA. Namun kesibukan awal RFI menunjukkan bahwa mereka sibuk melakukan penilaian yang dapat mengarah pada langkah tersebut – membuka risiko hukuman jika ada pelanggaran yang terkonfirmasi.
Meta telah diberi batas waktu hingga 22 Desember untuk memberikan tahap terbaru data keselamatan anak yang diminta kepada Komisi. Kegagalan untuk mematuhi RFI – seperti mengirimkan informasi yang salah, tidak lengkap, atau menyesatkan sebagai tanggapan terhadap permintaan – juga dapat dikenakan sanksi DSA.
Meta dihubungi untuk mengomentari RFI terbaru.
____________
Diterjemahkan dari situs techcrunch.com
