Sistem Deteksi Kekerasan pada Anak Diterapkan pada iCloud

Pada hari Senin tanggal 9 Agustus 2021, Apple mengumumkan bahwa seluruh galeri foto pengguna iPhone akan diperiksa untuk mencari adanya gambar pelecehan anak yang akan diketahui jika disimpan di layanan iCloud online.

Pengungkapan itu muncul dalam serangkaian briefing media di mana Apple berusaha menghilangkan kekhawatiran atas pengumumannya pekan lalu bahwa mereka akan memindai ponsel, tablet, dan komputer pengguna untuk jutaan gambar ilegal.

Sementara itu, Google, Microsoft dan platform teknologi lainnya memeriksa foto yang diunggah atau lampiran dalam bentuk email terhadap basis data pengidentifikasi yang disediakan oleh National Center for Missing and Exploited Children dan lembaga kliring lainnya.

Banyak yang mengatakan bahwa mereka berharap untuk pemerintah agar berusaha memaksa iPhone untuk memperluas sistemnya untuk ‘’mengintip perangkat’’ di perangkat lainnya. Namun, Apple mengatakan mereka telah menghadapi tuntutan untuk membangun dan menerapkan perubahan yang diamanatkan pemerintah yang melemahkan privasi pengguna sebelumnya, dan mereka dengan tegas menolak tuntutan tersebut.

Apple mengatakan sistem operasi iOS 15 yang akan diluncurkan musim gugur ini, akan memeriksa file yang ada di perangkat pengguna jika pengguna memiliki foto-foto yang disinkronkan ke server penyimpanan perusahaan.


Kepala eksekutif Thorn, Julie Cordua mengatakan sekitar setengah dari materi pelecehan seksual anak diformat sebagai video.

Sistem Apple tidak memeriksa video sebelum diunggah ke cloud perusahaan, tetapi perusahaan mengatakan telah berencana untuk memperluas sistemnya dengan cara yang belum ditentukan di masa mendatang.

Apple berada di bawah tekanan internasional karena tingginya jumlah laporan materi penyalahgunaan dibandingkan dengan penyedia lain. Beberapa yurisdiksi Eropa memperdebatkan undang-undang untuk membuat platform lebih bertanggung jawab atas penyebaran materi tersebut.

Eksekutif perusahaan berpendapat bahwa pemeriksaan di perangkat akan lebih menjaga privasi daripada menjalankan pemeriksaan pada penyimpanan cloud Apple secara langsung. Arsitektur sistem baru juga tidak memberi tahu Apple apa pun tentang konten pengguna kecuali jumlah ambang batas gambar telah terlampaui. 

Para eksekutif mengakui bahwa pengguna dapat terlibat oleh orang jahat yang memenangkan kendali perangkat dan memasang materi pelecehan anak yang dilakukan sembunyi-sembunyi. Namun mereka mengatakan bahwa mereka memperkirakan serangan semacam itu akan sangat jarang terjadi dan dalam kasus apa pun.