Apple memperbarui aturan moderasi App Store untuk membendung penggunaan aplikasi dan kecerdasan buatan dalam menciptakan gambar seksual tanpa persetujuan. Penyesuaian ini mempertegas tanggung jawab pengembang, terutama ketika layanan mereka memungkinkan pengguna mengunggah, mengolah, atau membagikan konten buatan sendiri. Fokus utamanya mencakup gambar telanjang hasil rekayasa foto maupun konten intim nonkonsensual yang dihasilkan menggunakan perangkat berbasis AI. Lewat moderasi Apple yang lebih tegas, perusahaan ingin menutup celah penyalahgunaan teknologi generatif sekaligus memperkuat perlindungan pengguna.

Apple sebenarnya telah lama melarang materi pornografi dan aplikasi yang secara khusus dirancang untuk menghasilkan gambar seksual eksplisit. Namun, pembaruan terbaru menuntut pengembang mengambil langkah pencegahan lebih aktif, bukan sekadar mengandalkan larangan tertulis atau penyaringan dasar. Ketentuan tersebut diumumkan Apple pada 16 Oktober 2026 melalui pembaruan pedoman peninjauan aplikasi yang berlaku bagi pengembang App Store.

Moderasi Apple Menyasar Konten Intim Tanpa Persetujuan

Pedoman baru secara eksplisit memasukkan gambar intim nonkonsensual, termasuk visual yang dibuat atau dimanipulasi menggunakan perangkat kecerdasan buatan. Pengembang aplikasi dengan konten buatan pengguna wajib memfilter materi bermasalah sebelum tayang, serta menangani unggahan yang lolos pemeriksaan. Mereka juga harus menyediakan kanal pelaporan yang mudah diakses dan fitur pemblokiran untuk menghadapi akun yang menyalahgunakan layanan. Kewajiban itu menggeser moderasi dari respons pascakejadian menuju pencegahan, sehingga platform perlu mengembangkan mekanisme pengawasan yang lebih tangguh.

Pengembang Wajib Menutup Celah Penyalahgunaan

Aplikasi juga harus mencegah pengguna mengunggah gambar tidak pantas dan segera menurunkan konten yang berhasil menembus filter otomatis. Sistem penyaringan perlu berjalan bersama peninjauan dan tindak lanjut, karena teknologi otomatis tidak selalu mengenali konteks atau penyalahgunaan dengan akurat. Apple dapat menganggap kelalaian pengembang sebagai pelanggaran apabila perlindungan memadai tidak diterapkan atau pelanggaran yang dilaporkan dibiarkan tanpa penyelesaian.

Sanksi Mengincar Aplikasi dengan Fitur Tersembunyi

Jika pengembang tidak membangun pengamanan memadai atau mengabaikan peringatan, aplikasi mereka berisiko dikeluarkan dari App Store. Apple turut memperjelas larangan terhadap taktik bait-and-switch, yakni aplikasi yang menampilkan tujuan berbeda saat menjalani proses peninjauan. Praktik tersebut dapat menyembunyikan fitur berbahaya sampai aplikasi disetujui, lalu mengaktifkan kemampuan manipulasi foto telanjang setelah beredar luas. Dalam skenario itu, Apple menyatakan aplikasi dapat dihapus dan pembuatnya dikeluarkan permanen dari Apple Developer Program.

Moderasi Apple Berlaku Juga pada Aplikasi AI

Aturan ini menegaskan bahwa aplikasi pembuat gambar berbasis AI tidak mendapat pengecualian hanya karena prosesnya berlangsung secara otomatis. Pengembang tetap bertanggung jawab atas fitur, ruang distribusi, dan mekanisme pengendalian yang mereka sediakan bagi pengguna. Dengan demikian, mitigasi harus mencakup desain produk, kebijakan unggahan, proses pelaporan, serta penanganan akun yang berulang kali melanggar.

Peninjauan Aplikasi Semakin Menentukan

Perubahan pedoman juga memberi sinyal bahwa pemeriksaan App Store tak berhenti pada deskripsi, tampilan, atau fungsi yang diajukan pengembang. Pemeriksa dapat menindak aplikasi apabila fitur tersembunyi bertentangan dengan tujuan yang disampaikan saat proses evaluasi awal. Pendekatan tersebut mendorong pengembang menjaga konsistensi antara klaim pemasaran, perilaku aplikasi, dan perlindungan yang tersedia setelah peluncuran.

Dampak Kebijakan bagi Pengembang dan Pengguna

Bagi pengembang, penerapan aturan berarti investasi pada moderasi konten, sistem pelaporan, pemblokiran akun, serta respons cepat atas pengaduan. Penguatan tersebut berpotensi menambah beban operasional, khususnya bagi layanan dengan volume unggahan besar atau fitur penyuntingan gambar berbasis AI. Namun, langkah preventif dapat mempersempit ruang distribusi konten seksual tanpa persetujuan yang berisiko merusak privasi dan reputasi korban. Efektivitasnya akan bergantung pada ketelitian penyaringan, kecepatan merespons laporan, dan konsistensi Apple menegakkan aturan terhadap aplikasi bermasalah.

Bagi pengguna, kebijakan ini memperjelas saluran perlindungan ketika foto pribadi disalahgunakan atau diubah menjadi materi intim tanpa izin. Meski demikian, moderasi platform tidak menggantikan kewaspadaan pengguna dalam menjaga privasi foto serta membatasi akses terhadap berkas pribadi. Aturan baru menegaskan satu arah industri digital: inovasi kecerdasan buatan harus berjalan seiring akuntabilitas, keamanan, dan persetujuan individu.