Meta baru-baru ini menarik fitur kecerdasan buatan pada Instagram yang memungkinkan pembuatan gambar berbasis konten akun publik. Fitur tersebut merupakan bagian dari Muse Image dan diluncurkan hanya beberapa hari sebelum akhirnya dihentikan. Pengguna dapat menyebut akun publik dengan tanda @ untuk menjadikan foto-foto akun tersebut sebagai referensi tanpa pemberitahuan kepada pemilik akun.
Langkah penarikan ini diambil setelah munculnya kritik yang menyoroti risiko penyalahgunaan data visual publik. Para kritikus berpendapat bahwa fitur tersebut membuka peluang terciptanya gambar yang dimanipulasi atau bersifat ofensif berdasarkan konten yang diunggah secara terbuka. Meta sendiri menyatakan bahwa tujuan awal fitur ini adalah memberikan alat kreatif di mana pengguna dapat menentukan sendiri apakah konten publik mereka boleh dimanfaatkan.
Keputusan Meta mencerminkan tantangan yang dihadapi perusahaan teknologi dalam menyeimbangkan inovasi dengan ekspektasi privasi pengguna. Dalam konteks yang lebih luas, insiden ini menunjukkan bagaimana model AI yang bergantung pada data visual dapat dengan cepat memicu reaksi negatif ketika mekanisme persetujuan dianggap tidak memadai. Banyak pengguna Instagram mengandalkan platform ini untuk berbagi karya atau aktivitas sehari-hari, sehingga kekhawatiran akan penyalahgunaan data menjadi sangat sensitif.
Selain itu, penarikan fitur ini juga menggarisbawahi pentingnya pengujian yang lebih ketat sebelum peluncuran produk berbasis AI. Meta mengakui bahwa fitur tersebut tidak memenuhi harapan setelah menerima masukan dari berbagai pihak. Situasi serupa pernah terjadi pada perusahaan teknologi lain yang memperkenalkan alat generatif tanpa mempertimbangkan sepenuhnya implikasi etika terhadap konten pengguna.
Dampak jangka pendek yang mungkin timbul adalah penurunan kepercayaan sebagian pengguna terhadap fitur AI di platform Meta secara keseluruhan. Meskipun Meta berencana terus mengembangkan Muse Image, insiden ini kemungkinan akan memengaruhi cara perusahaan merancang mekanisme opt-in di masa mendatang. Pengguna kini lebih waspada terhadap setiap pembaruan yang melibatkan pemanfaatan data visual mereka.
Dari perspektif industri, kasus ini menambah tekanan bagi regulator untuk menetapkan pedoman yang lebih jelas terkait penggunaan data publik dalam pelatihan model AI. Meta harus memastikan bahwa setiap fitur baru tidak hanya inovatif tetapi juga menghormati batasan privasi yang diharapkan oleh komunitas penggunanya. Langkah penarikan fitur tersebut menjadi pelajaran penting bagi pengembangan teknologi serupa di platform media sosial lainnya.
