Midjourney, perusahaan teknologi artificial intelligence (AI) terkemuka, berencana meluncurkan fitur baru yang akan mengubah cara kita berinteraksi dengan gambar digital. David Holtz, CEO Midjourney, mengumumkan bahwa perusahaannya akan merilis alat web AI canggih yang memungkinkan pengguna mengedit gambar apa pun dari internet menggunakan teknologi AI generatif mereka.
Fitur inovatif ini, yang dijadwalkan rilis "awal minggu depan", tidak hanya memungkinkan pengguna memodifikasi gambar yang diunggah, tetapi juga menawarkan kemampuan untuk mengubah tekstur objek dalam gambar. Pengguna dapat "melukis ulang" warna dan detail objek sesuai dengan deskripsi yang mereka berikan, membuka peluang kreatif yang belum pernah ada sebelumnya.
Namun, di tengah antusiasme inovasi ini, muncul kekhawatiran terkait potensi penyalahgunaan teknologi. Pengeditan gambar menggunakan AI telah menjadi topik hangat belakangan ini, dengan platform besar seperti Meta berjuang untuk membedakan gambar yang diedit dengan AI dari yang dihasilkan dari awal oleh model AI.
Midjourney telah berkomitmen untuk menggunakan properti Digital Source Type dari IPTC, standar teknis yang menanamkan metadata pada gambar untuk menandai bahwa mereka telah dihasilkan oleh AI. Namun, perusahaan ini belum mengadopsi teknologi C2PA, yang dapat melacak asal-usul lengkap sebuah gambar, termasuk peralatan dan perangkat lunak yang digunakan untuk membuatnya.
Menyadari potensi risiko, Holz menyatakan bahwa akses ke alat pengeditan gambar yang ditingkatkan ini akan dibatasi pada "subset komunitas saat ini" untuk permulaan. Midjourney juga akan meningkatkan moderasi manusia dan menerapkan "moderator AI yang lebih canggih" untuk mencegah penyalahgunaan.
"Sejujurnya, kami belum yakin bagaimana cara membatasi penerapan fitur ini dengan tepat," ujar Holz. Perusahaan kini sedang mengumpulkan masukan dari komunitas melalui jajak pendapat untuk menentukan pengguna mana yang akan mendapat akses pertama.
Perilisan alat pengeditan semacam ini tanpa perlindungan yang memadai dapat memfasilitasi pelanggaran hak cipta dalam skala besar atau mempromosikan penyebaran deepfake yang menyesatkan. Data dari Clarity, perusahaan deteksi deepfake, menunjukkan peningkatan 900% dalam pembuatan dan publikasi deepfake tahun ini dibandingkan periode yang sama tahun lalu.
Kekhawatiran publik juga meningkat. Sebuah jajak pendapat dari YouGov menemukan bahwa 85% warga Amerika prihatin tentang penyebaran deepfake yang menyesatkan di internet. Menanggapi hal ini, lebih dari 10 negara bagian di AS telah memberlakukan undang-undang yang melarang peniruan berbantuan AI.
Meskipun Midjourney telah mengambil langkah-langkah untuk membatasi penyebaran deepfake, termasuk menerapkan filter untuk tokoh politik menjelang pemilihan presiden AS, tantangan tetap ada. Perusahaan ini harus menyeimbangkan inovasi teknologi dengan tanggung jawab etis untuk mencegah penyalahgunaan alat yang kuat ini.
Dengan peluncuran fitur baru ini, Midjourney berada di garis depan revolusi pengeditan gambar AI. Namun, keberhasilannya akan bergantung pada kemampuan perusahaan untuk mengatasi kekhawatiran etis dan keamanan yang muncul.
