Belakangan ini, media sosial sedang ramai-ramainya tren mengubah foto menjadi foto glamor dan artistik dengan aplikasi edit foto bernama Lens/AI Lens.
Aplikasi ini memungkinkan pengguna untuk mengubah gambar yang diunggah agar terlihat seperti digambar oleh seniman profesional menggunakan Magic Avatar, sebuah fitur yang didukung oleh teknologi kecerdasan buatan (AI).
Itu dapat menghasilkan gambar seperti potret yang menarik, tetapi berpendapat bahwa teknologi lensa AI dapat digunakan untuk menghasilkan gambar yang tidak pantas.
Ini dilakukan setelah situs teknologi TechCrunch melakukan percobaan pada beberapa gambar artis terkenal yang diunggah ke lensa AI.
Selain foto asli artis, kami juga menambahkan foto selebriti yang telah diedit “setengah telanjang” menggunakan aplikasi pengedit gambar Adobe Photoshop.
Berdasarkan percobaan dengan beberapa gambar tersebut, TechCrunch mengklaim bahwa lensa AI sebenarnya dapat menghasilkan gambar porno (NSFW) yang tidak sesuai untuk massa.
Oleh karena itu, ada risiko aplikasi AI Lens akan membuat gambar palsu, juga dikenal sebagai gambar atau gambar porno seseorang yang sebenarnya bukan orang tersebut.
Baca Juga:
Apa yang dikatakan pencipta AI Lens?
Play Store / Prisma Labs, Inc Aplikasi AI Lens di App Store.
Sehubungan dengan hal tersebut, Prisma Labs selaku pengembang aplikasi lensa AI mengumumkan melalui CEO Andrei Usoltsev bahwa hasil percobaan TechCrunch merupakan upaya untuk sengaja membuat gambar porno melalui lensa AI.
Usoltsev dikutip KompasTekno dari TechCrunch, Kamis (12 Agustus 2022), mengatakan, “Foto-foto ini menggunakan aplikasi lensa AI yang direncanakan secara tidak benar.”
Niat Usoltsev dapat mewakili upaya TechCrunch untuk menambahkan gambar tambahan yang sebelumnya diedit di Photoshop.
Usoltsev menjelaskan bahwa teknologi Lens AI didasarkan pada model pembelajaran mesin kecerdasan buatan (ML). Model ML ini diklaim mampu mempelajari modifikasi gambar berdasarkan data yang diperoleh dari pengguna dan internet.
Belakangan, model ML ini ditambahkan menggunakan Stable Diffusion, sebuah teknik yang dapat mencegah lensa AI menghasilkan gambar-gambar porno. Tapi Usoltsev mengatakan teknologi itu masih bisa dikelabui oleh pengguna yang cerdas.
Karena tindakan ini tidak dapat dihindari, Osoltsev mengatakan pihaknya akan menciptakan teknologi atau kemampuan memfilter gambar NSFW, yang nantinya disebut sebagai teknologi filter NSFW.
Usoltsev berkata, “Fungsi ini menggelapkan gambar yang diklasifikasikan sebagai gambar porno langsung. Jadi pengguna dapat membuat keputusan yang tepat apakah akan menyimpan gambar porno atau tidak.”
“Total ” membuat gambar porno
Unsplash Illustrasi Deepfake
Usoltsev juga mengingatkan pengguna bahwa AI Lens bukanlah aplikasi yang berfungsi sebagai alat untuk membuat gambar NSFW.
Namun, jika pengguna melakukannya, mengunggah gambar yang tidak pantas ke AI Lens jelas merupakan pelanggaran terhadap kebijakan penggunaan aplikasi tujuan pembuatannya.
“Aplikasi apa pun di Internet bisa menjadi senjata,” jelas Osoltsev, memunculkan berbagai citra berbahaya yang sulit dipastikan jika niat penggunanya buruk.
Baca juga: Instagram Banned Permanen Akun di Situs Porno.
Kepala Prisma Labs tidak mengungkapkan kapan fungsi filter NSFW diimplementasikan ke dalam aplikasi AI Lens. Itu juga tidak menyebutkan rencana Prisma Labs di masa depan untuk mencegah gambar deepfake muncul melalui aplikasi AI Lens.
Yang jelas, bagaimanapun, pengguna dapat menggunakan lensa AI sesuai keinginan mereka sendiri, dan foto yang diunggah ke aplikasi juga dapat dipilih oleh pengguna, kata Usoltsev.
Selain itu, penggunaan publik atas gambar yang tidak pantas atau gambar lain yang dibuat oleh Lensa AI dapat melanggar undang-undang yang berlaku di negara Anda.