Deepfake Tak Sekadar untuk Iseng, tapi Teknologi Masa Depan

Lazuardhi Utama, BBC Indonesia
·Bacaan 5 menit
The deepfake Kim Joo-Ha
Para penonton di Korea Selatan sebelumnya diberi tahu tentang deepfake Kim Joo-Ha, seperti yang muncul dalam gambar ini.

Beberapa bulan yang lalu, jutaan pemirsa televisi di Korea Selatan menonton saluran MBN untuk mendapatkan berita terbaru. Pada jam-jam sibuk, penyiar berita Kim Joo-Ha mulai membacakan berita utama hari itu.

Daftar beritanya relatif normal untuk akhir 2020, penuh dengan COVID-19 dan perkembangan terbaru tentang penanganan pandemi tersebut.

Namun, buletin yang satu ini jauh dari normal, karena sebenarnya bukan Kim Joo-Ha yang tampil di layar. Dia telah digantikan oleh versi "deepfake" dari dirinya sendiri – salinan buatan komputer yang berusaha meniru suara, gerak tubuh, dan ekspresi wajahnya dengan sempurna.

Para pemirsa telah diberi tahu bahwa ini akan terjadi, dan media Korea Selatan melaporkan bahwa orang-orang memberi tanggapan beragam setelah menontonnya.

Sebagian orang takjub pada betapa realistisnya tiruan itu, sebagian yang lain mengatakan mereka khawatir Kim Joo-Ha yang asli akan kehilangan pekerjaannya.

MBN mengatakan akan terus menggunakan deepfake untuk beberapa laporan breaking news, sementara perusahaan di balik teknologi kecerdasan buatan (AI) itu - perusahaan Korea Selatan Moneybrain - mengatakan mereka akan mencari media lain yang berminat di China dan AS.

Saat kebanyakan orang mendengar deepfake, mereka membayangkan video palsu selebritas. Bahkan, baru minggu lalu video asli-tapi-palsu semacam itu yang menampilkan wajah aktor Hollywood Tom Cruise menjadi berita utama di seluruh dunia setelah muncul di TikTok.

Terlepas dari konotasi negatif seputar istilah deepfake (orang biasanya tidak ingin dikaitkan dengan kata "palsu"), teknologi ini semakin banyak digunakan secara komersial.

Lebih sopan disebut AI-generated video, atau media sintesis, penggunaannya berkembang pesat di berbagai sektor termasuk berita, hiburan dan pendidikan, dengan teknologi yang semakin canggih.

Salah satu perusahaan komersial yang pertama kali mengadopsinya adalah Synthesia, perusahaan berbasis di London yang membuat video pelatihan yang didukung kecerdasan buatan (AI) untuk perusahaan periklanan global seperti WPP dan konsultan bisnis Accenture.

"Ini adalah masa depan pembuatan konten," kata kepala eksekutif dan salah satu pendiri Synthesia, Victor Riparbelli.

Untuk membuat video dengan AI menggunakan sistem Synthesia, Anda cukup memilih satu dari sejumlah avatar, ketikkan kata-kata yang Anda ingin mereka katakan, selesai.

Platform deepfake Synthesia
Pengguna Synthesia memilih dari sejumlah avatar.

Riparbelli mengatakan ini berarti perusahaan global dapat dengan mudah membuat video dalam berbagai bahasa, misalnya untuk pelatihan internal.

"Katakanlah Anda punya 3.000 pekerja di sebuah gudang di Amerika Utara," katanya. "Beberapa dari mereka berbicara bahasa Inggris, tetapi beberapa mungkin lebih akrab dengan bahasa Spanyol.

"Jika Anda harus mengkomunikasikan informasi yang kompleks kepada mereka, dokumen PDF empat halaman bukanlah cara yang bagus. Akan jauh lebih baik bila Anda membuat video dengan durasi dua atau tiga menit, dalam bahasa Inggris dan Spanyol.

"Jika Anda harus merekam setiap video itu, akan repot sekali. Sekarang kami dapat melakukannya dengan biaya produksi [murah], dan berapa pun waktu yang dibutuhkan seseorang untuk menulis naskah. Itu kurang-lebih menjelaskan bagaimana teknologinya digunakan dewasa ini."

Mike Price, chief technology officer ZeroFox, perusahaan keamanan siber di AS, mengatakan penggunaan komersial deepfake "tumbuh secara signifikan dari tahun ke tahun, namun jumlah pastinya sulit untuk dijabarkan".

Namun, Chad Steelberg, kepala eksekutif Veritone, penyedia teknologi kecerdasan buatan di AS, mengatakan bahwa kekhawatiran akan bahaya deepfake menahan investasi dalam penggunaan teknologi tersebut yang sah dan komersial.

"Istilah deepfake jelas mendapat tanggapan negatif berkenaan dengan penanaman modal di sektor tersebut," ujarnya. "Media dan konsumen, wajar saja, dapat dengan jelas melihat risiko terkait.

"Ini jelas menghalangi perusahaan serta investor untuk berinvestasi pada teknologi ini. Tapi saya pikir mulai ada celah."

Mike Papas, kepala eksekutif Modulate, perusahaan AI yang memungkinkan pengguna untuk menciptakan suara dari karakter atau orang yang berbeda, mengatakan bahwa perusahaan-perusahaan di sektor media sintetis komersial umumnya "sangat peduli dengan etika".

"Sungguh menakjubkan melihat kedalaman pemikiran orang-orang ini," ujarnya.

"Itu telah memastikan bahwa investor juga peduli tentang itu. Mereka menanyakan tentang kebijakan etika, dan bagaimana Anda memikirkannya."

Lilian Edwards, guru besar ilmu hukum, inovasi, dan masyarakat di Newcastle Law School, adalah pakar deepfake. Dia mengatakan bahwa satu masalah seputar penggunaan komersial dari teknologi tersebut yang belum sepenuhnya ditangani ialah siapa yang memiliki hak atas videonya.

"Misalnya, jika wajah orang yang sudah meninggal digunakan, seperti [aktor] Steve McQueen atau [rapper] Tupac, ada perdebatan tentang apakah keluarga mereka harus memiliki hak cipta [dan mendapatkan penghasilan darinya]," dia kata.

"Saat ini berbeda dari satu negara ke negara lain."

Deborah Johnson, guru besar emeritus di bidang etika terapan, University of Virginia, baru-baru ini ikut menulis artikel berjudul "What To Do About Deepfakes?" (Apa yang harus dilakukan tentang Deepfake?).

Dia berkata, "Deepfake adalah bagian dari masalah misinformasi yang lebih besar, yang merusak kepercayaan pada institusi dan pengalaman visual - kita tidak bisa lagi mempercayai apa yang kita lihat dan dengar di internet.

"Pelabelan mungkin adalah cara yang paling sederhana dan paling penting untuk mengonter deepfake - jika pemirsa sadar bahwa apa yang mereka tonton adalah buatan, kecil kemungkinan mereka akan tertipu."

Prof Sandra Wachter, seorang peneliti senior AI di Universitas Oxford, mengatakan bahwa teknologi deepfake "semakin maju".

Sandra Wachter
Profesor Sandra Wachter mengatakan tanggapan terhadap deepfake harus "bernuansa".

"Jika Anda menonton video Tom Cruise minggu lalu, Anda bisa melihat sebagus apa kemajuan teknologinya," katanya. "Itu jauh lebih realistis daripada video Presiden Obama empat tahun lalu.

"Kita seharusnya tidak terlalu takut dengan teknologi ini, dan perlu ada pendekatan yang bernuansa. Ya, harus ada undang-undang yang berlaku untuk mencegah hal-hal buruk dan berbahaya seperti ujaran kebencian dan revenge porn. Individu dan masyarakat seharusnya dilindungi dari itu.

"Tapi kita seharusnya tidak melarang total deepfake untuk satir atau kebebasan berekspresi. Dan penggunaan komersial teknologi ini yang terus berkembang sangat menjanjikan, seperti mengubah film ke bahasa yang berbeda, atau membuat video pendidikan yang menarik."

Salah satu penggunaan video yang dihasilkan AI untuk pendidikan ada di Yayasan Shoah Universitas California Selatan, yang menampung lebih dari 55.000 video kesaksian dari para penyintas Holokos.

Seorang penyintas Holokos bersama avatarnya di Yayasan Shoah.
Seorang penyintas Holokos bersama avatarnya di Yayasan Shoah.

Proyek Dimensions in Testimony memungkinkan para pengunjung mengajukan pertanyaan, yang ditanggapi secara real-time oleh para penyintas dalam video wawancara.

Steelberg mengatakan bahwa di masa depan teknologi seperti itu akan memungkinkan cucu untuk bercakap-cakap dengan versi AI dari kerabat lansia yang sudah meninggal.

"Itu akan sangat mengubah, saya rasa, cara kita berpikir tentang masyarakat kita."

Liputan tambahan oleh Will Smale.