Melawan deepfake, dangkal, dan manipulasi media

9 Min Read

Melawan deepfake, dangkal, dan manipulasi media

Ikhtisar diagram tentang cara kerja TalkLock. Pengguna dapat menyematkan kode QR yang aman dalam rekaman langsung suatu acara secara real-time dan kemudian memverifikasi konten multimedia lainnya berdasarkan kode ini. Kredit: Nirupam Roy

Teknologi foto, audio dan video telah mengalami kemajuan yang signifikan dalam beberapa tahun terakhir, sehingga mempermudah pembuatan konten multimedia palsu yang meyakinkan, seperti politisi yang menyanyikan lagu-lagu populer atau mengatakan hal-hal konyol untuk mendapatkan tawa atau klik. Dengan beberapa aplikasi yang mudah diakses dan beberapa latihan, rata-rata orang dapat mengubah wajah dan suara siapa saja.

Namun Asisten Profesor Ilmu Komputer Universitas Maryland Nirupam Roy mengatakan manipulasi media bukan sekadar kesenangan dan permainan—sedikit pengeditan video dan audio dapat dengan cepat membawa konsekuensi yang mengubah hidup di dunia saat ini. Dengan menggunakan teknologi yang semakin canggih seperti kecerdasan buatan dan pembelajaran mesin, pelaku kejahatan dapat mengeksploitasi batasan antara fiksi dan kenyataan dengan lebih mudah dari sebelumnya.

Untuk mengatasi ancaman yang semakin besar ini, Roy mengembangkan TalkLock, sistem kriptografi berbasis kode QR yang dapat memverifikasi apakah konten telah diedit dari bentuk aslinya.

“Pada tahun 2022, video hasil rekayasa Presiden Ukraina Volodymyr Zelenskyy diedarkan di internet oleh para peretas. Dalam video palsu itu, dia tampak menyuruh tentaranya untuk meletakkan senjata dan berhenti berjuang untuk Ukraina,” kata Roy, yang memegang kartu identitas. penunjukan bersama di Institut Studi Komputer Tingkat Lanjut Universitas Maryland.

“Klip tersebut telah dibantah, namun sudah ada dampaknya terhadap moral, demokrasi, dan masyarakat. Anda dapat membayangkan konsekuensinya jika klip tersebut ditayangkan lebih lama, atau jika pemirsa tidak dapat memverifikasi keasliannya.”

Roy menjelaskan bahwa video Zelenskyy palsu hanyalah salah satu dari banyak video dan klip audio hasil editan jahat yang beredar di web, berkat lonjakan konten multimedia baru-baru ini yang disebut deepfakes dan dangkalfakes.

“Sementara deepfake menggunakan kecerdasan buatan untuk mengubah wajah, meniru suara, atau bahkan mengarang tindakan dalam video dengan mulus, dangkalfake tidak terlalu mengandalkan teknik pengeditan yang rumit dan lebih banyak menghubungkan sebagian kebenaran dengan kebohongan kecil,” kata Roy. “Kepalsuan dangkal juga sama—jika tidak lebih—berbahaya karena semakin membesar dan semakin mudah bagi orang untuk menerima kebohongan kecil sebagai sebuah kebenaran. Hal ini membuat kita mempertanyakan seberapa akurat sumber informasi yang biasa kita gunakan.”

Melawan deepfake, dangkal, dan manipulasi media

Metadata memberikan informasi dasar tentang suatu multimedia. Kredit: Georgia Jiang

Menemukan cara untuk mencegah kerusakan rekaman acara langsung

Setelah mengamati dampak dari video Zelenskyy yang dipalsukan dan viral serta video serupa lainnya, Roy menyadari bahwa memerangi deepfake danshallowfake sangat penting untuk mencegah penyebaran disinformasi berbahaya dengan cepat.

“Kami sudah memiliki beberapa cara untuk melawan deepfake dan perubahan audio-video lainnya,” kata Roy. “Selain mencari perbedaan nyata dalam video, situs seperti Facebook dapat secara otomatis memverifikasi metadata konten yang diunggah untuk melihat apakah konten tersebut diubah atau tidak.”

Metadata berisi informasi tentang suatu media, seperti kapan direkam dan pada perangkat apa. Editor gambar seperti Photoshop juga meninggalkan riwayat pengeditan di metadata foto. Metadata yang tertanam dalam file dapat digunakan untuk memeriksa ulang asal-usul media, namun teknik autentikasi yang umum digunakan ini tidak selalu mudah.

Beberapa jenis metadata dapat ditambahkan secara manual setelah klip video atau audio direkam sementara jenis lainnya dapat dihapus seluruhnya. Kekurangan ini membuat penggunaan metadata default saja sebagai pengautentikasi tidak dapat diandalkan, terutama untuk rekaman acara langsung.

“Masalah besar yang kita hadapi adalah apa yang terjadi dalam siaran langsung, seperti pidato publik atau konferensi pers,” tambahnya. “Penonton mana pun secara teknis dapat merekam video pidato dan mengunggahnya di suatu tempat sesuai keinginan mereka. Dan setelah video tersebut habis, video tersebut dapat diunduh dan diunggah ulang lagi dan lagi secara gratis, diedarkan kembali ke banyak orang yang mungkin memiliki niat jahat. Kami hanya tidak memiliki kendali sumber atas media yang direkam di acara langsung oleh salah satu penonton.”

Untuk mengatasi masalah tersebut, Roy dan timnya menciptakan TalkLock, sebuah sistem yang dapat menghasilkan kode QR yang mampu melindungi keaslian kemiripan seorang publik figur.

“Ide utamanya adalah menggunakan perangkat seperti smartphone atau tablet untuk terus menghasilkan rangkaian kriptografi yang dibuat dari potongan-potongan kecil pidato langsung, membentuk kode QR yang unik. Kode QR tersebut menangkap fitur-fitur pidato yang diekstraksi dengan cermat,” jelas Roy.

“Karena kode QR akan ditampilkan di layar perangkat dengan speaker, setiap rekaman asli pembicara juga akan berisi kode QR. Kehadiran kode QR menandai verifikasi rekaman langsung, meskipun diposting dalam format berbeda. , diunggah di berbagai platform media sosial atau ditampilkan di TV.”

Selain kemampuannya untuk menempatkan penanda unik pada klip video atau audio, TalkLock juga dapat menganalisis fitur dari rekaman secara sistematis dan membandingkannya dengan urutan kode yang dihasilkan dari versi langsung aslinya. Setiap perbedaan yang ditemukan oleh TalkLock akan menunjukkan bahwa konten tersebut telah diubah.

“Selama kode QR yang dihasilkan terekam bersama pembicara, para pemimpin politik, tokoh masyarakat, dan selebriti akan dapat melindungi kemiripan mereka agar tidak dieksploitasi,” kata Roy. “Ini adalah langkah pertama untuk menjaga integritas informasi kami, melindungi orang dari kejahatan seperti pencemaran nama baik.”

Bukan hanya untuk selebriti dan politisi

Ini hanyalah permulaan untuk TalkLock dan kemampuannya, menurut Roy.

“Meskipun tampaknya hanya aktor dan politisi yang harus khawatir, mereka bukan lagi satu-satunya target manipulasi media yang jahat,” kata Roy. “Masyarakat biasa kini juga menghadapi risiko. Kemiripan mereka juga dapat digunakan untuk menciptakan narasi palsu, upaya penipuan dan pemerasan, pemerasan, dan banyak lagi.”

Roy mencatat bahwa foto dan video yang diposting secara publik di platform media sosial seperti Instagram dan Facebook semakin mempermudah terjadinya penyalahgunaan dan pelanggaran privasi.

Untuk mengatasi kebutuhan akan perlindungan di tingkat individu, timnya sedang mengembangkan TalkLock versi aplikasi seluler, yang akan lebih disesuaikan dengan kebutuhan rata-rata orang dan dapat digunakan oleh siapa saja yang memiliki ponsel cerdas. Dia memperkirakan aplikasi tersebut akan selesai pada musim panas 2024.

“Orang-orang cukup memegang ponsel mereka di dekat mereka dengan aplikasi aktif saat mereka berbicara dan melakukan hal itu akan menciptakan lapisan perlindungan dari pengeditan yang berbahaya,” jelasnya. “Pengguna akan dapat mengontrol jejak audio-video mereka secara online hanya dengan ponsel mereka.”

Roy berharap perlindungan serupa segera tersedia untuk umum sebagai pengaturan default di semua perangkat seluler. Ilmu Komputer Ph.D. mahasiswa Irtaza Shahid dan Nakul Garg serta mahasiswa sarjana Robert Estan dan Aditya Chattopadhyay bekerja sama dengan Roy untuk mengembangkan implementasi sumber terbuka dari tumpukan perangkat lunak TalkLock dan aplikasi seluler. Tim baru-baru ini menerbitkan makalah yang menjelaskan konsep utama proyek ini dalam prosiding MobiSys ’23, Konferensi Internasional tentang Sistem, Aplikasi, dan Layanan Seluler.

“Tujuan utama kami adalah memastikan bahwa setiap orang dapat memiliki akses yang sama terhadap informasi yang nyata dan asli,” tambah Roy. “Hanya dengan cara ini kita bisa selangkah lebih dekat menuju masyarakat yang benar-benar adil dan demokratis.”

Informasi lebih lanjut:
Irtaza Shahid dkk, “Apakah ini presiden saya yang berbicara?” Pidato anti-rusak dalam Rekaman Langsung, Prosiding Konferensi Internasional Tahunan ke-21 tentang Sistem, Aplikasi dan Layanan Seluler (2023). DOI: 10.1145/3581791.3596862

Disediakan oleh Universitas Maryland

Kutipan: Memerangi deepfakes,shallowfakes, dan manipulasi media (2024, 30 Januari) diambil 30 Januari 2024 dari https://techxplore.com/news/2024-01-deepfakes-shallowfakes-media.html

Dokumen ini memiliki hak cipta. Terlepas dari transaksi wajar untuk tujuan studi atau penelitian pribadi, tidak ada bagian yang boleh direproduksi tanpa izin tertulis. Konten disediakan untuk tujuan informasi saja.

______
Diterjemahkan dari techxplore.com

Share This Article