Bagaimana memberdayakan generasi muda untuk melawan ancaman misinformasi dan disinformasi

Laporan Risiko Global 2024 yang dikeluarkan oleh Forum Ekonomi Dunia telah mengeluarkan peringatan keras: misinformasi dan disinformasi, yang sebagian besar disebabkan oleh deepfake, merupakan risiko global jangka pendek paling parah yang dihadapi dunia dalam dua tahun ke depan.

Pada bulan Oktober 2023, Dewan Inovasi Québec menyampaikan realisasi yang sama setelah berbulan-bulan berkonsultasi dengan para ahli dan masyarakat.

Penipuan digital ini, yang memanfaatkan kecerdasan buatan dan, yang terbaru, AI generatif, untuk menciptakan fabrikasi yang sangat realistis, lebih dari sekadar keajaiban teknologi; hal ini menimbulkan ancaman sosial yang besar.

Menanggapi kesenjangan dalam memerangi deepfake secara efektif hanya dengan teknologi dan undang-undang, sebuah proyek penelitian yang dipimpin oleh saya dan tim menyoroti solusi penting: intervensi manusia melalui pendidikan.

Solusi teknologi saja tidak cukup

Meskipun alat pendeteksi deepfake terus berkembang, solusi teknologi ini berlomba untuk mengejar kemampuan algoritma deepfake yang berkembang pesat.

Sistem hukum dan pemerintah sedang berjuang untuk mengimbangi pesatnya kemajuan penipuan digital ini.

Ada kebutuhan mendesak bagi pendidikan untuk mengadopsi pendekatan yang lebih serius, agresif dan strategis dalam membekali generasi muda untuk melawan ancaman yang akan terjadi ini.

Kekhawatiran disinformasi politik

Potensi polarisasi politik sangat mengkhawatirkan.

Hampir tiga miliar orang diperkirakan akan memilih di negara-negara termasuk Bangladesh, India, india, Meksiko, Pakistan, Inggris, dan Amerika Serikat dalam dua tahun ke depan.

Kampanye disinformasi mengancam melemahkan legitimasi pemerintah yang baru terpilih.

Deepfake yang dilakukan oleh tokoh-tokoh terkemuka seperti supermodel Palestina-Amerika Bella Hadid dan lainnya telah dimanipulasi untuk memalsukan pernyataan politik mereka, yang menunjukkan kemampuan teknologi untuk mempengaruhi opini publik dan membelokkan narasi politik.

Kepalsuan Greta Thunberg yang menganjurkan “granat vegan” menyoroti penggunaan teknologi ini yang jahat.

Peluncuran asisten AI yang menampilkan kemiripan dengan selebriti oleh Meta menimbulkan kekhawatiran tentang penyalahgunaan dan penyebaran disinformasi.

Penipuan finansial, dampak pornografi

Tidak mengherankan, video deepfake juga dimanfaatkan untuk melakukan penipuan finansial.

YouTuber populer MrBeast ditiru dalam penipuan deepfake di TikTok, dengan menjanjikan hadiah iPhone 15 secara palsu yang menyebabkan penipuan finansial.

Insiden-insiden ini menyoroti kerentanan terhadap penipuan canggih berbasis AI dan penipuan yang menargetkan orang-orang dari segala usia.

Pornografi deepfake mewakili keprihatinan besar bagi generasi muda dan orang dewasa, karena wajah seseorang ditempelkan secara non-konsensual pada konten eksplisit. Gambar deepfake Taylor Swift yang eksplisit secara seksual menyebar di media sosial sebelum platform menghapusnya. Salah satunya telah dilihat lebih dari 45 juta kali.

Pendekatan kebijakan dan teknologi

Kebijakan Meta kini mewajibkan pengiklan politik untuk mengungkapkan segala manipulasi AI dalam iklan, sebuah langkah yang juga dilakukan Google.

Neil Zhang, seorang Ph.D. mahasiswa di Universitas Rochester, sedang mengembangkan alat deteksi untuk audio deepfake, termasuk algoritma canggih dan teknik watermarking.

AS telah memperkenalkan beberapa undang-undang: Undang-Undang Akuntabilitas Deepfakes tahun 2023, Undang-undang No AI FRAUD yang melindungi identitas dari penyalahgunaan AI, dan Undang-undang Mencegah Deepfakes of Intimate Images yang menargetkan deepfakes pornografi non-konsensual.

Di Kanada, legislator telah mengusulkan RUU C-27 dan Undang-Undang Kecerdasan Buatan dan Data (AIDA) yang menekankan transparansi AI dan privasi data.

Inggris mengadopsi RUU Keamanan Online. UE baru-baru ini mengumumkan kesepakatan sementara seputar UU AI; Petunjuk Kewajiban AI (AI Liability Directive) Uni Eropa mengatasi masalah keamanan online dan peraturan AI yang lebih luas.

Pemerintah India mengumumkan rencana untuk merancang peraturan yang menargetkan deepfake.

Langkah-langkah ini mencerminkan meningkatnya komitmen global untuk membatasi dampak buruk deepfake. Namun, upaya ini tidak cukup untuk membendung, apalagi menghentikan, penyebaran penyebaran deepfake.

Studi penelitian dengan remaja

Penelitian yang saya lakukan bersama rekan-rekan, yang didanai oleh Social Sciences and Humanities Research Council (SSHRC) dan Canadian Heritage, mengungkap bagaimana pemberdayaan generasi muda dengan agensi digital dapat menjadi kekuatan melawan gelombang disinformasi yang dipicu oleh teknologi deepfake dan kecerdasan buatan.

Studi kami berfokus pada bagaimana generasi muda memandang dampak deepfake terhadap isu-isu penting dan proses mereka dalam membangun pengetahuan dalam konteks digital. Kami mengeksplorasi kapasitas dan kemauan mereka untuk secara efektif melawan disinformasi.

Studi ini mempertemukan mahasiswa Kanada, berusia 18 hingga 24 tahun, untuk mengikuti serangkaian lokakarya langsung, wawancara individu mendalam, dan diskusi kelompok terfokus.

Peserta membuat deepfake, mendapatkan pemahaman langsung tentang kemudahan akses dan penggunaan teknologi ini serta potensi penyalahgunaannya. Pembelajaran berdasarkan pengalaman ini terbukti sangat berharga dalam mengungkap betapa mudahnya deepfake dihasilkan.

Para peserta pada awalnya menganggap deepfake sebagai bagian dari lanskap digital yang tidak dapat dikendalikan dan tidak dapat dihindari.

Melalui interaksi dan diskusi, mereka beralih dari hanya sekedar pengamat deepfake yang pasif menjadi semakin sadar akan ancaman serius yang mereka hadapi. Yang terpenting, mereka juga mengembangkan rasa tanggung jawab dalam mencegah dan memitigasi penyebaran deepfake, dan kesiapan untuk melawan deepfake.

Siswa berbagi rekomendasi mengenai tindakan nyata, termasuk mendesak sistem pendidikan untuk memberdayakan generasi muda dan membantu mereka menyadari bahwa tindakan mereka dapat membawa perubahan. Ini termasuk:

• mengajarkan dampak buruk disinformasi terhadap masyarakat;
• menyediakan ruang bagi generasi muda untuk merenungkan dan menantang norma-norma sosial, memberikan informasi kepada mereka tentang kebijakan media sosial dan menguraikan konten yang diperbolehkan dan dilarang;
• melatih siswa dalam mengenali deepfake melalui paparan teknologi di baliknya;
• mendorong keterlibatan dalam tujuan-tujuan yang bermakna sambil tetap waspada terhadap disinformasi dan membimbing generasi muda dalam melawan disinformasi secara penuh hormat dan produktif.

Dibutuhkan strategi multifaset

Berdasarkan penelitian kami dan rekomendasi para peserta, kami mengusulkan strategi multifaset untuk melawan penyebaran deepfake.

Pendidikan deepfake perlu diintegrasikan ke dalam kurikulum pendidikan, bersamaan dengan memupuk pemikiran kritis dan agensi digital di generasi muda kita. Generasi muda perlu didorong untuk berpartisipasi secara aktif, namun aman, terinformasi dengan baik, dan strategis dalam memerangi deepfake yang berbahaya di ruang digital.

Kami menekankan pentingnya pengalaman pembelajaran kolaboratif langsung. Kami juga menganjurkan pendekatan pendidikan interdisipliner yang memadukan teknologi, psikologi, studi media, dan etika untuk memahami sepenuhnya implikasi deepfake.

Elemen manusia

Penelitian kami menggarisbawahi realisasi penting: Elemen manusia, khususnya peran pendidikan, sangat diperlukan dalam memerangi deepfake. Kita tidak bisa hanya mengandalkan teknologi dan perbaikan hukum.

Dengan membekali generasi muda, dan juga setiap anggota masyarakat, dengan keterampilan menganalisis secara kritis dan melawan disinformasi, kami membina masyarakat melek digital yang cukup tangguh untuk melawan kekuatan manipulatif deepfake.

Untuk melakukan hal ini, kita harus membekali masyarakat untuk memahami bahwa mereka mempunyai peran dan hak untuk menjaga integritas dunia digital kita.

Artikel ini diterbitkan ulang dari The Conversation di bawah lisensi Creative Commons. Baca artikel aslinya.