“Kami tidak dapat berkompromi bahkan satu individu pun hanya untuk melindungi apa yang menjadi hak kami,” kata suara dalam audio palsu, yang dilaporkan dirilis melalui saluran YouTube dengan ribuan pelanggan. Audio itu disertai dengan tayangan slide foto yang menunjukkan kapal-kapal China di Laut China Selatan.
Klip itu muncul di tengah meningkatnya ketegangan antara Manila dan Beijing karena seringnya perselisihan mereka di Laut Cina Selatan.
Kantor Komunikasi Presiden (PCO) mengeluarkan peringatan publik tentang media yang dimanipulasi pada Selasa malam, membenarkan bahwa itu sepenuhnya palsu.
“Telah menjadi perhatian Kantor Komunikasi Kepresidenan bahwa ada konten video yang diposting di platform streaming video populer yang beredar online yang telah memanipulasi audio yang dirancang agar terdengar seperti Presiden Ferdinand R. Marcos Jnr,” kata PCO dalam sebuah pernyataan.
“Deepfake audio mencoba untuk membuatnya tampak seolah-olah Presiden telah mengarahkan Angkatan Bersenjata Filipina kita untuk bertindak terhadap negara asing tertentu. Tidak ada arahan seperti itu atau telah dibuat,” tambahnya.
Menurut PCO, mereka sedang mengerjakan langkah-langkah untuk memerangi berita palsu, misinformasi, dan disinformasi melalui Kampanye Literasi Media dan Informasi.
“Kami juga berkoordinasi erat dan bekerja dengan lembaga pemerintah dan pemangku kepentingan sektor swasta terkait untuk secara aktif mengatasi proliferasi dan penggunaan berbahaya deepfake video dan audio dan konten AI generatif lainnya,” katanya.
Ramon Beleno III, kepala departemen ilmu politik dan sejarah di Universitas Ateneo De Davao di Kota Davao, mengatakan Beijing dan para pendukungnya di Filipina tidak mungkin berada di balik peredaran audio palsu karena bukan kepentingan mereka untuk memicu ketegangan lebih lanjut.
“Jika sesuatu akan terjadi di Laut Filipina Barat, siapa yang akan diuntungkan? Baik Filipina maupun China,” katanya. Laut Filipina Barat adalah istilah Manila untuk bagian Laut Cina Selatan yang mendefinisikan wilayah maritimnya dan termasuk wilayah ekonomi eksklusifnya.
Akademisi itu mendesak orang-orang di balik video atau mengipasi ketegangan di Laut Filipina Barat untuk menghentikan tindakan seperti itu karena mereka tidak akan membantu menyelesaikan perselisihan Manila dengan Beijing.
“Kami tidak mengerti mengapa ada orang yang menginginkan masalah. Tidak baik mengangkat konflik. Kami memiliki Balikatan sekarang. Ada banyak pasukan di perairan yang diperebutkan. Mungkin kita seharusnya tidak mengganggu situasi,” katanya.
Pada hari Senin, Filipina dan AS memulai latihan militer gabungan Balikatan tahunan mereka yang melibatkan sekitar 11.000 tentara dari AS dan 5.000 dari Filipina, serta peserta dari angkatan bersenjata Australia dan Prancis.
15:04
Mengapa Filipina menyelaraskan diri dengan AS setelah bertahun-tahun menjalin hubungan dekat dengan China di bawah Duterte
Mengapa Filipina menyelaraskan diri dengan AS setelah bertahun-tahun hubungan dekat China di bawah Duterte
“Jika agitasi menghasilkan konflik besar-besaran, kita tidak bisa mengendalikannya lagi. Seperti yang telah saya katakan, kita harus rasional dan kepala yang lebih dingin akan menang,” Beleno menekankan.
Pada hari Rabu, Asisten Sekretaris PCO Dale De Vera mengatakan deepfake viral bisa memiliki konsekuensi serius.
“Ini berita besar karena kebijakan luar negeri yang terpengaruh di sana,” katanya kepada wartawan.
Ditanya apakah ini adalah pertama kalinya deepfake presiden dibuat, De Vera mengatakan ada contoh lain sebelumnya tetapi tidak ada yang berpotensi berbahaya seperti insiden terbaru.
“Ini bukan pertama kalinya tetapi yang ini serius karena yang lain hanya bermain-main, hanya lagu-lagu di mana dia [Marcos Jnr] bernyanyi dan menari, tetapi yang ini sangat berbeda karena topiknya,” kata De Vera.
Menanggapi masalah ini dengan serius
Aboy Paraiso, asisten sekretaris Departemen Teknologi Informasi dan Komunikasi, mengatakan Manila akan menanggapi masalah deepfake dengan serius.
“Kami berkoordinasi dengan sektor keamanan dalam skenario khusus ini yang melibatkan keamanan nasional dan kesejahteraan masyarakat,” kata Paraiso, menambahkan bahwa pihak-pihak di balik deepfake Marcos dapat dipenjara berdasarkan undang-undang kejahatan dunia maya negara itu.
Jocel De Guman, salah satu pendiri Scam Watch Philippines, sebuah kelompok yang terlibat dalam meningkatkan kesadaran tentang penipuan dan kegiatan penipuan di negara itu, mengatakan Manila perlu mendidik orang-orang tentang deteksi penipuan online, terutama karena aplikasi AI menjadi lebih tersedia.
“Yang menakutkan sekarang adalah ia berkembang dan tidak hanya menyalin tetapi lebih maju. Kita tidak bisa menghentikan pengembangan AI sehingga kita perlu mendidik orang tentang logika untuk mendeteksi penipuan,” tambahnya.
Pengguna online dapat menilai apakah klip media palsu dengan memeriksa sumbernya dan memeriksanya, kata De Guman.
“Biasanya sumbernya tidak kredibel. Periksa apakah audio disinkronkan di mulut, wajah buram, dan mata, karena biasanya tidak alami dan tidak bergerak.”
Pejabat pertahanan dan keamanan di Filipina telah lama menyatakan keprihatinan tentang kesiapan keamanan siber negara itu.
Tahun lalu, Menteri Pertahanan Gilberto Teodoro Jr memperingatkan personel militer dan keamanan agar tidak menggunakan aplikasi yang memanfaatkan AI untuk menghasilkan potret pribadi, dengan mengatakan bahwa mereka dapat “digunakan dengan jahat untuk membuat profil palsu yang dapat menyebabkan pencurian identitas, rekayasa sosial, serangan phishing, dan kegiatan jahat lainnya”.
Tiga anggota parlemen – perwakilan Cavite Lani Mercado-Revilla dan Ramon Revilla III dan Agimat Rep. Bryan Revilla – telah mencari melalui RUU hukuman yang lebih berat terhadap kejahatan yang dilakukan menggunakan teknologi deepfake.
Draf RUU mendefinisikan “deepfake” sebagai “rekaman audio, visual atau audio-visual apa pun yang dibuat atau diubah melalui sarana teknis, seperti perekaman video, film film, rekaman suara, gambar elektronik, atau foto, yang sangat meyakinkan sehingga orang yang masuk akal akan salah mengira itu sebagai representasi otentik dari ucapan atau perilaku individu. “
Deepfake ilegal dapat “melanggar hak cipta, melanggar perlindungan data, mencemarkan nama baik individu, dan mengganggu privasi”, menurut RUU tersebut.