Deepfake dan Suara Tiruan AI: Penipuan dan Jalur Hukum bagi Korban

Apa itu deepfake dan suara tiruan

Deepfake adalah gambar, video, atau audio yang dibuat atau diubah dengan teknologi kecerdasan buatan sehingga tampak atau terdengar seperti orang tertentu mengatakan atau melakukan sesuatu yang sebenarnya tidak pernah terjadi. Suara tiruan (voice cloning) adalah rekaman suara yang disintesis agar mirip suara seseorang, kadang hanya dari beberapa detik rekaman asli.

Penggunaannya tidak selalu jahat. Teknologi ini dipakai untuk hiburan, film, dan aksesibilitas. Persoalan hukum muncul ketika dipakai untuk menipu, memeras, mencemarkan nama baik, membuat konten seksual palsu, atau menyebarkan kabar bohong.

Pembahasan umum ada di deepfake, kecerdasan buatan, dan hak citra serta kecerdasan buatan, deepfake, dan hukum. Artikel ini fokus pada penipuan dan jalur hukum bagi korban.

Modus yang sering muncul

• Panggilan atau pesan suara dari "keluarga". Suara mirip anak atau orang tua mengaku mengalami musibah dan meminta transfer segera.
• Video palsu tokoh atau pejabat. Dipakai mempromosikan investasi atau hadiah.
• Video konferensi palsu. Wajah atasan ditiru untuk memerintahkan pembayaran.
• Konten seksual palsu. Wajah korban ditempelkan pada tubuh orang lain, kemudian dipakai untuk mengancam.
• Kampanye hoaks. Video palsu pernyataan seseorang untuk memengaruhi opini.
• Pencatutan wajah untuk iklan. Wajah orang dipakai mempromosikan produk tanpa izin.

Kesamaan modus ini adalah menciptakan rasa mendesak agar korban bertindak tanpa berpikir.

Aturan yang dapat dipakai

Indonesia belum mempunyai undang-undang khusus deepfake. Korban dapat memakai ketentuan yang ada.

• UU ITE. Melarang penyebaran informasi elektronik yang menyesatkan dan merugikan konsumen, manipulasi informasi elektronik agar tampak seolah data otentik, serta penyebaran konten yang melanggar kesusilaan, pemerasan, dan pengancaman. Pasal, rumusan terbaru, dan ancaman pidana perlu dibaca pada teks resmi UU No. 1 Tahun 2024.
• KUHP baru. Penipuan, pemerasan, pengancaman, dan pencemaran nama baik. Berlaku sejak 2 Januari 2026. Nomor pasal dan unsur perlu diperiksa pada teks resmi.
• UU Pelindungan Data Pribadi. Wajah dan suara yang dapat mengidentifikasi seseorang adalah data pribadi, dan data biometrik tergolong data pribadi yang bersifat spesifik. Penggunaan tanpa dasar yang sah melanggar hak pemilik data, yang berhak meminta penghentian pemrosesan dan penghapusan.
• UU Tindak Pidana Kekerasan Seksual (UU No. 12 Tahun 2022). Mengatur kekerasan seksual berbasis elektronik, termasuk penyebaran konten bermuatan seksual tanpa persetujuan dan pemerasan seksual. Konten deepfake seksual dapat diproses dengan dasar ini sesuai faktanya.
• UU Hak Cipta. Pemakaian suara atau rupa seseorang untuk iklan tanpa izin dapat dipersoalkan, termasuk ketentuan tentang potret.
• Hukum perdata. Perbuatan melawan hukum untuk menuntut ganti rugi.

Perkembangan regulasi AI di Indonesia terus berjalan. Periksa kanal Kementerian Komunikasi dan Digital untuk pedoman terbaru.

Cara mengenali dan memverifikasi

Tidak ada cara mutlak, tetapi beberapa kebiasaan mengurangi risiko.

1. Hentikan, jangan buru-buru. Penipu mengandalkan kepanikan.
2. Verifikasi lewat kanal lain. Hubungi orang tersebut lewat nomor lama yang tersimpan, atau tanyakan anggota keluarga lain.
3. Ajukan pertanyaan yang hanya diketahui orang itu. Gunakan kata sandi keluarga yang disepakati sebelumnya.
4. Perhatikan kejanggalan. Gerak bibir tidak sinkron, kedipan aneh, kualitas suara datar, atau latar yang tidak biasa. Namun, teknologinya terus membaik, jadi jangan hanya mengandalkan ini.
5. Periksa sumber unggahan. Siapa yang pertama mengunggah, apakah media tepercaya memberitakan hal yang sama.
6. Jangan mentransfer dana karena permintaan mendesak lewat telepon atau video.

Langkah bila menjadi korban

1. Hentikan transaksi dan hubungi bank bila sudah mentransfer. Minta blokir rekening tujuan dan catat nomor laporan.
2. Simpan bukti. Rekam layar, simpan tautan, nama akun, nomor telepon, waktu, dan percakapan. Simpan berkas audio atau video aslinya.
3. Laporkan ke platform. Gunakan kategori konten manipulatif, peniruan identitas, atau konten intim tanpa persetujuan. Sertakan bukti bahwa Anda adalah orang yang ditiru.
4. Laporkan ke polisi. Bawa bukti dan sebutkan unsur penipuan, pemerasan, atau kesusilaan sesuai fakta.
5. Adukan ke Komdigi untuk permintaan penurunan konten. Lihat pengaduan konten negatif ke platform dan Komdigi.
6. Gunakan hak data pribadi. Ajukan permintaan tertulis agar pihak yang mengendalikan konten menghentikan pemrosesan dan menghapusnya.
7. Peringatkan lingkungan Anda. Beri tahu keluarga, rekan kerja, dan kontak agar tidak terkecoh.
8. Cari pendampingan. Korban konten seksual palsu berhak mendapat pendampingan psikologis dan hukum. Lihat ancaman sebar foto intim dan sextortion.

Contoh: Pak Aryo (nama fiktif) menerima panggilan suara yang mirip suara adiknya, meminta dikirim uang untuk menebus biaya rumah sakit. Pak Aryo merasa janggal karena adiknya biasanya menelepon dari nomor lain. Ia menutup telepon, menghubungi adiknya lewat nomor lama, dan ternyata adiknya baik-baik saja. Ia menyimpan nomor penelepon, mencatat waktu panggilan, dan melaporkannya ke platform serta pihak berwenang agar nomor tersebut diselidiki.

Siapa yang dapat dimintai pertanggungjawaban

Pelaku yang membuat dan menyebarkan konten adalah pihak yang paling utama dimintai pertanggungjawaban, baik pidana maupun perdata. Pihak yang menyebarkan ulang juga dapat bertanggung jawab. Penyelenggara platform memiliki kewajiban menurut aturan penyelenggara sistem elektronik, antara lain menjaga agar sistem tidak memuat konten terlarang dan menindaklanjuti laporan. Penyedia aplikasi pembuat deepfake pada umumnya tidak mudah dituntut, terutama bila berada di luar negeri. Karena itu, langkah praktis terbaik adalah mengamankan bukti, menurunkan konten, dan mengejar pelaku yang dapat diidentifikasi.

Dampak bagi perusahaan

Perusahaan juga menjadi sasaran, misalnya dengan video palsu pimpinan yang memerintahkan transfer. Kebijakan internal yang baik: verifikasi dua pihak untuk transfer besar, kata sandi verbal, dan larangan memerintahkan pembayaran lewat satu kanal saja. Pelatihan karyawan tentang modus penipuan bermanfaat. Bila terjadi insiden, kumpulkan bukti dan laporkan ke bank serta polisi. Pembahasan keamanan data perusahaan ada di keamanan siber dan kebocoran data perusahaan.

Kesalahan yang sering terjadi

• Mengira video yang tampak nyata pasti asli.
• Mentransfer uang karena suara terdengar akrab.
• Menyebarkan ulang konten palsu sebagai peringatan.
• Tidak menyimpan berkas asli bukti.
• Menunda melapor karena malu.
• Memberikan lebih banyak foto atau rekaman suara kepada orang tak dikenal.

Kapan sebaiknya menemui advokat

Konsultasi layak bila Anda menjadi korban konten seksual palsu, kerugian finansial besar, atau reputasi usaha terganggu. Advokat dapat membantu melapor, mengirim somasi, dan memohon penurunan konten. Siapkan bukti, kronologi, dan identitas Anda.

Istilah yang perlu dipahami

• Kecerdasan buatan (AI). Sistem komputer yang meniru kemampuan manusia seperti mengenali pola dan menghasilkan konten.
• Voice cloning. Pembuatan suara tiruan yang mirip suara seseorang.
• Face swap. Penukaran wajah pada gambar atau video.
• Metadata. Data tersembunyi dalam berkas, seperti waktu pembuatan dan perangkat.
• Data biometrik. Data yang berasal dari ciri fisik seperti wajah atau suara.
• Watermark digital. Tanda tak terlihat atau terlihat yang menunjukkan asal atau pembuat konten.

Contoh kedua: video konferensi dengan wajah atasan

Contoh: Bu Fitri (nama fiktif) bekerja di bagian keuangan sebuah perusahaan. Ia diundang ke panggilan video mendadak. Wajah dan suara atasannya meminta pembayaran segera kepada rekening baru dengan alasan kontrak rahasia. Bu Fitri merasa janggal karena permintaan itu tidak sesuai prosedur. Ia menolak melakukan pembayaran, menyatakan akan memverifikasi dulu, lalu menghubungi atasannya lewat saluran internal resmi. Ternyata atasannya tidak pernah menelepon. Perusahaan mencatat kejadian itu dan memperkuat prosedur: setiap perubahan rekening tujuan harus diverifikasi dua orang.

Pelajaran: prosedur internal yang disiplin lebih andal daripada mengandalkan penglihatan dan pendengaran.

Bukti digital yang perlu dijaga untuk kasus AI

Karena konten AI mudah diperdebatkan keasliannya, bukti perlu disimpan hati-hati:

• simpan berkas asli, bukan hanya tangkapan layar;
• catat tautan, akun pengunggah, dan waktu pertama kali Anda melihatnya;
• simpan metadata dan jangan mengompresi atau menyunting berkas;
• rekam proses ketika konten ditemukan, misalnya rekaman layar dari halaman asli;
• catat saksi yang melihat atau menerima konten yang sama;
• siapkan bukti keberadaan Anda di tempat lain saat video diklaim terjadi, bila relevan.

Penyidik dapat bekerja sama dengan ahli forensik digital untuk memeriksa keaslian. Hasil pemeriksaan ahli dapat memperkuat posisi korban.

Hak citra dan izin penggunaan wajah serta suara

Wajah dan suara melekat pada pribadi seseorang. Penggunaan untuk tujuan komersial, misalnya iklan, memerlukan izin. Orang yang wajah atau suaranya dipakai tanpa izin dapat menuntut penghentian dan ganti rugi. Sebaliknya, pencipta konten yang ingin memakai wajah atau suara seseorang, termasuk dengan AI, sebaiknya meminta persetujuan tertulis yang menyebut tujuan, durasi, dan platform. Persetujuan umum seperti "boleh dipakai di mana saja" sebaiknya dihindari. Bacaan terkait: deepfake, kecerdasan buatan, dan hak citra.

Sikap bagi pembuat dan pengguna aplikasi AI

Pengguna yang memakai aplikasi AI untuk membuat konten juga memikul tanggung jawab. Beberapa pedoman: jangan memakai wajah atau suara orang lain tanpa izin, jangan membuat konten yang menyesatkan atau merendahkan, beri keterangan bahwa konten dibuat dengan AI bila dibagikan, dan hapus konten yang diminta oleh orang yang bersangkutan. Pengguna yang membuat atau menyebarkan konten palsu yang merugikan dapat dikenai sanksi pidana dan perdata. Alasan "hanya bercanda" tidak otomatis melepaskan tanggung jawab bila ada korban.

Dukungan bagi korban

Menjadi korban deepfake, terutama yang bersifat seksual, dapat sangat menekan. Korban berhak atas pelindungan dan pendampingan. Lembaga layanan seperti unit pelayanan perempuan dan anak di daerah, lembaga bantuan hukum, dan layanan konseling dapat membantu. Sampaikan kepada orang tepercaya, dan jangan menyalahkan diri sendiri. Fokus pada langkah praktis: bukti, pelaporan, penurunan konten, dan pendampingan. Pelajari juga ketentuan tentang kekerasan seksual berbasis elektronik dalam UU TPKS.

Praktik terbaik bagi organisasi

Organisasi sebaiknya menyusun kebijakan: verifikasi dua jalur untuk perintah pembayaran atau perubahan data bank, pelatihan karyawan tentang penipuan AI, protokol komunikasi untuk pimpinan sehingga perintah penting selalu lewat kanal resmi, serta prosedur insiden untuk melapor dan menyimpan bukti. Pertimbangkan juga membatasi jumlah rekaman suara dan video pimpinan yang tersedia publik bila tidak diperlukan, karena bahan itu dapat dipakai untuk meniru.

Pertanyaan yang sering diajukan

Apakah ada undang-undang khusus deepfake? Belum ada undang-undang khusus. Korban memakai ketentuan UU ITE, KUHP baru, UU PDP, UU TPKS, dan hukum perdata sesuai fakta. Periksa perkembangan aturan terbaru.

Apakah membuat deepfake untuk lelucon dilarang? Tergantung isi dan dampaknya. Bila merugikan, mempermalukan, atau menyesatkan, dapat bermasalah. Minta izin orang yang wajahnya dipakai dan hindari konten yang merendahkan.

Bagaimana membuktikan bahwa video itu palsu? Pemeriksaan ahli forensik digital dapat membantu menilai keaslian. Simpan berkas asli dan metadata, dan siapkan bukti bahwa Anda berada di tempat lain saat video itu diklaim terjadi.

Ringkasan

Deepfake dan suara tiruan memudahkan penipuan dan pencemaran nama baik. Korban dapat memakai UU ITE, KUHP baru, UU PDP, UU TPKS, dan jalur perdata. Verifikasi lewat kanal lain sebelum mentransfer, simpan bukti, laporkan ke platform dan polisi, dan gunakan hak atas data pribadi. Aturan khusus AI masih berkembang, jadi periksa teks resmi terbaru.

Dasar hukum

• UU No. 1 Tahun 2024 tentang Perubahan Kedua atas UU No. 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik.
• UU No. 27 Tahun 2022 tentang Pelindungan Data Pribadi.
• UU No. 12 Tahun 2022 tentang Tindak Pidana Kekerasan Seksual.
• UU No. 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana.

Baca juga

• Deepfake, Kecerdasan Buatan, dan Hak Citra: Bila Wajah atau Suara Anda Ditiru
• Deepfake dan Hukum: Wajah Dipalsukan, Hak Anda, dan Jalur Pelaporan
• Ancaman Sebar Foto Intim dan Sextortion: Langkah Cepat Korban dan Dasar Hukumnya
• Phishing dan Penipuan Transfer: Langkah Cepat Melapor ke Bank, OJK, dan Polisi
• Kebocoran Data Perusahaan: Kewajiban Lapor dan Langkah Penanganan

Ada masukan atau pendapat lain? Kirim lewat WhatsApp atau telepon 0813-3040-8000.