AI Rawan Disalahgunakan, Google Rilis Teknologi Pendeteksi Konten AI

VIVATechno – Kehadiran kecerdasan buatan (AI) generatif telah membawa perubahan besar dalam cara konten digital diproduksi dan didistribusikan.

Google DeepMind menghadirkan solusi inovatif bernama SynthID untuk mengatasi potensi penyalahgunaan konten buatan AI.

Teknologi ini menawarkan kemampuan memberikan watermark digital yang tidak terlihat pada berbagai jenis konten seperti gambar, audio, teks, dan video yang dihasilkan AI.

SynthID Text kini tersedia secara open source untuk membantu pengembang menerapkan sistem watermark pada konten teks.

Implementasi tingkat produksi dari teknologi ini dapat diakses melalui Hugging Face Transformers versi 4.46.0 ke atas.



Google Rilis Teknologi Pendeteksi Konten AI

Photo :

• id.pinterest.com

Para pengembang dapat menguji teknologi ini secara langsung melalui SynthID Text Space yang resmi.

Berdasarkan informasi dari Google AI for Developers, SynthID Text bekerja sebagai pemroses logit yang diterapkan setelah proses Top-K dan Top-P.

Sistem ini menggunakan fungsi pseudorandom untuk mengenkode informasi watermark tanpa mengurangi kualitas teks secara signifikan.

Pengembang perlu mengatur dua parameter penting dalam konfigurasi watermark, yaitu parameter keys dan ngram_len.

Parameter keys berfungsi sebagai daftar bilangan bulat acak yang unik untuk menghitung skor fungsi.

Parameter ngram_len digunakan untuk menyeimbangkan aspek keandalan dan kemampuan deteksi watermark.

Deteksi watermark menggunakan sistem probabilistik dengan detektor Bayesian yang terintegrasi dalam Hugging Face Transformers.

Detektor ini mampu menghasilkan tiga status berbeda: dengan watermark, tanpa watermark, atau tidak pasti.

Pengguna memiliki fleksibilitas untuk memilih pendekatan verifikasi deteksi sesuai kebutuhan, baik secara pribadi, semi-pribadi, maupun publik.

Meski tahan terhadap beberapa modifikasi seperti pemotongan teks dan parafrase ringan, teknologi ini memiliki keterbatasan.

SynthID kurang efektif pada konten faktual dan dapat mengalami penurunan akurasi jika teks mengalami penulisan ulang secara menyeluruh atau diterjemahkan ke bahasa lain.

Teknologi ini tidak dirancang untuk menghentikan penyalahgunaan konten secara total, namun dapat mempersulit upaya penyalahgunaan konten AI untuk tujuan negatif.****