AI Rawan Disalahgunakan, Google Rilis Teknologi Pendeteksi Konten AI

Para pengembang dapat menguji teknologi ini secara langsung melalui SynthID Text Space yang resmi.

Berdasarkan informasi dari Google AI for Developers, SynthID Text bekerja sebagai pemroses logit yang diterapkan setelah proses Top-K dan Top-P.

Sistem ini menggunakan fungsi pseudorandom untuk mengenkode informasi watermark tanpa mengurangi kualitas teks secara signifikan.

Pengembang perlu mengatur dua parameter penting dalam konfigurasi watermark, yaitu parameter keys dan ngram_len.

Parameter keys berfungsi sebagai daftar bilangan bulat acak yang unik untuk menghitung skor fungsi.

Parameter ngram_len digunakan untuk menyeimbangkan aspek keandalan dan kemampuan deteksi watermark.

Deteksi watermark menggunakan sistem probabilistik dengan detektor Bayesian yang terintegrasi dalam Hugging Face Transformers.

Halaman Selanjutnya

Detektor ini mampu menghasilkan tiga status berbeda: dengan watermark, tanpa watermark, atau tidak pasti.