Detektor konten AI. Apakah mereka sepadan? | AI dalam bisnis #38

Hari ini, pengembang detektor konten AI mempersembahkan alat ini sebagai alat untuk menjaga keaslian. Pertanyaannya adalah, apakah mereka layak untuk dipercaya dan diinvestasikan? Dalam artikel ini, kita akan melihat bagaimana detektor konten AI bekerja, mengapa mereka mungkin punah, tantangan apa yang mereka bawa, dan dilema etis yang mereka timbulkan.

Detektor konten AI

Detektor konten AI didasarkan pada model bahasa yang mirip dengan yang digunakan untuk menghasilkan konten AI. Mereka dapat dibagi menjadi yang tugasnya adalah memeriksa asal gambar, teks, dan musik yang dihasilkan dengan dukungan kecerdasan buatan. Setiap jenis “detektor AI” bekerja sedikit berbeda, tetapi tidak ada dari mereka yang dapat membedakan dengan kepastian mutlak antara konten yang dibuat oleh manusia dan yang dihasilkan oleh AI.

Detektor gambar yang dihasilkan oleh AI memainkan peran yang semakin penting karena kekuatan media untuk menghasilkan berita palsu. Mereka menganalisis anomali, gaya dan pola yang khas, dan mencari tanda-tanda yang ditinggalkan oleh model seperti DALL-E.

Menonjol di antara detektor yang digunakan untuk mengidentifikasi gambar adalah alat “AI atau Tidak” dari Optic, yang menggunakan basis data gambar yang dihasilkan oleh Midjourney, DALL-E, dan Stable Diffusion. Meskipun hasilnya tidak pasti, ini adalah langkah menuju pengembangan metode identifikasi yang lebih tepat di masa depan.

Sumber: AI atau Tidak (https://www.aiornot.com/)

Di balik operasi detektor AI yang mengenali teks yang dihasilkan oleh AI adalah algoritma canggih yang menganalisis struktur dan pilihan kata dari teks, dan kemudian mengenali pola-pola spesifik AI. Mereka memanfaatkan:

• klasifikasi – algoritma yang mengklasifikasikan teks dan memeriksa gaya, nada, dan tata bahasa. Misalnya, deskripsi produk yang bisa cocok untuk produk apa pun dari jenisnya mungkin diklasifikasikan sebagai kreasi AI,
• embedding (penyematan) – representasi numerik dari kata-kata memungkinkan mesin untuk memahami konteks penggunaannya. Berkat mereka, program “memahami” bahwa teks dengan pilihan kata yang monoton dapat menjadi karya AI,
• perplexity – yang merupakan ukuran ketidakpastian dari sebuah teks. Teks yang ditulis oleh manusia cenderung memiliki perplexity yang lebih tinggi, meskipun teks yang secara inheren sederhana, utilitarian dalam bentuk tipikal, atau ditulis oleh orang asing dapat secara keliru diklasifikasikan sebagai dihasilkan oleh AI,
• diversitas (burstiness) – faktor ini menggambarkan variabilitas dalam panjang dan struktur kalimat. Manusia cenderung menulis teks yang lebih bervariasi daripada kecerdasan buatan.

Elemen-elemen yang disebutkan di atas bersama-sama digunakan oleh detektor konten AI untuk menilai apakah kita berurusan dengan teks yang dibuat oleh manusia atau mesin.

Mengapa menggunakan detektor konten AI?

Detektor konten AI bekerja di berbagai bidang – dari pendidikan hingga pemasaran dan rekrutmen. Berikut adalah alasan utama untuk memiliki mereka sebagai alat bantu dalam evaluasi, tetapi bukan sebagai bukti definitif apakah konten telah dihasilkan:

• Identifikasi foto yang dimodifikasi AI yang menggambarkan orang terkenal – untuk mendeteksi apakah foto tersebut menggambarkan situasi nyata,
• Mencegah disinformasi – Dalam konteks memerangi disinformasi, detektor konten AI yang efektif membantu moderator media sosial mendeteksi penyebaran informasi palsu untuk mengidentifikasi dan menghilangkan konten berulang yang dihasilkan oleh bot,
• Mempersempit publikasi teks bernilai rendah – Detektor konten AI dapat membantu penerbit menolak teks yang berisi informasi generik yang dihasilkan oleh ChatGPT, Bing, atau Bard setelah mengetikkan kueri sederhana.

Namun, perlu diingat bahwa asal teks bukanlah dasar untuk penurunan peringkat situs oleh Google. Blog Pusat Pencarian Google menyatakan bahwa penting bagi Google untuk “menghargai konten berkualitas terlepas dari bagaimana itu dibuat […]. Otomatisasi telah lama digunakan untuk menghasilkan konten yang berguna, seperti skor olahraga, ramalan cuaca, dan transkrip. AI dapat membuka tingkat ekspresi dan kreativitas baru dan menjadi alat kunci untuk mendukung penciptaan konten web yang hebat.”

Ketidakandalan detektor konten AI. Realitas atau mitos?

Meskipun detektor konten AI ada di mana-mana, efektivitasnya bisa dipertanyakan. Masalah utama adalah:

• efisiensi rendah dalam mendeteksi konten AI,
• masalah dengan positif palsu, serta
• kesulitan dalam mengadaptasi detektor ke model AI baru yang cepat beragam dan berkembang.

Uji coba yang dilakukan oleh OpenAI menunjukkan bahwa klasifikator mereka hanya mengenali teks yang dihasilkan oleh GPT 26% dari waktu. Contoh menarik dari ketidakandalan generator dapat dilihat dalam eksperimen yang dilakukan oleh TechCrunch, yang menunjukkan bahwa alat GPTZero dengan benar mengidentifikasi lima dari tujuh teks yang dihasilkan oleh AI. Sementara klasifikator OpenAI hanya mengidentifikasi satu.

Sumber: GPTZero (https://gptzero.me/)

Selain itu, ada risiko menerima positif palsu, yaitu mengidentifikasi teks yang ditulis oleh manusia sebagai dihasilkan oleh AI. Misalnya, awal bab kedua dari Don Quixote karya Miguel de Cervantes ditandai oleh detektor OpenAI sebagai kemungkinan besar ditulis oleh kecerdasan buatan.

Sementara kesalahan dalam analisis teks sastra historis dapat dianggap sebagai keingintahuan yang menghibur, situasi menjadi lebih rumit ketika kita ingin menggunakan detektor sebagai alat untuk mengevaluasi teks. Konstitusi AS ditandai oleh ZeroGPT sebagai 92,15% ditulis oleh kecerdasan buatan. Dan, menurut studi yang diterbitkan oleh peneliti di Universitas Stanford, 61% esai TOEFL yang ditulis oleh siswa yang tidak berbahasa Inggris sebagai bahasa ibu diklasifikasikan sebagai dihasilkan oleh AI. Sayangnya, tidak ada data tentang seberapa tinggi persentase teks yang salah diklasifikasikan sebagai positif dalam bahasa lain.

Masalah lain adalah perubahan klasifikasi pada pengujian berikutnya dari detektor. Ini karena sering terjadi bahwa detektor seperti ZeroGPT atau Scribbr mengubah klasifikasi fragmen teks, yang ditandai sebagai dihasilkan oleh AI sekali dan sebagai ditulis oleh manusia di lain waktu.

Sumber: Scribbr (https://www.scribbr.com/ai-detector/)

Detektor gambar dan video AI terutama digunakan untuk mengidentifikasi deepfake dan konten lain yang dihasilkan oleh AI yang dapat digunakan untuk menyebarkan disinformasi.

Alat deteksi saat ini seperti Deepware, Illuminarty, dan FakeCatcher tidak memberikan hasil uji tentang keandalan mereka. Dalam konteks hukum mendeteksi materi visual yang dihasilkan oleh AI, ada inisiatif untuk menambahkan watermark pada gambar AI. Namun, ini adalah cara yang sangat tidak dapat diandalkan – Anda dapat dengan mudah mengunduh gambar tanpa watermark. Midjourney mengambil pendekatan berbeda terhadap watermarking, menyerahkan kepada pengguna untuk memutuskan apakah mereka ingin memberi watermark pada gambar dengan cara ini.

Menghindari deteksi AI. Apakah mungkin dan bagaimana?

Pengusaha harus menyadari bahwa detektor konten AI bukanlah pengganti penilaian kualitas manusia dan tidak selalu dapat diandalkan. Masalah pemeliharaan praktis mereka dapat menimbulkan kesulitan yang cukup besar, sama seperti mencoba menghindari agar konten Anda tidak diklasifikasikan sebagai dihasilkan oleh AI. Terutama ketika AI hanyalah alat di tangan seorang profesional – yaitu, itu bukan “konten yang dihasilkan oleh AI,” tetapi lebih tepatnya “konten yang dibuat dalam kolaborasi dengan AI.”

Relatif mudah untuk menambahkan seseorang ke dalam materi yang dihasilkan sehingga cara mereka dibuat benar-benar sulit untuk dideteksi. Jika orang yang menggunakan AI generatif tahu efek apa yang ingin dicapai, mereka dapat dengan mudah menyesuaikan hasilnya secara manual.

Pertanyaan dasar terletak pada alasan di balik keinginan kita untuk menghindari deteksi jika konten dihasilkan oleh AI.

• Jika ini adalah masalah etika dan menyangkut, misalnya, kepemilikan penelitian ilmiah yang diterbitkan – seseorang harus mengandalkan etika profesional ilmuwan dan penggunaan alat berbasis AI yang bertanggung jawab.
• Jika majikan menginginkan karyawan untuk tidak menggunakan AI – tetap ada pengaturan kontraktual untuk penggunaan kecerdasan buatan generatif.

Ini juga menimbulkan pertanyaan apakah kita ingin mempromosikan penggunaan AI yang bertanggung jawab melalui larangan dan pencela (ZeroGPT dan GPTZero!), atau melalui penghargaan terhadap transparansi, membangun kepercayaan, dan penggunaan jujur dari teknologi canggih.

Sumber: ZeroGPT (https://www.zerogpt.com/)

Ringkasan

Jawaban untuk pertanyaan apakah detektor konten AI layak digunakan jauh dari jelas. Detektor konten AI masih dalam pengembangan, dan masa depannya sulit untuk diprediksi. Satu hal yang pasti – mereka akan berkembang seiring dengan perkembangan teknologi AI. Kemajuan dalam AI, termasuk kemampuan model bahasa yang semakin meningkat untuk meniru gaya penulisan manusia, berarti bahwa deteksi konten AI bisa menjadi semakin rumit. Bagi bisnis, ini adalah tanda untuk mengikuti perkembangan ini dan tidak hanya mengandalkan alat, tetapi pada penilaian mereka terhadap konten dan kesesuaiannya untuk tujuan di mana ia dibuat. Dan untuk menggunakan kecerdasan buatan yang berkembang pesat dengan bijak.

Jika Anda menyukai konten kami, bergabunglah dengan komunitas lebah sibuk kami di Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.