Antarpapua.com – Pengguna kecerdasan buatan (AI) diharapkan menggunakan ChatGPT dengan bijak. OpenAI sedang mempersiapkan watermark dan sistem deteksi tulisan yang dibuat oleh ChatGPT.
Menurut laporan Wall Street Journal pada Minggu (4/8), OpenAI telah mengembangkan sistem watermark untuk tulisan yang dihasilkan oleh ChatGPT. Watermark ini berfungsi mirip dengan watermark pada gambar atau foto, menjadi bukti bahwa tulisan tersebut adalah hasil dari ChatGPT.
Watermark pada ChatGPT dirancang untuk mendeteksi tulisan yang dihasilkan oleh AI ini. Perbedaannya terletak pada cara ChatGPT memilih kata untuk menciptakan watermark tersembunyi yang dapat dideteksi oleh alat khusus.
OpenAI masih mempertimbangkan peluncuran fitur watermark ini, karena metode ini menuai pro dan kontra. Mengutip dari TechCrunch, seorang perwakilan OpenAI mengakui risiko signifikan dari sistem watermark tersebut, termasuk kerentanan terhadap manipulasi oleh pelaku kejahatan dan dampak yang tidak proporsional terhadap penutur bahasa asing.
Di sisi lain, OpenAI menyoroti kelebihan watermark dalam mendeteksi konten AI. Dalam unggahan blog OpenAI pada bulan Mei, watermark terbukti akurat melawan pemalsuan, termasuk parafrase. Namun, efektivitasnya berkurang dalam kasus pemalsuan yang lebih kompleks, seperti menggunakan sistem terjemahan atau model generatif lain.
Selain watermark, OpenAI juga mengembangkan penelitian lain untuk mendeteksi teks AI, termasuk klasifikasi dan metadata. Sistem ini menggunakan algoritma untuk mendeteksi pola dalam teks AI dan memberikan informasi tentang asal teks melalui metadata.
OpenAI berhati-hati dalam memutuskan peluncuran sistem deteksi tulisan AI ini, mengingat kompleksitas dan dampaknya pada ekosistem yang lebih luas.(*teknologi.id/Antarpapua.com)