REPUBLIKA.CO.ID, JAKARTA – Peneliti di Stanford Internet Observatory mengatakan database yang digunakan untuk melatih alat pembuatan gambar AI berisi setidaknya 1.008 contoh eksploitasi seksual terhadap anak (SCAM). Para peneliti Stanford mencatat bahwa kehadiran CSAM dalam kumpulan data memungkinkan model AI yang dilatih berdasarkan data tersebut untuk menghasilkan contoh CSAM yang baru dan realistis.

LAION, organisasi nirlaba yang membuat kumpulan data tersebut, mengatakan bahwa mereka tidak menoleransi konten ilegal. “Kami telah menghapus sementara dataset LAION sebelum menerbitkannya kembali untuk memastikan keamanannya,” kata mereka. Materi Pelecehan Anak Dipakai untuk Latih AI Membuat Gambar

Organisasi tersebut menambahkan bahwa sebelum mempublikasikan materinya, mereka membuat filter untuk mendeteksi dan menghapus konten ilegal dari kumpulan data. Namun, para eksekutif LAION telah diberitahu setidaknya sejak tahun 2021 bahwa sistem mereka rentan terhadap CSAM karena mereka menghasilkan miliaran gambar dari Internet.

Berdasarkan pemberitaan sebelumnya, materi LAION-5B yang dimaksud berisi jutaan gambar berisi pornografi, kekerasan, ketelanjangan anak-anak, meme rasis, simbol kebencian, karya seni berhak cipta, dan karya yang diambil dari situs perusahaan swasta.

Secara total, ini berisi lebih dari lima miliar gambar dan keterangan deskriptif. Pendiri LAION Christoph Schuhmann mengatakan bahwa meskipun dia tidak mengetahui adanya CSAM dalam kumpulan data, dia belum mempelajari data tersebut secara menyeluruh.

CSAM dianggap ilegal untuk tujuan akreditasi oleh sebagian besar institusi AS. Oleh karena itu, para peneliti Stanford menggunakan beberapa metode untuk menemukan kemungkinan CSAM.

Menurut makalah mereka, mereka menggunakan deteksi berbasis hash konseptual, deteksi berbasis hash kriptografi, dan analisis tetangga terdekat, yang menggunakan penyematan gambar dalam kumpulan data.

Mereka menerima 3,226 pencarian yang… Materi Pelecehan Anak Dipakai untuk Latih AI Membuat Gambar