OpenAI Perkenalkan Fitur Prediksi Usia untuk Lindungi Generasi Muda di ChatGPT
OpenAI telah meluncurkan fitur baru yang memungkinkan ChatGPT memprediksi usia pengguna. Inisiatif ini diambil untuk melindungi anak-anak dan remaja dari potensi dampak negatif kecerdasan buatan.
Baca juga: Menggali Manfaat Olahraga untuk Kesehatan Mental dan Emosional
Fitur 'prediksi usia' ini bertujuan untuk mengidentifikasi pengguna di bawah 18 tahun dan meningkatkan pembatasan konten yang sesuai bagi mereka. Langkah ini menjawab kekhawatiran masyarakat mengenai interaksi anak-anak dengan AI.
Dalam pengumumannya, OpenAI menegaskan bahwa fitur ini dirancang untuk membantu dalam identifikasi pengguna yang berusia di bawah 18 tahun. Langkah ini sejalan dengan upaya perusahaan untuk menerapkan pembatasan konten yang lebih ketat.
Kekhawatiran mengenai dampak negatif dari interaksi anak-anak dengan ChatGPT telah menjadi perhatian publik. Terdapat laporan yang mengaitkan beberapa kasus bunuh diri remaja dengan penggunaan chatbot ini.
Selain itu, OpenAI juga mendapat kritik karena memungkinkan diskusi bertema seksual dengan pengguna muda. Pada April tahun lalu, perusahaan ini mengatasi masalah bug yang memungkinkan ChatGPT menghasilkan konten erotis untuk pengguna di bawah umur.
Baca juga: Meningkatkan Produktivitas: Feng Shui di Meja Kerja
OpenAI menjelaskan bahwa sistem prediksi usia ini memanfaatkan algoritma AI untuk menganalisis berbagai sinyal perilaku pengguna. Sinyal-sinyal tersebut meliputi usia yang dinyatakan, lama pembuatan akun, dan pola penggunaan akun.
Apabila deteksi menunjukkan bahwa akun tersebut kemungkinan dimiliki oleh pengguna di bawah umur, sistem akan menerapkan filter konten otomatis yang menyaring konten tidak pantas. Ini mencakup topik sensitif seperti seks dan kekerasan.
Pendekatan ini bertujuan untuk melindungi anak-anak dan remaja dari paparan informasi yang kurang sesuai dan meningkatkan keselamatan mereka saat menggunakan platform.
OpenAI telah menyiapkan mekanisme untuk mengoreksi kemungkinan kesalahan identifikasi dalam sistem. Jika pengguna dewasa teridentifikasi keliru sebagai di bawah umur, mereka dapat memulihkan status akun dewasa.
Proses verifikasi ini membutuhkan pengguna untuk mengirimkan swafoto melalui mitra verifikasi identitas, yaitu Persona. Hal ini ditujukan untuk memberikan perlindungan lebih terhadap kesalahan dalam identifikasi usia.
Inisiatif ini mencerminkan komitmen OpenAI dalam menjaga keselamatan pengguna, terutama anak-anak dan remaja, di era teknologi yang terus berkembang.
Baca juga: Olahraga Low Impact: Solusi Ideal untuk Pemula Memulai Kebiasaan Sehat
Dilarang mengambil dan/atau menayangkan ulang sebagian atau keseluruhan artikel di atas untuk konten akun media sosial komersil tanpa seizin redaksi
Sumber: