Roblox menyediakan berbagai alat dan layanan bertenaga AI untuk meningkatkan kreativitas dalam pembuatan dan dalam permainan. Ketika mengintegrasikan AI generatif ke dalam permainan Anda, baik menggunakan model yang disediakan oleh Roblox atau solusi pihak ketiga, Anda harus memastikan bahwa integrasi ini tetap aman, mengikuti Standar Komunitas Roblox, dan memberikan transparansi kepada pengguna Anda.
Halaman ini menjelaskan pedoman, aturan, dan praktik terbaik untuk menggunakan AI generatif dalam permainan Roblox.
Moderasi
Untuk menjaga lingkungan yang aman, semua konten, termasuk konten yang dibuat oleh atau menggunakan AI generatif, harus mematuhi Standar Komunitas Roblox.
Saat menggunakan API Roblox, seperti GenerationService dan TextGenerator: Semua input dan output konten melalui moderasi, termasuk penyaringan teks, tinjauan gambar, dan tinjauan aset. Konten yang diidentifikasi sebagai melanggar tidak disajikan kepada pengguna.
- Pengguna tidak akan dikenakan konsekuensi untuk output yang melanggar yang dihasilkan sebagai respons terhadap input yang tidak melanggar.
Saat menggunakan alat pihak ketiga: Anda bertanggung jawab atas konten yang disampaikan kepada pengguna, bahkan jika itu dihasilkan oleh AI. Untuk memastikan permainan Anda sesuai dengan standar keselamatan Roblox, Anda harus memastikan bahwa:
- Output mematuhi Standar Komunitas Roblox.
- Input dan output tidak menghindari langkah-langkah keselamatan yang ditetapkan oleh Roblox. Misalnya, input dan output teks harus melalui TextChatService.
Peringkat kematangan konten
Jika permainan Anda memungkinkan pemain untuk berinteraksi dengan model AI generatif dengan cara apa pun yang memicu respons dari model, seperti interaksi yang mencakup obrolan teks, obrolan suara, gambar, generasi 3D, dan gerakan avatar, Anda harus mengungkapkannya dalam Kuesioner Peringkat Konten.
Meskipun hanya menyertakan komponen AI dalam permainan Anda tidak memengaruhi peringkat konten permainan Anda, permainan dengan interaksi AI yang diperpanjang harus menyertakan peringkat kematangan konten Terbatas yang sesuai agar hanya tersedia untuk audiens yang tepat.
Interaksi terbatas
Untuk permainan tanpa peringkat kematangan konten Terbatas, output model harus mematuhi klasifikasi kematangan konten dasar dari permainan.
Saat menggunakan alat AI yang disediakan oleh Roblox, seperti GenerationService dan TextGenerator:
- Untuk semua permainan, kami menginstruksikan model kami untuk sesuai dengan peringkat konten Semua Usia dan menghindari output yang memerlukan deskriptor, seperti elemen Horor.
- Untuk permainan dengan kekerasan ringan atau deskriptor konten yang lebih tinggi, model dapat menghasilkan senjata yang sesuai.
Saat menggunakan alat pihak ketiga:
- Anda harus memastikan output sesuai dengan peringkat kematangan konten permainan Anda.
Interaksi diperpanjang
Permainan dengan interaksi diperpanjang adalah permainan yang dimaksudkan untuk, atau dapat digunakan untuk, terlibat dalam percakapan terus-menerus dengan fitur AI generatif seperti chatbot. Permainan Anda dianggap memiliki interaksi AI yang diperpanjang jika memenuhi salah satu kriteria berikut:
Tema atau tujuan utama permainan adalah agar pemain terus-menerus berinteraksi dengan bot atau karakter AI generatif tanpa batas waktu.
- Misalnya, permainan berjudul "Teman AI Anda" yang tujuannya hanya untuk pengguna terlibat dalam percakapan terus-menerus dengan karakter non-pemain (NPC) yang didorong oleh AI.
Komponen AI mencakup memori lintas sesi sehingga permainan menyimpan konteks interaksi sebelumnya pengguna dengan AI dan memuatnya pada sesi berikutnya.
- Misalnya, permainan yang terutama berfokus pada gameplay yang memiliki satu NPC yang didorong oleh AI yang hanya dapat diinteraksi oleh pengguna selama beberapa menit. Namun, saat memuat ulang permainan dan berinteraksi dengan NPC lagi, model dapat merujuk kembali ke percakapan sebelumnya dengan pengguna.
Jika permainan Anda mencakup interaksi yang diperpanjang, Anda harus menjawab "Ya" untuk pertanyaan AI yang Diperpanjang dalam Kuesioner Peringkat Konten. Karena permainan ini mungkin tidak cocok untuk pengguna yang lebih muda, mereka memerlukan peringkat kematangan konten Terbatas agar tidak dapat diakses oleh pengguna di bawah usia 18 tahun.
Pengungkapan
Saat menyertakan komponen AI generatif dalam permainan Anda, Anda harus memastikan pengungkapan yang terlihat disajikan kepada pengguna, termasuk:
Di awal setiap interaksi, dan sepanjang sesi, pengguna harus melihat pemberitahuan bahwa percakapan mereka adalah dengan AI. Misalnya:
"Ini adalah percakapan yang didorong oleh AI, bukan manusia. Ini mungkin membuat kesalahan."
Pengguna harus diarahkan ke sumber yang berwenang jika mencari nasihat medis atau profesional. Secara khusus, jika seorang pengguna mengungkapkan pikiran untuk menyakiti diri sendiri atau tanda-tanda krisis kesehatan mental, model AI harus mendorong mereka untuk mencari dukungan. Misalnya:
"Jika Anda atau orang yang Anda cintai mengalami masa sulit, silakan hubungi profesional kesehatan mental atau layanan dukungan yang memenuhi syarat yang dapat memberikan bantuan yang Anda butuhkan. Informasi dan tautan ke sumber daya dan hotline krisis dapat ditemukan di Standar Komunitas Roblox."