Giochi con AI Generativa

Roblox offre una varietà di strumenti e servizi alimentati dall'AI per migliorare la creazione e la creatività in-game. Quando incorpori l'AI generativa nei tuoi giochi, sia usando modelli forniti da Roblox che soluzioni di terze parti, devi assicurarti che queste integrazioni siano sicure, seguano gli Standard della Comunità di Roblox e forniscano trasparenza agli utenti.

Questa pagina delinea le linee guida, le regole e le migliori pratiche per l'uso dell'AI generativa nei giochi Roblox.

Moderazione

Per mantenere un ambiente sicuro, tutti i contenuti, inclusi quelli creati da o utilizzando l'AI generativa, devono aderire agli Standard della Comunità di Roblox.

Quando utilizzi le API di Roblox, come GenerationService e TextGenerator: Tutti gli input e output dei contenuti passano attraverso la moderazione, inclusi il filtro dei testi, la revisione delle immagini e la revisione degli asset. I contenuti identificati come violativi non vengono mostrati agli utenti.

• Gli utenti non subiranno conseguenze per output violativi generati in risposta a input non violativi.

Quando utilizzi strumenti di terze parti: Sei responsabile dei contenuti forniti agli utenti, anche se generati dall'AI. Per assicurarti che il tuo gioco sia conforme agli standard di sicurezza di Roblox, dovresti garantire che:

• Gli output siano conformi agli Standard della Comunità di Roblox.
• Gli input e output non eludano le misure di sicurezza imposte da Roblox. Ad esempio, input e output testuali devono passare attraverso TextChatService.

Maturità del contenuto

Se il tuo gioco consente ai giocatori di interagire con un modello di AI generativa in qualunque modo che attivi una risposta dal modello, come interazioni che includono chat testuali, chat vocali, immagini, generazioni 3D e movimento degli avatar, devi dichiararlo all'interno del questionario sulla Maturità del Contenuto.

Sebbene includere semplicemente un componente AI nel tuo gioco non influisca sulla maturità del contenuto del tuo gioco, i giochi con interazioni estese di AI devono includere l'etichetta di Maturità del Contenuto Riservata in modo che siano disponibili solo al pubblico appropriato.

Interazioni limitate

Per i giochi senza l'etichetta di Maturità del Contenuto Riservata, gli output dei modelli devono aderire alla classificazione di Maturità del Contenuto sottostante del gioco.

Quando usi strumenti AI forniti da Roblox, come GenerationService e TextGenerator:

• Per tutti i giochi, istruiamo il nostro modello a conformarsi a una valutazione di maturità dei contenuti per tutte le età ed evitare output che richiederebbero un descrittore, come elementi di orrore.
• Per i giochi con un'etichetta di Maturità del Contenuto di violenza lieve o superiore, i modelli possono generare armi altrimenti conformi.

Quando utilizzi strumenti di terze parti:

• Devi assicurarti che gli output siano in linea con la classificazione di Maturità del Contenuto del tuo gioco.

Interazioni estese

I giochi con interazioni estese sono quelli progettati per, o possono essere utilizzati per, intrattenere una conversazione continua con caratteristiche di AI generativa simili a un chatbot. Il tuo gioco è considerato avere interazioni AI estese se soddisfa uno dei seguenti criteri:

• Il tema principale o lo scopo del gioco è che i giocatori interagiscano continuamente con un bot o un personaggio AI generativo senza limiti di tempo.

  • Ad esempio, un gioco intitolato "Il tuo amico AI" il cui unico scopo è quello di far interagire gli utenti in una conversazione continua con un personaggio non giocante (NPC) guidato dall'AI.

• Il componente AI include una memoria tra le sessioni in modo che il gioco salvi il contesto delle interazioni precedenti di un utente con l'AI e lo carichi nelle sessioni successive.

  • Ad esempio, un gioco principalmente incentrato sul gameplay che ha un NPC guidato dall'AI con cui gli utenti possono interagire solo per alcuni minuti. Tuttavia, al momento del ricaricamento del gioco e dell'interazione con l'NPC di nuovo, il modello può riferirsi a precedenti conversazioni con l'utente.

Se il tuo gioco include interazioni estese, devi rispondere "Sì" alla domanda sull'AI Estesa del questionario sulla Maturità del Contenuto. Poiché questi giochi potrebbero non essere adatti per utenti più giovani, necessitano di un'etichetta di maturità del contenuto Riservata in modo che siano inaccessibili agli utenti di età inferiore ai 18 anni.

Divulgazioni

Quando includi componenti di AI generativa nel tuo gioco, devi garantire che vengano presentate divulgazioni visibili agli utenti, inclusi:

• All'inizio di qualsiasi interazione, e durante tutta la sessione, gli utenti devono vedere un avviso che informa che la loro conversazione è con un'AI. Ad esempio:

  "Questa è una conversazione alimentata dall'AI, non umana. Potrebbe fare errori."

• Gli utenti devono essere indirizzati a risorse autorevoli se cercano consigli medici o professionali. In particolare, se un utente esprime pensieri di autolesionismo o segni di una crisi di salute mentale, i modelli AI devono incoraggiarli a cercare supporto. Ad esempio:

  "Se tu o una persona a te cara state attraversando un momento difficile, vi preghiamo di contattare professionisti della salute mentale qualificati o servizi di supporto che possono fornire l'aiuto di cui avete bisogno. Informazioni e link a risorse e linee di crisi possono essere trovati negli Standard della Comunità di Roblox."