Jeux avec l'IA générative

Roblox propose une variété d'outils et de services alimentés par l'IA pour améliorer la création et la créativité dans le jeu. Lors de l'incorporation de l'IA générative dans vos jeux, que ce soit en utilisant des modèles fournis par Roblox ou des solutions tierces, vous devez vous assurer que ces intégrations restent sûres, respectent les Normes de la communauté de Roblox et fournissent une transparence à vos utilisateurs.

Cette page décrit les lignes directrices, les règles et les meilleures pratiques pour utiliser l'IA générative dans les jeux Roblox.

Modération

Pour maintenir un environnement sûr, tout contenu, y compris le contenu créé par ou utilisant l'IA générative, doit respecter les Normes de la communauté de Roblox.

Lorsque vous utilisez les API de Roblox, telles que GenerationService et TextGenerator : Tous les contenus d'entrée et de sortie passent par modération, y compris le filtrage de texte, l'examen des images et l'examen des actifs. Les contenus identifiés comme violants ne sont pas transmis aux utilisateurs.

• Les utilisateurs ne seront pas sanctionnés pour des sorties violantes générées en réponse à des entrées non violantes.

Lorsque vous utilisez des outils tiers : Vous êtes responsable du contenu livré aux utilisateurs, même s'il est généré par l'IA. Pour vous assurer que votre jeu respecte les normes de sécurité de Roblox, vous devez vous assurer que :

• Les sorties respectent les Normes de la communauté de Roblox.
• Les entrées et les sorties ne contournent pas les mesures de sécurité imposées par Roblox. Par exemple, les entrées et les sorties de texte doivent passer par TextChatService.

Maturité du contenu

Si votre jeu permet aux joueurs d'interagir avec un modèle d'IA générative de quelque manière que ce soit qui déclenche une réponse de ce modèle, comme des interactions incluant le chat textuel, le chat vocal, les images, les générations 3D et le mouvement des avatars, vous devez le divulguer dans le questionnaire de Maturité du contenu.

Bien que le simple fait d'inclure un composant IA dans votre jeu n'impacte pas la maturité de son contenu, les jeux avec des interactions IA prolongées doivent inclure l'étiquette de maturité de contenu appropriée Restreint afin qu'ils ne soient accessibles qu'au public approprié.

Interactions limitées

Pour les jeux sans l'étiquette de maturité de contenu Restreint, les sorties du modèle doivent respecter la classification de Maturité du contenu sous-jacente du jeu.

Lorsque vous utilisez des outils d'IA fournis par Roblox, tels que GenerationService et TextGenerator :

• Pour tous les jeux, nous instruisons notre modèle pour qu'il s'aligne sur une classification de maturité du contenu Tous Âges et évite les sorties qui nécessiteraient un descripteur, comme des éléments d'Horreur.
• Pour les jeux avec une étiquette de Maturité du contenu de violence légère ou supérieure, les modèles peuvent générer des armes autrement conformes.

Lorsque vous utilisez des outils tiers :

• Vous devez vous assurer que les sorties s'alignent sur la classification de Maturité du contenu de votre jeu.

Interactions étendues

Les jeux avec des interactions étendues sont ceux qui sont destinés à engager une conversation continue avec des fonctionnalités d'IA générative de type chatbot ou qui peuvent être utilisées à cet effet. Votre jeu est considéré comme ayant des interactions IA étendues s'il répond à l'un des critères suivants :

• Le thème ou l'objectif principal du jeu est que les joueurs interagissent continuellement avec un bot d'IA générative ou un personnage sans limite de temps.

  • Par exemple, un jeu intitulé "Votre ami IA" dont le seul but est que les utilisateurs s'engagent dans une conversation continue avec un personnage non-joueur (PNJ) piloté par IA.

• Le composant IA inclut une mémoire inter-session afin que le jeu enregistre le contexte des interactions antérieures d'un utilisateur avec l'IA et le recharge lors des sessions suivantes.

  • Par exemple, un jeu principalement axé sur le gameplay qui a un PNJ animé par AI avec lequel les utilisateurs ne peuvent interagir que pendant quelques minutes. Cependant, en rechargeant le jeu et en interagissant à nouveau avec le PNJ, le modèle peut se référer aux conversations précédentes avec l'utilisateur.

Si votre jeu inclut des interactions étendues, vous devez répondre "Oui" à la question sur l'IA étendue du questionnaire de Maturité du contenu. Parce que ces jeux peuvent ne pas convenir aux utilisateurs plus jeunes, ils nécessitent une étiquette de maturité de contenu Restreint afin qu'ils ne soient pas accessibles aux utilisateurs de moins de 18 ans.

Divulgations

Lorsque vous incluez des composants d'IA générative dans votre jeu, vous devez vous assurer que des divulgations visibles sont présentées aux utilisateurs, y compris :

• Au début de toute interaction, et tout au long de la session, les utilisateurs doivent voir un avis indiquant que leur conversation est avec une IA. Par exemple :

  "Ceci est une conversation alimentée par l'IA, pas humaine. Elle peut comporter des erreurs."

• Les utilisateurs doivent être orientés vers des ressources autorisées s'ils cherchent des conseils médicaux ou professionnels. En particulier, si un utilisateur exprime des pensées d'auto-mutilation ou des signes de crise de santé mentale, les modèles d'IA doivent les encourager à demander du soutien. Par exemple :

  "Si vous ou un être cher traversez une période difficile, veuillez contacter des professionnels de la santé mentale qualifiés ou des services d'assistance qui peuvent vous fournir l'aide dont vous avez besoin. Des informations et des liens vers des ressources et des lignes d'assistance en cas de crise peuvent être trouvés dans les Normes de la communauté de Roblox."