Juegos con IA Generativa

Roblox ofrece una variedad de herramientas y servicios impulsados por IA para mejorar la creación y la creatividad en el juego. Al incorporar IA generativa en tus juegos, ya sea utilizando modelos proporcionados por Roblox o soluciones de terceros, debes asegurarte de que estas integraciones sean seguras, sigan los Estándares de la Comunidad de Roblox y proporcionen transparencia a tus usuarios.

Esta página detalla las pautas, reglas y mejores prácticas para usar IA generativa en los juegos de Roblox.

Moderación

Para mantener un entorno seguro, todo el contenido, incluido el contenido creado por o utilizando IA generativa, debe cumplir con los Estándares de la Comunidad de Roblox.

Al utilizar las API de Roblox, como GenerationService y TextGenerator: Todas las entradas y salidas de contenido pasan por moderación, que incluye filtrado de texto, revisión de imágenes y revisión de activos. El contenido identificado como violatorio no se muestra a los usuarios.

• Los usuarios no recibirán consecuencias por salidas violatorias generadas en respuesta a entradas no violatorias.

Al utilizar herramientas de terceros: Eres responsable del contenido entregado a los usuarios, incluso si es generado por IA. Para asegurarte de que tu juego esté alineado con los estándares de seguridad de Roblox, debes garantizar que:

• Las salidas cumplan con los Estándares de la Comunidad de Roblox.
• Las entradas y salidas no eludan las medidas de seguridad impuestas por Roblox. Por ejemplo, las entradas y salidas de texto deben pasar por TextChatService.

Madurez del contenido

Si tu juego permite a los jugadores interactuar con un modelo de IA generativa de cualquier manera que active una respuesta del modelo, como interacciones que incluyan chat de texto, chat de voz, imágenes, generaciones en 3D y movimiento de avatares, debes revelarlo dentro del cuestionario de Madurez del Contenido.

Si bien incluir un componente de IA en tu juego no afecta la madurez del contenido de tu juego, los juegos con interacciones de IA extendidas deben incluir la etiqueta de madurez de contenido Restringido para que solo estén disponibles para la audiencia adecuada.

Interacciones limitadas

Para los juegos sin la etiqueta de madurez de contenido Restringido, las salidas del modelo deben adherirse a la clasificación de Madurez del Contenido subyacente del juego.

Al utilizar herramientas de IA servidas por Roblox, como GenerationService y TextGenerator:

• Para todos los juegos, instruimos a nuestro modelo para que se alinee con una clasificación de madurez de contenido de Todas las Edades y evite salidas que requieran un descriptor, como elementos de Horror.
• Para juegos con una etiqueta de Madurez del Contenido de violencia leve o superior, los modelos pueden generar armas que, de otro modo, serían conformes.

Al utilizar herramientas de terceros:

• Debes asegurarte de que las salidas se alineen con la clasificación de Madurez del Contenido de tu juego.

Interacciones extendidas

Los juegos con interacciones extendidas son aquellos que están destinados a, o se pueden utilizar para, participar en una conversación continua con características de IA generativa similares a un chatbot. Tu juego se considera que tiene interacciones de IA extendidas si cumple con uno de los siguientes criterios:

• El tema o propósito principal del juego es que los jugadores interactúen continuamente con un bot o personaje de IA generativa sin un límite de tiempo.

  • Por ejemplo, un juego titulado "Tu amigo IA" cuyo único propósito es que los usuarios participen en una conversación continua con un personaje no jugador (NPC) impulsado por IA.

• El componente de IA incluye memoria entre sesiones para que el juego guarde el contexto de interacciones previas de un usuario con IA y lo cargue en sesiones posteriores.

  • Por ejemplo, un juego centrado principalmente en la jugabilidad que tiene un NPC impulsado por IA con el que los usuarios solo pueden interactuar durante varios minutos. Sin embargo, al recargar el juego e interactuar nuevamente con el NPC, el modelo puede referirse a conversaciones anteriores con el usuario.

Si tu juego incluye interacciones extendidas, debes responder "Sí" a la pregunta de IA Extendida del cuestionario de Madurez del Contenido. Debido a que estos juegos pueden no ser adecuados para usuarios más jóvenes, necesitan una etiqueta de madurez de contenido Restringido para que sean inaccesibles para usuarios menores de 18 años.

Divulgaciones

Al incluir componentes de IA generativa en tu juego, debes asegurarte de que las divulgaciones visibles se presenten a los usuarios, incluyendo:

• Al inicio de cualquier interacción, y a lo largo de la sesión, los usuarios deben ver un aviso de que su conversación es con IA. Por ejemplo:

  "Esta es una conversación impulsada por IA, no humana. Puede cometer errores."

• Los usuarios deben ser dirigidos a recursos autorizados si buscan algún consejo médico o profesional. Específicamente, si un usuario expresa pensamientos de autolesionarse o signos de una crisis de salud mental, los modelos de IA deben animarlos a buscar apoyo. Por ejemplo:

  "Si tú o un ser querido están pasando por un momento difícil, por favor, acérquense a profesionales de salud mental calificados o servicios de apoyo que puedan brindar la ayuda que necesitan. La información y los enlaces a recursos y líneas de crisis se pueden encontrar en los Estándares de la Comunidad de Roblox."