Jogos com IA Generativa

Roblox oferece uma variedade de ferramentas e serviços impulsionados por IA para aprimorar a criação e a criatividade dentro do jogo. Ao incorporar IA generativa em seus jogos, seja usando modelos fornecidos pelo Roblox ou soluções de terceiros, você deve garantir que essas integrações permaneçam seguras, sigam os Padrões da Comunidade do Roblox e providenciem transparência para seus usuários.

Esta página descreve as diretrizes, regras e práticas recomendadas para o uso de IA generativa em jogos Roblox.

Moderação

Para manter um ambiente seguro, todo o conteúdo, incluindo o conteúdo criado por ou usando IA generativa, deve aderir aos Padrões da Comunidade do Roblox.

Ao usar as APIs do Roblox, como GenerationService e TextGenerator: Todos os inputs e outputs de conteúdo passam por moderação, incluindo filtragem de texto, revisão de imagens e revisão de ativos. Conteúdo identificado como violativo não é disponibilizado para os usuários.

• Os usuários não sofrerão consequências por outputs violativos gerados em resposta a inputs não violativos.

Ao usar ferramentas de terceiros: Você é responsável pelo conteúdo entregue aos usuários, mesmo que seja gerado por IA. Para garantir que seu jogo esteja em conformidade com os padrões de segurança do Roblox, você deve assegurar que:

• Os outputs estão em conformidade com os Padrões da Comunidade do Roblox.
• Inputs e outputs não contornam as medidas de segurança determinadas pelo Roblox. Por exemplo, inputs e outputs de texto devem passar pelo TextChatService.

Maturidade do conteúdo

Se seu jogo permitir que os jogadores interajam com um modelo de IA gerativa de qualquer forma que acione uma resposta do modelo, como interações que incluem chat de texto, chat de voz, imagens, gerações 3D e movimento de avatar, você deve divulgá-lo dentro do questionário de Maturidade do Conteúdo.

Embora apenas incluir um componente de IA em seu jogo não impacte a maturidade do conteúdo do seu jogo, jogos com interações prolongadas de IA devem incluir o rótulo de maturidade do conteúdo Restrito para que sejam acessíveis apenas ao público apropriado.

Interações limitadas

Para jogos sem o rótulo de maturidade do conteúdo Restrito, os outputs do modelo devem aderir à classificação de Maturidade do Conteúdo subjacente do jogo.

Ao usar ferramentas de IA fornecidas pelo Roblox, como GenerationService e TextGenerator:

• Para todos os jogos, instruímos nosso modelo para alinhar-se a uma classificação de maturidade para Todas as Idades e evitar outputs que exigiriam um descritor, como elementos de Horror.
• Para jogos com um rótulo de Maturidade do Conteúdo de violência leve ou superior, os modelos podem gerar armas que, de outra forma, estariam em conformidade.

Ao usar ferramentas de terceiros:

• Você deve garantir que os outputs estejam em conformidade com a classificação de Maturidade do Conteúdo do seu jogo.

Interações estendidas

Jogos com interações estendidas são aqueles que têm a intenção ou podem ser usados para envolver uma conversa contínua com recursos de IA generativa semelhantes a chatbots. Seu jogo é considerado ter interações estendidas de IA se atender a um dos seguintes critérios:

• O tema ou propósito principal do jogo é que os jogadores interajam continuamente com um bot gerado por IA ou personagem sem um limite de tempo.

  • Por exemplo, um jogo intitulado "Seu amigo IA" cujo único propósito é que os usuários engajem em uma conversa contínua com um personagem não-jogador (NPC) impulsionado por IA.

• O componente de IA inclui memória entre sessões, de forma que o jogo salve o contexto das interações anteriores de um usuário com a IA e as carregue nas sessões subsequentes.

  • Por exemplo, um jogo focado principalmente em jogabilidade que possui um NPC impulsionado por IA com o qual os usuários podem interagir por apenas alguns minutos. No entanto, ao recarregar o jogo e interagir com o NPC novamente, o modelo pode se referir a conversas anteriores com o usuário.

Se seu jogo incluir interações estendidas, você deve responder "Sim" à pergunta de IA Estendida do questionário de Maturidade do Conteúdo. Como esses jogos podem não ser adequados para usuários mais jovens, eles precisam de um rótulo de maturidade do conteúdo Restrito para que não sejam acessíveis a usuários menores de 18 anos.

Divulgações

Ao incluir componentes de IA generativa em seu jogo, você deve garantir que as divulgações visíveis sejam apresentadas aos usuários, incluindo:

• No início de qualquer interação e durante toda a sessão, os usuários devem ver um aviso de que a conversa é com IA. Por exemplo:

  "Esta é uma conversa impulsionada por IA, não humana. Ela pode cometer erros."

• Os usuários devem ser direcionados a recursos autorizados se estiverem buscando qualquer aconselhamento médico ou profissional. Especificamente, se um usuário expressar pensamentos de autolesão ou sinais de uma crise de saúde mental, os modelos de IA devem encorajá-los a buscar apoio. Por exemplo:

  "Se você ou alguém que você ama está passando por um momento difícil, entre em contato com profissionais de saúde mental qualificados ou serviços de apoio que possam fornecer a ajuda necessária. Informações e links para recursos e linhas de apoio podem ser encontrados nos Padrões da Comunidade do Roblox."