Roblox oferece uma variedade de ferramentas e serviços impulsionados por IA para aprimorar a criação e a criatividade dentro do jogo. Ao incorporar IA generativa em seus jogos, seja utilizando modelos fornecidos pelo Roblox ou soluções de terceiros, você deve garantir que essas integrações permaneçam seguras, sigam os Padrões da Comunidade do Roblox e forneçam transparência aos seus usuários.
Esta página descreve as diretrizes, regras e melhores práticas para o uso de IA generativa em jogos Roblox.
Moderação
Para manter um ambiente seguro, todo o conteúdo, incluindo conteúdo criado por ou utilizando IA generativa, deve aderir aos Padrões da Comunidade do Roblox.
Ao usar APIs do Roblox, como GenerationService e TextGenerator: Todas as entradas e saídas de conteúdo passam por moderação, incluindo filtragem de texto, revisão de imagens e revisão de ativos. Conteúdos identificados como violadores não são apresentados aos usuários.
- Os usuários não sofrerão consequências por saídas violadoras geradas em resposta a entradas não violadoras.
Ao usar ferramentas de terceiros: Você é responsável pelo conteúdo entregue aos usuários, mesmo que seja gerado por IA. Para garantir que seu jogo esteja alinhado com os padrões de segurança do Roblox, você deve assegurar que:
- As saídas estejam em conformidade com os Padrões da Comunidade do Roblox.
- As entradas e saídas não contornem as medidas de segurança exigidas pelo Roblox. Por exemplo, entradas e saídas de texto devem passar pelo TextChatService.
Classificações de maturidade do conteúdo
Se o seu jogo permitir que os jogadores interajam com um modelo de IA generativa de qualquer forma que desencadeie uma resposta do modelo, como interações que incluam chat de texto, chat de voz, imagens, gerações 3D e movimento de avatares, você deve divulgá-lo dentro do Questionário de Classificações de Conteúdo.
Embora incluir apenas um componente de IA em seu jogo não impacte as classificações de conteúdo do seu jogo, jogos com interações prolongadas de IA devem incluir a classificação de maturidade de conteúdo Restrita para que estejam disponíveis apenas para o público apropriado.
Interações limitadas
Para jogos sem a classificação de maturidade de conteúdo Restrita, as saídas do modelo devem aderir à classificação de maturidade de conteúdo subjacente do jogo.
Ao usar ferramentas de IA fornecidas pelo Roblox, como GenerationService e TextGenerator:
- Para todos os jogos, instruímos nosso modelo a alinhar-se com uma classificação de conteúdo para Todas as Idades e evitar saídas que exigiriam um descritor, como elementos de Horror.
- Para jogos com violência leve ou descritores de conteúdo mais elevados, os modelos podem gerar armas que, de outra forma, estariam em conformidade.
Ao usar ferramentas de terceiros:
- Você deve garantir que as saídas estejam alinhadas com a classificação de maturidade de conteúdo do seu jogo.
Interações estendidas
Jogos com interações estendidas são aqueles que têm a intenção de, ou podem ser usados para, engajar em uma conversa contínua com recursos de IA generativa semelhantes a chatbots. Seu jogo é considerado ter interações estendidas de IA se atender a um dos seguintes critérios:
O tema ou propósito principal do jogo é que os jogadores interajam continuamente com um bot ou personagem de IA generativa sem limite de tempo.
- Por exemplo, um jogo intitulado "Seu amigo IA" cujo único propósito é que os usuários se envolvam em uma conversa contínua com um personagem não jogável (NPC) impulsionado por IA.
O componente de IA inclui memória entre sessões, de modo que o jogo salve o contexto das interações anteriores de um usuário com a IA e o carregue em sessões subsequentes.
- Por exemplo, um jogo focado principalmente em jogabilidade que tem um NPC impulsionado por IA com o qual os usuários podem interagir apenas por alguns minutos. No entanto, ao recarregar o jogo e interagir com o NPC novamente, o modelo pode se referir a conversas anteriores com o usuário.
Se o seu jogo incluir interações estendidas, você deve responder "Sim" à pergunta de IA Estendida do Questionário de Classificações de Conteúdo. Como esses jogos podem não ser adequados para usuários mais jovens, eles precisam de uma classificação de maturidade de conteúdo Restrita para que sejam inacessíveis a usuários com menos de 18 anos.
Divulgações
Ao incluir componentes de IA generativa em seu jogo, você deve garantir que divulgações visíveis sejam apresentadas aos usuários, incluindo:
No início de qualquer interação e ao longo da sessão, os usuários devem ver um aviso de que sua conversa é com IA. Por exemplo:
"Esta é uma conversa impulsionada por IA, não humana. Pode conter erros."
Os usuários devem ser direcionados a recursos autorizados se buscarem qualquer conselho médico ou profissional. Especificamente, se um usuário expressar pensamentos de automutilação ou sinais de uma crise de saúde mental, os modelos de IA devem incentivá-los a buscar apoio. Por exemplo:
"Se você ou alguém que ama está passando por um momento difícil, entre em contato com profissionais de saúde mental qualificados ou serviços de apoio que possam fornecer a ajuda de que você precisa. Informações e links para recursos e linhas de apoio podem ser encontrados nos Padrões da Comunidade do Roblox."