Roblox는 창작 및 게임 내 창의성을 향상시키기 위해 다양한 AI 기반 도구와 서비스를 제공합니다. Roblox에서 제공하는 모델이나 타사 솔루션을 사용하는 경우에도 게임에 생성 AI를 통합할 때는 이러한 통합이 안전하게 유지되고, Roblox의 커뮤니티 기준을 준수하며, 사용자에게 투명성을 제공해야 합니다.
이 페이지에서는 Roblox 게임에서 생성 AI를 사용하는 데 대한 지침, 규칙 및 모범 사례를 설명합니다.
검열
안전한 환경을 유지하기 위해, 생성 AI로 생성된 콘텐츠를 포함한 모든 콘텐츠는 Roblox의 커뮤니티 기준을 준수해야 합니다.
GenerationService 및 TextGenerator와 같은 Roblox API를 사용할 때: 모든 콘텐츠 입력 및 출력은 검열을 거치며, 여기에는 텍스트 필터링, 이미지 검토 및 자산 검토가 포함됩니다. 위반 사항으로 식별된 콘텐츠는 사용자에게 제공되지 않습니다.
- 사용자에게 비위반 입력에 대한 응답으로 생성된 위반 출력에 대한 결과가 부과되지 않습니다.
타사 도구를 사용할 때: AI가 생성한 것이라 하더라도 사용자에게 제공되는 콘텐츠에 대한 책임은 귀하에게 있습니다. 게임이 Roblox의 안전 기준에 부합하도록 하려면 다음을 보장해야 합니다:
- 출력이 Roblox의 커뮤니티 기준을 준수해야 합니다.
- 입력 및 출력이 Roblox에서 요구하는 안전 조치를 우회하지 않도록 해야 합니다. 예를 들어, 텍스트 입력 및 출력은 TextChatService를 거쳐야 합니다.
콘텐츠 성숙도
게임이 플레이어가 모델의 반응을 유도하는 방식으로 생성 AI 모델과 상호작용할 수 있도록 허용하는 경우, 텍스트 대화, 음성 대화, 이미지, 3D 생성 및 아바타 이동 등을 포함하여 콘텐츠 성숙도 설문조사에서 이를 공개해야 합니다.
게임에 AI 구성 요소를 포함하는 것만으로는 게임의 콘텐츠 성숙도에 영향을 미치지 않지만, 확장된 AI 상호작용이 있는 게임은 적합한 청중을 위해 적절한 제한된 콘텐츠 성숙도 레이블을 포함해야 합니다.
제한된 상호작용
제한된 콘텐츠 성숙도 레이블이 없는 게임의 경우, 모델 출력은 게임의 기본 콘텐츠 성숙도 분류를 준수해야 합니다.
GenerationService 및 TextGenerator와 같은 Roblox에서 제공하는 AI 도구를 사용할 때:
- 모든 게임에 대해, 모델이 모든 연령대의 콘텐츠 성숙도 등급에 맞도록 조정하고, 공포 요소와 같은 설명자가 필요한 출력을 피하도록 지시합니다.
- 경미한 폭력 이상의 콘텐츠 성숙도 레이블이 있는 게임의 경우, 모델이 해당 규정을 준수하는 무기를 생성할 수 있습니다.
타사 도구를 사용할 때:
- 출력이 게임의 콘텐츠 성숙도 등급과 일치하는지 확인해야 합니다.
확장된 상호작용
확장된 상호작용이 있는 게임은 지속적인 대화를 수행하기 위한 챗봇과 같은 생성 AI 기능과 상호작용하도록 설계된 게임을 말합니다. 게임이 다음 기준 중 하나를 충족하면 확장된 AI 상호작용이 있다고 간주됩니다:
게임의 주제나 목적이 플레이어가 제한 없이 생성 AI 봇이나 캐릭터와 지속적으로 상호작용하는 것입니다.
- 예를 들어, 사용자가 AI 기반의 비인간 캐릭터(NPC)와 지속적으로 대화하는 것이 유일한 목적인 "당신의 AI 친구"라는 제목의 게임입니다.
AI 구성 요소가 세션 간 메모리를 포함하여 게임이 사용자의 이전 AI 상호작용의 맥락을 저장하고 다음 세션에서 불러오는 것입니다.
- 예를 들어, 특정 플레이에 중점을 둔 게임에서 사용자가 몇 분 동안만 상호작용할 수 있는 AI 기반 NPC가 있습니다. 그러나 게임을 다시 로딩하고 NPC와 다시 상호작용할 때, 모델이 사용자의 이전 대화를 참조할 수 있습니다.
게임에 확장된 상호작용이 포함되어 있으면 콘텐츠 성숙도 설문조사의 확장된 AI 질문에 "예"라고 답해야 합니다. 이러한 게임은 젊은 사용자에게 적합하지 않을 수 있으므로 사용자에게 18세 미만의 접근이 불가능하도록 제한된 콘텐츠 성숙도 레이블이 필요합니다.
콘텐츠 성숙도 규칙 및 지침에 대한 자세한 내용은 콘텐츠 성숙도 가이드를 참조하세요.
공지사항
게임에 생성 AI 구성 요소를 포함할 때는 사용자가 볼 수 있도록 공지가 제공되어야 합니다. 이에는 다음이 포함됩니다:
상호작용이 시작될 때 및 세션 전반에 걸쳐, 사용자는 자신의 대화가 AI와의 대화임을 알리는 공지를 봐야 합니다. 예를 들어:
"이것은 AI 기반 대화로, 인간이 아닙니다. 실수가 있을 수 있습니다."
사용자가 의료 또는 전문적인 조언을 구할 경우 권위 있는 자원으로 안내되어야 합니다. 특히 사용자가 자해의 생각이나 정신 건강 위기 신호를 보이는 경우, AI 모델은 그들에게 지원을 요청하도록 권장해야 합니다. 예를 들어:
"당신이나 사랑하는 사람이 힘든 시간을 겪고 있다면, 필요에 대한 도움을 제공할 수 있는 자격을 갖춘 정신 건강 전문가나 지원 서비스에 연락하십시오. 정보와 자원 및 위기 핫라인에 대한 링크는 Roblox의 커뮤니티 기준에서 확인할 수 있습니다."