Gestor de Políticas de Segurança e Responsabilidade em IA

RunwayRemoto
Remote

A Runway procura um Policy Manager para criar, manter e implementar políticas de conteúdo aplicadas aos seus produtos de IA. A função inclui traduzir políticas em prompts de LLM, realizar auditorias de precisão e participar em processos de red teaming.

Estamos a construir IA para simular o mundo através da fusão entre arte e ciência. Acreditamos que os modelos de mundo estão na fronteira do progresso em inteligência artificial. Os modelos de linguagem por si só não resolverão os problemas mais difíceis do mundo – robótica, doença, descoberta científica. O progresso real exige modelos que experienciem o mundo e aprendam com os seus erros, da mesma forma que os humanos. E este tipo de tentativa e erro pode ser massivamente acelerado quando feito em simulação, em vez de no mundo real. Os modelos de mundo oferecem o caminho mais claro para a simulação de propósito geral, mudando a forma como as histórias são contadas, como o progresso científico é feito e como as próximas fronteiras da humanidade são alcançadas. A nossa equipa é composta por pessoas criativas, de mente aberta, atenciosas e ambiciosas que estão determinadas a mudar o mundo. Aspiramos construir continuamente coisas impossíveis e a nossa capacidade de o fazer depende da construção de uma equipa incrível. Se te sentes impulsionado a fazer o mesmo, adoraríamos ouvir-te. *Os títulos publicados na nossa página de carreiras são atualizados regularmente para melhor anunciar a função e a senioridade esperada, mas internamente temos um sistema de títulos horizontal com dois tipos de títulos: um para contribuidores individuais e outro para gestores de pessoas. SOBRE A FUNÇÃO *Aberto a contratação remota em todo os EUA e Europa — temos também escritórios em NYC, São Francisco, Seattle e Londres À medida que os produtos da Runway evoluem e se tornam cada vez mais capazes, e à medida que a nossa base de utilizadores se expande, a necessidade de políticas de conteúdo claras e precisas nunca foi tão grande. Procuramos um Gestor de Políticas para ser responsável e evoluir as políticas que regem o que os nossos sistemas de IA podem e não podem fazer — nos nossos produtos de consumo, ofertas empresariais e integrações de modelos de terceiros. Esta função será responsável pela criação, iteração, manutenção e implementação de algumas das políticas de conteúdo da Runway, trabalhando para captar danos genuínos sem bloquear desnecessariamente casos de uso legítimos. À medida que investimos mais fortemente na moderação baseada em LLM, a qualidade da nossa política determinará cada vez mais a qualidade da nossa moderação, e esta função garante que a política evolui juntamente com o produto e o ambiente envolvente. O QUE FARÁS - Ser responsável e manter algumas das políticas de conteúdo da Runway, equilibrando a segurança do utilizador, a expressão criativa e a viabilidade operacional Ser responsável e manter algumas das políticas de conteúdo da Runway, equilibrando a segurança do utilizador, a expressão criativa e a viabilidade operacional - Traduzir políticas em prompts de LLM e iterar continuamente para impulsionar melhorias de precisão Traduzir políticas em prompts de LLM e iterar continuamente para impulsionar melhorias de precisão - Acompanhar mudanças nas normas culturais e de mercado e novos casos de uso, e avaliar e atualizar continuamente as políticas em conformidade Acompanhar mudanças nas normas culturais e de mercado e novos casos de uso, e avaliar e atualizar continuamente as políticas em conformidade - Realizar auditorias contínuas de precisão para garantir que identificamos e resolvemos rapidamente os principais pontos problemáticos. Realizar auditorias contínuas de precisão para garantir que identificamos e resolvemos rapidamente os principais pontos problemáticos. - Servir como responsável pela política no processo de red teaming, incluindo a manutenção de bancos de testes automatizados. Servir como responsável pela política no processo de red teaming, incluindo a manutenção de bancos de testes automatizados. - Transformar conclusões de auditorias e red teaming em recomendações claras e priorizadas para parceiros de política, produto e engenharia. Transformar conclusões de auditorias e red teaming em recomendações claras e priorizadas para parceiros de política, produto e engenharia. - Criar e manter conjuntos de dados golden que sirvam como fonte de verdade para a precisão da moderação, e mantê-los atualizados à medida que as políticas e os produtos mudam. Criar e manter conjuntos de dados golden que sirvam como fonte de verdade para a precisão da moderação, e mantê-los atualizados à medida que as políticas e os produtos mudam. - Como parte de uma pequena e colaborativa equipa de Segurança e Responsabilidade em IA, contribuir para o trabalho em toda a equipa mais ampla à medida que as prioridades e necessidades evoluem Como parte de uma pequena e colaborativa equipa de Segurança e Responsabilidade em IA, contribuir para o trabalho em toda a equipa mais ampla à medida que as prioridades e necessidades evoluem O QUE PRECISARÁS - Experiência em política de conteúdo, política de confiança e segurança, ou numa área estreitamente relacionada Experiência em política de conteúdo, política de confiança e segurança, ou numa área estreitamente relacionada - Forte compreensão dos sistemas de moderação de conteúdo Forte compreensão dos sistemas de moderação de conteúdo - Experiência prática na utilização de sistemas de machine learning para moderação de conteúdo, aplicação de políticas ou avaliação de riscos Experiência prática na utilização de sistemas de machine learning para moderação de conteúdo, aplicação de políticas ou avaliação de riscos - Excelentes competências de comunicação escrita, incluindo capacidade de traduzir posições políticas matizadas em documentação clara e funcional Excelentes competências de comunicação escrita, incluindo capacidade de traduzir posições políticas matizadas em documentação clara e funcional - Forte atenção ao detalhe e conforto a rever grandes volumes de conteúdo, alguns dos quais podem ser sensíveis ou perturbadores Forte atenção ao detalhe e conforto a rever grandes volumes de conteúdo, alguns dos quais podem ser sensíveis ou perturbadores - Forte capacidade de usar dados/estatísticas para informar decisões políticas Forte capacidade de usar dados/estatísticas para informar decisões políticas - Capacidade de agir como self-starter, tomando a iniciativa de identificar oportunidades para melhorar ou construir sobre processos e produtos de trabalho Capacidade de agir como self-starter, tomando a iniciativa de identificar oportunidades para melhorar ou construir sobre processos e produtos de trabalho VALORIZADO - Familiaridade com produtos de IA generativa, incluindo aplicações baseadas em vídeo, imagem ou avatar Familiaridade com produtos de IA generativa, incluindo aplicações baseadas em vídeo, imagem ou avatar - Experiência na utilização de LLMs para elaboração e/ou aplicação de políticas Experiência na utilização de LLMs para elaboração e/ou aplicação de políticas - Experiência num ambiente de startup de elevado crescimento onde a infraestrutura de T&S/política estava a ser construída de raiz Experiência num ambiente de startup de elevado crescimento onde a infraestrutura de T&S/política estava a ser construída de raiz A Runway esforça-se por recrutar e reter talento excecional de origens diversas, garantindo simultaneamente equidade salarial para a nossa equipa. Os nossos intervalos salariais baseiam-se em taxas de mercado competitivas para a nossa dimensão, fase e indústria, e o salário é apenas uma parte do pacote de compensação global que proporcionamos. Há muitos fatores que entram na determinação do salário, incluindo experiência relevante, nível de competências e qualificações avaliadas durante o processo de entrevista, e a manutenção da equidade interna com os pares na equipa. O intervalo partilhado abaixo é uma expectativa geral para a função conforme anunciada, mas estamos também abertos a considerar candidatos que possam ter mais ou menos experiência do que o descrito na descrição da função. Neste caso, comunicaremos quaisquer atualizações no intervalo salarial esperado. Por último, o intervalo fornecido é o salário esperado para candidatos nos EUA. Fora dessas regiões, pode haver uma alteração no intervalo, que, novamente, será comunicada aos candidatos. TRABALHAR NA RUNWAY Grandes coisas vêm de grandes equipas. https://www.youtube.com/watch?v=kwmj4ato2kw&ab_channel=Runway Adoraríamos ouvir-te. Estamos comprometidos em criar um espaço onde os nossos colaboradores possam trazer o seu eu completo para o trabalho e ter igualdade de oportunidades para ter sucesso. Por isso, independentemente de raça, identidade ou expressão de género, orientação sexual, religião, origem, capacidade, idade, estatuto de veterano, se juntar-te a esta missão te diz algo, encorajamos-te a candidatar-te. Mais sobre a Runway - Universal World Simulator https://runwayml.com/world-simulator.html Universal World Simulator https://runwayml.com/world-simulator.html - GWM-1 https://runwayml.com/research/introducing-runway-gwm-1 GWM-1 https://runwayml.com/research/introducing-runway-gwm-1 - Gen-4.5 https://runwayml.com/research/introducing-runway-gen-4.5 Gen-4.5 https://runwayml.com/research/introducing-runway-gen-4.5 - General World Models https://runwayml.com/research/introducing-general-world-models General World Models https://runwayml.com/research/introducing-general-world-models - Robotics SDK https://runwayml.com/research/introducing-runway-gwm-1#robotics-section Robotics SDK https://runwayml.com/research/introducing-runway-gwm-1#robotics-section - Conversational Real-time Agents https://runwayml.com/research/introducing-runway-gwm-1#avatars-section Conversational Real-time Agents https://runwayml.com/research/introducing-runway-gwm-1#avatars-section - Runway Studios https://runwayml.com/studios Runway Studios https://runwayml.com/studios Estamos entusiasmados por sermos reconhecidos como um ótimo local para trabalhar: Crain's https://www.crainsnewyork.com/awards/best-places-work-2023 | InHerSight https://www.inhersight.com/companies/best/city/new-york-city-ny | BuiltIn NYC https://builtin.com/awards/new-york-city/2024/best-places-to-work | INC https://www.inc.com/best-workplaces/2024

A candidatura é feita diretamente no site da empresa — sem intermediários. Vaga remota verificada para quem reside em Portugal.

Candidatar no site da empresa →