Pollyfriends
Quero meus amigos

Segurança e crise

O que o Pollyfriends faz quando uma conversa mostra sinal de risco, e onde pedir ajuda de verdade.

RASCUNHO PARA REVISÃO JURÍDICA. Não publicar antes da revisão de um advogado. Os itens entre colchetes ainda precisam ser preenchidos.

Versão [VERSÃO], em vigor desde [DATA DE VIGÊNCIA].

O Pollyfriends é um app de idiomas em que você conversa com amigos criados por inteligência artificial. Eles não são pessoas, não são terapeutas e não substituem ajuda profissional. Mesmo assim, uma conversa pode chegar a um momento difícil. Este protocolo explica, de forma pública, o que o app faz quando alguém dá sinais de que pode se machucar ou tirar a própria vida.

Se você está em perigo agora, ligue para o serviço de emergência do seu país.

  • Brasil: CVV, 188 (ligação gratuita, 24 horas).
  • Estados Unidos: 988 (Suicide and Crisis Lifeline, ligação ou mensagem).
  • União Europeia: 112, ou o número de apoio do seu país.
  • Outros países: [LISTA DE NÚMEROS POR PAÍS].

1. Como o app percebe os sinais

Três camadas automáticas olham cada mensagem, sem que uma pessoa precise ler a conversa:

  1. Filtro na entrada. Um sistema de moderação analisa o texto que você escreve, a transcrição dos seus áudios e das ligações e as fotos que você envia, procurando sinais de suicídio, automutilação e desespero.
  2. Sinal na resposta. O sistema que gera a resposta do personagem também avalia a conversa e marca quando percebe uma possível crise.
  3. Filtro na saída. A resposta do personagem passa por um segundo filtro antes de chegar a você, para que nada inadequado seja enviado.

Antes de cada versão do app ir ao ar, testamos estes filtros com um conjunto de casos de crise preparados por nós. Esses casos precisam passar sem nenhuma falha.

Nenhum filtro automático é perfeito. Ele pode deixar de perceber um sinal ou marcar uma conversa que não era de crise. Por isso o número de ajuda deste protocolo também fica disponível [LOCAL FIXO NO APP ONDE O NÚMERO FICA SEMPRE VISÍVEL].

2. O que acontece quando um sinal aparece

  1. O personagem deixa a história de lado e acolhe. Ele para de falar da vida dele, responde com calma e simplicidade, no idioma que você usou, e indica ajuda real. Naquele momento não há correção de idioma nem lição.
  2. O app mostra um cartão próprio, fora da conversa do personagem, com os serviços de ajuda: CVV 188 no Brasil, 988 nos Estados Unidos, 112 ou o número do país na União Europeia, e a lista do país em que você mora. O cartão aparece uma vez por episódio.
  3. Nas ligações, a chamada não é cortada, porque interromper alguém num momento difícil pode piorar as coisas. O cartão com os números aparece por cima da tela.
  4. Os personagens param de escrever primeiro e de ligar por 12 horas, para que nenhum amigo mande uma piada ou um convite logo depois. Se você escrever, o personagem responde normalmente, com cuidado.
  5. O app registra que o protocolo foi acionado, como explicado na seção 4.

3. O que nunca acontece

  • O personagem nunca incentiva, ensina ou descreve formas de se machucar.
  • O personagem nunca diz que é uma pessoa real e nunca se apresenta como terapeuta, médico ou serviço de emergência.
  • O app nunca promete que alguém vai ligar para você ou ir até você. Não temos uma equipe de plantão e não acionamos serviços de emergência por conta própria.
  • O app nunca avisa sua família, seus contatos ou seu empregador.
  • Sua conversa nunca é usada em anúncio nem exposta a outros alunos.

4. Como contamos os alertas sem dado pessoal

As leis da Califórnia (SB 243) e de Nova York (General Business Law, Art. 47) pedem que apps de companhia por inteligência artificial tenham este protocolo, e a Califórnia pede um relatório anual sobre ele.

  • Cada vez que o protocolo é acionado, o sistema grava um evento interno de segurança. Esse evento fica ligado à conta só para revisão de segurança e como prova de que o protocolo funcionou, e segue o prazo de guarda da Política de Privacidade.
  • O relatório público e o relatório às autoridades levam só números somados (por exemplo, quantas vezes o cartão de ajuda foi mostrado no ano). Não levam nome, e-mail, telefone, texto das mensagens, áudio nem qualquer dado que identifique alguém.
  • [CONFERIR: o órgão que recebe o relatório da Califórnia, o formato e a data de entrega, a partir de 01/07/2027.]

5. Revisão deste protocolo

Revisamos este protocolo [PERIODICIDADE DE REVISÃO] e sempre que a lei mudar ou que um caso real mostrar algo a melhorar. A versão em vigor fica publicada em [ENDEREÇO DA PÁGINA DO PROTOCOLO].

6. Contato

Dúvidas sobre este protocolo: [E-MAIL DE SUPORTE] [RAZÃO SOCIAL], CNPJ [CNPJ], [ENDEREÇO]