RASCUNHO PARA REVISÃO JURÍDICA. Não publicar antes da revisão de um advogado. Os itens entre colchetes ainda precisam ser preenchidos.
Versão [VERSÃO], em vigor desde [DATA DE VIGÊNCIA].
O Pollyfriends é um app de idiomas em que você conversa com amigos criados por inteligência artificial. Eles não são pessoas, não são terapeutas e não substituem ajuda profissional. Mesmo assim, uma conversa pode chegar a um momento difícil. Este protocolo explica, de forma pública, o que o app faz quando alguém dá sinais de que pode se machucar ou tirar a própria vida.
Se você está em perigo agora, ligue para o serviço de emergência do seu país.
- Brasil: CVV, 188 (ligação gratuita, 24 horas).
- Estados Unidos: 988 (Suicide and Crisis Lifeline, ligação ou mensagem).
- União Europeia: 112, ou o número de apoio do seu país.
- Outros países: o app mostra a linha de apoio do seu país quando ela está na nossa tabela de números conferidos. Se o seu país não está na tabela, ou se não sabemos em que país você está, o diretório internacional https://findahelpline.com lista linhas de apoio por país.
1. Como o app percebe os sinais
Camadas automáticas olham o que você escreve ou fala, sem que uma pessoa precise ler a conversa:
- Regras locais na entrada. Uma lista de frases inequívocas de risco (querer se matar, tirar a própria vida, não querer mais viver, pensar em suicídio, automutilação, plano e despedida), ditas em primeira pessoa. Hoje essa lista existe em 16 idiomas: português, espanhol, inglês, alemão, francês, italiano, holandês, polonês, turco, sueco, russo, árabe, hindi, japonês, coreano e chinês (simplificado e tradicional). Exagero e gíria ("morrer de rir"), risada na mesma mensagem, letra de música, ficção e notícia ficam de fora.
- Moderação na entrada. Um sistema de moderação por inteligência artificial dá uma nota de 0 a 1 para sinais de suicídio e automutilação no texto que você escreve, na transcrição dos seus áudios e das ligações, no texto do seu status e na legenda das fotos que você envia. O mesmo vale para o que você escreve ou fala fora das conversas: a sua fala num debate da Arena, o seu pedido no "Me ajuda aqui", os campos livres de criar um amigo, o texto do status que os amigos comentam e o que você pede para a ajuda para escrever traduzir ("Como se diz?" e a sugestão de frase).
- Filtro na saída. A resposta do personagem passa por um segundo filtro antes de chegar a você, para que nada inadequado seja enviado.
Quando o protocolo é acionado. Em qualquer um destes casos:
- uma frase da lista aparece e a moderação confirma (nota a partir de 0,30), na própria fala ou junto com as suas últimas falas;
- a moderação está fora do ar e uma frase da lista aparece na fala (a regra vale sozinha);
- nenhuma frase da lista aparece, mas a moderação dá uma nota muito alta (a partir de 0,75). Esta é a rede de segurança para os idiomas sem lista própria e para as frases que a lista não previu. Ela não vale quando a mensagem é exagero ou tem risada, quando é uma pergunta de vocabulário ("como se diz", "o que significa") e, em português, espanhol e inglês, quando fala de música, filme, livro ou notícia ou quando é o desabafo solto ("quero morrer" depois de um dia ruim), que o personagem acolhe como amigo, sem cartão.
A avaliação que o próprio sistema de respostas faz da conversa não aciona o protocolo sozinha: ela nunca substitui as duas camadas da entrada.
Antes de cada versão do app ir ao ar, testamos estes filtros com um conjunto de casos de crise preparados por nós. Esses casos precisam passar sem nenhuma falha.
Nenhum filtro automático é perfeito. Ele pode deixar de perceber um sinal ou marcar uma conversa que não era de crise. Por isso o número de ajuda deste protocolo também fica disponível o tempo todo no app, em Configurações, Ajuda, "Segurança e números de ajuda", e nesta página.
Limites que conhecemos hoje:
- Fora dos 16 idiomas com lista própria, a detecção depende só da nota da moderação. Uma expressão idiomática, uma gíria ou um jeito indireto de falar que a moderação não reconheça pode passar sem acionar o protocolo.
- As listas de alemão, francês, italiano, holandês, polonês, turco, sueco, russo, árabe, hindi, japonês, coreano e chinês são novas e ainda não foram revisadas por falantes nativos.
- O corretor que marca erros de grafia enquanto você digita não passa por este protocolo, porque lê um texto ainda pela metade. Quando você envia a mensagem, ela passa. A conversa com os amigos, os grupos, os áudios, as ligações, o status, a legenda das fotos, o debate da Arena, o "Me ajuda aqui", os campos de criar um amigo e os pedidos da ajuda para escrever passam.
2. O que acontece quando um sinal aparece
- O personagem deixa a história de lado e acolhe. Ele para de falar da vida dele, responde com calma e simplicidade, no idioma que você usou, e indica ajuda real. Naquele momento não há correção de idioma nem lição.
- O app mostra um cartão próprio, fora da conversa do personagem, com a
linha de apoio do país em que você está: CVV 188 no Brasil, 988 nos Estados
Unidos, e assim por diante. O cartão aparece uma vez por episódio (12
horas).
- Como o país é escolhido. Pelo fuso horário do seu aparelho, guardado no seu perfil. Nunca pelo país do personagem com quem você conversa, nem pelo idioma que você estuda.
- Quais números aparecem. Só os que conferimos na fonte oficial ou no diretório findahelpline.com. A tabela tem 67 países; em 59 deles há uma linha de prevenção do suicídio ou de apoio emocional conferida.
- País sem linha conferida. O cartão mostra o serviço de emergência do país e o link do diretório internacional https://findahelpline.com.
- País desconhecido (aparelho sem fuso, ou fuso de um país fora da tabela). O cartão não mostra número nenhum, para nunca indicar o número de outro país: mostra o link do diretório internacional e a orientação de ligar para o serviço de emergência local.
- Em que língua o cartão aparece. Na sua língua materna, a que você informou no cadastro. Quando ainda não temos tradução revisada de uma parte do texto, essa parte aparece em inglês. Língua que o app não conhece: o cartão inteiro em inglês.
- O cartão não promete ligação gratuita. Muitas linhas de apoio são gratuitas, mas nem todas: em alguns países a ligação tem o custo de uma chamada comum. Como isso muda de país para país, o cartão não afirma que a ligação é de graça.
- Nas ligações, a chamada não é cortada, porque interromper alguém num momento difícil pode piorar as coisas. O cartão com os números aparece por cima da tela. No "Me ajuda aqui" é igual: a ligação continua, o amigo deixa o pedido de lado e acolhe, e o cartão aparece por cima.
- Fora das conversas, a ação pedida não segue e o cartão aparece no lugar. Num debate da Arena, a fala não entra no debate. Em criar um amigo, nada é criado. No status, ninguém reage nem comenta e o status sai da tela. Na ajuda para escrever, nenhuma tradução ou sugestão é mostrada. Em todos esses casos o app mostra o mesmo cartão, com a linha de apoio do seu país ou o link do diretório internacional, na sua língua.
- Os personagens param de escrever primeiro e de ligar por 12 horas, para que nenhum amigo mande uma piada ou um convite logo depois. Se você escrever, o personagem responde normalmente, com cuidado.
- O app registra que o protocolo foi acionado, como explicado na seção 4.
3. O que nunca acontece
- O personagem nunca incentiva, ensina ou descreve formas de se machucar.
- O personagem nunca diz que é uma pessoa real e nunca se apresenta como terapeuta, médico ou serviço de emergência.
- O app nunca promete que alguém vai ligar para você ou ir até você. Não temos uma equipe de plantão e não acionamos serviços de emergência por conta própria.
- O app nunca avisa sua família, seus contatos ou seu empregador.
- Sua conversa nunca é usada em anúncio nem exposta a outros alunos.
4. Como contamos os alertas sem dado pessoal
As leis da Califórnia (SB 243) e de Nova York (General Business Law, Art. 47) pedem que apps de companhia por inteligência artificial tenham este protocolo, e a Califórnia pede um relatório anual sobre ele.
- Cada vez que o protocolo é acionado, o sistema grava um evento interno de segurança. Esse evento fica ligado à conta só para revisão de segurança e como prova de que o protocolo funcionou, e segue o prazo de guarda da Política de Privacidade.
- O relatório público e o relatório às autoridades levam só números somados (por exemplo, quantas vezes o cartão de ajuda foi mostrado no ano). Não levam nome, e-mail, telefone, texto das mensagens, áudio nem qualquer dado que identifique alguém.
- [CONFERIR: o órgão que recebe o relatório da Califórnia, o formato e a data de entrega, a partir de 01/07/2027.]
5. Revisão deste protocolo
Revisamos este protocolo [PERIODICIDADE DE REVISÃO] e sempre que a lei mudar ou que um caso real mostrar algo a melhorar. A versão em vigor fica publicada em https://pollyfriends.ai/pt/seguranca.
6. Contato
Dúvidas sobre este protocolo: [E-MAIL DE SUPORTE] [RAZÃO SOCIAL], CNPJ [CNPJ], [ENDEREÇO]