Pular para o conteúdo

Segurança e crise

O que o Pollyfriends faz quando uma conversa mostra sinal de risco, e onde pedir ajuda de verdade.

RASCUNHO PARA REVISÃO JURÍDICA. Não publicar antes da revisão de um advogado. Os itens entre colchetes ainda precisam ser preenchidos.

Versão [VERSÃO], em vigor desde [DATA DE VIGÊNCIA].

O Pollyfriends é um app de idiomas em que você conversa com amigos criados por inteligência artificial. Eles não são pessoas, não são terapeutas e não substituem ajuda profissional. Mesmo assim, uma conversa pode chegar a um momento difícil. Este protocolo explica, de forma pública, o que o app faz quando alguém dá sinais de que pode se machucar ou tirar a própria vida.

Se você está em perigo agora, ligue para o serviço de emergência do seu país.

  • Brasil: CVV, 188 (ligação gratuita, 24 horas).
  • Estados Unidos: 988 (Suicide and Crisis Lifeline, ligação ou mensagem).
  • União Europeia: 112, ou o número de apoio do seu país.
  • Outros países: o app mostra a linha de apoio do seu país quando ela está na nossa tabela de números conferidos. Se o seu país não está na tabela, ou se não sabemos em que país você está, o diretório internacional https://findahelpline.com lista linhas de apoio por país.

1. Como o app percebe os sinais

Camadas automáticas olham o que você escreve ou fala, sem que uma pessoa precise ler a conversa:

  1. Regras locais na entrada. Uma lista de frases inequívocas de risco (querer se matar, tirar a própria vida, não querer mais viver, pensar em suicídio, automutilação, plano e despedida), ditas em primeira pessoa. Hoje essa lista existe em 16 idiomas: português, espanhol, inglês, alemão, francês, italiano, holandês, polonês, turco, sueco, russo, árabe, hindi, japonês, coreano e chinês (simplificado e tradicional). Exagero e gíria ("morrer de rir"), risada na mesma mensagem, letra de música, ficção e notícia ficam de fora.
  2. Moderação na entrada. Um sistema de moderação por inteligência artificial dá uma nota de 0 a 1 para sinais de suicídio e automutilação no texto que você escreve, na transcrição dos seus áudios e das ligações, no texto do seu status e na legenda das fotos que você envia. O mesmo vale para o que você escreve ou fala fora das conversas: a sua fala num debate da Arena, o seu pedido no "Me ajuda aqui", os campos livres de criar um amigo, o texto do status que os amigos comentam e o que você pede para a ajuda para escrever traduzir ("Como se diz?" e a sugestão de frase).
  3. Filtro na saída. A resposta do personagem passa por um segundo filtro antes de chegar a você, para que nada inadequado seja enviado.

Quando o protocolo é acionado. Em qualquer um destes casos:

  • uma frase da lista aparece e a moderação confirma (nota a partir de 0,30), na própria fala ou junto com as suas últimas falas;
  • a moderação está fora do ar e uma frase da lista aparece na fala (a regra vale sozinha);
  • nenhuma frase da lista aparece, mas a moderação dá uma nota muito alta (a partir de 0,75). Esta é a rede de segurança para os idiomas sem lista própria e para as frases que a lista não previu. Ela não vale quando a mensagem é exagero ou tem risada, quando é uma pergunta de vocabulário ("como se diz", "o que significa") e, em português, espanhol e inglês, quando fala de música, filme, livro ou notícia ou quando é o desabafo solto ("quero morrer" depois de um dia ruim), que o personagem acolhe como amigo, sem cartão.

A avaliação que o próprio sistema de respostas faz da conversa não aciona o protocolo sozinha: ela nunca substitui as duas camadas da entrada.

Antes de cada versão do app ir ao ar, testamos estes filtros com um conjunto de casos de crise preparados por nós. Esses casos precisam passar sem nenhuma falha.

Nenhum filtro automático é perfeito. Ele pode deixar de perceber um sinal ou marcar uma conversa que não era de crise. Por isso o número de ajuda deste protocolo também fica disponível o tempo todo no app, em Configurações, Ajuda, "Segurança e números de ajuda", e nesta página.

Limites que conhecemos hoje:

  • Fora dos 16 idiomas com lista própria, a detecção depende só da nota da moderação. Uma expressão idiomática, uma gíria ou um jeito indireto de falar que a moderação não reconheça pode passar sem acionar o protocolo.
  • As listas de alemão, francês, italiano, holandês, polonês, turco, sueco, russo, árabe, hindi, japonês, coreano e chinês são novas e ainda não foram revisadas por falantes nativos.
  • O corretor que marca erros de grafia enquanto você digita não passa por este protocolo, porque lê um texto ainda pela metade. Quando você envia a mensagem, ela passa. A conversa com os amigos, os grupos, os áudios, as ligações, o status, a legenda das fotos, o debate da Arena, o "Me ajuda aqui", os campos de criar um amigo e os pedidos da ajuda para escrever passam.

2. O que acontece quando um sinal aparece

  1. O personagem deixa a história de lado e acolhe. Ele para de falar da vida dele, responde com calma e simplicidade, no idioma que você usou, e indica ajuda real. Naquele momento não há correção de idioma nem lição.
  2. O app mostra um cartão próprio, fora da conversa do personagem, com a linha de apoio do país em que você está: CVV 188 no Brasil, 988 nos Estados Unidos, e assim por diante. O cartão aparece uma vez por episódio (12 horas).
    • Como o país é escolhido. Pelo fuso horário do seu aparelho, guardado no seu perfil. Nunca pelo país do personagem com quem você conversa, nem pelo idioma que você estuda.
    • Quais números aparecem. Só os que conferimos na fonte oficial ou no diretório findahelpline.com. A tabela tem 67 países; em 59 deles há uma linha de prevenção do suicídio ou de apoio emocional conferida.
    • País sem linha conferida. O cartão mostra o serviço de emergência do país e o link do diretório internacional https://findahelpline.com.
    • País desconhecido (aparelho sem fuso, ou fuso de um país fora da tabela). O cartão não mostra número nenhum, para nunca indicar o número de outro país: mostra o link do diretório internacional e a orientação de ligar para o serviço de emergência local.
    • Em que língua o cartão aparece. Na sua língua materna, a que você informou no cadastro. Quando ainda não temos tradução revisada de uma parte do texto, essa parte aparece em inglês. Língua que o app não conhece: o cartão inteiro em inglês.
    • O cartão não promete ligação gratuita. Muitas linhas de apoio são gratuitas, mas nem todas: em alguns países a ligação tem o custo de uma chamada comum. Como isso muda de país para país, o cartão não afirma que a ligação é de graça.
  3. Nas ligações, a chamada não é cortada, porque interromper alguém num momento difícil pode piorar as coisas. O cartão com os números aparece por cima da tela. No "Me ajuda aqui" é igual: a ligação continua, o amigo deixa o pedido de lado e acolhe, e o cartão aparece por cima.
  4. Fora das conversas, a ação pedida não segue e o cartão aparece no lugar. Num debate da Arena, a fala não entra no debate. Em criar um amigo, nada é criado. No status, ninguém reage nem comenta e o status sai da tela. Na ajuda para escrever, nenhuma tradução ou sugestão é mostrada. Em todos esses casos o app mostra o mesmo cartão, com a linha de apoio do seu país ou o link do diretório internacional, na sua língua.
  5. Os personagens param de escrever primeiro e de ligar por 12 horas, para que nenhum amigo mande uma piada ou um convite logo depois. Se você escrever, o personagem responde normalmente, com cuidado.
  6. O app registra que o protocolo foi acionado, como explicado na seção 4.

3. O que nunca acontece

  • O personagem nunca incentiva, ensina ou descreve formas de se machucar.
  • O personagem nunca diz que é uma pessoa real e nunca se apresenta como terapeuta, médico ou serviço de emergência.
  • O app nunca promete que alguém vai ligar para você ou ir até você. Não temos uma equipe de plantão e não acionamos serviços de emergência por conta própria.
  • O app nunca avisa sua família, seus contatos ou seu empregador.
  • Sua conversa nunca é usada em anúncio nem exposta a outros alunos.

4. Como contamos os alertas sem dado pessoal

As leis da Califórnia (SB 243) e de Nova York (General Business Law, Art. 47) pedem que apps de companhia por inteligência artificial tenham este protocolo, e a Califórnia pede um relatório anual sobre ele.

  • Cada vez que o protocolo é acionado, o sistema grava um evento interno de segurança. Esse evento fica ligado à conta só para revisão de segurança e como prova de que o protocolo funcionou, e segue o prazo de guarda da Política de Privacidade.
  • O relatório público e o relatório às autoridades levam só números somados (por exemplo, quantas vezes o cartão de ajuda foi mostrado no ano). Não levam nome, e-mail, telefone, texto das mensagens, áudio nem qualquer dado que identifique alguém.
  • [CONFERIR: o órgão que recebe o relatório da Califórnia, o formato e a data de entrega, a partir de 01/07/2027.]

5. Revisão deste protocolo

Revisamos este protocolo [PERIODICIDADE DE REVISÃO] e sempre que a lei mudar ou que um caso real mostrar algo a melhorar. A versão em vigor fica publicada em https://pollyfriends.ai/pt/seguranca.

6. Contato

Dúvidas sobre este protocolo: [E-MAIL DE SUPORTE] [RAZÃO SOCIAL], CNPJ [CNPJ], [ENDEREÇO]

Números de ajuda por país

Os mesmos números que o cartão de ajuda do app mostra, conferidos na fonte (atualizado em 17/10/2026). País fora da lista: ligue para o serviço de emergência local.

PaísApoio emocional e prevenção do suicídioEmergência
Brasil188 CVV, Centro de Valorização da Vida192
Estados Unidos988 988 Suicide and Crisis Lifeline911
África do Sul0800 567 567 SADAG Suicide Crisis Helpline112
Alemanha0800 111 0 111 TelefonSeelsorge112
Arábia Saudita920033360 مركز اتصال تعزيز الصحة النفسية911
Argentina0800 345 1435 Centro de Asistencia al Suicida911
Armênia0800 00 900 Վստահության հեռախոս112
Austrália13 11 14 Lifeline Australia000
Áustria142 TelefonSeelsorge112
Azerbaijão112
Belarus+375 17 311 00 99 Телефон доверия экстренной психологической помощи103
Bélgica0800 32 123 Centre de Prévention du Suicide / Zelfmoordlijn 1813112
Bósnia e Herzegovina124
Bulgária0800 114 66 Телефон за психосоциална подкрепа на Българския Червен кръст112
Canadá988 9-8-8 Suicide Crisis Helpline / Ligne d'aide en cas de crise de suicide911
Cazaquistão111 111 байланыс орталығы (психологиялық көмек)103
Chile*4141 Línea de Prevención del Suicidio *4141131
China12356 12356 全国统一心理援助热线120
Colômbia192 Línea 192, opción 4 (salud mental)123
Coreia do Sul109 자살예방상담전화119
Croácia01 4833 888 Linija pomoći Plavi telefon112
Dinamarca70 201 201 Livslinien112
Egito08008880700 الخط الساخن للأمانة العامة للصحة النفسية123
Eslováquia0800 800 566 Linka dôvery Nezábudka112
Eslovênia116 123 Zaupni telefon Samarijan in Sopotnik112
Espanha024 Línea 024 de atención a la conducta suicida112
Estônia116 123 Emotsionaalse toe ja hingehoiu telefon112
Filipinas1553 NCMH Crisis Hotline911
Finlândia09 2525 0111 MIELI Kriisipuhelin112
França3114 3114, numéro national de prévention du suicide112
Grécia1018 Κλίμακα, Γραμμή Παρέμβασης για την Αυτοκτονία112
Hungria116 123 Lelki Elsősegély Telefonszolgálat112
Índia14416 टेली मानस112
Indonésia119 SEJIWA, layanan 119 ekstensi 8112
Irã1480 صدای مشاور بهزیستی115
Irlanda116 123 Samaritans Ireland112
Islândia1717 Hjálparsími Rauða krossins112
Israel1201 ער"ן, עזרה ראשונה נפשית101
Itália02 2327 2327 Telefono Amico Italia112
Japão0120-279-338 よりそいホットライン119
Jordânia07 9544 0416 JCPA Hotline911
Letônia116 123 Skalbes krīzes tālrunis112
Lituânia116 123 Vilties linija112
Macedônia do Norte194
Malásia03-7627 2929 Befrienders Kuala Lumpur999
México800 911 2000 Línea de la Vida911
Nepal1166 आत्महत्या रोकथाम हटलाइन102
Noruega116 123 Mental Helse Hjelpetelefonen113
Nova Zelândia1737 1737, Need to talk?111
Países Baixos113 113 Zelfmoordpreventie112
Paquistão1122
Paraguai155 Línea 155, salud mental911
Polônia800 70 2222 Centrum Wsparcia dla Osób Dorosłych w Kryzysie Psychicznym112
Portugal1411 Linha Nacional de Prevenção do Suicídio e Apoio Psicológico112
Quênia0722 178 177 Befrienders Kenya999
Reino Unido116 123 Samaritans999
Romênia0800 801 200 Alianța Română de Prevenție a Suicidului112
Rússia+7 495 989 50 50 Телефон экстренной психологической помощи МЧС России112
Sérvia0800 309 309 Nacionalna SOS linija za prevenciju samoubistva194
Suécia90101 Mind Självmordslinjen112
Suíça143 Die Dargebotene Hand144
Tailândia1323 สายด่วนสุขภาพจิต 13231669
Taiwan1925 安心專線119
Tanzânia199 Afya Call Center 199 (Wizara ya Afya)112
Tchéquia116 123 Linka první psychické pomoci112
Turquia112
Ucrânia112
Vietnã0865 044 400 HOPE, hỗ trợ khủng hoảng115
  • OpenAI
  • Vercel
  • Next.js
  • React
  • Neon
  • PostgreSQL
  • Prisma
  • Upstash
  • Google
  • Resend
  • Twilio
  • GSAP