Saltar al contenido

Seguridad y crisis

Lo que hace Pollyfriends cuando una conversación muestra señales de riesgo, y dónde pedir ayuda de verdad.

BORRADOR PARA REVISIÓN JURÍDICA (rascunho para revisão jurídica). No publicar antes de la revisión de un abogado. Los elementos entre corchetes todavía deben completarse.

Versión [VERSÃO], vigente desde [DATA DE VIGÊNCIA].

Pollyfriends es una app de idiomas en la que conversas con amigos creados por inteligencia artificial. No son personas, no son terapeutas y no reemplazan la ayuda profesional. Aun así, una conversación puede llegar a un momento difícil. Este protocolo explica, de forma pública, qué hace la app cuando alguien da señales de que podría hacerse daño o quitarse la vida.

Si estás en peligro ahora, llama al servicio de emergencia de tu país.

  • Brasil: CVV, 188 (llamada gratuita, 24 horas).
  • Estados Unidos: 988 (Suicide and Crisis Lifeline, llamada o mensaje).
  • Unión Europea: 112, o el número de apoyo de tu país.
  • Otros países: la app muestra la línea de apoyo de tu país cuando está en nuestra tabla de números verificados. Si tu país no está en la tabla, o si no sabemos en qué país estás, el directorio internacional https://findahelpline.com reúne líneas de apoyo por país.

1. Cómo la app percibe las señales

Capas automáticas revisan lo que escribes o dices, sin que una persona tenga que leer la conversación:

  1. Reglas locales en la entrada. Una lista de frases inequívocas de riesgo (querer matarse, quitarse la vida, no querer vivir más, pensar en el suicidio, autolesión, un plan, una despedida), dichas en primera persona. Hoy esa lista existe en 16 idiomas: portugués, español, inglés, alemán, francés, italiano, neerlandés, polaco, turco, sueco, ruso, árabe, hindi, japonés, coreano y chino (simplificado y tradicional). La exageración y la jerga ("morirse de risa"), la risa en el mismo mensaje, la letra de una canción, la ficción y las noticias quedan fuera.
  2. Moderación en la entrada. Un sistema de moderación con inteligencia artificial da una nota de 0 a 1 a las señales de suicidio y autolesión en el texto que escribes, en la transcripción de tus audios y llamadas, en el texto de tu estado y en el pie de las fotos que envías. Lo mismo vale para lo que escribes o dices fuera de las conversaciones: lo que dices en un debate de la Arena, tu pedido en "Échame una mano", los campos libres al crear un amigo, el texto del estado que comentan tus amigos y lo que le pides traducir a la ayuda para escribir ("¿Cómo se dice?" y la sugerencia de frase).
  3. Filtro en la salida. La respuesta del personaje pasa por un segundo filtro antes de llegar a ti, para que no se envíe nada inadecuado.

Cuándo se activa el protocolo. En cualquiera de estos casos:

  • aparece una frase de la lista y la moderación la confirma (nota de 0,30 o más), en el propio mensaje o junto con tus últimos mensajes;
  • la moderación no está disponible y aparece una frase de la lista en el mensaje (la regla vale por sí sola);
  • no aparece ninguna frase de la lista, pero la moderación da una nota muy alta (0,75 o más). Esta es la red de seguridad para los idiomas sin lista propia y para las frases que la lista no previó. No vale cuando el mensaje es una exageración o lleva risa, cuando es una pregunta de vocabulario ("cómo se dice", "qué significa") y, en portugués, español e inglés, cuando habla de una canción, una película, un libro o una noticia, o cuando es un desahogo suelto ("me quiero morir" después de un mal día), que el personaje recibe como lo haría un amigo, sin tarjeta.

La evaluación que el propio sistema de respuestas hace de la conversación no activa el protocolo por sí sola: nunca reemplaza las dos capas de la entrada.

Antes de que cada versión de la app salga al aire, probamos estos filtros con un conjunto de casos de crisis preparados por nosotros. Esos casos deben pasar sin ningún fallo.

Ningún filtro automático es perfecto. Puede no detectar una señal o marcar una conversación que no era de crisis. Por eso el número de ayuda de este protocolo también está disponible todo el tiempo en la app, en Configuración, Ayuda, "Seguridad y números de ayuda", y en esta página.

Límites que conocemos hoy:

  • Fuera de los 16 idiomas con lista propia, la detección depende solo de la nota de la moderación. Un modismo, una expresión de jerga o una manera indirecta de hablar que la moderación no reconozca puede pasar sin activar el protocolo.
  • Las listas de alemán, francés, italiano, neerlandés, polaco, turco, sueco, ruso, árabe, hindi, japonés, coreano y chino son nuevas y todavía no han sido revisadas por hablantes nativos.
  • El corrector que marca errores de ortografía mientras escribes no pasa por este protocolo, porque lee un texto todavía a medias. Cuando envías el mensaje, sí pasa. La conversación con los amigos, los grupos, los audios, las llamadas, el estado, el pie de las fotos, el debate de la Arena, "Échame una mano", los campos para crear un amigo y los pedidos a la ayuda para escribir pasan.

2. Qué pasa cuando aparece una señal

  1. El personaje deja la historia de lado y acompaña. Deja de hablar de su vida, responde con calma y sencillez, en el idioma que usaste, e indica ayuda real. En ese momento no hay corrección de idioma ni lección.
  2. La app muestra una tarjeta propia, fuera de la conversación del personaje, con la línea de apoyo del país en el que estás: CVV 188 en Brasil, 988 en Estados Unidos, y así sucesivamente. La tarjeta aparece una vez por episodio (12 horas).
    • Cómo se elige el país. Por la zona horaria de tu dispositivo, guardada en tu perfil. Nunca por el país del personaje con el que conversas, ni por el idioma que estudias.
    • Qué números aparecen. Solo los que verificamos en la fuente oficial o en el directorio findahelpline.com. La tabla tiene 67 países; en 59 de ellos hay una línea verificada de prevención del suicidio o de apoyo emocional.
    • País sin línea verificada. La tarjeta muestra el servicio de emergencia del país y el enlace al directorio internacional https://findahelpline.com.
    • País desconocido (dispositivo sin zona horaria, o zona horaria de un país fuera de la tabla). La tarjeta no muestra ningún número, para no indicar nunca el número de otro país: muestra el enlace al directorio internacional y la indicación de llamar al servicio de emergencia local.
    • En qué idioma aparece la tarjeta. En tu lengua materna, la que indicaste al registrarte. Cuando todavía no tenemos una traducción revisada de una parte del texto, esa parte aparece en inglés. Si la app no conoce el idioma, la tarjeta entera aparece en inglés.
    • La tarjeta no promete una llamada gratuita. Muchas líneas de apoyo son gratuitas, pero no todas: en algunos países la llamada tiene el costo de una llamada común. Como esto cambia de un país a otro, la tarjeta no afirma que la llamada sea gratis.
  3. En las llamadas, la llamada no se corta, porque interrumpir a alguien en un momento difícil puede empeorar las cosas. La tarjeta con los números aparece encima de la pantalla. En "Échame una mano" pasa lo mismo: la llamada sigue, el amigo deja el pedido de lado y acompaña, y la tarjeta aparece encima.
  4. Fuera de las conversaciones, la acción pedida no sigue y la tarjeta aparece en su lugar. En un debate de la Arena, lo que dijiste no entra en el debate. Al crear un amigo, no se crea nada. En el estado, nadie reacciona ni comenta y el estado sale de la pantalla. En la ayuda para escribir, no se muestra ninguna traducción ni sugerencia. En todos esos casos la app muestra la misma tarjeta, con la línea de apoyo de tu país o el enlace al directorio internacional, en tu idioma.
  5. Los personajes dejan de escribir primero y de llamar durante 12 horas, para que ningún amigo envíe una broma o una invitación justo después. Si escribes, el personaje responde con normalidad y con cuidado.
  6. La app registra que el protocolo se activó, como se explica en la sección 4.

3. Lo que nunca pasa

  • El personaje nunca incentiva, enseña ni describe formas de hacerse daño.
  • El personaje nunca dice que es una persona real y nunca se presenta como terapeuta, médico ni servicio de emergencia.
  • La app nunca promete que alguien te va a llamar o ir a verte. No tenemos un equipo de guardia y no activamos servicios de emergencia por cuenta propia.
  • La app nunca avisa a tu familia, tus contactos ni tu empleador.
  • Tu conversación nunca se usa en anuncios ni se muestra a otros alumnos.

4. Cómo contamos las alertas sin datos personales

Las leyes de California (SB 243) y de Nueva York (General Business Law, Art. 47) exigen que las apps de compañía con inteligencia artificial tengan este protocolo, y California exige un informe anual sobre él.

  • Cada vez que se activa el protocolo, el sistema graba un evento interno de seguridad. Ese evento queda vinculado a la cuenta solo para revisión de seguridad y como prueba de que el protocolo funcionó, y sigue el plazo de conservación de la Política de Privacidad.
  • El informe público y el informe a las autoridades llevan solo números agregados (por ejemplo, cuántas veces se mostró la tarjeta de ayuda en el año). No llevan nombre, correo, teléfono, texto de los mensajes, audio ni ningún dato que identifique a alguien.
  • [CONFERIR: el organismo que recibe el informe de California, el formato y la fecha de entrega, a partir del 01/07/2027.]

5. Revisión de este protocolo

Revisamos este protocolo [PERIODICIDADE DE REVISÃO] y siempre que cambie la ley o que un caso real muestre algo que mejorar. La versión vigente está publicada en https://pollyfriends.ai/es/seguridad.

6. Contacto

Dudas sobre este protocolo: [E-MAIL DE SUPORTE] [RAZÃO SOCIAL], CNPJ [CNPJ], [ENDEREÇO]

Números de ayuda por país

Los mismos números que muestra la tarjeta de ayuda de la app, verificados en la fuente (actualizado el 17/10/2026). Si tu país no está en la lista, llama al número de emergencias local.

PaísApoyo emocional y prevención del suicidioEmergencias
Brasil188 CVV, Centro de Valorização da Vida192
Estados Unidos988 988 Suicide and Crisis Lifeline911
Alemania0800 111 0 111 TelefonSeelsorge112
Arabia Saudí920033360 مركز اتصال تعزيز الصحة النفسية911
Argentina0800 345 1435 Centro de Asistencia al Suicida911
Armenia0800 00 900 Վստահության հեռախոս112
Australia13 11 14 Lifeline Australia000
Austria142 TelefonSeelsorge112
Azerbaiyán112
Bélgica0800 32 123 Centre de Prévention du Suicide / Zelfmoordlijn 1813112
Bielorrusia+375 17 311 00 99 Телефон доверия экстренной психологической помощи103
Bosnia y Herzegovina124
Bulgaria0800 114 66 Телефон за психосоциална подкрепа на Българския Червен кръст112
Canadá988 9-8-8 Suicide Crisis Helpline / Ligne d'aide en cas de crise de suicide911
Chequia116 123 Linka první psychické pomoci112
Chile*4141 Línea de Prevención del Suicidio *4141131
China12356 12356 全国统一心理援助热线120
Colombia192 Línea 192, opción 4 (salud mental)123
Corea del Sur109 자살예방상담전화119
Croacia01 4833 888 Linija pomoći Plavi telefon112
Dinamarca70 201 201 Livslinien112
Egipto08008880700 الخط الساخن للأمانة العامة للصحة النفسية123
Eslovaquia0800 800 566 Linka dôvery Nezábudka112
Eslovenia116 123 Zaupni telefon Samarijan in Sopotnik112
España024 Línea 024 de atención a la conducta suicida112
Estonia116 123 Emotsionaalse toe ja hingehoiu telefon112
Filipinas1553 NCMH Crisis Hotline911
Finlandia09 2525 0111 MIELI Kriisipuhelin112
Francia3114 3114, numéro national de prévention du suicide112
Grecia1018 Κλίμακα, Γραμμή Παρέμβασης για την Αυτοκτονία112
Hungría116 123 Lelki Elsősegély Telefonszolgálat112
India14416 टेली मानस112
Indonesia119 SEJIWA, layanan 119 ekstensi 8112
Irán1480 صدای مشاور بهزیستی115
Irlanda116 123 Samaritans Ireland112
Islandia1717 Hjálparsími Rauða krossins112
Israel1201 ער"ן, עזרה ראשונה נפשית101
Italia02 2327 2327 Telefono Amico Italia112
Japón0120-279-338 よりそいホットライン119
Jordania07 9544 0416 JCPA Hotline911
Kazajistán111 111 байланыс орталығы (психологиялық көмек)103
Kenia0722 178 177 Befrienders Kenya999
Letonia116 123 Skalbes krīzes tālrunis112
Lituania116 123 Vilties linija112
Macedonia del Norte194
Malasia03-7627 2929 Befrienders Kuala Lumpur999
México800 911 2000 Línea de la Vida911
Nepal1166 आत्महत्या रोकथाम हटलाइन102
Noruega116 123 Mental Helse Hjelpetelefonen113
Nueva Zelanda1737 1737, Need to talk?111
Países Bajos113 113 Zelfmoordpreventie112
Pakistán1122
Paraguay155 Línea 155, salud mental911
Polonia800 70 2222 Centrum Wsparcia dla Osób Dorosłych w Kryzysie Psychicznym112
Portugal1411 Linha Nacional de Prevenção do Suicídio e Apoio Psicológico112
Reino Unido116 123 Samaritans999
Rumanía0800 801 200 Alianța Română de Prevenție a Suicidului112
Rusia+7 495 989 50 50 Телефон экстренной психологической помощи МЧС России112
Serbia0800 309 309 Nacionalna SOS linija za prevenciju samoubistva194
Sudáfrica0800 567 567 SADAG Suicide Crisis Helpline112
Suecia90101 Mind Självmordslinjen112
Suiza143 Die Dargebotene Hand144
Tailandia1323 สายด่วนสุขภาพจิต 13231669
Taiwán1925 安心專線119
Tanzania199 Afya Call Center 199 (Wizara ya Afya)112
Turquía112
Ucrania112
Vietnam0865 044 400 HOPE, hỗ trợ khủng hoảng115
  • OpenAI
  • Vercel
  • Next.js
  • React
  • Neon
  • PostgreSQL
  • Prisma
  • Upstash
  • Google
  • Resend
  • Twilio
  • GSAP