BORRADOR PARA REVISIÓN JURÍDICA (rascunho para revisão jurídica). No publicar antes de la revisión de un abogado. Los elementos entre corchetes todavía deben completarse.
Versión [VERSÃO], vigente desde [DATA DE VIGÊNCIA].
Pollyfriends es una app de idiomas en la que conversas con amigos creados por inteligencia artificial. No son personas, no son terapeutas y no reemplazan la ayuda profesional. Aun así, una conversación puede llegar a un momento difícil. Este protocolo explica, de forma pública, qué hace la app cuando alguien da señales de que podría hacerse daño o quitarse la vida.
Si estás en peligro ahora, llama al servicio de emergencia de tu país.
- Brasil: CVV, 188 (llamada gratuita, 24 horas).
- Estados Unidos: 988 (Suicide and Crisis Lifeline, llamada o mensaje).
- Unión Europea: 112, o el número de apoyo de tu país.
- Otros países: la app muestra la línea de apoyo de tu país cuando está en nuestra tabla de números verificados. Si tu país no está en la tabla, o si no sabemos en qué país estás, el directorio internacional https://findahelpline.com reúne líneas de apoyo por país.
1. Cómo la app percibe las señales
Capas automáticas revisan lo que escribes o dices, sin que una persona tenga que leer la conversación:
- Reglas locales en la entrada. Una lista de frases inequívocas de riesgo (querer matarse, quitarse la vida, no querer vivir más, pensar en el suicidio, autolesión, un plan, una despedida), dichas en primera persona. Hoy esa lista existe en 16 idiomas: portugués, español, inglés, alemán, francés, italiano, neerlandés, polaco, turco, sueco, ruso, árabe, hindi, japonés, coreano y chino (simplificado y tradicional). La exageración y la jerga ("morirse de risa"), la risa en el mismo mensaje, la letra de una canción, la ficción y las noticias quedan fuera.
- Moderación en la entrada. Un sistema de moderación con inteligencia artificial da una nota de 0 a 1 a las señales de suicidio y autolesión en el texto que escribes, en la transcripción de tus audios y llamadas, en el texto de tu estado y en el pie de las fotos que envías. Lo mismo vale para lo que escribes o dices fuera de las conversaciones: lo que dices en un debate de la Arena, tu pedido en "Échame una mano", los campos libres al crear un amigo, el texto del estado que comentan tus amigos y lo que le pides traducir a la ayuda para escribir ("¿Cómo se dice?" y la sugerencia de frase).
- Filtro en la salida. La respuesta del personaje pasa por un segundo filtro antes de llegar a ti, para que no se envíe nada inadecuado.
Cuándo se activa el protocolo. En cualquiera de estos casos:
- aparece una frase de la lista y la moderación la confirma (nota de 0,30 o más), en el propio mensaje o junto con tus últimos mensajes;
- la moderación no está disponible y aparece una frase de la lista en el mensaje (la regla vale por sí sola);
- no aparece ninguna frase de la lista, pero la moderación da una nota muy alta (0,75 o más). Esta es la red de seguridad para los idiomas sin lista propia y para las frases que la lista no previó. No vale cuando el mensaje es una exageración o lleva risa, cuando es una pregunta de vocabulario ("cómo se dice", "qué significa") y, en portugués, español e inglés, cuando habla de una canción, una película, un libro o una noticia, o cuando es un desahogo suelto ("me quiero morir" después de un mal día), que el personaje recibe como lo haría un amigo, sin tarjeta.
La evaluación que el propio sistema de respuestas hace de la conversación no activa el protocolo por sí sola: nunca reemplaza las dos capas de la entrada.
Antes de que cada versión de la app salga al aire, probamos estos filtros con un conjunto de casos de crisis preparados por nosotros. Esos casos deben pasar sin ningún fallo.
Ningún filtro automático es perfecto. Puede no detectar una señal o marcar una conversación que no era de crisis. Por eso el número de ayuda de este protocolo también está disponible todo el tiempo en la app, en Configuración, Ayuda, "Seguridad y números de ayuda", y en esta página.
Límites que conocemos hoy:
- Fuera de los 16 idiomas con lista propia, la detección depende solo de la nota de la moderación. Un modismo, una expresión de jerga o una manera indirecta de hablar que la moderación no reconozca puede pasar sin activar el protocolo.
- Las listas de alemán, francés, italiano, neerlandés, polaco, turco, sueco, ruso, árabe, hindi, japonés, coreano y chino son nuevas y todavía no han sido revisadas por hablantes nativos.
- El corrector que marca errores de ortografía mientras escribes no pasa por este protocolo, porque lee un texto todavía a medias. Cuando envías el mensaje, sí pasa. La conversación con los amigos, los grupos, los audios, las llamadas, el estado, el pie de las fotos, el debate de la Arena, "Échame una mano", los campos para crear un amigo y los pedidos a la ayuda para escribir pasan.
2. Qué pasa cuando aparece una señal
- El personaje deja la historia de lado y acompaña. Deja de hablar de su vida, responde con calma y sencillez, en el idioma que usaste, e indica ayuda real. En ese momento no hay corrección de idioma ni lección.
- La app muestra una tarjeta propia, fuera de la conversación del
personaje, con la línea de apoyo del país en el que estás: CVV 188 en
Brasil, 988 en Estados Unidos, y así sucesivamente. La tarjeta aparece una
vez por episodio (12 horas).
- Cómo se elige el país. Por la zona horaria de tu dispositivo, guardada en tu perfil. Nunca por el país del personaje con el que conversas, ni por el idioma que estudias.
- Qué números aparecen. Solo los que verificamos en la fuente oficial o en el directorio findahelpline.com. La tabla tiene 67 países; en 59 de ellos hay una línea verificada de prevención del suicidio o de apoyo emocional.
- País sin línea verificada. La tarjeta muestra el servicio de emergencia del país y el enlace al directorio internacional https://findahelpline.com.
- País desconocido (dispositivo sin zona horaria, o zona horaria de un país fuera de la tabla). La tarjeta no muestra ningún número, para no indicar nunca el número de otro país: muestra el enlace al directorio internacional y la indicación de llamar al servicio de emergencia local.
- En qué idioma aparece la tarjeta. En tu lengua materna, la que indicaste al registrarte. Cuando todavía no tenemos una traducción revisada de una parte del texto, esa parte aparece en inglés. Si la app no conoce el idioma, la tarjeta entera aparece en inglés.
- La tarjeta no promete una llamada gratuita. Muchas líneas de apoyo son gratuitas, pero no todas: en algunos países la llamada tiene el costo de una llamada común. Como esto cambia de un país a otro, la tarjeta no afirma que la llamada sea gratis.
- En las llamadas, la llamada no se corta, porque interrumpir a alguien en un momento difícil puede empeorar las cosas. La tarjeta con los números aparece encima de la pantalla. En "Échame una mano" pasa lo mismo: la llamada sigue, el amigo deja el pedido de lado y acompaña, y la tarjeta aparece encima.
- Fuera de las conversaciones, la acción pedida no sigue y la tarjeta aparece en su lugar. En un debate de la Arena, lo que dijiste no entra en el debate. Al crear un amigo, no se crea nada. En el estado, nadie reacciona ni comenta y el estado sale de la pantalla. En la ayuda para escribir, no se muestra ninguna traducción ni sugerencia. En todos esos casos la app muestra la misma tarjeta, con la línea de apoyo de tu país o el enlace al directorio internacional, en tu idioma.
- Los personajes dejan de escribir primero y de llamar durante 12 horas, para que ningún amigo envíe una broma o una invitación justo después. Si escribes, el personaje responde con normalidad y con cuidado.
- La app registra que el protocolo se activó, como se explica en la sección 4.
3. Lo que nunca pasa
- El personaje nunca incentiva, enseña ni describe formas de hacerse daño.
- El personaje nunca dice que es una persona real y nunca se presenta como terapeuta, médico ni servicio de emergencia.
- La app nunca promete que alguien te va a llamar o ir a verte. No tenemos un equipo de guardia y no activamos servicios de emergencia por cuenta propia.
- La app nunca avisa a tu familia, tus contactos ni tu empleador.
- Tu conversación nunca se usa en anuncios ni se muestra a otros alumnos.
4. Cómo contamos las alertas sin datos personales
Las leyes de California (SB 243) y de Nueva York (General Business Law, Art. 47) exigen que las apps de compañía con inteligencia artificial tengan este protocolo, y California exige un informe anual sobre él.
- Cada vez que se activa el protocolo, el sistema graba un evento interno de seguridad. Ese evento queda vinculado a la cuenta solo para revisión de seguridad y como prueba de que el protocolo funcionó, y sigue el plazo de conservación de la Política de Privacidad.
- El informe público y el informe a las autoridades llevan solo números agregados (por ejemplo, cuántas veces se mostró la tarjeta de ayuda en el año). No llevan nombre, correo, teléfono, texto de los mensajes, audio ni ningún dato que identifique a alguien.
- [CONFERIR: el organismo que recibe el informe de California, el formato y la fecha de entrega, a partir del 01/07/2027.]
5. Revisión de este protocolo
Revisamos este protocolo [PERIODICIDADE DE REVISÃO] y siempre que cambie la ley o que un caso real muestre algo que mejorar. La versión vigente está publicada en https://pollyfriends.ai/es/seguridad.
6. Contacto
Dudas sobre este protocolo: [E-MAIL DE SUPORTE] [RAZÃO SOCIAL], CNPJ [CNPJ], [ENDEREÇO]