BORRADOR PARA REVISIÓN JURÍDICA (rascunho para revisão jurídica). No publicar antes de la revisión de un abogado. Los elementos entre corchetes todavía deben completarse.
Versión [VERSÃO], vigente desde [DATA DE VIGÊNCIA].
Pollyfriends es una app de idiomas en la que conversas con amigos creados por inteligencia artificial. No son personas, no son terapeutas y no reemplazan la ayuda profesional. Aun así, una conversación puede llegar a un momento difícil. Este protocolo explica, de forma pública, qué hace la app cuando alguien da señales de que podría hacerse daño o quitarse la vida.
Si estás en peligro ahora, llama al servicio de emergencia de tu país.
- Brasil: CVV, 188 (llamada gratuita, 24 horas).
- Estados Unidos: 988 (Suicide and Crisis Lifeline, llamada o mensaje).
- Unión Europea: 112, o el número de apoyo de tu país.
- Otros países: [LISTA DE NÚMEROS POR PAÍS].
1. Cómo la app percibe las señales
Tres capas automáticas revisan cada mensaje, sin que una persona tenga que leer la conversación:
- Filtro de entrada. Un sistema de moderación analiza el texto que escribes, la transcripción de tus audios y llamadas y las fotos que envías, buscando señales de suicidio, autolesión y desesperación.
- Señal en la respuesta. El sistema que genera la respuesta del personaje también evalúa la conversación y marca cuando percibe una posible crisis.
- Filtro de salida. La respuesta del personaje pasa por un segundo filtro antes de llegar a ti, para que no se envíe nada inadecuado.
Antes de que cada versión de la app salga al aire, probamos estos filtros con un conjunto de casos de crisis preparados por nosotros. Esos casos deben pasar sin ningún fallo.
Ningún filtro automático es perfecto. Puede no detectar una señal o marcar una conversación que no era de crisis. Por eso el número de ayuda de este protocolo también está disponible en [LOCAL FIXO NO APP ONDE O NÚMERO FICA SEMPRE VISÍVEL].
2. Qué pasa cuando aparece una señal
- El personaje deja la historia de lado y acompaña. Deja de hablar de su vida, responde con calma y sencillez, en el idioma que usaste, e indica ayuda real. En ese momento no hay corrección de idioma ni lección.
- La app muestra una tarjeta propia, fuera de la conversación del personaje, con los servicios de ayuda: CVV 188 en Brasil, 988 en Estados Unidos, 112 o el número del país en la Unión Europea, y la lista del país donde vives. La tarjeta aparece una vez por episodio.
- En las llamadas, la llamada no se corta, porque interrumpir a alguien en un momento difícil puede empeorar las cosas. La tarjeta con los números aparece encima de la pantalla.
- Los personajes dejan de escribir primero y de llamar durante 12 horas, para que ningún amigo envíe una broma o una invitación justo después. Si escribes, el personaje responde con normalidad y con cuidado.
- La app registra que el protocolo se activó, como se explica en la sección 4.
3. Lo que nunca pasa
- El personaje nunca incentiva, enseña ni describe formas de hacerse daño.
- El personaje nunca dice que es una persona real y nunca se presenta como terapeuta, médico ni servicio de emergencia.
- La app nunca promete que alguien te va a llamar o ir a verte. No tenemos un equipo de guardia y no activamos servicios de emergencia por cuenta propia.
- La app nunca avisa a tu familia, tus contactos ni tu empleador.
- Tu conversación nunca se usa en anuncios ni se muestra a otros alumnos.
4. Cómo contamos las alertas sin datos personales
Las leyes de California (SB 243) y de Nueva York (General Business Law, Art. 47) exigen que las apps de compañía con inteligencia artificial tengan este protocolo, y California exige un informe anual sobre él.
- Cada vez que se activa el protocolo, el sistema graba un evento interno de seguridad. Ese evento queda vinculado a la cuenta solo para revisión de seguridad y como prueba de que el protocolo funcionó, y sigue el plazo de conservación de la Política de Privacidad.
- El informe público y el informe a las autoridades llevan solo números agregados (por ejemplo, cuántas veces se mostró la tarjeta de ayuda en el año). No llevan nombre, correo, teléfono, texto de los mensajes, audio ni ningún dato que identifique a alguien.
- [CONFERIR: el organismo que recibe el informe de California, el formato y la fecha de entrega, a partir del 01/07/2027.]
5. Revisión de este protocolo
Revisamos este protocolo [PERIODICIDADE DE REVISÃO] y siempre que cambie la ley o que un caso real muestre algo que mejorar. La versión vigente está publicada en [ENDEREÇO DA PÁGINA DO PROTOCOLO].
6. Contacto
Dudas sobre este protocolo: [E-MAIL DE SUPORTE] [RAZÃO SOCIAL], CNPJ [CNPJ], [ENDEREÇO]