PROJET SOUMIS À RELECTURE JURIDIQUE (rascunho para revisão jurídica). Ne pas publier avant la relecture d'un avocat. Les éléments entre crochets restent à compléter.
Version [VERSÃO], en vigueur à partir du [DATA DE VIGÊNCIA].
Pollyfriends est une app de langues où vous discutez avec des amis créés par l'intelligence artificielle. Ce ne sont pas des personnes, ce ne sont pas des thérapeutes et ils ne remplacent pas une aide professionnelle. Pourtant, une conversation peut arriver à un moment difficile. Ce protocole public explique ce que fait l'app lorsque quelqu'un montre des signes qu'il pourrait se faire du mal ou mettre fin à ses jours.
Si vous êtes en danger en ce moment, appelez le numéro d'urgence local.
- États-Unis : 988 (Suicide and Crisis Lifeline, appel ou SMS).
- Brésil : CVV, 188 (appel gratuit, 24 heures sur 24).
- Union européenne : 112, ou la ligne d'écoute de votre pays.
- Autres pays : l'app affiche la ligne d'écoute de votre pays lorsqu'il figure dans notre tableau de numéros vérifiés. Si votre pays n'est pas dans le tableau, ou si nous ne savons pas dans quel pays vous vous trouvez, l'annuaire international https://findahelpline.com répertorie les lignes d'écoute par pays.
1. Comment l'app remarque les signes
Des couches automatiques examinent ce que vous écrivez ou dites, sans qu'une personne ait besoin de lire la conversation :
- Règles locales sur ce que vous envoyez. Une liste d'expressions de risque sans ambiguïté (vouloir se tuer, mettre fin à ses jours, ne plus vouloir vivre, penser au suicide, se faire du mal, un plan, un adieu), dites à la première personne. Aujourd'hui, cette liste existe en 16 langues : portugais, espagnol, anglais, allemand, français, italien, néerlandais, polonais, turc, suédois, russe, arabe, hindi, japonais, coréen et chinois (simplifié et traditionnel). L'exagération et l'argot (« mourir de rire »), le rire dans le même message, les paroles de chansons, la fiction et l'actualité sont laissés de côté.
- Modération sur ce que vous envoyez. Un système de modération par intelligence artificielle attribue un score de 0 à 1 aux signes de suicide et d'automutilation dans le texte que vous écrivez, dans les transcriptions de vos messages vocaux et de vos appels, dans le texte de votre statut et dans la légende des photos que vous envoyez. Il en va de même pour ce que vous écrivez ou dites en dehors des conversations : ce que vous dites dans un débat de l'Arena, votre demande dans « Aide-moi ici », les champs de texte libre lorsque vous créez un ami, le texte du statut que vos amis commentent et ce que vous demandez à l'aide à l'écriture de traduire (« Comment ça se dit ? » et la suggestion de phrase).
- Filtre sur la réponse. La réponse du personnage passe par un second filtre avant de vous parvenir, afin que rien d'inapproprié ne soit envoyé.
Quand le protocole se déclenche. Dans chacun de ces cas :
- une expression de la liste apparaît et la modération la confirme (score de 0,30 ou plus), dans le message lui-même ou avec vos derniers messages ;
- la modération est indisponible et une expression de la liste apparaît dans le message (la règle s'applique seule) ;
- aucune expression de la liste n'apparaît, mais la modération donne un score très élevé (0,75 ou plus). C'est le filet de sécurité pour les langues sans liste propre et pour les expressions que la liste n'a pas prévues. Il ne s'applique pas lorsque le message est une exagération ou contient du rire, lorsqu'il s'agit d'une question de vocabulaire (« comment dit-on », « que veut dire ») et, en portugais, en espagnol et en anglais, lorsqu'il parle d'une chanson, d'un film, d'un livre ou de l'actualité, ou lorsqu'il s'agit d'un coup de gueule passager (« j'ai envie de mourir » après une mauvaise journée), que le personnage accueille comme le ferait un ami, sans carte.
L'évaluation que le système de réponse fait lui-même de la conversation ne déclenche pas le protocole à elle seule : elle ne remplace jamais les deux couches ci-dessus.
Avant la mise en ligne de chaque version de l'app, nous testons ces filtres avec un ensemble de cas de crise que nous avons préparés. Ces cas doivent passer sans aucun échec.
Aucun filtre automatique n'est parfait. Il peut manquer un signe ou signaler une conversation qui n'était pas une crise. C'est pourquoi le numéro d'aide de ce protocole est aussi disponible à tout moment dans l'app, dans Réglages, Aide, « Sécurité et numéros d'aide », ainsi que sur cette page.
Limites que nous connaissons aujourd'hui :
- En dehors des 16 langues dotées d'une liste propre, la détection dépend uniquement du score de modération. Une expression idiomatique, un terme d'argot ou une façon indirecte de parler que la modération ne reconnaît pas peut passer sans déclencher le protocole.
- Les listes pour l'allemand, le français, l'italien, le néerlandais, le polonais, le turc, le suédois, le russe, l'arabe, le hindi, le japonais, le coréen et le chinois sont nouvelles et n'ont pas encore été relues par des locuteurs natifs.
- Le correcteur orthographique qui signale les fautes pendant la saisie ne passe pas par ce protocole, car il lit un texte encore inachevé. Lorsque vous envoyez le message, celui-ci y passe. Les conversations avec les amis, les groupes, les messages vocaux, les appels, le statut, les légendes de photos, le débat de l'Arena, « Aide-moi ici », les champs de création d'un ami et les demandes à l'aide à l'écriture y passent tous.
2. Ce qui se passe lorsqu'un signe apparaît
- Le personnage met l'histoire de côté et propose son soutien. Il cesse de parler de sa propre vie, répond calmement et simplement, dans la langue que vous avez utilisée, et vous oriente vers une aide réelle. À ce moment-là, il n'y a ni correction de langue ni leçon.
- L'app affiche sa propre carte, en dehors de la conversation avec le
personnage, avec la ligne d'écoute du pays où vous vous trouvez : CVV 188 au
Brésil, 988 aux États-Unis, et ainsi de suite. La carte apparaît une fois par
épisode (12 heures).
- Comment le pays est choisi. Par le fuseau horaire de votre appareil, enregistré dans votre profil. Jamais par le pays du personnage avec qui vous parlez, ni par la langue que vous étudiez.
- Quels numéros apparaissent. Uniquement ceux que nous avons vérifiés auprès de la source officielle ou dans l'annuaire findahelpline.com. Le tableau compte 67 pays ; dans 59 d'entre eux, il existe une ligne vérifiée de prévention du suicide ou de soutien émotionnel.
- Pays sans ligne vérifiée. La carte affiche le service d'urgence du pays et le lien vers l'annuaire international https://findahelpline.com.
- Pays inconnu (un appareil sans fuseau horaire, ou un fuseau horaire d'un pays absent du tableau). La carte n'affiche aucun numéro, pour ne jamais orienter vers le numéro d'un autre pays : elle affiche le lien vers l'annuaire international et le conseil d'appeler le service d'urgence local.
- Dans quelle langue la carte apparaît. Dans votre langue maternelle, celle que vous avez indiquée lors de l'inscription. Lorsque nous n'avons pas encore de traduction relue d'une partie du texte, cette partie apparaît en anglais. Pour une langue que l'app ne connaît pas, toute la carte apparaît en anglais.
- La carte ne promet pas un appel gratuit. Beaucoup de lignes d'écoute sont gratuites, mais pas toutes : dans certains pays, l'appel coûte le même prix qu'un appel ordinaire. Comme cela change d'un pays à l'autre, la carte n'indique pas que l'appel est gratuit.
- Pendant les appels, l'appel n'est pas coupé, car raccrocher au nez de quelqu'un dans un moment difficile peut aggraver les choses. La carte avec les numéros apparaît par-dessus l'écran. « Aide-moi ici » fonctionne de la même façon : l'appel continue, l'ami met la demande de côté et propose son soutien, et la carte apparaît par-dessus.
- En dehors des conversations, l'action demandée n'a pas lieu et la carte apparaît à la place. Dans un débat de l'Arena, ce que vous avez dit n'entre pas dans le débat. Lors de la création d'un ami, rien n'est créé. Dans le statut, personne ne réagit ni ne commente et le statut disparaît de l'écran. Dans l'aide à l'écriture, aucune traduction ni suggestion n'est affichée. Dans tous ces cas, l'app affiche la même carte, avec la ligne d'écoute de votre pays ou le lien vers l'annuaire international, dans votre langue.
- Les personnages cessent d'écrire en premier et d'appeler pendant 12 heures, pour qu'aucun ami n'envoie une blague ou une invitation juste après. Si vous écrivez, le personnage répond normalement, avec attention.
- L'app enregistre que le protocole a été déclenché, comme l'explique la section 4.
3. Ce qui n'arrive jamais
- Le personnage n'encourage jamais l'automutilation, n'en enseigne ni n'en décrit les moyens.
- Le personnage ne prétend jamais être une vraie personne et ne se présente jamais comme thérapeute, médecin ou service d'urgence.
- L'app ne promet jamais que quelqu'un vous appellera ou viendra vous voir. Nous n'avons pas d'équipe de garde et nous ne contactons pas les services d'urgence de notre propre initiative.
- L'app ne prévient jamais votre famille, vos contacts ou votre employeur.
- Votre conversation n'est jamais utilisée dans la publicité ni montrée à d'autres utilisateurs.
4. Comment nous comptons les alertes sans données personnelles
La loi de Californie (SB 243) et la loi de New York (General Business Law, Art. 47) imposent ce protocole aux apps de compagnie par IA, et la Californie exige un rapport annuel à ce sujet.
- Chaque fois que le protocole se déclenche, le système enregistre un événement de sécurité interne. Cet événement n'est lié au compte que pour l'examen de sécurité et comme preuve que le protocole a fonctionné, et il suit la durée de conservation prévue par la Politique de confidentialité.
- Le rapport public et le rapport aux autorités ne contiennent que des chiffres agrégés (par exemple, combien de fois la carte d'aide a été affichée dans l'année). Ils ne contiennent aucun nom, e-mail, numéro de téléphone, texte de message, audio ni aucune donnée qui identifie quelqu'un.
- [CONFERIR : l'organisme californien qui reçoit le rapport, son format et la date de dépôt, à partir du 01/07/2027.]
5. Révision de ce protocole
Nous révisons ce protocole [PERIODICIDADE DE REVISÃO] et chaque fois que la loi change ou qu'un cas réel montre quelque chose à améliorer. La version en vigueur est publiée sur https://pollyfriends.ai/fr/securite.
6. Contact
Questions sur ce protocole : [E-MAIL DE SUPORTE] [RAZÃO SOCIAL], CNPJ [CNPJ], [ENDEREÇO]