Aller au contenu

Sécurité et situations de crise

Ce que fait Pollyfriends quand une conversation montre des signes de risque, et où trouver une aide réelle.

PROJET SOUMIS À RELECTURE JURIDIQUE (rascunho para revisão jurídica). Ne pas publier avant la relecture d'un avocat. Les éléments entre crochets restent à compléter.

Version [VERSÃO], en vigueur à partir du [DATA DE VIGÊNCIA].

Pollyfriends est une app de langues où vous discutez avec des amis créés par l'intelligence artificielle. Ce ne sont pas des personnes, ce ne sont pas des thérapeutes et ils ne remplacent pas une aide professionnelle. Pourtant, une conversation peut arriver à un moment difficile. Ce protocole public explique ce que fait l'app lorsque quelqu'un montre des signes qu'il pourrait se faire du mal ou mettre fin à ses jours.

Si vous êtes en danger en ce moment, appelez le numéro d'urgence local.

  • États-Unis : 988 (Suicide and Crisis Lifeline, appel ou SMS).
  • Brésil : CVV, 188 (appel gratuit, 24 heures sur 24).
  • Union européenne : 112, ou la ligne d'écoute de votre pays.
  • Autres pays : l'app affiche la ligne d'écoute de votre pays lorsqu'il figure dans notre tableau de numéros vérifiés. Si votre pays n'est pas dans le tableau, ou si nous ne savons pas dans quel pays vous vous trouvez, l'annuaire international https://findahelpline.com répertorie les lignes d'écoute par pays.

1. Comment l'app remarque les signes

Des couches automatiques examinent ce que vous écrivez ou dites, sans qu'une personne ait besoin de lire la conversation :

  1. Règles locales sur ce que vous envoyez. Une liste d'expressions de risque sans ambiguïté (vouloir se tuer, mettre fin à ses jours, ne plus vouloir vivre, penser au suicide, se faire du mal, un plan, un adieu), dites à la première personne. Aujourd'hui, cette liste existe en 16 langues : portugais, espagnol, anglais, allemand, français, italien, néerlandais, polonais, turc, suédois, russe, arabe, hindi, japonais, coréen et chinois (simplifié et traditionnel). L'exagération et l'argot (« mourir de rire »), le rire dans le même message, les paroles de chansons, la fiction et l'actualité sont laissés de côté.
  2. Modération sur ce que vous envoyez. Un système de modération par intelligence artificielle attribue un score de 0 à 1 aux signes de suicide et d'automutilation dans le texte que vous écrivez, dans les transcriptions de vos messages vocaux et de vos appels, dans le texte de votre statut et dans la légende des photos que vous envoyez. Il en va de même pour ce que vous écrivez ou dites en dehors des conversations : ce que vous dites dans un débat de l'Arena, votre demande dans « Aide-moi ici », les champs de texte libre lorsque vous créez un ami, le texte du statut que vos amis commentent et ce que vous demandez à l'aide à l'écriture de traduire (« Comment ça se dit ? » et la suggestion de phrase).
  3. Filtre sur la réponse. La réponse du personnage passe par un second filtre avant de vous parvenir, afin que rien d'inapproprié ne soit envoyé.

Quand le protocole se déclenche. Dans chacun de ces cas :

  • une expression de la liste apparaît et la modération la confirme (score de 0,30 ou plus), dans le message lui-même ou avec vos derniers messages ;
  • la modération est indisponible et une expression de la liste apparaît dans le message (la règle s'applique seule) ;
  • aucune expression de la liste n'apparaît, mais la modération donne un score très élevé (0,75 ou plus). C'est le filet de sécurité pour les langues sans liste propre et pour les expressions que la liste n'a pas prévues. Il ne s'applique pas lorsque le message est une exagération ou contient du rire, lorsqu'il s'agit d'une question de vocabulaire (« comment dit-on », « que veut dire ») et, en portugais, en espagnol et en anglais, lorsqu'il parle d'une chanson, d'un film, d'un livre ou de l'actualité, ou lorsqu'il s'agit d'un coup de gueule passager (« j'ai envie de mourir » après une mauvaise journée), que le personnage accueille comme le ferait un ami, sans carte.

L'évaluation que le système de réponse fait lui-même de la conversation ne déclenche pas le protocole à elle seule : elle ne remplace jamais les deux couches ci-dessus.

Avant la mise en ligne de chaque version de l'app, nous testons ces filtres avec un ensemble de cas de crise que nous avons préparés. Ces cas doivent passer sans aucun échec.

Aucun filtre automatique n'est parfait. Il peut manquer un signe ou signaler une conversation qui n'était pas une crise. C'est pourquoi le numéro d'aide de ce protocole est aussi disponible à tout moment dans l'app, dans Réglages, Aide, « Sécurité et numéros d'aide », ainsi que sur cette page.

Limites que nous connaissons aujourd'hui :

  • En dehors des 16 langues dotées d'une liste propre, la détection dépend uniquement du score de modération. Une expression idiomatique, un terme d'argot ou une façon indirecte de parler que la modération ne reconnaît pas peut passer sans déclencher le protocole.
  • Les listes pour l'allemand, le français, l'italien, le néerlandais, le polonais, le turc, le suédois, le russe, l'arabe, le hindi, le japonais, le coréen et le chinois sont nouvelles et n'ont pas encore été relues par des locuteurs natifs.
  • Le correcteur orthographique qui signale les fautes pendant la saisie ne passe pas par ce protocole, car il lit un texte encore inachevé. Lorsque vous envoyez le message, celui-ci y passe. Les conversations avec les amis, les groupes, les messages vocaux, les appels, le statut, les légendes de photos, le débat de l'Arena, « Aide-moi ici », les champs de création d'un ami et les demandes à l'aide à l'écriture y passent tous.

2. Ce qui se passe lorsqu'un signe apparaît

  1. Le personnage met l'histoire de côté et propose son soutien. Il cesse de parler de sa propre vie, répond calmement et simplement, dans la langue que vous avez utilisée, et vous oriente vers une aide réelle. À ce moment-là, il n'y a ni correction de langue ni leçon.
  2. L'app affiche sa propre carte, en dehors de la conversation avec le personnage, avec la ligne d'écoute du pays où vous vous trouvez : CVV 188 au Brésil, 988 aux États-Unis, et ainsi de suite. La carte apparaît une fois par épisode (12 heures).
    • Comment le pays est choisi. Par le fuseau horaire de votre appareil, enregistré dans votre profil. Jamais par le pays du personnage avec qui vous parlez, ni par la langue que vous étudiez.
    • Quels numéros apparaissent. Uniquement ceux que nous avons vérifiés auprès de la source officielle ou dans l'annuaire findahelpline.com. Le tableau compte 67 pays ; dans 59 d'entre eux, il existe une ligne vérifiée de prévention du suicide ou de soutien émotionnel.
    • Pays sans ligne vérifiée. La carte affiche le service d'urgence du pays et le lien vers l'annuaire international https://findahelpline.com.
    • Pays inconnu (un appareil sans fuseau horaire, ou un fuseau horaire d'un pays absent du tableau). La carte n'affiche aucun numéro, pour ne jamais orienter vers le numéro d'un autre pays : elle affiche le lien vers l'annuaire international et le conseil d'appeler le service d'urgence local.
    • Dans quelle langue la carte apparaît. Dans votre langue maternelle, celle que vous avez indiquée lors de l'inscription. Lorsque nous n'avons pas encore de traduction relue d'une partie du texte, cette partie apparaît en anglais. Pour une langue que l'app ne connaît pas, toute la carte apparaît en anglais.
    • La carte ne promet pas un appel gratuit. Beaucoup de lignes d'écoute sont gratuites, mais pas toutes : dans certains pays, l'appel coûte le même prix qu'un appel ordinaire. Comme cela change d'un pays à l'autre, la carte n'indique pas que l'appel est gratuit.
  3. Pendant les appels, l'appel n'est pas coupé, car raccrocher au nez de quelqu'un dans un moment difficile peut aggraver les choses. La carte avec les numéros apparaît par-dessus l'écran. « Aide-moi ici » fonctionne de la même façon : l'appel continue, l'ami met la demande de côté et propose son soutien, et la carte apparaît par-dessus.
  4. En dehors des conversations, l'action demandée n'a pas lieu et la carte apparaît à la place. Dans un débat de l'Arena, ce que vous avez dit n'entre pas dans le débat. Lors de la création d'un ami, rien n'est créé. Dans le statut, personne ne réagit ni ne commente et le statut disparaît de l'écran. Dans l'aide à l'écriture, aucune traduction ni suggestion n'est affichée. Dans tous ces cas, l'app affiche la même carte, avec la ligne d'écoute de votre pays ou le lien vers l'annuaire international, dans votre langue.
  5. Les personnages cessent d'écrire en premier et d'appeler pendant 12 heures, pour qu'aucun ami n'envoie une blague ou une invitation juste après. Si vous écrivez, le personnage répond normalement, avec attention.
  6. L'app enregistre que le protocole a été déclenché, comme l'explique la section 4.

3. Ce qui n'arrive jamais

  • Le personnage n'encourage jamais l'automutilation, n'en enseigne ni n'en décrit les moyens.
  • Le personnage ne prétend jamais être une vraie personne et ne se présente jamais comme thérapeute, médecin ou service d'urgence.
  • L'app ne promet jamais que quelqu'un vous appellera ou viendra vous voir. Nous n'avons pas d'équipe de garde et nous ne contactons pas les services d'urgence de notre propre initiative.
  • L'app ne prévient jamais votre famille, vos contacts ou votre employeur.
  • Votre conversation n'est jamais utilisée dans la publicité ni montrée à d'autres utilisateurs.

4. Comment nous comptons les alertes sans données personnelles

La loi de Californie (SB 243) et la loi de New York (General Business Law, Art. 47) imposent ce protocole aux apps de compagnie par IA, et la Californie exige un rapport annuel à ce sujet.

  • Chaque fois que le protocole se déclenche, le système enregistre un événement de sécurité interne. Cet événement n'est lié au compte que pour l'examen de sécurité et comme preuve que le protocole a fonctionné, et il suit la durée de conservation prévue par la Politique de confidentialité.
  • Le rapport public et le rapport aux autorités ne contiennent que des chiffres agrégés (par exemple, combien de fois la carte d'aide a été affichée dans l'année). Ils ne contiennent aucun nom, e-mail, numéro de téléphone, texte de message, audio ni aucune donnée qui identifie quelqu'un.
  • [CONFERIR : l'organisme californien qui reçoit le rapport, son format et la date de dépôt, à partir du 01/07/2027.]

5. Révision de ce protocole

Nous révisons ce protocole [PERIODICIDADE DE REVISÃO] et chaque fois que la loi change ou qu'un cas réel montre quelque chose à améliorer. La version en vigueur est publiée sur https://pollyfriends.ai/fr/securite.

6. Contact

Questions sur ce protocole : [E-MAIL DE SUPORTE] [RAZÃO SOCIAL], CNPJ [CNPJ], [ENDEREÇO]

Numéros d'aide par pays

Les mêmes numéros que ceux de la fiche d'aide de l'app, vérifiés à la source (mise à jour : 17/10/2026). Si ton pays n'est pas dans la liste, appelle le numéro d'urgence local.

PaysSoutien émotionnel et prévention du suicideUrgences
Brésil188 CVV, Centro de Valorização da Vida192
États-Unis988 988 Suicide and Crisis Lifeline911
Afrique du Sud0800 567 567 SADAG Suicide Crisis Helpline112
Allemagne0800 111 0 111 TelefonSeelsorge112
Arabie saoudite920033360 مركز اتصال تعزيز الصحة النفسية911
Argentine0800 345 1435 Centro de Asistencia al Suicida911
Arménie0800 00 900 Վստահության հեռախոս112
Australie13 11 14 Lifeline Australia000
Autriche142 TelefonSeelsorge112
Azerbaïdjan112
Belgique0800 32 123 Centre de Prévention du Suicide / Zelfmoordlijn 1813112
Biélorussie+375 17 311 00 99 Телефон доверия экстренной психологической помощи103
Bosnie-Herzégovine124
Bulgarie0800 114 66 Телефон за психосоциална подкрепа на Българския Червен кръст112
Canada988 9-8-8 Suicide Crisis Helpline / Ligne d'aide en cas de crise de suicide911
Chili*4141 Línea de Prevención del Suicidio *4141131
Chine12356 12356 全国统一心理援助热线120
Colombie192 Línea 192, opción 4 (salud mental)123
Corée du Sud109 자살예방상담전화119
Croatie01 4833 888 Linija pomoći Plavi telefon112
Danemark70 201 201 Livslinien112
Égypte08008880700 الخط الساخن للأمانة العامة للصحة النفسية123
Espagne024 Línea 024 de atención a la conducta suicida112
Estonie116 123 Emotsionaalse toe ja hingehoiu telefon112
Finlande09 2525 0111 MIELI Kriisipuhelin112
France3114 3114, numéro national de prévention du suicide112
Grèce1018 Κλίμακα, Γραμμή Παρέμβασης για την Αυτοκτονία112
Hongrie116 123 Lelki Elsősegély Telefonszolgálat112
Inde14416 टेली मानस112
Indonésie119 SEJIWA, layanan 119 ekstensi 8112
Iran1480 صدای مشاور بهزیستی115
Irlande116 123 Samaritans Ireland112
Islande1717 Hjálparsími Rauða krossins112
Israël1201 ער"ן, עזרה ראשונה נפשית101
Italie02 2327 2327 Telefono Amico Italia112
Japon0120-279-338 よりそいホットライン119
Jordanie07 9544 0416 JCPA Hotline911
Kazakhstan111 111 байланыс орталығы (психологиялық көмек)103
Kenya0722 178 177 Befrienders Kenya999
Lettonie116 123 Skalbes krīzes tālrunis112
Lituanie116 123 Vilties linija112
Macédoine du Nord194
Malaisie03-7627 2929 Befrienders Kuala Lumpur999
Mexique800 911 2000 Línea de la Vida911
Népal1166 आत्महत्या रोकथाम हटलाइन102
Norvège116 123 Mental Helse Hjelpetelefonen113
Nouvelle-Zélande1737 1737, Need to talk?111
Pakistan1122
Paraguay155 Línea 155, salud mental911
Pays-Bas113 113 Zelfmoordpreventie112
Philippines1553 NCMH Crisis Hotline911
Pologne800 70 2222 Centrum Wsparcia dla Osób Dorosłych w Kryzysie Psychicznym112
Portugal1411 Linha Nacional de Prevenção do Suicídio e Apoio Psicológico112
Roumanie0800 801 200 Alianța Română de Prevenție a Suicidului112
Royaume-Uni116 123 Samaritans999
Russie+7 495 989 50 50 Телефон экстренной психологической помощи МЧС России112
Serbie0800 309 309 Nacionalna SOS linija za prevenciju samoubistva194
Slovaquie0800 800 566 Linka dôvery Nezábudka112
Slovénie116 123 Zaupni telefon Samarijan in Sopotnik112
Suède90101 Mind Självmordslinjen112
Suisse143 Die Dargebotene Hand144
Taïwan1925 安心專線119
Tanzanie199 Afya Call Center 199 (Wizara ya Afya)112
Tchéquie116 123 Linka první psychické pomoci112
Thaïlande1323 สายด่วนสุขภาพจิต 13231669
Turquie112
Ukraine112
Viêt Nam0865 044 400 HOPE, hỗ trợ khủng hoảng115
  • OpenAI
  • Vercel
  • Next.js
  • React
  • Neon
  • PostgreSQL
  • Prisma
  • Upstash
  • Google
  • Resend
  • Twilio
  • GSAP