Vai al contenuto

Sicurezza e crisi

Cosa fa Pollyfriends quando una conversazione mostra segnali di rischio, e dove trovare un aiuto reale.

BOZZA PER REVISIONE LEGALE (rascunho para revisão jurídica). Non pubblicare prima della revisione di un avvocato. Le voci tra parentesi quadre devono ancora essere compilate.

Versione [VERSÃO], in vigore dal [DATA DE VIGÊNCIA].

Pollyfriends è un'app di lingue in cui chiacchieri con amici creati dall'intelligenza artificiale. Non sono persone, non sono terapeuti e non sostituiscono un aiuto professionale. Eppure, una conversazione può arrivare a un momento difficile. Questo protocollo pubblico spiega cosa fa l'app quando qualcuno mostra segnali di potersi fare del male o togliersi la vita.

Se sei in pericolo in questo momento, chiama il numero di emergenza locale.

  • Stati Uniti: 988 (Suicide and Crisis Lifeline, chiamata o SMS).
  • Brasile: CVV, 188 (chiamata gratuita, 24 ore su 24).
  • Unione europea: 112, oppure la linea di ascolto del tuo paese.
  • Altri paesi: l'app mostra la linea di ascolto del tuo paese quando è nella nostra tabella di numeri verificati. Se il tuo paese non è nella tabella, o se non sappiamo in quale paese ti trovi, la directory internazionale https://findahelpline.com elenca le linee di ascolto per paese.

1. Come l'app si accorge dei segnali

Livelli automatici esaminano ciò che scrivi o dici, senza che una persona debba leggere la conversazione:

  1. Regole locali su ciò che invii. Un elenco di frasi di rischio inequivocabili (volersi uccidere, togliersi la vita, non voler più vivere, pensare al suicidio, farsi del male, un piano, un addio), dette in prima persona. Oggi questo elenco esiste in 16 lingue: portoghese, spagnolo, inglese, tedesco, francese, italiano, olandese, polacco, turco, svedese, russo, arabo, hindi, giapponese, coreano e cinese (semplificato e tradizionale). Esagerazioni e gergo (“morire dal ridere”), risate nello stesso messaggio, testi di canzoni, finzione e notizie restano fuori.
  2. Moderazione su ciò che invii. Un sistema di moderazione con intelligenza artificiale assegna un punteggio da 0 a 1 ai segnali di suicidio e autolesionismo nel testo che scrivi, nelle trascrizioni dei tuoi messaggi vocali e delle chiamate, nel testo del tuo stato e nella didascalia delle foto che invii. Lo stesso vale per ciò che scrivi o dici fuori dalle conversazioni: quello che dici in un dibattito dell'Arena, la tua richiesta in “Aiutami qui”, i campi di testo libero quando crei un amico, il testo dello stato che i tuoi amici commentano e ciò che chiedi di tradurre all'aiuto alla scrittura (“Come si dice?” e il suggerimento di frase).
  3. Filtro sulla risposta. La risposta del personaggio passa per un secondo filtro prima di arrivarti, perché non venga inviato nulla di inappropriato.

Quando scatta il protocollo. In ciascuno di questi casi:

  • compare una frase dell'elenco e la moderazione la conferma (punteggio di 0,30 o superiore), nel messaggio stesso o insieme ai tuoi ultimi messaggi;
  • la moderazione non è disponibile e nel messaggio compare una frase dell'elenco (la regola vale da sola);
  • non compare nessuna frase dell'elenco, ma la moderazione dà un punteggio molto alto (0,75 o superiore). È la rete di sicurezza per le lingue senza un elenco proprio e per le frasi che l'elenco non ha previsto. Non si applica quando il messaggio è un'esagerazione o contiene risate, quando è una domanda di vocabolario (“come si dice”, “cosa significa”) e, in portoghese, spagnolo e inglese, quando parla di una canzone, un film, un libro o delle notizie, o quando è uno sfogo passeggero (“voglio morire” dopo una brutta giornata), che il personaggio accoglie come farebbe un amico, senza scheda.

La valutazione che il sistema di risposta fa da solo della conversazione non fa scattare il protocollo da sola: non sostituisce mai i due livelli qui sopra.

Prima che ogni versione dell'app vada online, testiamo questi filtri con una serie di casi di crisi che abbiamo preparato. Questi casi devono passare senza alcun errore.

Nessun filtro automatico è perfetto. Può non accorgersi di un segnale o segnalare una conversazione che non era una crisi. Per questo il numero di aiuto di questo protocollo è disponibile in ogni momento anche nell'app, in Impostazioni, Aiuto, “Sicurezza e numeri di aiuto”, e in questa pagina.

Limiti che conosciamo oggi:

  • Fuori dalle 16 lingue con un elenco proprio, il rilevamento dipende solo dal punteggio di moderazione. Un modo di dire, un termine gergale o un modo indiretto di parlare che la moderazione non riconosce possono passare senza far scattare il protocollo.
  • Gli elenchi per tedesco, francese, italiano, olandese, polacco, turco, svedese, russo, arabo, hindi, giapponese, coreano e cinese sono nuovi e non sono ancora stati rivisti da madrelingua.
  • Il correttore ortografico che segna gli errori mentre scrivi non passa per questo protocollo, perché legge un testo ancora incompleto. Quando invii il messaggio, ci passa. Le conversazioni con gli amici, i gruppi, i messaggi vocali, le chiamate, lo stato, le didascalie delle foto, il dibattito dell'Arena, “Aiutami qui”, i campi per creare un amico e le richieste all'aiuto alla scrittura ci passano tutti.

2. Cosa succede quando compare un segnale

  1. Il personaggio mette da parte la storia e offre supporto. Smette di parlare della propria vita, risponde con calma e in modo semplice, nella lingua che hai usato, e ti indica un aiuto reale. In quel momento non ci sono correzioni di lingua né lezioni.
  2. L'app mostra una propria scheda, fuori dalla conversazione con il personaggio, con la linea di ascolto del paese in cui ti trovi: CVV 188 in Brasile, 988 negli Stati Uniti e così via. La scheda compare una volta per episodio (12 ore).
    • Come viene scelto il paese. In base al fuso orario del tuo dispositivo, salvato nel tuo profilo. Mai in base al paese del personaggio con cui parli, né alla lingua che stai studiando.
    • Quali numeri compaiono. Solo quelli che abbiamo verificato alla fonte ufficiale o nella directory findahelpline.com. La tabella comprende 67 paesi; in 59 di questi esiste una linea verificata di prevenzione del suicidio o di supporto emotivo.
    • Paese senza linea verificata. La scheda mostra il servizio di emergenza del paese e il link alla directory internazionale https://findahelpline.com.
    • Paese sconosciuto (un dispositivo senza fuso orario, o un fuso orario di un paese fuori dalla tabella). La scheda non mostra alcun numero, per non indicare mai il numero di un altro paese: mostra il link alla directory internazionale e il consiglio di chiamare il servizio di emergenza locale.
    • In quale lingua compare la scheda. Nella tua lingua madre, quella che hai indicato al momento dell'iscrizione. Quando non abbiamo ancora una traduzione rivista di una parte del testo, quella parte compare in inglese. Per una lingua che l'app non conosce, tutta la scheda compare in inglese.
    • La scheda non promette una chiamata gratuita. Molte linee di ascolto sono gratuite, ma non tutte: in alcuni paesi la chiamata costa quanto una chiamata normale. Poiché questo cambia da paese a paese, la scheda non dice che la chiamata è gratuita.
  3. Durante le chiamate, la chiamata non viene interrotta, perché chiudere la chiamata a qualcuno in un momento difficile può peggiorare le cose. La scheda con i numeri compare sopra lo schermo. “Aiutami qui” funziona allo stesso modo: la chiamata continua, l'amico mette da parte la richiesta e offre supporto, e la scheda compare sopra.
  4. Fuori dalle conversazioni, l'azione che hai chiesto non va avanti e al suo posto compare la scheda. In un dibattito dell'Arena, quello che hai detto non entra nel dibattito. Quando crei un amico, non viene creato nulla. Nello stato, nessuno reagisce o commenta e lo stato esce dallo schermo. Nell'aiuto alla scrittura non compare nessuna traduzione o suggerimento. In tutti questi casi l'app mostra la stessa scheda, con la linea di ascolto del tuo paese o il link alla directory internazionale, nella tua lingua.
  5. I personaggi smettono di scrivere per primi e di chiamare per 12 ore, perché nessun amico mandi una battuta o un invito subito dopo. Se scrivi tu, il personaggio risponde come sempre, con attenzione.
  6. L'app registra che il protocollo è scattato, come spiegato nella sezione 4.

3. Cosa non succede mai

  • Il personaggio non incoraggia, non insegna e non descrive mai modi per farsi del male.
  • Il personaggio non dice mai di essere una persona reale e non si presenta mai come terapeuta, medico o servizio di emergenza.
  • L'app non promette mai che qualcuno ti chiamerà o verrà da te. Non abbiamo una squadra di reperibilità e non contattiamo di nostra iniziativa i servizi di emergenza.
  • L'app non avvisa mai la tua famiglia, i tuoi contatti o il tuo datore di lavoro.
  • La tua conversazione non viene mai usata nella pubblicità né mostrata ad altri utenti.

4. Come contiamo gli avvisi senza dati personali

La legge della California (SB 243) e la legge di New York (General Business Law, Art. 47) impongono questo protocollo alle app di compagnia con IA, e la California richiede una relazione annuale in merito.

  • Ogni volta che il protocollo scatta, il sistema registra un evento di sicurezza interno. Questo evento è collegato all'account solo per la revisione di sicurezza e come prova che il protocollo ha funzionato, e segue il periodo di conservazione dell'Informativa sulla privacy.
  • La relazione pubblica e quella alle autorità contengono solo numeri aggregati (per esempio, quante volte la scheda di aiuto è stata mostrata nell'anno). Non contengono nomi, e-mail, numeri di telefono, testi di messaggi, audio né alcun dato che identifichi qualcuno.
  • [CONFERIR: l'ente della California che riceve la relazione, il suo formato e la data di presentazione, a partire dal 01/07/2027.]

5. Revisione di questo protocollo

Rivediamo questo protocollo [PERIODICIDADE DE REVISÃO] e ogni volta che la legge cambia o un caso reale mostra qualcosa da migliorare. La versione in vigore è pubblicata su https://pollyfriends.ai/it/sicurezza.

6. Contatti

Domande su questo protocollo: [E-MAIL DE SUPORTE] [RAZÃO SOCIAL], CNPJ [CNPJ], [ENDEREÇO]

Numeri di aiuto per paese

Gli stessi numeri che mostra la scheda di aiuto dell'app, verificati alla fonte (aggiornati il 17/10/2026). Se il tuo paese non è nell'elenco, chiama il numero di emergenza locale.

PaeseSupporto emotivo e prevenzione del suicidioEmergenza
Brasile188 CVV, Centro de Valorização da Vida192
Stati Uniti988 988 Suicide and Crisis Lifeline911
Arabia Saudita920033360 مركز اتصال تعزيز الصحة النفسية911
Argentina0800 345 1435 Centro de Asistencia al Suicida911
Armenia0800 00 900 Վստահության հեռախոս112
Australia13 11 14 Lifeline Australia000
Austria142 TelefonSeelsorge112
Azerbaigian112
Belgio0800 32 123 Centre de Prévention du Suicide / Zelfmoordlijn 1813112
Bielorussia+375 17 311 00 99 Телефон доверия экстренной психологической помощи103
Bosnia ed Erzegovina124
Bulgaria0800 114 66 Телефон за психосоциална подкрепа на Българския Червен кръст112
Canada988 9-8-8 Suicide Crisis Helpline / Ligne d'aide en cas de crise de suicide911
Cechia116 123 Linka první psychické pomoci112
Cile*4141 Línea de Prevención del Suicidio *4141131
Cina12356 12356 全国统一心理援助热线120
Colombia192 Línea 192, opción 4 (salud mental)123
Corea del Sud109 자살예방상담전화119
Croazia01 4833 888 Linija pomoći Plavi telefon112
Danimarca70 201 201 Livslinien112
Egitto08008880700 الخط الساخن للأمانة العامة للصحة النفسية123
Estonia116 123 Emotsionaalse toe ja hingehoiu telefon112
Filippine1553 NCMH Crisis Hotline911
Finlandia09 2525 0111 MIELI Kriisipuhelin112
Francia3114 3114, numéro national de prévention du suicide112
Germania0800 111 0 111 TelefonSeelsorge112
Giappone0120-279-338 よりそいホットライン119
Giordania07 9544 0416 JCPA Hotline911
Grecia1018 Κλίμακα, Γραμμή Παρέμβασης για την Αυτοκτονία112
India14416 टेली मानस112
Indonesia119 SEJIWA, layanan 119 ekstensi 8112
Iran1480 صدای مشاور بهزیستی115
Irlanda116 123 Samaritans Ireland112
Islanda1717 Hjálparsími Rauða krossins112
Israele1201 ער"ן, עזרה ראשונה נפשית101
Italia02 2327 2327 Telefono Amico Italia112
Kazakistan111 111 байланыс орталығы (психологиялық көмек)103
Kenya0722 178 177 Befrienders Kenya999
Lettonia116 123 Skalbes krīzes tālrunis112
Lituania116 123 Vilties linija112
Macedonia del Nord194
Malaysia03-7627 2929 Befrienders Kuala Lumpur999
Messico800 911 2000 Línea de la Vida911
Nepal1166 आत्महत्या रोकथाम हटलाइन102
Norvegia116 123 Mental Helse Hjelpetelefonen113
Nuova Zelanda1737 1737, Need to talk?111
Paesi Bassi113 113 Zelfmoordpreventie112
Pakistan1122
Paraguay155 Línea 155, salud mental911
Polonia800 70 2222 Centrum Wsparcia dla Osób Dorosłych w Kryzysie Psychicznym112
Portogallo1411 Linha Nacional de Prevenção do Suicídio e Apoio Psicológico112
Regno Unito116 123 Samaritans999
Romania0800 801 200 Alianța Română de Prevenție a Suicidului112
Russia+7 495 989 50 50 Телефон экстренной психологической помощи МЧС России112
Serbia0800 309 309 Nacionalna SOS linija za prevenciju samoubistva194
Slovacchia0800 800 566 Linka dôvery Nezábudka112
Slovenia116 123 Zaupni telefon Samarijan in Sopotnik112
Spagna024 Línea 024 de atención a la conducta suicida112
Sudafrica0800 567 567 SADAG Suicide Crisis Helpline112
Svezia90101 Mind Självmordslinjen112
Svizzera143 Die Dargebotene Hand144
Taiwan1925 安心專線119
Tanzania199 Afya Call Center 199 (Wizara ya Afya)112
Thailandia1323 สายด่วนสุขภาพจิต 13231669
Turchia112
Ucraina112
Ungheria116 123 Lelki Elsősegély Telefonszolgálat112
Vietnam0865 044 400 HOPE, hỗ trợ khủng hoảng115
  • OpenAI
  • Vercel
  • Next.js
  • React
  • Neon
  • PostgreSQL
  • Prisma
  • Upstash
  • Google
  • Resend
  • Twilio
  • GSAP