BOZZA PER REVISIONE LEGALE (rascunho para revisão jurídica). Non pubblicare prima della revisione di un avvocato. Le voci tra parentesi quadre devono ancora essere compilate.
Versione [VERSÃO], in vigore dal [DATA DE VIGÊNCIA].
Pollyfriends è un'app di lingue in cui chiacchieri con amici creati dall'intelligenza artificiale. Non sono persone, non sono terapeuti e non sostituiscono un aiuto professionale. Eppure, una conversazione può arrivare a un momento difficile. Questo protocollo pubblico spiega cosa fa l'app quando qualcuno mostra segnali di potersi fare del male o togliersi la vita.
Se sei in pericolo in questo momento, chiama il numero di emergenza locale.
- Stati Uniti: 988 (Suicide and Crisis Lifeline, chiamata o SMS).
- Brasile: CVV, 188 (chiamata gratuita, 24 ore su 24).
- Unione europea: 112, oppure la linea di ascolto del tuo paese.
- Altri paesi: l'app mostra la linea di ascolto del tuo paese quando è nella nostra tabella di numeri verificati. Se il tuo paese non è nella tabella, o se non sappiamo in quale paese ti trovi, la directory internazionale https://findahelpline.com elenca le linee di ascolto per paese.
1. Come l'app si accorge dei segnali
Livelli automatici esaminano ciò che scrivi o dici, senza che una persona debba leggere la conversazione:
- Regole locali su ciò che invii. Un elenco di frasi di rischio inequivocabili (volersi uccidere, togliersi la vita, non voler più vivere, pensare al suicidio, farsi del male, un piano, un addio), dette in prima persona. Oggi questo elenco esiste in 16 lingue: portoghese, spagnolo, inglese, tedesco, francese, italiano, olandese, polacco, turco, svedese, russo, arabo, hindi, giapponese, coreano e cinese (semplificato e tradizionale). Esagerazioni e gergo (“morire dal ridere”), risate nello stesso messaggio, testi di canzoni, finzione e notizie restano fuori.
- Moderazione su ciò che invii. Un sistema di moderazione con intelligenza artificiale assegna un punteggio da 0 a 1 ai segnali di suicidio e autolesionismo nel testo che scrivi, nelle trascrizioni dei tuoi messaggi vocali e delle chiamate, nel testo del tuo stato e nella didascalia delle foto che invii. Lo stesso vale per ciò che scrivi o dici fuori dalle conversazioni: quello che dici in un dibattito dell'Arena, la tua richiesta in “Aiutami qui”, i campi di testo libero quando crei un amico, il testo dello stato che i tuoi amici commentano e ciò che chiedi di tradurre all'aiuto alla scrittura (“Come si dice?” e il suggerimento di frase).
- Filtro sulla risposta. La risposta del personaggio passa per un secondo filtro prima di arrivarti, perché non venga inviato nulla di inappropriato.
Quando scatta il protocollo. In ciascuno di questi casi:
- compare una frase dell'elenco e la moderazione la conferma (punteggio di 0,30 o superiore), nel messaggio stesso o insieme ai tuoi ultimi messaggi;
- la moderazione non è disponibile e nel messaggio compare una frase dell'elenco (la regola vale da sola);
- non compare nessuna frase dell'elenco, ma la moderazione dà un punteggio molto alto (0,75 o superiore). È la rete di sicurezza per le lingue senza un elenco proprio e per le frasi che l'elenco non ha previsto. Non si applica quando il messaggio è un'esagerazione o contiene risate, quando è una domanda di vocabolario (“come si dice”, “cosa significa”) e, in portoghese, spagnolo e inglese, quando parla di una canzone, un film, un libro o delle notizie, o quando è uno sfogo passeggero (“voglio morire” dopo una brutta giornata), che il personaggio accoglie come farebbe un amico, senza scheda.
La valutazione che il sistema di risposta fa da solo della conversazione non fa scattare il protocollo da sola: non sostituisce mai i due livelli qui sopra.
Prima che ogni versione dell'app vada online, testiamo questi filtri con una serie di casi di crisi che abbiamo preparato. Questi casi devono passare senza alcun errore.
Nessun filtro automatico è perfetto. Può non accorgersi di un segnale o segnalare una conversazione che non era una crisi. Per questo il numero di aiuto di questo protocollo è disponibile in ogni momento anche nell'app, in Impostazioni, Aiuto, “Sicurezza e numeri di aiuto”, e in questa pagina.
Limiti che conosciamo oggi:
- Fuori dalle 16 lingue con un elenco proprio, il rilevamento dipende solo dal punteggio di moderazione. Un modo di dire, un termine gergale o un modo indiretto di parlare che la moderazione non riconosce possono passare senza far scattare il protocollo.
- Gli elenchi per tedesco, francese, italiano, olandese, polacco, turco, svedese, russo, arabo, hindi, giapponese, coreano e cinese sono nuovi e non sono ancora stati rivisti da madrelingua.
- Il correttore ortografico che segna gli errori mentre scrivi non passa per questo protocollo, perché legge un testo ancora incompleto. Quando invii il messaggio, ci passa. Le conversazioni con gli amici, i gruppi, i messaggi vocali, le chiamate, lo stato, le didascalie delle foto, il dibattito dell'Arena, “Aiutami qui”, i campi per creare un amico e le richieste all'aiuto alla scrittura ci passano tutti.
2. Cosa succede quando compare un segnale
- Il personaggio mette da parte la storia e offre supporto. Smette di parlare della propria vita, risponde con calma e in modo semplice, nella lingua che hai usato, e ti indica un aiuto reale. In quel momento non ci sono correzioni di lingua né lezioni.
- L'app mostra una propria scheda, fuori dalla conversazione con il
personaggio, con la linea di ascolto del paese in cui ti trovi: CVV 188 in
Brasile, 988 negli Stati Uniti e così via. La scheda compare una volta per
episodio (12 ore).
- Come viene scelto il paese. In base al fuso orario del tuo dispositivo, salvato nel tuo profilo. Mai in base al paese del personaggio con cui parli, né alla lingua che stai studiando.
- Quali numeri compaiono. Solo quelli che abbiamo verificato alla fonte ufficiale o nella directory findahelpline.com. La tabella comprende 67 paesi; in 59 di questi esiste una linea verificata di prevenzione del suicidio o di supporto emotivo.
- Paese senza linea verificata. La scheda mostra il servizio di emergenza del paese e il link alla directory internazionale https://findahelpline.com.
- Paese sconosciuto (un dispositivo senza fuso orario, o un fuso orario di un paese fuori dalla tabella). La scheda non mostra alcun numero, per non indicare mai il numero di un altro paese: mostra il link alla directory internazionale e il consiglio di chiamare il servizio di emergenza locale.
- In quale lingua compare la scheda. Nella tua lingua madre, quella che hai indicato al momento dell'iscrizione. Quando non abbiamo ancora una traduzione rivista di una parte del testo, quella parte compare in inglese. Per una lingua che l'app non conosce, tutta la scheda compare in inglese.
- La scheda non promette una chiamata gratuita. Molte linee di ascolto sono gratuite, ma non tutte: in alcuni paesi la chiamata costa quanto una chiamata normale. Poiché questo cambia da paese a paese, la scheda non dice che la chiamata è gratuita.
- Durante le chiamate, la chiamata non viene interrotta, perché chiudere la chiamata a qualcuno in un momento difficile può peggiorare le cose. La scheda con i numeri compare sopra lo schermo. “Aiutami qui” funziona allo stesso modo: la chiamata continua, l'amico mette da parte la richiesta e offre supporto, e la scheda compare sopra.
- Fuori dalle conversazioni, l'azione che hai chiesto non va avanti e al suo posto compare la scheda. In un dibattito dell'Arena, quello che hai detto non entra nel dibattito. Quando crei un amico, non viene creato nulla. Nello stato, nessuno reagisce o commenta e lo stato esce dallo schermo. Nell'aiuto alla scrittura non compare nessuna traduzione o suggerimento. In tutti questi casi l'app mostra la stessa scheda, con la linea di ascolto del tuo paese o il link alla directory internazionale, nella tua lingua.
- I personaggi smettono di scrivere per primi e di chiamare per 12 ore, perché nessun amico mandi una battuta o un invito subito dopo. Se scrivi tu, il personaggio risponde come sempre, con attenzione.
- L'app registra che il protocollo è scattato, come spiegato nella sezione 4.
3. Cosa non succede mai
- Il personaggio non incoraggia, non insegna e non descrive mai modi per farsi del male.
- Il personaggio non dice mai di essere una persona reale e non si presenta mai come terapeuta, medico o servizio di emergenza.
- L'app non promette mai che qualcuno ti chiamerà o verrà da te. Non abbiamo una squadra di reperibilità e non contattiamo di nostra iniziativa i servizi di emergenza.
- L'app non avvisa mai la tua famiglia, i tuoi contatti o il tuo datore di lavoro.
- La tua conversazione non viene mai usata nella pubblicità né mostrata ad altri utenti.
4. Come contiamo gli avvisi senza dati personali
La legge della California (SB 243) e la legge di New York (General Business Law, Art. 47) impongono questo protocollo alle app di compagnia con IA, e la California richiede una relazione annuale in merito.
- Ogni volta che il protocollo scatta, il sistema registra un evento di sicurezza interno. Questo evento è collegato all'account solo per la revisione di sicurezza e come prova che il protocollo ha funzionato, e segue il periodo di conservazione dell'Informativa sulla privacy.
- La relazione pubblica e quella alle autorità contengono solo numeri aggregati (per esempio, quante volte la scheda di aiuto è stata mostrata nell'anno). Non contengono nomi, e-mail, numeri di telefono, testi di messaggi, audio né alcun dato che identifichi qualcuno.
- [CONFERIR: l'ente della California che riceve la relazione, il suo formato e la data di presentazione, a partire dal 01/07/2027.]
5. Revisione di questo protocollo
Rivediamo questo protocollo [PERIODICIDADE DE REVISÃO] e ogni volta che la legge cambia o un caso reale mostra qualcosa da migliorare. La versione in vigore è pubblicata su https://pollyfriends.ai/it/sicurezza.
6. Contatti
Domande su questo protocollo: [E-MAIL DE SUPORTE] [RAZÃO SOCIAL], CNPJ [CNPJ], [ENDEREÇO]