ПРОЕКТ ДЛЯ ЮРИДИЧЕСКОЙ ПРОВЕРКИ (rascunho para revisão jurídica). Не публиковать до проверки юристом. Пункты в квадратных скобках ещё нужно заполнить.
Версия [VERSÃO], действует с [DATA DE VIGÊNCIA].
Pollyfriends это приложение для изучения языков, где вы общаетесь с друзьями, созданными искусственным интеллектом. Они не люди, не психотерапевты и не заменяют профессиональную помощь. И всё же разговор может дойти до тяжёлого момента. Этот публичный протокол объясняет, что делает приложение, когда человек показывает признаки того, что может причинить себе вред или покончить с собой.
Если вы в опасности прямо сейчас, позвоните по местному номеру экстренной помощи.
- США: 988 (Suicide and Crisis Lifeline, звонок или текстовое сообщение).
- Бразилия: CVV, 188 (бесплатный звонок, круглосуточно).
- Европейский союз: 112 или линия поддержки вашей страны.
- Другие страны: приложение показывает линию поддержки вашей страны, если она есть в нашей таблице проверенных номеров. Если вашей страны нет в таблице или мы не знаем, в какой стране вы находитесь, линии поддержки по странам можно найти в международном справочнике https://findahelpline.com.
1. Как приложение замечает признаки
Автоматические уровни проверяют то, что вы пишете или говорите, без того чтобы человеку нужно было читать разговор:
- Локальные правила для того, что вы отправляете. Список однозначных фраз риска (желание убить себя, покончить с собой, нежелание больше жить, мысли о самоубийстве, самоповреждение, план, прощание), сказанных от первого лица. Сегодня такой список есть на 16 языках: португальском, испанском, английском, немецком, французском, итальянском, нидерландском, польском, турецком, шведском, русском, арабском, хинди, японском, корейском и китайском (упрощённом и традиционном). Преувеличения и сленг («умираю со смеху»), смех в том же сообщении, тексты песен, художественный вымысел и новости не учитываются.
- Модерация того, что вы отправляете. Система модерации на основе искусственного интеллекта ставит оценку от 0 до 1 признакам самоубийства и самоповреждения в тексте, который вы пишете, в расшифровках ваших голосовых сообщений и звонков, в тексте вашего статуса и в подписях к фотографиям, которые вы отправляете. То же относится к тому, что вы пишете или говорите вне разговоров: к тому, что вы говорите в дебатах на Арене, к вашей просьбе в «Помоги мне тут», к полям свободного текста при создании друга, к тексту статуса, который комментируют ваши друзья, и к тому, что вы просите перевести помощника по письму («Как это сказать?» и подсказка фразы).
- Фильтр ответа. Ответ персонажа проходит второй фильтр, прежде чем дойти до вас, чтобы не было отправлено ничего неуместного.
Когда срабатывает протокол. В любом из этих случаев:
- появляется фраза из списка, и модерация её подтверждает (оценка 0,30 или выше), в самом сообщении или вместе с вашими последними сообщениями;
- модерация недоступна, а в сообщении появляется фраза из списка (правило действует само по себе);
- фразы из списка нет, но модерация даёт очень высокую оценку (0,75 или выше). Это страховка для языков без собственного списка и для фраз, которые список не предусмотрел. Она не действует, когда сообщение является преувеличением или содержит смех, когда это вопрос о лексике («как сказать», «что значит») и, на португальском, испанском и английском, когда речь идёт о песне, фильме, книге или новостях, или когда это мимолётная жалоба («хочу умереть» после плохого дня), которую персонаж воспринимает так, как воспринял бы друг, без карточки.
Оценка, которую система ответов сама даёт разговору, не запускает протокол сама по себе: она никогда не заменяет два уровня, описанные выше.
Перед выходом каждой версии приложения мы проверяем эти фильтры на наборе подготовленных нами кризисных случаев. Эти случаи должны проходить без единого сбоя.
Ни один автоматический фильтр не совершенен. Он может пропустить признак или отметить разговор, который не был кризисом. Поэтому номер помощи из этого протокола всегда доступен и в приложении, в разделе Настройки, Помощь, «Безопасность и номера помощи», и на этой странице.
Ограничения, о которых мы знаем сегодня:
- За пределами 16 языков с собственным списком обнаружение зависит только от оценки модерации. Идиома, сленговое слово или косвенная манера речи, которые модерация не распознаёт, могут пройти, не запустив протокол.
- Списки для немецкого, французского, итальянского, нидерландского, польского, турецкого, шведского, русского, арабского, хинди, японского, корейского и китайского языков новые и ещё не проверены носителями языка.
- Проверка орфографии, которая отмечает ошибки во время набора, не проходит через этот протокол, потому что читает ещё незаконченный текст. Когда вы отправляете сообщение, оно через него проходит. Через него проходят разговоры с друзьями, группы, голосовые сообщения, звонки, статус, подписи к фотографиям, дебаты на Арене, «Помоги мне тут», поля для создания друга и запросы к помощнику по письму.
2. Что происходит, когда появляется признак
- Персонаж откладывает историю в сторону и предлагает поддержку. Он перестаёт рассказывать о своей жизни, отвечает спокойно и просто, на том языке, которым пользовались вы, и направляет вас к реальной помощи. В этот момент нет исправления ошибок и нет урока.
- Приложение показывает собственную карточку, вне разговора с персонажем, с
линией поддержки страны, в которой вы находитесь: CVV 188 в Бразилии, 988 в
США и так далее. Карточка появляется один раз за эпизод (12 часов).
- Как выбирается страна. По часовому поясу вашего устройства, сохранённому в профиле. Никогда по стране персонажа, с которым вы говорите, и не по языку, который вы изучаете.
- Какие номера показываются. Только те, которые мы проверили по официальному источнику или в справочнике findahelpline.com. В таблице 67 стран; в 59 из них есть проверенная линия профилактики самоубийств или эмоциональной поддержки.
- Страна без проверенной линии. Карточка показывает экстренную службу страны и ссылку на международный справочник https://findahelpline.com.
- Неизвестная страна (устройство без часового пояса или часовой пояс страны, которой нет в таблице). Карточка не показывает ни одного номера, чтобы никогда не направить к номеру другой страны: она показывает ссылку на международный справочник и совет позвонить в местную экстренную службу.
- На каком языке показывается карточка. На вашем родном языке, который вы указали при регистрации. Если у нас ещё нет проверенного перевода части текста, эта часть показывается на английском. Для языка, который приложение не знает, вся карточка показывается на английском.
- Карточка не обещает бесплатный звонок. Многие линии поддержки бесплатны, но не все: в некоторых странах звонок стоит столько же, сколько обычный. Поскольку это зависит от страны, карточка не утверждает, что звонок бесплатный.
- Во время звонков звонок не прерывается, потому что, если повесить трубку в тяжёлый момент, человеку может стать хуже. Карточка с номерами появляется поверх экрана. «Помоги мне тут» работает так же: звонок продолжается, друг откладывает просьбу и предлагает поддержку, а карточка появляется поверх.
- Вне разговоров запрошенное действие не выполняется, а вместо него появляется карточка. В дебатах на Арене сказанное вами не попадает в дебаты. При создании друга ничего не создаётся. В статусе никто не реагирует и не комментирует, а статус исчезает с экрана. В помощнике по письму не показывается ни перевод, ни подсказка. Во всех этих случаях приложение показывает ту же карточку, с линией поддержки вашей страны или ссылкой на международный справочник, на вашем языке.
- Персонажи перестают писать первыми и звонить на 12 часов, чтобы ни один друг сразу после этого не прислал шутку или приглашение. Если вы напишете, персонаж ответит как обычно, бережно.
- Приложение фиксирует, что протокол сработал, как объясняется в разделе 4.
3. Чего никогда не происходит
- Персонаж никогда не поощряет самоповреждение, не учит способам и не описывает их.
- Персонаж никогда не утверждает, что он реальный человек, и никогда не представляется психотерапевтом, врачом или экстренной службой.
- Приложение никогда не обещает, что вам кто-то позвонит или приедет к вам. У нас нет дежурной команды, и мы не связываемся с экстренными службами по собственной инициативе.
- Приложение никогда не уведомляет вашу семью, ваши контакты или вашего работодателя.
- Ваш разговор никогда не используется в рекламе и не показывается другим пользователям.
4. Как мы считаем предупреждения без персональных данных
Закон Калифорнии (SB 243) и закон Нью-Йорка (General Business Law, Art. 47) требуют от приложений-компаньонов на основе ИИ иметь такой протокол, а Калифорния требует ежегодного отчёта о нём.
- Каждый раз, когда срабатывает протокол, система записывает внутреннее событие безопасности. Это событие связано с аккаунтом только для проверки безопасности и как подтверждение того, что протокол сработал, и хранится в течение срока, указанного в Политике конфиденциальности.
- Публичный отчёт и отчёт для органов власти содержат только обобщённые цифры (например, сколько раз за год была показана карточка помощи). В них нет имён, адресов электронной почты, номеров телефонов, текстов сообщений, аудио и каких-либо данных, позволяющих кого-либо идентифицировать.
- [CONFERIR: калифорнийское ведомство, которое получает отчёт, его формат и дата подачи, начиная с 01.07.2027.]
5. Пересмотр этого протокола
Мы пересматриваем этот протокол [PERIODICIDADE DE REVISÃO], а также каждый раз, когда меняется закон или реальный случай показывает, что можно улучшить. Действующая версия опубликована на https://pollyfriends.ai/ru/bezopasnost.
6. Контакты
Вопросы об этом протоколе: [E-MAIL DE SUPORTE] [RAZÃO SOCIAL], CNPJ [CNPJ], [ENDEREÇO]