Last updated / Обновлено: 2026-09-15
AI Family's assistant chat includes an automated safety check for messages about suicide or self-harm. No AI model is involved in this specific decision: a fixed, human-reviewed list of explicit phrases in Russian and English is checked against your own message before it is ever sent to the assistant, and against the assistant's reply before it is shown to you. If either one matches, the assistant is not consulted at all (for your message) or its reply is discarded entirely (for its own reply), and you see a support card instead — a short message encouraging you to talk to a trusted adult, together with the contact details of a crisis support service where we have one verified for your country.
Your message itself is still saved in the chat the same way every message is, encrypted at rest — screening only decides whether it is sent onward to the assistant, not whether it is kept.
The assistant is instructed to never claim or imply it is a human being, and to say plainly that it is an AI if asked directly. It is not a therapist, a doctor, or a crisis counselor. It is told never to discuss methods of self-harm, even if asked in a detached or hypothetical way, and never to try to counsel you itself — only to encourage you to reach out to a trusted adult and to support services. For medical or financial questions, it is instructed to never diagnose a condition, suggest treatment, or recommend specific investments, and to add a short reminder that this is not medical or financial advice and that you should consult a professional. None of this makes the assistant a crisis service. If you or someone in your family is in danger right now, please contact your local emergency number.
The safety card shows services chosen for your family's country — set automatically from your device when your family account is created. If your family was created before this existed, or the field is empty, we fall back to a guess based on your family's time zone instead; if neither gives us a country we recognize, the card shows only the supportive text above, with no phone number.
These are the services we currently show, each checked by the team against an official source:
For any country not listed above, the card shows the supportive text only, without a phone number — please use your local emergency number.
When the check triggers, we record only the bare fact that it did: your household, the family account whose message triggered it, which direction triggered it (your message or the assistant's reply), and the time. The text that triggered it is never stored in this record. The account is kept so this record can be removed if that account is later deleted — this exists so we can, when required, report how often this safeguard is used, never so we, or anyone else, can go back and read what was written.
If the person chatting is registered as 13 to 17 years old, the assistant is additionally instructed to never discuss sexual content, graphic violence, gambling, drugs, or alcohol with them, regardless of how the question is phrased.
This is a safeguard, not a guarantee, and we would rather be direct about that than oversell it:
For questions about this protocol, use the same contact as our privacy policy: see "Contact" at https://aifamily.pro/privacy.
---
В чате с помощником AI Family работает автоматическая проверка сообщений о суициде и самоповреждении. Модель ИИ в этом конкретном решении не участвует: фиксированный, проверенный человеком список явных формулировок на русском и английском сверяется с вашим собственным сообщением ещё до того, как оно уходит помощнику, и с ответом помощника — до того, как этот ответ показан вам. При совпадении помощник вообще не вызывается (для вашего сообщения) либо его ответ целиком отбрасывается (для ответа самого помощника), и вместо этого вы видите карточку поддержки: короткое сообщение с предложением поговорить с близким взрослым и, если для вашей страны есть проверенный номер, контакты службы поддержки.
Само ваше сообщение при этом всё равно сохраняется в переписке как обычно, в зашифрованном виде — проверка решает только, уйдёт ли оно дальше помощнику, а не будет ли оно сохранено.
Помощнику прямо запрещено выдавать себя за человека, и на прямой вопрос он обязан честно ответить, что он — ИИ. Он не психотерапевт, не врач и не кризисный консультант. Ему запрещено обсуждать способы самоповреждения, даже если вопрос задан отстранённо или гипотетически, и запрещено пытаться консультировать вас самому — только предлагать обратиться к близкому взрослому и в службы поддержки. По медицинским и финансовым вопросам ему запрещено ставить диагнозы, предлагать лечение или давать конкретные инвестиционные рекомендации — вместо этого он обязан добавить короткое напоминание, что это не медицинская и не финансовая консультация и что по важным вопросам стоит обратиться к специалисту. Ничто из этого не делает помощника службой экстренной помощи. Если вам или кому-то в вашей семье сейчас угрожает опасность, пожалуйста, обратитесь на местный номер экстренной службы.
Карточка показывает службы, подобранные по стране вашей семьи — она определяется автоматически по региону устройства при создании семьи в приложении. Если ваша семья была создана до появления этого поля, или поле пустое, мы используем запасной вариант — предположение по часовому поясу семьи; если и оно не даёт распознанной страны, карточка показывает только текст поддержки без номера телефона.
Вот службы, которые мы сейчас показываем, — каждая проверена командой по официальному источнику:
Для остальных стран карточка показывает только текст поддержки, без номера телефона — пожалуйста, используйте местный номер экстренной службы.
Когда проверка срабатывает, мы записываем только сам факт срабатывания: ваше хозяйство, учётную запись участника, чьё сообщение вызвало срабатывание, какое направление сработало (ваше сообщение или ответ помощника) и время. Текст, вызвавший срабатывание, в эту запись никогда не попадает. Учётная запись хранится здесь для того, чтобы эту запись можно было удалить при удалении самого аккаунта, — это нужно, чтобы при необходимости отчитаться, как часто используется эта защита, а не чтобы кто-либо мог потом прочитать, что было написано.
Если пишущий зарегистрирован как человек 13–17 лет, помощнику дополнительно запрещено обсуждать с ним темы сексуального характера, жестокого насилия, азартных игр, наркотиков и алкоголя — независимо от того, как сформулирован вопрос.
Это защитный механизм, а не гарантия, и мы предпочитаем сказать об этом прямо, а не приукрашивать:
По вопросам, связанным с этим протоколом, — тот же контакт, что и в политике конфиденциальности: см. раздел «Контакты» на https://aifamily.pro/privacy.