Разработчики ChatGPT внедряют новую систему безопасности: искусственный интеллект научится распознавать пользователей, демонстрирующих признаки радикализации. Как сообщает Reuters, таких собеседников алгоритм будет мягко перенаправлять в специализированные диалоговые модули, задача которых — «дерадикализация» и конструктивный диалог.
Инициатива призвана снизить юридические и репутационные риски платформы на фоне участившихся судебных разбирательств. Техническую реализацию доверили новозеландскому стартапу ThroughLine, который уже имеет опыт создания инструментов для перенаправления пользователей в службы психологической помощи при выявлении запросов, связанных с самоповреждением.
Проект будет реализован в партнёрстве с международной инициативой The Christchurch Call, занимающейся противодействием онлайн-ненависти. Эксперты организации предоставят методологическую базу для работы с экстремистским контентом, а команда ThroughLine сосредоточится на разработке самого чат-бота для оперативного вмешательства. Таким образом, технологическое решение получит как техническую, так и экспертную поддержку.
https://www.reuters.com/sustainability/society-equity/crisis-contractor-openai-anthropic-eyes-move-combat-extremism-2026-04-02/
