Об этом сообщает Futurism, передает RegioNews.

Компания OpenAI использует внутренние механизмы для мониторинга общения в ChatGPT. В сервисе действует фильтр, реагирующий на отдельные "триггеры" или ключевые слова, свидетельствующие о потенциальном преступлении.

Обнаруженные сообщения сначала поступают в группу модераторов компании. Они анализируют содержание диалога и определяют, представляет ли он реальную угрозу людям или может указывать на подготовку к противоправным действиям. Если такая угроза подтверждается, OpenAI принимает решение передать информацию в правоохранительные органы.

Эксперты отмечают, что подобные системы внедряются с целью предотвращения опасных ситуаций. В то же время, вопрос конфиденциальности и границ вмешательства в частное общение пользователей остается дискуссионным.

Ранее сообщалось, Верховная Рада готовит законопроект, который легализует использование искусственного интеллекта студентами в вузах. Документ предусматривает возможность применения ИИ при написании академических работ при обязательном указании этого в тексте.