Некоммерческая организация Common Sense Media опубликовала исследование о рисках ИИ Google Gemini. Несмотря на то, что сервис подчеркивает: он компьютер, а не "друг", эксперты считают, что продукт все же несет серьезные угрозы для детей и подростков.

Об этом сообщает РБК-Украина со ссылкой на сайт TechCrunch.

Эксперты отметили, что версии Gemini "для детей до 13 лет" и "для подростков" фактически мало отличаются от взрослой версии системы, лишь с минимальными фильтрами безопасности. При этом ИИ по-прежнему способен делиться "неподходящими и небезопасными" материалами - от информации о наркотиках, алкоголе и сексе до сомнительных советов по психическому здоровью.

Особую обеспокоенность вызывает то, что ИИ может стать фактором риска для подростков с нестабильным эмоциональным состоянием. В отчете напоминается, что в последние месяцы ИИ-сервисы уже фигурировали в делах о самоубийствах несовершеннолетних.

В частности, против OpenAI подан первый иск о "неправомерной смерти" - родители 16-летнего подростка утверждают, что он консультировался с ChatGPT перед суицидом. Похожие претензии ранее предъявлялись и к разработчику Character.AI.

На этом фоне особенно важно, что Apple рассматривает использование Gemini в новой версии голосового ассистента Siri, запуск которой ожидается в 2025 году. Эксперты предупреждают: без дополнительных мер безопасности это может увеличить риски для молодежи.

"Gemini делает некоторые базовые вещи правильно, но проваливается в деталях. ИИ для детей должен учитывать их возраст и потребности, а не быть слегка измененной версией взрослого продукта", - отметил Робби Торни, старший директор программ ИИ в Common Sense Media.

В Google не согласились с выводами организации, заявив, что компания продолжает совершенствовать систему защиты. В компании подчеркнули, что для пользователей младше 18 лет действуют отдельные политики и фильтры, разрабатываемые с привлечением внешних экспертов.

При этом Google признала, что некоторые ответы Gemini действительно "работали не так, как задумано", и были добавлены дополнительные меры безопасности.

Ранее Common Sense Media оценивала и другие популярные ИИ-сервисы. Meta AI и Character.AI были признаны "неприемлемыми" из-за крайне высоких рисков, Perplexity - "высокорисковым", ChatGPT -  "умеренным", а Claude (доступен только пользователям старше 18 лет) получил минимальную оценку риска.

Вас может заинтересовать:

• Google добавила редактирование фото в Gemini
• Как отключить историю чатов в Google Gemini
• Как улучшить качество ответов Gemini всего одним действием