Компанія Meta заявила, що змінює спосіб навчання своїх чат-ботів зі штучним інтелектом. Відтепер вони надаватимуть пріоритет безпеці неповнолітніх та уникатимуть недоречних тем. Ці зміни запроваджено після розслідування щодо відсутності в компанії належних механізмів захисту для підлітків. Про це повідомляє «Главком» з посиланням на TechCrunch.

Згідно з оновленими правилами, чат-боти будуть навчені не спілкуватися з підлітками на теми самогубства, самошкодження, розладів харчової поведінки або інших потенційно недоречних романтичних розмов. Замість цього, штучний інтелект спрямовуватиме користувачів до експертних ресурсів.

Крім того, Meta обмежить доступ неповнолітніх до певних персонажів зі штучним інтелектом, що можуть вести недоречні діалоги. Підліткам будуть доступні лише ті чат-боти, які сприяють освіті та творчості.

Зміни в політиці компанії відбулися через два тижні після того, як розслідування Reuters виявило внутрішній документ, який дозволяв чат-ботам вести сексуальні розмови з неповнолітніми. Після публікації цього звіту сенатор Джош Хоулі розпочав офіційне розслідування, а коаліція з 44 генеральних прокурорів штатів висловила обурення позицією компанії.

Речник Meta Стефані Отвей визнала, що раніше чат-боти могли спілкуватися на ці теми, і компанія вважає це помилкою. За її словами, Meta постійно вдосконалює свої системи, щоб забезпечити «безпечний та відповідний віку досвід роботи зі штучним інтелектом».

Нагадаємо, компанія OpenAI оголосила, що тепер скануватиме розмови користувачів у ChatGPT. Особливо тривожний контент, пов'язаний із погрозами нашкодити іншим, буде передаватися співробітникам для перевірки, а в деяких випадках про це можуть повідомити поліцію. Це рішення ухвалено на тлі зростання кількості випадків, коли чат-боти на основі штучного інтелекту призводили до криз психічного здоров’я користувачів. Про це повідомляє «Главком» з посиланням на OpenAI.

У новій публікації в блозі OpenAI визнала певні недоліки у своїх системах, які можуть впливати на психічне здоров'я користувачів. Компанія заявила, що тепер відстежує чати на наявність «шкідливого контенту».