Мемы способны разрушать интеллект ИИ

Авторы нового масштабного исследования неожиданно для всех пришли к выводу, что большие языковые модели, обучающиеся с использованием большого количества популярного, но низкокачественного контента, могут постепенно "тупеть".

Что важно понимать, результаты этих исследований не отличаются от тех, которые проводились на людях.

Они потребляли большое количество низкокачественного содержания в социальных сетях, что оказывало непосредственное влияние на их когнитивные способности. Примечательно, что в 2024 году из-за распространенности этого явления в Оксфордском словаре для этого появился подходящий термин — "брейнрот".

С заявлением на этот счет выступил аспирант Техасского университета в Остине Джуньюань Хонг.

По его словам, главная проблема заключается в том, что мы живем в эпоху, когда информация растет быстрее, чем продолжительность концентрации внимания.

Значительная ее часть разработана для того, чтобы фиксировать клики, а не передавать правду или глубину, подчеркнул ученый.

Исследователи указывают на то, что модели "ШИ", которые "травились" большим количеством низкокачественного контента, было сложно восстановить или повторно натренировать.

Более того, указано, что они теряют способность качественно анализировать данные и фильтровать их.