Ученые продолжают вытаскивать на свет неприглядные стороны нейросетей. За видимым удобством технологий скрываются недостатки, которые дают о себе знать со временем. Проблемы растут по мере их использования. Одну из таких неприятностей исследовали в журнале Nature Human Behaviour.
Проанализировав тексты в интернете, специалисты пришли к выводу, что продолжительное применение ИИ для написания материалов, приводит к обеднению языка.
Сегодня проблема сгенерированных текстов одна из самых актуальных. Цифровой разум распространил свою деятельность в СМИ, соцсетях и литературе, а инструмента по выявлению его работы до сих пор нет. Поэтому ИИ бессовестно ломает структуру языка, снижая его разнообразие.
Раньше написанный текст никто не подозревал в “искусственности”. Всем было понятно, что между строк скрыта человеческая мысль . Сегодня все изменилось: специалисты вынуждены изучать тексты максимально подробно, цепляясь за каждую мелочь, в надежде найти признаки использования искусственного мозга.
Длительный анализ работ позволил исследователям выявить несколько форм, по которым возможно определить “следы” деятельности нейросетей.
Одним из очевидных признаков сгенерированного текста является частое использование слов «тщательный», «подчеркивать» и «замысловатый». С 2022 года эти прилагательные буквально оккупировали научные труды. Однако применение слов еще не доказывает технологическую деятельность. При определении ИИ следует обращать внимание на структуру самих предложений: цифровой разум всегда выдает идеальное построение фраз.
Следующим индикатором для поиска нейросетей стал сюжет, разработанный по принципу трех элементов. В таком тексте ярко выражены три ступени: завязка, конфронтация, развязка. Сам принцип довольно известен и его часто применяют настоящие авторы, но ИИ следует требованиям с максимальной точностью: в программе заложено строгое соблюдение правил.
Длинное вступление также должно насторожить - считают специалисты. Они отмечают склонность алгоритмов к “плетению словес”. Однако не стоит путать наличие лексической “воды” в тексте с простым желанием автора выразить мнение по существующей теме. В этом случае, каждый подобный текст следует оценивать индивидуально, а не вешать ярлыки “сделано ИИ” на любое длинное вступление.
И еще о об объеме текста. Ученые продолжают настаивать, что излишне длинные работы могут являться порождением машинного разума. Здесь следует отметить, что нейросети большие любители высказываться. Отличить подлинные тексты от технических можно по контексту. Например, при раскрытии одной темы настоящий автор может что-то сократить или ввести неполностью, а нейросеть этого делать не станет: технология выложит все, что знает со всеми нюансами, которые ей удалось выяснить.
Для облегчения поиска неуловимых “следов” технологий сегодня разрабатывают специальные программы, однако их эффективность оставляет желать лучшего. Часто инструменты принимают подлинные тексты за искусственные. Количество таких казусов доходит до 61%. Одна программа и вовсе опозорилась, приняв 97% текстов, написанных людьми, за творение ИИ.
Поэтому масштабная борьба с цифровым разумом пока откладывается: в настоящее время для этого нет подходящих методов. А нам остается лишь пассивно наблюдать, как технологии захватывают все больше территорий в различных областях. Влияние ИИ на язык уже дает свои плоды: лексическое разнообразие в письменной и в устной речи сокращается, оставляя шаблонные варианты. Если ситуация в ближайшие годы не изменится, то язык ожидает деградация.
Фото: magnific
https://www.nature.com/articles/s41562-026-02550-0
Ирина Боно - Заместитель главного редактора Библио ТВ. Сотрудник Отдела информационного развития, массовых коммуникаций и издательской деятельности Библиотеки искусств им. А.П. Боголюбова
