Не секрет, что в работе нейросетей иногда возникают ошибки, которые становятся предметом шуток и каламбуров. Но иногда такие недочеты скорее расстраивают. Недавний закон о маркировке литературы, в которой упоминаются наркотические вещества, вскоре может стать поводом усомниться в адекватности современных технологий. Примером этому является неприятная ситуация, в которой оказался писатель Виктор Драгунский.
Нейросеть по ошибке решила, что произведения автора имеют отношения к пропаганде запрещенных веществ. Дело в том, что фамилия “Драгунский” созвучна английскому слову drug - «наркотик». На основании похожего принципа ИИ отказался считывать слово “героиня”.
В пресс-службе «Эксмо-АСТ» инцидент обозначили, как «один из распространенных казусов, с которым сталкивается книжная отрасль».
В сообщении также отметили, что нейросеть осуществляет проверку литературы на основе анализа проблемных фрагментов. В ходе одного из таких исследований в “ловушку” угодил Виктор Дарагунский - один из торговых партнеров издательской группы выпустил заключение о необходимости маркировки книг автора.
«Законов и регулирования много, а ИИ настраивают специально максимально широко, чтобы ничего не пропустить. <...> Это лишь в очередной раз иллюстрирует, как непросто нам, книжникам, подстроиться под требования о маркировке упоминаний наркотиков в связи с необходимостью автоматизированной и ручной проверки огромного количества наименований, более 3 млн, вышедших с августа 1990 года», — сообщили в «Эксмо-АСТ».
Запрещенные вещества не единственная тема, которую ИИ воспринимает своеобразно. По словам анонимного работника книжной отрасли, на некоторые книги нейросеть любит вешать ярлык “порнография”.
«Казусы проверки ИИ — их много. Если не брать наркотики, то была еще книга про опорно-двигательный аппарат — это уже по части порнографии».
Из-за многочисленных ошибок технологий редакторам приходится самостоятельно проверять тексты.
Несмотря на “отмену”, которую ИИ устроил Виктору Драгунскому, писатель не расстроился. Ситуация его даже повеселила и он пообещал написать сатирический рассказ на тему нейросетей.
Однако изданию “Коммерсант” автор высказался в ином ключе:
«До этого меня проверяли, и какие-то книжки ушли из электронной продажи. Насчет "драг" как наркотики — это чушь. Что они сделают с книжками моего отца, которые издаются огромными тиражами во всех издательствах нашей родины? И что делать с "Бородино", где есть "драгуны с конскими хвостами"? Поэтому на каждую нейросеть должен быть человек. Мы должны понимать, где от этого есть польза, а где вред. В отношении фамилии спорить вообще нельзя, это выходит за рамки здравого смысла. Иначе как дурацкую, но смешную шутку я это расценить не могу», - сказал Драгунский.
Фото: freepik
