Пока разработчики ИИ пытаются урезонить технологию, чтобы она не развивались слишком быстро, у самого цифрового разума, очевидно другие планы. Исследователи из лаборатории Emergence обнаружили, что модели ИИ создали собственный язык для общения между собой.
По данным The Guardian, новые диалекты возникают так быстро, что специалисты не успевают отслеживать поведение систем. Они отмечают, что во время “разговора” модели применяют фразы и сокращения, которым их никогда не учили.
Например, одно из “высказываний” DeepSeek выглядела так: «Она только что назвала синтез — демередж плюс устная память равно клапан, который нельзя призрачить».
Из приведенного набора слов, ученым удалось разгадать только значение «демередж». В предложении лексема используется в качестве определения налога на богатство. Остальные части фразы остались загадкой для исследователей.
Аналогичное поведение со склонностью к пространным “разговорам” фиксировали у Anthropic, Google, Mistral и других моделей ИИ.
- Структура нового “цифрового языка общения” основана на поэтических фразах и технических терминах. Все вместе это производит гремучую лексическую смесь, которую ученым еще предстоит разгадать.
Исполнительный председатель Emergence, доктор Сатья Нитта подчеркнул, что расширением своего словарного запаса цифровой разум занялся самостоятельно без участия специалистов данной сферы.
«Этим агентам не давали указаний изобретать язык. Они сами разработали новый словарный запас, общие значения и коммуникативные нормы, — и другие участники процесса переняли их», — сказал он.
Таким образом, у разработчиков ИИ появилось еще одно доказательство самостоятельности системы. “Язык”, созданный искусственным разумом, затрудняет контроль над ним. Переписка ИИ-агентов доступна специалистам, но они пока не в состоянии понять, о чем “говорят” технологии.
Доктор Найл Карри, доцент кафедры языков и лингвистики Бирмингемского университета в интервью The Guardian высказал опасения, что системы могут скрывать собственные мотивы в зашифрованных предложениях. Если это действительно так, то в действиях ИИ уже нельзя быть полностью уверенным.
“Доказательства, представленные в этом исследовании, естественно, вызывают определенные опасения по поводу мониторинга, поскольку, если мы обнаружим, что межагентные обмены непонятны, это может означать, что мы не можем быть уверены в том, что на самом деле сделали агенты”, - отмечает доктор Карри.
Фото: ИИ
Ирина Боно - Заместитель главного редактора Библио ТВ. Сотрудник Отдела информационного развития, массовых коммуникаций и издательской деятельности Библиотеки искусств им. А.П. Боголюбова
