Издательства меняют правила в связи с появлением ChatGPT

Некоторые издательские чиновники все еще прорабатывают детали, например, когда они могут попросить сотрудников журнала, редакторов или рецензентов изучить или проверить на достоверность сгенерированный текст, раскрытый авторами, - задачи, которые добавят дополнительную нагрузку к тому, что зачастую и так является тяжелой работой для добровольцев. Редакторы издательской группы Taylor & Francis, чьи грядущие правила, вероятно, потребуют раскрытия такого текста, иногда могут попросить авторов указать, какие части их рукописи были написаны компьютером, говорит Сабина Алам, директор по издательской этике и добросовестности. Поиск статей для включения в систематический обзор может быть законным использованием, если исследователь следует надлежащим методам при принятии решения о том, какие статьи включить, например, говорит она, в то время как вырезание и вставка в обзор или статью "не является нормальным, потому что это не ваша точка зрения". По ее словам, эта политика, вероятно, будет меняться по мере того, как издательская индустрия будет приобретать все больше опыта работы с такими рукописями. "Мы рассматриваем это как поэтапный подход. Это действительно ранние дни".

 

Руководители журналов также говорят, что они надеются отслеживать новую технологию с помощью других технологий: автоматических детекторов, которые могут отмечать синтетические тексты. Но это нелегко, говорит Доменик Розати, старший научный сотрудник компании scite.ai, которая разрабатывает программное обеспечение для научных издательств. "Мы еще далеко не достигли того момента, когда в науке, в частности, можно будет сказать, что очевидно, что [определенный текст был создан] машиной из-за его беглости или отсутствия правдивости".

 

Существующие детекторы оставляют желать лучшего. В прошлом месяце OpenAI представила свой "классификатор", который классифицирует присланные тексты по шкале от "вероятно", что они были написаны компьютером, до "очень маловероятно". Классификатор обучался на парных образцах человеческого текста и текста, сгенерированного компьютером, с помощью 34 алгоритмов от пяти различных компаний, включая саму OpenAI. Однако OpenAI признает ряд ограничений. Инструмент, который все еще находится в стадии разработки, правильно применяет ярлык "вероятно" только в 26% случаев. Люди могут обмануть его, отредактировав сгенерированный компьютером текст. И он может не всегда последовательно определять синтетический текст на темы, которые не были включены в обучающие данные. Компьютерные ученые говорят, что эти недостатки обычно присущи и другим детекторам.

 

Возможно, на горизонте появятся более совершенные решения. В декабре 2022 года компания OpenAI заявила, что работает над тем, как сделать генерируемый текст "водяным знаком". Она запрограммирует свои модели на вставку слов, орфографию и пунктуацию в определенном порядке, чтобы создать секретный код, обнаруживаемый поисковыми системами. А в прошлом месяце команда из Стэнфордского университета опубликовала препринт с описанием алгоритма DetectGPT, который, в отличие от других детекторов, не требует обучения. Этот алгоритм исследует текст, создавая несколько случайных вариаций и запрашивая генератор текста о том, какие версии он предпочитает. Степень, в которой генератор, разработанный OpenAI и похожий на ChatGPT, отдает предпочтение оригинальному тексту по сравнению с измененными версиями, постоянно отличается для текстов, написанных человеком и сгенерированных ИИ, что позволяет DetectGPT предсказать вероятность того, что образец был получен от конкретной машины. Но DetectGPT нуждается в дальнейшей разработке, прежде чем редакторы журналов смогут полагаться исключительно на его результаты, например, при принятии решений по рукописям, говорит Эрик Митчелл, докторант, возглавлявший команду из Стэнфорда. Компания TurnItIn, которая выпускает широко используемый детектор плагиата, на прошлой неделе заявила, что планирует вывести на рынок детектор синтетического текста уже в апреле. TurnItIn утверждает, что инструмент, обученный на академических текстах, может идентифицировать 97% текстов, созданных ChatGPT, с коэффициентом ложных срабатываний один к 100.

 

По словам Розати, еще одной вычислительной задачей является оценка фактической точности текста, сгенерированного роботом, и качества его резюме. Его фирма работает над автоматической программой проверки, которая будет изучать существующую научную литературу, чтобы определить, действительно ли конкретная цитата в рукописи представляет тот вывод, о котором говорится в рукописи, например. По словам Розати, этот инструмент может выявить ссылки, сфабрикованные машиной, а также неактуальные или неверные ссылки, предоставленные людьми.

 

Некоторые редакторы видят в появлении ChatGPT и его родственников как перспективу, так и опасность. Программисты разрабатывают и совершенствуют программное обеспечение, которое создает гипотезы, пишет компьютерный код и анализирует данные, например, чтобы сделать работу исследователей более эффективной и продуктивной. "Я вижу сценарии, в которых будут причины для беспокойства, но в то же время я вижу и огромные возможности для использования подобных инструментов", - говорит Магдалена Скиппер, главный редактор журнала Nature. "Как и в случае с любым инструментом, мы должны понимать ограничения. ... Это требует от нас пристального внимания к тому, как разрабатываются эти инструменты, как они используются и в каком контексте".

Источник: science.org