Научные исследования vs ИИ новый алгоритм различает настоящие статьи от генерации нейросетей
Исследователи из Соединенных Штатов представили новый алгоритм, способный с практически 100% точностью отличать настоящие научные статьи и другие публикации, написанные людьми, от творчества ChatGPT и результатов других нейронных сетей на схожие темы. Первые результаты этого метода были опубликованы в журнале Cell Reports Physical Science.
"Мы постарались разработать простой и доступный метод, который сможет использовать даже школьник для обнаружения искусственного интеллекта в различных письменных источниках. Эта проблема стала особенно актуальной в последнее время, и теперь для борьбы с ней не обязательно быть экспертом в области компьютерных наук", - заявила профессор Хэзер Десейр из Университета штата Канзас. Ее слова были переданы пресс-службой журнала.
Профессор Десейр и ее коллеги разработали относительно простой алгоритм, который с вероятностью более 99% может отличить научные творения искусственного интеллекта от реальных научных публикаций, созданных людьми. Для этого исследователи использовали набор статей из журнала Science в качестве обучающего материала для научной версии ChatGPT, способной генерировать подобные тексты.
В частности, ученые обнаружили, что люди предпочитают использовать более сложные структуры абзацев, чем нейросеть, и часто используют наречия и другие слова, такие как "но", "однако" и "хотя". С другой стороны, искусственная система часто употребляет слова "исследователи" и "другие", которые не характерны для реальных ученых. Кроме того, у людей присутствует большая вариативность в длине и структуре предложений.
Ученые отмечают, что данный алгоритм может быть адаптирован для обнаружения признаков творчества ChatGPT и других систем искусственного интеллекта в других формах письменных текстов. Это позволит быстро выявлять попытки представить работы нейронных сетей за результаты учащихся в школах и университетах, заключили исследователи.