ChatGPT в науке: фейки, галлюцинации и вымышленные ученые

пост на 2 мин
Поделиться
Поделиться статьёй
Спросить ИИ
Вопрос по теме статьи

Вопрос можно изменить. Если сервис не поддерживает ссылку с вопросом, текст будет скопирован.

Использование ChatGPT в научных исследованиях стало настолько массовым, что это привело к появлению тысяч статей, содержащих недостоверную информацию. Искусственный интеллект, который изначально создавался для помощи, теперь часто вводит в заблуждение, генерируя фейковые данные и даже вымышленных авторов. Например, если ввести в Google Scholar фразу «Certainly, here’s» — одну из любимых ChatGPT — можно обнаружить множество научных работ, где ИИ использовался для написания текстов. Проблема в том, что многие из этих статей содержат ошибки или полностью выдуманные данные. Особенно это касается таких важных областей, как медицина, сельское хозяйство и технологии.

Более того, некоторые «исследователи», указанные в качестве авторов, оказываются фейковыми. ИИ создает не только тексты, но и профили ученых с поддельными фотографиями и биографиями. Указанные в работах источники часто невозможно проверить, так как они либо не существуют, либо ведут на нерелевантные материалы.

Эксперты бьют тревогу: массовое использование ИИ в науке без должного контроля может подорвать доверие к научным исследованиям. Уже сейчас появляются призывы к строгой проверке статей и введению новых стандартов для использования ИИ в академической среде.

AiGENDA напоминает, что искусственный интеллект — мощный инструмент, но его использование требует ответственности. Если вы ученый, дважды проверяйте данные, сгенерированные ИИ. Если читатель — критически оценивайте источники. В эпоху цифровых технологий доверие к информации становится ценнее, чем когда-либо.