Guia necessário para o uso da inteligência artificial na detecção de comportamentos inadequados na apresentação de artigos para revistas científicas

#Repost UniversoAberto (tradução nossa)

Revistas e editores estão usando cada vez mais inteligência artificial (IA) para examinar submissões em busca de possíveis más condutas, incluindo plágio e manipulação de dados ou imagens.

Embora o uso da IA ​​possa melhorar a integridade dos manuscritos publicados, também pode aumentar o risco de acusações falsas/infundadas. As ambiguidades relacionadas com as responsabilidades das revistas e dos editores no que diz respeito à justiça e à transparência também suscitam preocupações éticas.

Este artigo fornece as seguintes orientações:

1. Todos os casos de suspeita de má conduta identificados pelas ferramentas de IA devem ser cuidadosamente revistos por seres humanos para verificar a precisão e garantir a responsabilização;
2. As revistas/editores que utilizam ferramentas de IA para detectar má conduta devem usar apenas ferramentas bem testadas e confiáveis, permanecer vigilantes em relação às formas de má conduta que não podem ser detectadas por essas ferramentas e manter-se a par dos avanços da tecnologia;
3. Os periódicos/editores devem informar os autores sobre irregularidades identificadas pelas ferramentas de IA e dar-lhes a oportunidade de responder antes de enviar alegações às suas instituições, de acordo com as diretrizes do Comitê de Ética em Publicações;
4. Revistas/editores que usam ferramentas de IA para detectar má conduta devem examinar todos os envios relevantes e não apenas os envios selecionados aleatoriamente/intencionalmente; e
5. Os periódicos devem informar os autores sobre sua definição de má conduta, o uso de ferramentas de IA para detectar má conduta e suas políticas e procedimentos para responder a casos suspeitos de má conduta.

Texto referência: Hosseini, Mohammad, y David B Resnik. Guidance Needed for Using Artificial Intelligence to Screen Journal Submissions for Misconduct. Research Ethics, 11 de mayo de 2024, 17470161241254052. https://doi.org/10.1177/17470161241254052.