miércoles, 23 de octubre de 2024
jueves, 17 de octubre de 2024
Universo abierto: Julio Alonso Arévalo
Características de los artículos científicos fabricados con Inteligencia Artificial en Google Scholar
Haider, J., Söderström, K. R., Ekström, B., & Rödl, M. (2024). GPT-fabricated scientific papers on Google Scholar: Key features, spread, and implications for preempting evidence manipulation. Harvard Kennedy School (HKS) Misinformation Review. https://doi.org/10.37016/mr-2020-156
El artículo analiza el creciente número de trabajos científicos cuestionables generados por inteligencia artificial (IA), como ChatGPT, que se están publicando en revistas académicas y repositorios. Estos trabajos, que imitan el estilo de la escritura científica, están siendo fácilmente localizados y listados por Google Scholar junto con investigaciones legítimas. El estudio se centró en un grupo de estos artículos y encontró que muchos tratan temas aplicados y a menudo controversiales, como el medio ambiente, la salud y la computación, áreas particularmente vulnerables a la desinformación. La preocupación radica en el aumento del potencial de manipulación malintencionada de la base de evidencia, especialmente en temas divisivos políticamente.
El estudio se centra en la producción y difusión de publicaciones cuestionables generadas con transformadores preentrenados (GPT) que son accesibles a través de Google Scholar, abordando varios aspectos clave: primero, se investiga dónde se publican o depositan estas publicaciones dudosas. Este análisis busca identificar los tipos de revistas y plataformas que albergan este contenido. En segundo lugar, se examinan las características principales de estas publicaciones en relación con las categorías temáticas predominantes, permitiendo una comprensión más profunda de los temas que son más susceptibles al uso indebido de la inteligencia artificial generativa. Además, se explora cómo se difunden estas publicaciones en la infraestructura de investigación para la comunicación académica, prestando atención a los canales y plataformas que facilitan su circulación. Esto incluye la identificación de dominios y repositorios donde se comparten estos trabajos. Finalmente, la investigación cuestiona el papel de la infraestructura de comunicación académica en la preservación de la confianza pública en la ciencia y la evidencia, considerando los desafíos que presenta el uso inapropiado de la inteligencia artificial generativa en este contexto. Este aspecto subraya la necesidad de una regulación más efectiva y la implementación de criterios de calidad en la publicación académica.
Para ello, se recuperó, descargó y analizó una muestra de artículos científicos con indicios de uso de GPT encontrados en Google Scholar, utilizando una combinación de codificación cualitativa y estadísticas descriptivas. Todos los artículos contenían al menos una de dos frases comunes generadas por agentes conversacionales que utilizan grandes modelos de lenguaje (LLM) como ChatGPT. Luego, se utilizó Google Search para determinar la extensión de las copias de estos artículos cuestionables en diversos repositorios, archivos, bases de datos de citas y plataformas de redes sociales.
Aproximadamente dos tercios de los artículos recuperados fueron producidos, al menos en parte, mediante el uso no divulgado y potencialmente engañoso de GPT. La mayoría de estos trabajos (57%) abordaban temas relevantes para políticas públicas, como el medio ambiente, la salud y la computación, los cuales son susceptibles a operaciones de influencia. La mayoría de estos artículos estaban disponibles en varias copias en diferentes dominios (redes sociales, archivos y repositorios).
La mayoría de los artículos sospechosos de uso fraudulento de ChatGPT se encontraron en revistas no indexadas o como trabajos en proceso, aunque algunos también aparecieron en revistas establecidas, conferencias y repositorios. En total, se identificaron 139 artículos, de los cuales 19 estaban en revistas indexadas, 89 en revistas no indexadas, 19 eran trabajos estudiantiles y 12 eran documentos de trabajo. La mayoría de los artículos trataban temas de relevancia política, como la salud y el medio ambiente, y se encontraban principalmente en revistas no indexadas.
Existen dos riesgos principales derivados del uso cada vez más común de GPT para producir de manera masiva publicaciones científicas falsas. Primero, la abundancia de “estudios” fabricados que se infiltran en todas las áreas de la infraestructura de investigación amenaza con sobrecargar el sistema de comunicación académica y poner en peligro la integridad del registro científico. El segundo riesgo es que el contenido, aunque parezca científicamente convincente, haya sido creado de manera engañosa con herramientas de IA y esté optimizado para ser recuperado por motores de búsqueda académicos públicos, especialmente Google Scholar. Aunque esta posibilidad sea pequeña, su conocimiento podría socavar la confianza en el conocimiento científico y representar graves riesgos para la sociedad.
El estudio subraya que el problema de las publicaciones científicas fraudulentas generadas por GPT es solo la punta del iceberg, con implicaciones profundas para la confianza en la ciencia y para la sociedad en general.
jueves, 21 de septiembre de 2023
miércoles, 25 de mayo de 2022
miércoles, 2 de marzo de 2022
jueves, 28 de octubre de 2021
jueves, 21 de octubre de 2021
lunes, 11 de mayo de 2020
sábado, 18 de abril de 2020
viernes, 10 de abril de 2020
viernes, 3 de abril de 2020
viernes, 27 de marzo de 2020
miércoles, 13 de noviembre de 2019
miércoles, 30 de noviembre de 2016
Pedagogía
¿Cómo realizar correctamente una investigación académica?
Entrevista a María de los Ángeles Fernández y Julio del Valle sobre su libro “Cómo iniciarse en la investigación académica”
- José Miguel Silva
- Periodista
- @jomisilvamerino
Con el propósito de facilitar las cosas para los estudiantes de nivel superior, los docentes y expertos en metodología de la investigación, María de los Ángeles Fernández y Julio del Valle, publicaron “Cómo iniciarse en la investigación académica” (Fondo Editorial PUCP, 2016), una guía que desmenuza paso a paso el esqueleto de un trabajo académicamente competente.
Conversamos con ambos autores sobre este libro cuyo gran mensaje puede resumirse en que todos somos capaces de aprender a investigar y plasmar los resultados de forma adecuada.
-¿En qué etapa fallan la mayoría de estudiantes que realizan una investigación académica?
María de los Ángeles Fernández: Creo que todo el proceso de llevar a cabo una investigación tiene su dificultad, que no se agota en las etapas iniciales. Sin embargo, creo que el momento de la formulación del tema es probablemente lo que más les cuesta porque en ahí donde deben aclarar a qué van a dedicar sus esfuerzos en los próximos tiempos y eso supone un trabajo de abstracción pero también de síntesis muy fuerte. Una vez que logran dicho primer paso, los siguientes –a pesar de que también conllevan dificultad—fluyen de manera algo más natural.
Julio del Valle: Hay dos momentos adicionales que son importantes de considerar. El primero es aterrizar el tema que quieres desarrollar y convertirlo en un plan de trabajo. Que haya pasos que debes cumplir. Asimismo, también es complicado darle contenido al esquema o plan ideado.
-Una de las quejas más comunes es “no hay bibliografía para mi tema”. ¿Cuánto de cierto hay en esta afirmación?
María de los Ángeles Fernández: La habilidad misma para buscar fuentes de información que puedan ser insumos para el tema que uno se plantea también tiene un proceso de aprendizaje. Uno va aprendiendo a buscar fuentes y la mejor manera de aprender es buscando. Sí es cierto que depende del nivel. Si pensamos en alumnos que recién han ingresado a la universidad u otros que ya están terminando su carrera, su habilidad para buscar información varía. Una de las cosas que recomendamos es que cuando se elige el tema de investigación se decida de acuerdo a un criterio de realidad, de saber cuáles son mis habilidades en ese momento, cuál es el tiempo del que dispongo y qué puedo hacer con él, de modo que mi investigación sea sólida y suficiente.
-Y si un alumno nunca se vio obligado a investigar en el colegio y, de pronto, llega a la universidad y debe desarrollar una tesis…
Julio del Valle: Está en graves problemas, porque además hay una cultura nacional y latinoamericana que está muy relacionada a la venta de ciertos productos como la Internet. Te venden la idea de que si la tienes puedes bajar información, pegarla y ya está tu trabajo de investigación. Ahí se generan muchas distorsiones, entre ellas la peor es el plagio: no reconocer de dónde se toman las fuentes. La otra distorsión es que no tienes la distancia suficiente como para construir una argumentación tuya, y pensar que solo basta con tomar cosas de aquí o de allá. El colegio es una instancia fundamental para despertar la curiosidad intelectual que te puede llevar a hacer un trabajo académico.
María de los Ángeles Fernández: Más allá de los déficit que deja el colegio a los alumnos que llegan a la universidad, la apuesta detrás del libro es que sí se puede aprender a investigar, siempre y cuando uno tenga una pauta clara y ciertos objetivos delimitados y concretos desde que uno empieza. Con los vacíos que un alumno llega, se puede construir un trabajo propio, original, elaborado en base a fuentes de información consultado en una serie de semanas. La idea es ayudarlos a hacer eso y no a quedarse en ideas cerradas en torno a que investigar es bajar fuentes de internet y hacer ‘copy paste’ o que quizás no tienen algo que aportar.
-Hablando del ‘copy paste’. En el periodismo se estila mucho ‘voltear’ textos ajenos. ¿En el ámbito académico, tomar ideas ajenas y decirlas con otras palabras es considerado plagio?
María de los Ángeles Fernández: La idea detrás del trabajo académico es que cualquier información que tomes de otra fuente debe ir acompañada de una referencia. Incluso si la pones en otras palabras o si te parece obvia y que casi estás de acuerdo con lo que dice la fuente, siempre hay que reconocer el origen de la información. Y esto es algo que para los estudiantes más jóvenes puede resultar un poco contra intuitivo, porque llegan a un punto en que están tan cercanos a la información, se la apropian y no ven la necesidad de reconocer el origen externo.
-El libro está planteado de una forma muy práctica. ¿De qué forma plantearon su estructura?
Julio del Valle: El libro sigue una estructura estratégica para empezar desde cero y terminar con un producto académicamente competente. Lo primero es que uno encuentre un tema de investigación que pueda ser trabajado en un tiempo determinado. Luego viene la segunda parte: tener una pregunta de investigación, que implica tener una aproximación intuitiva inicial y puede ser llamada hipótesis o respuesta tentativa. Luego hay que aterrizar lo intuitivo en un recorrido de trabajo, es decir, los objetivos metodológicos que propician el esquema. Junto a esto más las fuentes de información necesarias, vas a poder darle contenido y redactar tu trabajo de investigación. Estas son las secuencias del libro.
-¿Cuánto han cambiado las formas de enseñar metodología de investigación en las universidades a lo largo de los últimos años?
María de los Ángeles Fernández: Nuestra aproximación es bastante práctica. No hacemos una discusión epistemológica sobre qué es ciencia o saber, sino que vamos directamente a la pauta y estrategia de cómo se hace investigación. En ese sentido, si bien los referentes no han cambiado, lo diferente hoy es la aproximación: un poco más empática con el estudiante y con lo que trae de conocimientos previos y puede aprovechar para hacer una investigación. Porque hay que aprender a investigar, pero también a enseñar a hacerlo. Pasa esto por cursos de metodología, textos y por un acompañamiento correcto.
Julio del Valle: Ya no está presente la conciencia en torno a que existe un método científico. Lo que hay ahora es que las diferentes áreas del saber tienen sus metodologías particulares. Lo que sí es importante señalar es que para hacer un trabajo de investigación necesitas escoger un área en particular. No puedes pasar de una a otra y luego regresar a la primera.
-La Ley Universitaria exige tesis para titularse. ¿Están de acuerdo con esta iniciativa?
María de los Ángeles Fernández: Depende. Creo que uno debe pedir productos de investigación en función del nivel disciplinar de los estudiantes. No será igual una monografía que le pedimos a un alumno de nivel inicial de estudios generales, que una tesina de bachillerato o una tesis de maestría. Creo que siempre y cuando los objetivos sean claros y el nivel sea el adecuado, los alumnos pueden investigar y hacer productos buenos. Es trabajo de nosotros los docentes darles las herramientas adecuadas y decirles qué se espera de ellos.
Julio del Valle: El espíritu de la ley me parece acertado porque despertará la curiosidad intelectual y acostumbrará a las personas que se están formando en la universidad a que quieran investigar. Eso me parece altamente positivo. Lo que no debería pasar es que esto se constituya en protocolos muy rígidos, meramente formales y que sea solo un saludo a la bandera cada producto que uno entrega. Depende por dónde se incline la balanza podremos estar contentos o no con lo que la ley está pidiendo.
-Finalmente, ¿la capacidad de sintetizar se aprende en el colegio o en la universidad?
Julio del Valle: Creo que en la época que vivimos, dentro de esta cultura visual, está muy avocada a la síntesis. Un tuit es eso. Y cada vez la gente se demora menos tiempos en leer algo. Creo que en este momento nuestra cultura está aterrizando en la necesidad de sintetizar información. Eso tiene ventajas y desventajas. El colegio está cada vez enfatizando más en productos sintéticos. Lo que vemos en la experiencia universitaria es que cada vez es más complicado tener población de estudiantes con una buena capacidad de análisis. Eso falla hoy porque implica detenerse el tiempo suficiente en un punto para ir en profundidad. Eso demanda concentración y actualmente estamos difuminados en muchos puntos de atención al mismo tiempo. Y eso hace que tengas una mirada superficial de cada uno de ellos.
SOBRE EL LIBRO
“Cómo iniciarse en la investigación académica” cuesta 30 soles y puedes comprarlo AQUÍ o en las principales librerías de Lima.
