{"id":40249,"date":"2024-07-01T10:13:01","date_gmt":"2024-07-01T15:13:01","guid":{"rendered":"https:\/\/www.alvarezjoseph.com\/blog\/?p=40249"},"modified":"2024-07-01T10:13:03","modified_gmt":"2024-07-01T15:13:03","slug":"palabras-reveladoras-el-nuevo-rastro-de-los-textos-generados-por-ia","status":"publish","type":"post","link":"https:\/\/www.alvarezjoseph.com\/blog\/palabras-reveladoras-el-nuevo-rastro-de-los-textos-generados-por-ia\/","title":{"rendered":"Palabras Reveladoras: El Nuevo Rastro de los Textos Generados por IA"},"content":{"rendered":"\n

En el mundo de la inteligencia artificial<\/strong>, las empresas han tenido dificultades para detectar de manera confiable<\/strong> cu\u00e1ndo un texto se ha generado utilizando un modelo de lenguaje grande (LLM)<\/strong>. Sin embargo, un grupo de investigadores ha encontrado un m\u00e9todo novedoso para identificar el uso de LLM<\/strong> en escritos cient\u00edficos, midiendo qu\u00e9 \u00abpalabras en exceso\u00bb<\/strong> comenzaron a aparecer con m\u00e1s frecuencia durante la era LLM, es decir, 2023 y 2024<\/strong>. Los resultados son sorprendentes: al menos el 10% de los res\u00famenes de 2024<\/strong> parecen haber sido procesados con LLM.<\/p>\n\n\n\n

Inspiraci\u00f3n en la Pandemia<\/h2>\n\n\n\n

Cuatro investigadores de la Universidad de Tubinga<\/strong> y la Universidad Northwestern de Alemania<\/strong> se inspiraron en estudios que med\u00edan el impacto de la pandemia de COVID-19 observando el exceso de muertes<\/strong>. Aplicaron un enfoque similar al \u00abuso excesivo de palabras\u00bb<\/strong> despu\u00e9s de que las herramientas de escritura LLM se popularizaran a fines de 2022<\/strong>. Descubrieron que la llegada de los LLM llev\u00f3 a un aumento abrupto<\/strong> en la frecuencia de ciertas palabras de estilo, un fen\u00f3meno sin precedentes tanto en calidad como en cantidad.<\/p>\n\n\n\n

Analizando el Vocabulario<\/h2>\n\n\n\n

Para medir estos cambios, los investigadores analizaron 14 millones de res\u00famenes<\/strong> de art\u00edculos publicados en PubMed <\/a>entre 2010 y 2024<\/strong>. Compararon la frecuencia esperada<\/strong> de ciertas palabras (seg\u00fan la tendencia anterior a 2023) con la frecuencia real<\/strong> en los res\u00famenes de 2023 y 2024. Encontraron una serie de palabras que eran extremadamente poco comunes<\/strong> antes de 2023 y que aumentaron repentinamente<\/strong> despu\u00e9s de la introducci\u00f3n de los LLM.<\/p>\n\n\n\n

Palabra<\/th>Incremento en Uso<\/th><\/tr><\/thead>
delves<\/td>25 veces m\u00e1s<\/td><\/tr>
showcasing<\/td>9 veces m\u00e1s<\/td><\/tr>
underscores<\/td>9 veces m\u00e1s<\/td><\/tr>
potential<\/td>+4.1%<\/td><\/tr>
findings<\/td>+2.7%<\/td><\/tr>
crucial<\/td>+2.6%<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n

Cambios Naturales del Lenguaje<\/h2>\n\n\n\n

Es importante considerar que estos cambios en el uso de palabras podr\u00edan ocurrir de forma natural. Sin embargo, los investigadores notaron que, en la era anterior a los LLM, estos aumentos masivos y repentinos solo se observaban en palabras relacionadas con eventos de salud mundial<\/strong>: por ejemplo, \u00ab\u00e9bola\u00bb en 2015 y \u00abcoronavirus\u00bb durante la pandemia de COVID-19.<\/p>\n\n\n\n

Un Fen\u00f3meno Distinto<\/h2>\n\n\n\n

En contraste, en la era posterior a los LLM, los investigadores encontraron cientos de palabras con aumentos abruptos<\/strong> en el uso cient\u00edfico, sin un v\u00ednculo com\u00fan con eventos mundiales. A diferencia de las palabras relacionadas con la pandemia, que eran en su mayor\u00eda sustantivos, las palabras con frecuencia aumentada<\/strong> despu\u00e9s de los LLM eran principalmente \u00abpalabras de estilo\u00bb<\/strong> como verbos, adjetivos y adverbios.<\/p>\n\n\n\n

Detecci\u00f3n y Consecuencias<\/h2>\n\n\n\n

Los investigadores estiman que al menos el 10% de los art\u00edculos<\/strong> posteriores a 2022 en PubMed se escribieron con asistencia de LLM<\/strong>. Este porcentaje puede variar entre diferentes pa\u00edses; por ejemplo, en China, Corea del Sur y Taiw\u00e1n<\/strong>, el uso de palabras de referencia de LLM es del 15%<\/strong>. Esto sugiere que los LLM podr\u00edan estar ayudando a los no nativos a editar textos en ingl\u00e9s<\/strong>.<\/p>\n\n\n\n

La Importancia de Detectar LLM<\/h2>\n\n\n\n

Detectar el uso de LLM es crucial porque estas herramientas son conocidas por inventar referencias, proporcionar res\u00famenes inexactos y hacer afirmaciones falsas<\/strong> que pueden sonar convincentes. A medida que el conocimiento sobre las palabras clave de LLM<\/strong> se difunda, los editores humanos pueden mejorar en eliminar estas palabras<\/strong> del texto generado antes de publicarlo.<\/p>\n\n\n\n

El Futuro de los Modelos de Lenguaje<\/h2>\n\n\n\n

\u00bfPodr\u00edan los futuros modelos de lenguaje realizar este tipo de an\u00e1lisis de frecuencia por s\u00ed mismos? Es posible que pronto necesitemos nuevas herramientas para identificar el texto generativo de IA<\/strong> que se esconde entre nosotros.<\/p>\n\n\n\n

\n\n\n\n

En resumen, los modelos de lenguaje grandes<\/strong> han dejado una huella detectable en la literatura cient\u00edfica. A trav\u00e9s del an\u00e1lisis de palabras en exceso, los investigadores han abierto una ventana a la identificaci\u00f3n del texto generado por IA, destacando la compleja interacci\u00f3n<\/strong> entre la tecnolog\u00eda y la evoluci\u00f3n del lenguaje.<\/p>\n\n\n

\n \n
\n \n
\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n <\/div>\n \n
\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n <\/div>\n<\/div>\n \n\n
\n 5\/5 - (3 votos) <\/div>\n <\/div>\n","protected":false},"excerpt":{"rendered":"

En el mundo de la inteligencia artificial, las empresas han tenido dificultades para detectar de manera confiable cu\u00e1ndo un texto se ha generado utilizando un modelo de lenguaje grande (LLM). Sin embargo, un grupo de investigadores ha encontrado un m\u00e9todo novedoso para identificar el uso de LLM en escritos cient\u00edficos, midiendo qu\u00e9 \u00abpalabras en exceso\u00bb […]<\/p>\n","protected":false},"author":2,"featured_media":40251,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[72],"tags":[],"class_list":["post-40249","post","type-post","status-publish","format-standard","has-post-thumbnail","category-noticias-de-tecnologia"],"_links":{"self":[{"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/posts\/40249","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/comments?post=40249"}],"version-history":[{"count":0,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/posts\/40249\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/media\/40251"}],"wp:attachment":[{"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/media?parent=40249"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/categories?post=40249"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/tags?post=40249"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}