{"id":52340,"date":"2024-08-05T13:16:00","date_gmt":"2024-08-05T18:16:00","guid":{"rendered":"https:\/\/www.alvarezjoseph.com\/blog\/?p=52340"},"modified":"2024-08-05T11:19:47","modified_gmt":"2024-08-05T16:19:47","slug":"openai-que-hay-detras-de-la-marca-de-agua-en-el-texto","status":"publish","type":"post","link":"https:\/\/www.alvarezjoseph.com\/blog\/openai-que-hay-detras-de-la-marca-de-agua-en-el-texto\/","title":{"rendered":"OpenAI: \u00bfQu\u00e9 hay detr\u00e1s de la marca de agua en el texto?"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">\u00bfAlguna vez te has preguntado si lo que lees en l\u00ednea realmente fue escrito por una persona? \u00a1No eres el \u00fanico! OpenAI ha estado trabajando en una herramienta que podr\u00eda identificar textos generados por su famoso ChatGPT. Sin embargo, la empresa est\u00e1 siendo cautelosa antes de lanzarla al p\u00fablico.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">El dilema de la marca de agua<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">La idea de OpenAI es simple pero poderosa: insertar una <strong>marca de agua invisible<\/strong> en los textos generados por ChatGPT. Esta marca de agua consistir\u00eda en <strong>peque\u00f1os cambios<\/strong> en la selecci\u00f3n de palabras que, aunque no perceptibles para los lectores, ser\u00edan detectables por una herramienta especializada. Esto podr\u00eda ser un golpe maestro para detectar a esos estudiantes p\u00edcaros que intentan hacer trampa en sus tareas.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Pero, \u00bfpor qu\u00e9 la demora en lanzarla?<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Complejidades y riesgos<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">OpenAI ha mencionado que el enfoque de marca de agua tiene <strong>riesgos importantes<\/strong>. La susceptibilidad a la evasi\u00f3n por parte de actores malintencionados y el impacto desproporcionado en grupos como los no angloparlantes son solo algunos de los desaf\u00edos.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>\u00abEl m\u00e9todo de marca de agua de texto que estamos desarrollando es t\u00e9cnicamente prometedor, pero tiene riesgos importantes que estamos sopesando mientras investigamos alternativas,\u00bb<\/strong> coment\u00f3 un portavoz de OpenAI.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Esta marca de agua podr\u00eda ser burlada mediante t\u00e9cnicas como la <strong>traducci\u00f3n de textos<\/strong>, la <strong>reformulaci\u00f3n<\/strong> con otros modelos generativos o incluso algo tan simple como <strong>insertar un car\u00e1cter especial entre cada palabra<\/strong> y luego eliminarlo. Todo esto complica la efectividad del sistema.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">El contexto hist\u00f3rico<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Este enfoque es diferente a los intentos anteriores para detectar textos generados por IA, que han sido en su mayor\u00eda <strong>ineficaces<\/strong>. Incluso OpenAI tuvo que cerrar su detector de texto de IA el a\u00f1o pasado debido a su <strong>baja tasa de precisi\u00f3n<\/strong>. Con la marca de agua, OpenAI espera centrarse en detectar exclusivamente los textos de ChatGPT, no de otros modelos.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Desaf\u00edos y futuras posibilidades<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">La actualizaci\u00f3n de <a href=\"https:\/\/openai.com\/index\/understanding-the-source-of-what-we-see-and-hear-online\/\" target=\"_blank\" rel=\"noopener\">OpenAI en su blog menciona<\/a> que, aunque las marcas de agua han demostrado ser <strong>precisas contra manipulaciones localizadas<\/strong> como la par\u00e1frasis, no son tan robustas frente a manipulaciones globales como la traducci\u00f3n. Esta es una preocupaci\u00f3n v\u00e1lida, especialmente considerando el <strong>impacto en hablantes no nativos de ingl\u00e9s<\/strong>. OpenAI reconoce que estas marcas de agua podr\u00edan estigmatizar el uso de la IA como herramienta de escritura para estos grupos.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>\u00abLas marcas de agua en el texto podr\u00edan estigmatizar el uso de la IA como una herramienta de escritura \u00fatil para hablantes no angloparlantes nativos,\u00bb<\/strong> se\u00f1ala la actualizaci\u00f3n.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Reflexionando sobre el futuro<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">La detecci\u00f3n de textos generados por IA es un campo en constante evoluci\u00f3n. Mientras OpenAI y otras empresas trabajan en mejorar estas tecnolog\u00edas, es importante considerar tanto las ventajas como los posibles efectos negativos. En \u00faltima instancia, la <strong>transparencia<\/strong> y el <strong>uso \u00e9tico<\/strong> de la inteligencia artificial son cruciales para el avance de esta tecnolog\u00eda.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Conclusi\u00f3n<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">La herramienta de marca de agua de texto de OpenAI promete ser una soluci\u00f3n innovadora para identificar textos generados por ChatGPT. Sin embargo, las complejidades y riesgos asociados con su implementaci\u00f3n requieren un enfoque cuidadoso. OpenAI contin\u00faa explorando alternativas para garantizar que esta tecnolog\u00eda sea <strong>precisa<\/strong>, <strong>equitativa<\/strong> y <strong>efectiva<\/strong>.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Preguntas Frecuentes<\/h3>\n\n\n\n<h4 class=\"wp-block-heading\">\u00bfQu\u00e9 es una marca de agua en el texto?<\/h4>\n\n\n\n<p class=\"wp-block-paragraph\">Es un m\u00e9todo para identificar textos generados por IA mediante <strong>cambios sutiles<\/strong> en la selecci\u00f3n de palabras, creando una especie de <strong>firma invisible<\/strong> detectable por herramientas especializadas.<\/p>\n\n\n\n<h4 class=\"wp-block-heading\">\u00bfPor qu\u00e9 OpenAI no ha lanzado a\u00fan esta herramienta?<\/h4>\n\n\n\n<p class=\"wp-block-paragraph\">Debido a <strong>riesgos importantes<\/strong> como la <strong>susceptibilidad a la evasi\u00f3n<\/strong> y el posible <strong>impacto negativo en no angloparlantes<\/strong>, OpenAI est\u00e1 adoptando un <strong>enfoque deliberado<\/strong> antes de su lanzamiento.<\/p>\n\n\n\n<h4 class=\"wp-block-heading\">\u00bfC\u00f3mo afecta esto a los estudiantes y escritores?<\/h4>\n\n\n\n<p class=\"wp-block-paragraph\">Podr\u00eda ayudar a detectar casos de <strong>trampa acad\u00e9mica<\/strong> y <strong>plagio<\/strong>, pero tambi\u00e9n plantea preocupaciones sobre el <strong>estigma<\/strong> para aquellos que usan IA como una herramienta de escritura, especialmente para los <strong>no angloparlantes nativos<\/strong>.<\/p>\n\n\n<div class=\"kk-star-ratings kksr-auto kksr-align-center kksr-valign-bottom\"\n    data-payload='{&quot;align&quot;:&quot;center&quot;,&quot;id&quot;:&quot;52340&quot;,&quot;slug&quot;:&quot;default&quot;,&quot;valign&quot;:&quot;bottom&quot;,&quot;ignore&quot;:&quot;&quot;,&quot;reference&quot;:&quot;auto&quot;,&quot;class&quot;:&quot;&quot;,&quot;count&quot;:&quot;10&quot;,&quot;legendonly&quot;:&quot;&quot;,&quot;readonly&quot;:&quot;&quot;,&quot;score&quot;:&quot;4.8&quot;,&quot;starsonly&quot;:&quot;&quot;,&quot;best&quot;:&quot;5&quot;,&quot;gap&quot;:&quot;5&quot;,&quot;greet&quot;:&quot;Valora el post&quot;,&quot;legend&quot;:&quot;4.8\\\/5 - (10 votos)&quot;,&quot;size&quot;:&quot;24&quot;,&quot;title&quot;:&quot;OpenAI: \u00bfQu\u00e9 hay detr\u00e1s de la marca de agua en el texto?&quot;,&quot;width&quot;:&quot;136.7&quot;,&quot;_legend&quot;:&quot;{score}\\\/{best} - ({count} {votes})&quot;,&quot;font_factor&quot;:&quot;1.25&quot;}'>\n            \n<div class=\"kksr-stars\">\n    \n<div class=\"kksr-stars-inactive\">\n            <div class=\"kksr-star\" data-star=\"1\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" data-star=\"2\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" data-star=\"3\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" data-star=\"4\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" data-star=\"5\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n    <\/div>\n    \n<div class=\"kksr-stars-active\" style=\"width: 136.7px;\">\n            <div class=\"kksr-star\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n    <\/div>\n<\/div>\n                \n\n<div class=\"kksr-legend\" style=\"font-size: 19.2px;\">\n            4.8\/5 - (10 votos)    <\/div>\n    <\/div>\n","protected":false},"excerpt":{"rendered":"<p>\u00bfAlguna vez te has preguntado si lo que lees en l\u00ednea realmente fue escrito por una persona? \u00a1No eres el \u00fanico! OpenAI ha estado trabajando en una herramienta que podr\u00eda identificar textos generados por su famoso ChatGPT. Sin embargo, la empresa est\u00e1 siendo cautelosa antes de lanzarla al p\u00fablico. El dilema de la marca de [&hellip;]<\/p>\n","protected":false},"author":2,"featured_media":52341,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[92],"tags":[],"class_list":["post-52340","post","type-post","status-publish","format-standard","has-post-thumbnail","category-inteligencia-artificial"],"_links":{"self":[{"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/posts\/52340","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/comments?post=52340"}],"version-history":[{"count":2,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/posts\/52340\/revisions"}],"predecessor-version":[{"id":52343,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/posts\/52340\/revisions\/52343"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/media\/52341"}],"wp:attachment":[{"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/media?parent=52340"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/categories?post=52340"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/tags?post=52340"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}