{"id":2300,"date":"2023-03-16T20:20:03","date_gmt":"2023-03-17T01:20:03","guid":{"rendered":"https:\/\/www.alvarezjoseph.com\/blog\/?p=2300"},"modified":"2023-07-01T10:55:38","modified_gmt":"2023-07-01T15:55:38","slug":"transparencia-en-la-ia","status":"publish","type":"post","link":"https:\/\/www.alvarezjoseph.com\/blog\/transparencia-en-la-ia\/","title":{"rendered":"\u00bfPodr\u00eda la falta de transparencia de ChatGPT da\u00f1ar la IA?"},"content":{"rendered":"\n

El programa de inteligencia artificial m\u00e1s importante del mundo en este momento es de una empresa que, a diferencia de muchas de sus pares, no publica su c\u00f3digo fuente. \u00bfQu\u00e9 implicaciones \u00e9ticas podr\u00eda tener esto? El pionero de la IA, Yoshua Bengio, director cient\u00edfico del Instituto MILA de Canad\u00e1 para la IA, advierte que la falta de transparencia de ChatGPT y GPT-4 podr\u00eda provocar un cambio da\u00f1ino hacia el secreto en la IA.<\/p>\n\n\n\n

La presi\u00f3n del mercado y la falta de divulgaci\u00f3n<\/h2>\n\n\n\n

Bengio advierte que la presi\u00f3n del mercado podr\u00eda empujar a la industria hacia una menor divulgaci\u00f3n, lo que podr\u00eda obstaculizar el progreso cient\u00edfico y causar otros da\u00f1os. El programa de lenguaje natural ChatGPT, creado por OpenAI, no es de c\u00f3digo abierto como muchos otros programas de lenguaje natural anteriores. Adem\u00e1s, la compa\u00f1\u00eda se neg\u00f3 a revelar los detalles t\u00e9cnicos de la \u00faltima versi\u00f3n, GPT-4. La naturaleza cerrada de ChatGPT podr\u00eda volverse mucho m\u00e1s la norma en la IA.<\/p>\n\n\n\n

La ruptura con la pr\u00e1ctica com\u00fan en la IA de aprendizaje profundo<\/h2>\n\n\n\n

La falta de transparencia de ChatGPT <\/strong>y GPT-4 es una ruptura con la pr\u00e1ctica com\u00fan en la IA de aprendizaje profundo, donde los acad\u00e9micos tanto acad\u00e9micos como empresariales han tendido a publicar agresivamente, siguiendo la tradici\u00f3n del software de c\u00f3digo abierto, donde el c\u00f3digo se hace f\u00e1cilmente disponible para quien lo desee.<\/p>\n\n\n\n

Implicaciones \u00e9ticas<\/h2>\n\n\n\n

Bengio, quien es profesor titular en la Universidad de Montreal y tambi\u00e9n codirige el Programa CIFAR de Aprendizaje en M\u00e1quinas y Cerebros, fue un orador invitado para una charla de una hora y media organizada por Collective[i] Forecast. En respuesta a la pregunta de la audiencia sobre si todav\u00eda es posible tener un marco \u00e9tico en la investigaci\u00f3n de IA, Bengio dijo que los acad\u00e9micos \u00abvan a seguir haciendo ciencia abierta y compartiendo su trabajo, porque eso es parte de su modelo\u00bb. Est\u00e1 menos claro que la investigaci\u00f3n de la industria seguir\u00e1 el camino abierto.<\/p>\n\n\n\n

El impacto en el progreso tecnol\u00f3gico<\/h2>\n\n\n\n

Bengio advierte que las pr\u00e1cticas secretas no solo podr\u00edan retrasar la investigaci\u00f3n de la industria, sino que tambi\u00e9n pueden ofuscar los da\u00f1os al p\u00fablico. Si la gente se mueve demasiado r\u00e1pido y rompe cosas, podr\u00eda ser malo, incluso podr\u00eda ser una reacci\u00f3n violenta para toda la industria. Las patentes no son suficientes, ya que la carne real de la investigaci\u00f3n est\u00e1 en los documentos cient\u00edficos. Las peque\u00f1as empresas tambi\u00e9n podr\u00edan verse afectadas por la falta de transparencia en la IA.<\/p>\n\n\n

\n \n
\n \n
\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n <\/div>\n \n
\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n <\/div>\n<\/div>\n \n\n
\n Valora el post<\/span>\n <\/div>\n <\/div>\n","protected":false},"excerpt":{"rendered":"

El programa de inteligencia artificial m\u00e1s importante del mundo en este momento es de una empresa que, a diferencia de muchas de sus pares, no publica su c\u00f3digo fuente. \u00bfQu\u00e9 implicaciones \u00e9ticas podr\u00eda tener esto? El pionero de la IA, Yoshua Bengio, director cient\u00edfico del Instituto MILA de Canad\u00e1 para la IA, advierte que la […]<\/p>\n","protected":false},"author":2,"featured_media":2302,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[93],"tags":[],"class_list":["post-2300","post","type-post","status-publish","format-standard","has-post-thumbnail","category-chatgpt"],"_links":{"self":[{"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/posts\/2300","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/comments?post=2300"}],"version-history":[{"count":0,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/posts\/2300\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/media\/2302"}],"wp:attachment":[{"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/media?parent=2300"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/categories?post=2300"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/tags?post=2300"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}