{"id":74991,"date":"2024-11-15T10:43:08","date_gmt":"2024-11-15T15:43:08","guid":{"rendered":"https:\/\/www.alvarezjoseph.com\/blog\/?p=74991"},"modified":"2024-11-15T10:43:10","modified_gmt":"2024-11-15T15:43:10","slug":"la-ia-generativa-esta-frenando-que-paso-con-el-boom","status":"publish","type":"post","link":"https:\/\/www.alvarezjoseph.com\/blog\/la-ia-generativa-esta-frenando-que-paso-con-el-boom\/","title":{"rendered":"La IA generativa est\u00e1 frenando: \u00bfQu\u00e9 pas\u00f3 con el boom?"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">El tema de la <strong>IA generativa<\/strong> lleva meses en boca de todos, pero \u00faltimamente, el entusiasmo se est\u00e1 desinflando. \u00bfPor qu\u00e9? Pues resulta que lo de entrenar modelos gigantes con toneladas de <strong>GPUs<\/strong> y monta\u00f1as de datos ya no est\u00e1 funcionando como antes. Seg\u00fan <strong>Ilya Sutskever<\/strong>, uno de los creadores de ChatGPT, hemos llegado a un punto donde m\u00e1s no siempre significa mejor.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">\u00bfTe acuerdas cuando cada nuevo modelo de IA era como una revoluci\u00f3n? Bueno, eso ya no est\u00e1 pasando. Ahora las empresas parecen atrapadas en una carrera sin sentido por ver qui\u00e9n tiene el modelo m\u00e1s grande, pero los resultados no justifican el esfuerzo ni el dinero invertido.<\/p>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<h2 class=\"wp-block-heading\">\u00bfDe verdad m\u00e1s GPUs solucionan algo?<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Por a\u00f1os, la estrategia ha sido sencilla: <strong>a\u00f1adir m\u00e1s GPUs, m\u00e1s datos y esperar magia<\/strong>. Pero \u00faltimamente, los resultados han sido decepcionantes. Entrenar un modelo grande puede costar decenas de millones de d\u00f3lares y meses de trabajo, y al final, puede que no sea mejor que el modelo anterior.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Sutskever, junto con otros expertos como <strong>Yann LeCun<\/strong> (jefe de IA en Meta), <a href=\"https:\/\/www.threads.net\/@yannlecun\/post\/DCTeagdN_th?xmt=AQGzwugSx2clYnCPrawJ8Ait-sjxVVyyDLUThj1y7YGM5w\" target=\"_blank\" rel=\"noopener\">coincide en que <strong>este enfoque est\u00e1 agotado<\/strong><\/a>. Ya no basta con apilar recursos; necesitamos ideas nuevas. \u00bfLo peor? El salto de calidad entre los modelos de 2023 y los m\u00e1s recientes es casi imperceptible. Vamos, que estamos viendo una desaceleraci\u00f3n clara.<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img fetchpriority=\"high\" decoding=\"async\" width=\"1024\" height=\"683\" src=\"https:\/\/www.alvarezjoseph.com\/blog\/wp-content\/uploads\/2024\/11\/1366_2000-1-1024x683.jpeg\" alt=\"-\" class=\"wp-image-74993\" title=\"Imagen de\" srcset=\"https:\/\/www.alvarezjoseph.com\/blog\/wp-content\/uploads\/2024\/11\/1366_2000-1-1024x683.jpeg 1024w, https:\/\/www.alvarezjoseph.com\/blog\/wp-content\/uploads\/2024\/11\/1366_2000-1-300x200.jpeg 300w, https:\/\/www.alvarezjoseph.com\/blog\/wp-content\/uploads\/2024\/11\/1366_2000-1-768x512.jpeg 768w, https:\/\/www.alvarezjoseph.com\/blog\/wp-content\/uploads\/2024\/11\/1366_2000-1-330x220.jpeg 330w, https:\/\/www.alvarezjoseph.com\/blog\/wp-content\/uploads\/2024\/11\/1366_2000-1-420x280.jpeg 420w, https:\/\/www.alvarezjoseph.com\/blog\/wp-content\/uploads\/2024\/11\/1366_2000-1-615x410.jpeg 615w, https:\/\/www.alvarezjoseph.com\/blog\/wp-content\/uploads\/2024\/11\/1366_2000-1-860x573.jpeg 860w, https:\/\/www.alvarezjoseph.com\/blog\/wp-content\/uploads\/2024\/11\/1366_2000-1.jpeg 1200w\" sizes=\"(max-width: 1024px) 100vw, 1024px\" \/><figcaption class=\"wp-element-caption\">O1 es el modelo de OpenAI que busca dar respuestas m\u00e1s \u00abrazonadas\u00bb. Analiza varias opciones antes de responder y selecciona la que considera m\u00e1s precisa.<\/figcaption><\/figure>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<h2 class=\"wp-block-heading\">\u00bfQu\u00e9 est\u00e1 pasando con los nuevos modelos?<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Hablemos de nombres propios. OpenAI est\u00e1 cocinando su nuevo modelo <strong>Orion<\/strong>, pero las expectativas no est\u00e1n por las nubes. Seg\u00fan varias fuentes, <strong>no es un gran salto frente a GPT-4<\/strong>. Y no es la \u00fanica empresa con problemas. Google y su modelo <strong>Gemini<\/strong> est\u00e1n enfrentando retrasos, y lo mismo pasa con <strong>Claude 3.5 Opus<\/strong> de Anthropic.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">\u00bfPor qu\u00e9 importa esto?<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Porque cada vez se hace m\u00e1s evidente que escalar en tama\u00f1o y potencia no es suficiente. Ya no es tan f\u00e1cil impresionar al p\u00fablico. Si los nuevos modelos no ofrecen algo realmente revolucionario, \u00bfpara qu\u00e9 gastarse millones en ellos?<\/p>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<h2 class=\"wp-block-heading\">La soluci\u00f3n: menos m\u00fasculo, m\u00e1s cerebro<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Una de las estrategias que est\u00e1n empezando a tomar fuerza es algo llamado <strong>test-time compute<\/strong>. B\u00e1sicamente, consiste en que el modelo <strong>razone sobre sus propias respuestas<\/strong> antes de elegir la mejor. S\u00ed, como si se revisara a s\u00ed mismo en tiempo real.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">OpenAI ya est\u00e1 implementando esto en su modelo experimental <strong>o1<\/strong>, y otras empresas como Google y Microsoft est\u00e1n trabajando en enfoques similares. La idea es clara: no se trata solo de entrenar m\u00e1s, sino de <strong>entrenar mejor<\/strong>.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">De GPUs para entrenamiento a GPUs para inferencia<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Otro cambio importante es que el enfoque est\u00e1 pasando de usar GPUs para entrenar modelos gigantes a usarlas para tareas de <strong>inferencia<\/strong>. Aqu\u00ed es donde entra en juego NVIDIA, con sus nuevos chips especializados como <strong>Blackwell<\/strong>, dise\u00f1ados espec\u00edficamente para esta fase. Seg\u00fan <strong>Jensen Huang<\/strong>, la demanda por este tipo de hardware est\u00e1 explotando.<\/p>\n\n\n\n<figure class=\"wp-block-table\"><table class=\"has-fixed-layout\"><thead><tr><th><strong>Antes<\/strong><\/th><th><strong>Ahora<\/strong><\/th><\/tr><\/thead><tbody><tr><td>GPUs para entrenamiento masivo<\/td><td>GPUs enfocadas en inferencia<\/td><\/tr><tr><td>Modelos gigantes<\/td><td>Modelos optimizados y precisos<\/td><\/tr><tr><td>Escalado sin l\u00edmite<\/td><td>Escalado inteligente<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">\u00bfSer\u00e1 esta la clave para desbloquear el pr\u00f3ximo salto en la IA generativa? Bueno, eso est\u00e1 por verse.<\/p>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<h2 class=\"wp-block-heading\">Las peque\u00f1as empresas est\u00e1n quedando fuera del juego<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Otro punto clave es c\u00f3mo esta carrera por modelos cada vez m\u00e1s grandes est\u00e1 dejando fuera a <strong>jugadores m\u00e1s peque\u00f1os<\/strong>. Entrenar un modelo de IA como GPT-4 no solo requiere acceso a <strong>GPUs absurdamente caras<\/strong>, sino tambi\u00e9n a un conjunto de datos gigantesco que no todos pueden conseguir. As\u00ed que, en lugar de democratizar la tecnolog\u00eda, estamos viendo c\u00f3mo el mercado se concentra en las manos de unos pocos.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">\u00bfQu\u00e9 significa esto para las startups?<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">B\u00e1sicamente, est\u00e1n obligadas a depender de los modelos ya creados por los grandes como OpenAI o Google. Las opciones son simples: pagar una fortuna por el acceso a estas APIs o intentar ser creativos con modelos m\u00e1s peque\u00f1os. \u00bfEl problema? Estos modelos peque\u00f1os no siempre son lo suficientemente buenos para competir. <strong>Es como intentar correr una marat\u00f3n en sandalias mientras los dem\u00e1s llevan zapatillas de \u00faltima generaci\u00f3n.<\/strong><\/p>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<h2 class=\"wp-block-heading\">Innovaciones que pintan interesantes<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Aunque el panorama parece estancado, hay algunas ideas que est\u00e1n ganando tracci\u00f3n. <strong>Modelos multimodales<\/strong> y <strong>IA especializada<\/strong> son dos \u00e1reas donde se ven chispas de innovaci\u00f3n. No hablamos de modelos gigantes que hacen de todo, sino de sistemas dise\u00f1ados para tareas espec\u00edficas.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">\u00bfPor qu\u00e9 esto es relevante?<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Porque permite <strong>mejorar resultados sin gastar una fortuna<\/strong>. Si sabes que tu modelo solo necesita responder preguntas sobre derecho, \u00bfpara qu\u00e9 entrenarlo con datos sobre astronom\u00eda? Empresas como <strong>Cohere<\/strong> y <strong>Mistral<\/strong> est\u00e1n apostando por esto, y los resultados parecen prometedores. \u00bfSer\u00e1 este el camino que la IA debe seguir? Tal vez, pero a\u00fan es temprano para saberlo.<\/p>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<h2 class=\"wp-block-heading\">\u00bfEl problema es el hardware o la creatividad?<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Aqu\u00ed es donde la cosa se pone interesante. Durante a\u00f1os hemos confiado ciegamente en el hardware como la soluci\u00f3n a todos los problemas. Pero, si lo piensas, el verdadero cuello de botella no est\u00e1 en las m\u00e1quinas, sino en <strong>c\u00f3mo usamos esas m\u00e1quinas<\/strong>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Algunas investigaciones recientes est\u00e1n explorando conceptos como <strong>modelos de IA m\u00e1s eficientes<\/strong> y m\u00e9todos de entrenamiento m\u00e1s econ\u00f3micos. Incluso hay estudios que sugieren que no necesitamos tantos datos como pens\u00e1bamos. S\u00ed, lo que escuchaste: quiz\u00e1 hemos estado gastando recursos a lo loco sin necesidad.<\/p>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<h2 class=\"wp-block-heading\">\u00bfY la regulaci\u00f3n? Otro dolor de cabeza<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Por si fuera poco, tambi\u00e9n est\u00e1 el tema de la regulaci\u00f3n. Europa, con su famoso <strong>AI Act<\/strong>, est\u00e1 poni\u00e9ndosela dif\u00edcil a las empresas. Las nuevas leyes exigen niveles de transparencia y responsabilidad que muchos no est\u00e1n preparados para cumplir. En Estados Unidos, aunque la regulaci\u00f3n va m\u00e1s lenta, tambi\u00e9n hay presi\u00f3n por controlar los riesgos de la IA.<\/p>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p class=\"wp-block-paragraph\">\u00abSi no regulamos esto, el desastre es inevitable.\u00bb \u2014 Lo dicen los expertos, no yo.<\/p>\n<\/blockquote>\n\n\n\n<h3 class=\"wp-block-heading\">\u00bfEsto frena la innovaci\u00f3n?<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Depende. Por un lado, es obvio que necesitamos reglas claras para evitar problemas \u00e9ticos y sociales. Pero, por otro lado, un exceso de regulaci\u00f3n podr\u00eda <strong>ralentizar el desarrollo<\/strong> de la tecnolog\u00eda. Es un equilibrio complicado, y a\u00fan no est\u00e1 claro c\u00f3mo se resolver\u00e1.<\/p>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<h2 class=\"wp-block-heading\">El acceso a los datos: el oro del siglo XXI<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Ahora hablemos de los datos. Porque, seamos realistas, el motor de toda esta revoluci\u00f3n no son solo las GPUs o los modelos gigantescos. <strong>Son los datos.<\/strong> Sin buenos datos, tu modelo no es m\u00e1s que una costosa pieza de software in\u00fatil.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">\u00bfPor qu\u00e9 los datos son tan importantes?<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Los modelos grandes como GPT-4 necesitan entrenarse con monta\u00f1as de informaci\u00f3n. Pero no basta con cualquier cosa. Necesitas datos <strong>relevantes, variados y actualizados<\/strong>. El problema es que la mayor\u00eda de estos datos est\u00e1n controlados por unos pocos: Google, Facebook, Amazon\u2026 ya sabes. Mientras tanto, el resto del mundo tiene que apa\u00f1\u00e1rselas con scraps de informaci\u00f3n p\u00fablica o datasets costosos que no siempre cumplen con los est\u00e1ndares de calidad.<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>Lo bueno:<\/strong> Hay iniciativas de datos abiertos que est\u00e1n haciendo las cosas m\u00e1s accesibles, como Common Crawl o Hugging Face.<\/li>\n\n\n\n<li><strong>Lo malo:<\/strong> Incluso con estas opciones, las empresas peque\u00f1as est\u00e1n en desventaja porque los datos abiertos no siempre son suficientes para proyectos complejos.<\/li>\n<\/ul>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<h2 class=\"wp-block-heading\">Modelos m\u00e1s peque\u00f1os, \u00bfla soluci\u00f3n olvidada?<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Mira, no todo en la vida tiene que ser un <strong>modelo de 175 mil millones de par\u00e1metros<\/strong>. A veces, menos es m\u00e1s. Y aqu\u00ed es donde entra la idea de los modelos m\u00e1s peque\u00f1os pero altamente optimizados. La pregunta es: \u00bfpor qu\u00e9 no estamos viendo m\u00e1s inversiones en esta direcci\u00f3n?<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Ventajas de los modelos m\u00e1s peque\u00f1os:<\/h3>\n\n\n\n<ol class=\"wp-block-list\">\n<li><strong>Costos reducidos:<\/strong> Tanto en entrenamiento como en implementaci\u00f3n. No necesitas un servidor lleno de GPUs.<\/li>\n\n\n\n<li><strong>M\u00e1s sostenibles:<\/strong> Usan menos energ\u00eda, lo cual es una gran ventaja en estos tiempos.<\/li>\n\n\n\n<li><strong>M\u00e1s especializados:<\/strong> Pueden entrenarse con conjuntos de datos mucho m\u00e1s peque\u00f1os, pero con un enfoque claro.<\/li>\n<\/ol>\n\n\n\n<p class=\"wp-block-paragraph\">Sin embargo, parece que la industria sigue obsesionada con los modelos gigantes. Es como si nadie hubiera aprendido nada de <strong>los desastres ambientales de los centros de datos<\/strong>.<\/p>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<h2 class=\"wp-block-heading\">IA Generativa: \u00bfHype o realidad?<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">La IA generativa es el tema de moda. Textos, im\u00e1genes, videos\u2026 todo generado con modelos como DALL-E, MidJourney y compa\u00f1\u00eda. Pero hay que poner las cosas en perspectiva. Porque no todo lo que brilla es oro.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">\u00bfQu\u00e9 problemas tiene la IA generativa?<\/h3>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>Originalidad limitada:<\/strong> La mayor\u00eda de estas herramientas funcionan combinando patrones existentes. As\u00ed que, en el fondo, no est\u00e1n creando algo verdaderamente nuevo.<\/li>\n\n\n\n<li><strong>Cuestiones \u00e9ticas:<\/strong> Plagios, derechos de autor, desinformaci\u00f3n\u2026 todo un campo minado.<\/li>\n\n\n\n<li><strong>Uso comercial complicado:<\/strong> Muchas empresas a\u00fan no saben c\u00f3mo integrar estas tecnolog\u00edas de forma rentable.<\/li>\n<\/ul>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p class=\"wp-block-paragraph\">\u00abLa IA generativa es divertida, pero a\u00fan est\u00e1 lejos de ser imprescindible para todos los negocios.\u00bb<\/p>\n<\/blockquote>\n\n\n\n<p class=\"wp-block-paragraph\">En el fondo, parece m\u00e1s una herramienta experimental que una soluci\u00f3n pr\u00e1ctica en muchos casos. \u00bfCambiar\u00e1 esto en el futuro? Puede ser, pero estamos lejos de ese punto.<\/p>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<h2 class=\"wp-block-heading\">Desaf\u00edos \u00e9ticos: el elefante en la habitaci\u00f3n<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Por \u00faltimo, no podemos ignorar los dilemas \u00e9ticos. \u00bfQu\u00e9 pasa cuando estas tecnolog\u00edas empiezan a tomar decisiones importantes? Ya hemos visto casos de sesgos raciales, desinformaci\u00f3n y manipulaci\u00f3n social. Y lo peor es que <strong>estos problemas no son nuevos<\/strong>, pero la industria sigue reaccionando a paso lento.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Temas que no podemos pasar por alto:<\/h3>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>Transparencia:<\/strong> Muchas empresas no quieren explicar c\u00f3mo funcionan sus modelos. \u00bfPor qu\u00e9? Porque los sistemas est\u00e1n llenos de zonas grises.<\/li>\n\n\n\n<li><strong>Responsabilidad:<\/strong> Si una IA comete un error, \u00bfqui\u00e9n se hace cargo? Hasta ahora, la respuesta ha sido poco clara.<\/li>\n\n\n\n<li><strong>Impacto social:<\/strong> Automatizaci\u00f3n laboral, manipulaci\u00f3n pol\u00edtica\u2026 no hace falta decir m\u00e1s.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">La \u00e9tica no es opcional, pero sigue trat\u00e1ndose como un accesorio. Y ese es el mayor problema.<\/p>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<h2 class=\"wp-block-heading\">Infraestructura de hardware: el lado oculto de la IA<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Hablemos claro: el hardware es la columna vertebral de toda esta revoluci\u00f3n. Sin GPUs, TPUs y dem\u00e1s bichos tecnol\u00f3gicos, ni siquiera estar\u00edamos hablando de modelos gigantes. Pero, \u00bfqu\u00e9 est\u00e1 pasando realmente en este frente? Te lo adelanto: <strong>un caos interesante.<\/strong><\/p>\n\n\n\n<h3 class=\"wp-block-heading\">El dominio de NVIDIA<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Si tienes algo de idea sobre hardware de IA, sabes que <strong>NVIDIA es el rey del mercado.<\/strong> Sus GPUs no solo son las m\u00e1s potentes, tambi\u00e9n las m\u00e1s buscadas. Y esto no es casualidad. Las arquitecturas como CUDA, que son exclusivas de ellos, est\u00e1n dise\u00f1adas para sacar el m\u00e1ximo provecho en tareas de aprendizaje profundo.<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>Ventaja:<\/strong> NVIDIA domina el ecosistema, lo que simplifica las cosas para los desarrolladores.<\/li>\n\n\n\n<li><strong>Desventaja:<\/strong> Este monopolio sube los precios y deja a la competencia fuera del juego.<\/li>\n<\/ul>\n\n\n\n<h3 class=\"wp-block-heading\">\u00bfY qu\u00e9 pasa con los competidores?<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Aqu\u00ed hay varios jugadores tratando de robarle un trozo del pastel a NVIDIA:<\/p>\n\n\n\n<ol class=\"wp-block-list\">\n<li><strong>AMD:<\/strong> Est\u00e1 mejorando, pero a\u00fan est\u00e1 lejos de ofrecer el mismo soporte para IA.<\/li>\n\n\n\n<li><strong>Google TPUs:<\/strong> Muy buenas, pero limitadas al ecosistema de Google.<\/li>\n\n\n\n<li><strong>Chips personalizados:<\/strong> Empresas como Apple y Tesla est\u00e1n dise\u00f1ando sus propios chips, pero son para casos muy espec\u00edficos.<\/li>\n<\/ol>\n\n\n\n<p class=\"wp-block-paragraph\">El panorama est\u00e1 cambiando, pero por ahora, <strong>NVIDIA sigue siendo el que manda.<\/strong><\/p>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<h2 class=\"wp-block-heading\">Entrenamiento vs. inferencia: \u00bfqu\u00e9 importa m\u00e1s?<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Otro punto clave en esta discusi\u00f3n es entender las diferencias entre el entrenamiento y la inferencia. Parece b\u00e1sico, pero mucha gente se pierde aqu\u00ed.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Entrenamiento: el m\u00fasculo detr\u00e1s del cerebro<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Esto es lo que hace que un modelo aprenda. Y no te voy a mentir, <strong>es caro, lento y consume energ\u00eda como loco.<\/strong> Necesitas hardware especializado, grandes cantidades de datos y un equipo que sepa lo que est\u00e1 haciendo.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Inferencia: el momento de la verdad<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">La inferencia es lo que pasa cuando usas el modelo entrenado para hacer predicciones. Aqu\u00ed es donde las cosas se ponen interesantes, porque <strong>el hardware para inferencia es mucho m\u00e1s flexible.<\/strong> Desde servidores en la nube hasta dispositivos m\u00f3viles, las posibilidades son enormes.<\/p>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p class=\"wp-block-paragraph\">\u00abEl problema es que muchas empresas gastan todo en entrenamiento y luego se quedan cortas en infraestructura para la inferencia.\u00bb<\/p>\n<\/blockquote>\n\n\n\n<p class=\"wp-block-paragraph\">Conclusi\u00f3n: ambos son importantes, pero en contextos comerciales, la inferencia tiene un impacto m\u00e1s directo.<\/p>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<h2 class=\"wp-block-heading\">Software de IA: \u00bfdemasiadas opciones?<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Por \u00faltimo, no podemos ignorar el software. Porque todo este hardware y modelos necesitan plataformas para funcionar. \u00bfEl problema? Hay tantas opciones que resulta <strong>dif\u00edcil saber por d\u00f3nde empezar.<\/strong><\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Frameworks m\u00e1s populares:<\/h3>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>TensorFlow:<\/strong> Potente y flexible, pero un poco pesado para principiantes.<\/li>\n\n\n\n<li><strong>PyTorch:<\/strong> El favorito de los investigadores. F\u00e1cil de usar y perfecto para prototipos.<\/li>\n\n\n\n<li><strong>JAX:<\/strong> Menos conocido, pero impresionante en tareas de alto rendimiento.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Cada uno tiene sus ventajas y desventajas, as\u00ed que elegir depende de tus necesidades y habilidades.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">\u00bfY qu\u00e9 hay de las plataformas en la nube?<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Aqu\u00ed es donde entra el gran dilema: usar soluciones en la nube como AWS, Google Cloud o Azure, o invertir en tu propia infraestructura. La nube es conveniente, pero puede salir muy cara a largo plazo. Por otro lado, montar tu propio cl\u00faster de GPUs es un dolor de cabeza log\u00edstico.<\/p>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<h2 class=\"wp-block-heading\">Resumen r\u00e1pido<\/h2>\n\n\n\n<ol class=\"wp-block-list\">\n<li>Los datos son la base de todo. Sin buenos datos, olv\u00eddate.<\/li>\n\n\n\n<li>NVIDIA sigue siendo el rey del hardware, aunque hay competencia en camino.<\/li>\n\n\n\n<li>Entrenar modelos es caro, pero la inferencia tambi\u00e9n necesita atenci\u00f3n.<\/li>\n\n\n\n<li>No todo es hardware: los frameworks de software importan (y mucho).<\/li>\n\n\n\n<li>La IA generativa a\u00fan tiene un largo camino para ser imprescindible.<\/li>\n<\/ol>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<h2 class=\"wp-block-heading\">Preguntas frecuentes<\/h2>\n\n\n\n<h3 class=\"wp-block-heading\">\u00bfQu\u00e9 se necesita para empezar con IA?<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Un buen punto de partida es un framework como PyTorch y acceso a una GPU decente. Si no tienes una, plataformas como Google Colab te pueden sacar del apuro.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">\u00bfCu\u00e1l es el mayor obst\u00e1culo para peque\u00f1as empresas?<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">El acceso a datos de calidad y el costo del hardware. Es un juego caro, y no todos pueden competir.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">\u00bfLa IA reemplazar\u00e1 todos los trabajos?<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">No todos, pero muchos roles repetitivos est\u00e1n en peligro. El truco es adaptarse.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">\u00bfEs mejor usar la nube o infraestructura propia?<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Depende de tus necesidades. La nube es buena para empezar, pero a largo plazo, puede salir m\u00e1s caro.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">\u00bfQu\u00e9 framework de IA deber\u00eda aprender primero?<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">PyTorch es una gran opci\u00f3n si eres principiante. Es m\u00e1s intuitivo y tiene una gran comunidad.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">\u00bfLa IA generativa es solo una moda?<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">No, pero est\u00e1 en una fase temprana. Tiene potencial, pero no es la soluci\u00f3n m\u00e1gica que algunos venden.<\/p>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n<div class=\"kk-star-ratings kksr-auto kksr-align-center kksr-valign-bottom\"\n    data-payload='{&quot;align&quot;:&quot;center&quot;,&quot;id&quot;:&quot;74991&quot;,&quot;slug&quot;:&quot;default&quot;,&quot;valign&quot;:&quot;bottom&quot;,&quot;ignore&quot;:&quot;&quot;,&quot;reference&quot;:&quot;auto&quot;,&quot;class&quot;:&quot;&quot;,&quot;count&quot;:&quot;0&quot;,&quot;legendonly&quot;:&quot;&quot;,&quot;readonly&quot;:&quot;&quot;,&quot;score&quot;:&quot;0&quot;,&quot;starsonly&quot;:&quot;&quot;,&quot;best&quot;:&quot;5&quot;,&quot;gap&quot;:&quot;5&quot;,&quot;greet&quot;:&quot;Valora el post&quot;,&quot;legend&quot;:&quot;0\\\/5 - (0 votos)&quot;,&quot;size&quot;:&quot;24&quot;,&quot;title&quot;:&quot;La IA generativa est\u00e1 frenando: \u00bfQu\u00e9 pas\u00f3 con el boom?&quot;,&quot;width&quot;:&quot;0&quot;,&quot;_legend&quot;:&quot;{score}\\\/{best} - ({count} {votes})&quot;,&quot;font_factor&quot;:&quot;1.25&quot;}'>\n            \n<div class=\"kksr-stars\">\n    \n<div class=\"kksr-stars-inactive\">\n            <div class=\"kksr-star\" data-star=\"1\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" data-star=\"2\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" data-star=\"3\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" data-star=\"4\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" data-star=\"5\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n    <\/div>\n    \n<div class=\"kksr-stars-active\" style=\"width: 0px;\">\n            <div class=\"kksr-star\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n    <\/div>\n<\/div>\n                \n\n<div class=\"kksr-legend\" style=\"font-size: 19.2px;\">\n            <span class=\"kksr-muted\">Valora el post<\/span>\n    <\/div>\n    <\/div>\n","protected":false},"excerpt":{"rendered":"<p>El tema de la IA generativa lleva meses en boca de todos, pero \u00faltimamente, el entusiasmo se est\u00e1 desinflando. \u00bfPor qu\u00e9? Pues resulta que lo de entrenar modelos gigantes con toneladas de GPUs y monta\u00f1as de datos ya no est\u00e1 funcionando como antes. Seg\u00fan Ilya Sutskever, uno de los creadores de ChatGPT, hemos llegado a [&hellip;]<\/p>\n","protected":false},"author":2,"featured_media":74992,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[72],"tags":[],"class_list":["post-74991","post","type-post","status-publish","format-standard","has-post-thumbnail","category-noticias-de-tecnologia"],"_links":{"self":[{"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/posts\/74991","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/comments?post=74991"}],"version-history":[{"count":1,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/posts\/74991\/revisions"}],"predecessor-version":[{"id":74994,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/posts\/74991\/revisions\/74994"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/media\/74992"}],"wp:attachment":[{"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/media?parent=74991"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/categories?post=74991"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/tags?post=74991"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}