Prepar\u00e1ndose para el enfrentamiento definitivo en el mundo de la inteligencia artificial, Anthropic ha elevado su juego con Phind-CodeLlama-34B-v1 y Phind-CodeLlama-34B-Python-v1. Estos modelos reci\u00e9n perfeccionados no solo superan al famoso GPT-4 de OpenAI, sino que tambi\u00e9n establecen un nuevo est\u00e1ndar en el desafiante punto de referencia HumanEval.<\/p>\n\n\n\n
En marzo de 2023, GPT-4 hizo olas con un r\u00e9cord del 67% de precisi\u00f3n en HumanEval. Sin embargo, Anthropic no se qued\u00f3 atr\u00e1s. Phind-CodeLlama-34B-v1 demostr\u00f3 su superioridad con un impresionante 67,6%, mientras que Phind-CodeLlama-34B-Python-v1, especializado en programaci\u00f3n Python, alcanz\u00f3 un asombroso 69,5%.<\/p>\n\n\n\n
En abril de 2023, Anthropic lanz\u00f3 Phind-CodeLlama-34B-v2, que dej\u00f3 a GPT-4 en el polvo con un incre\u00edble 73,8% de aprobaci\u00f3n@1 en HumanEval. \u00a1El trono ahora pertenece a CodeLlama-34B!<\/p>\n\n\n\n
La magia detr\u00e1s de estos logros radica en los m\u00e9todos antr\u00f3picos de Anthropic. Ajustar CodeLlama-34B y CodeLlama-34B-Python con un conjunto de datos interno de 80,000 problemas y soluciones de programaci\u00f3n marc\u00f3 la diferencia. El secreto est\u00e1 en la estructura \u00fanica de los pares instrucci\u00f3n-respuesta utilizados durante el ajuste, diferenci\u00e1ndose del enfoque de preentrenamiento original de CodeLlama.<\/p>\n\n\n\n
El ajuste, potenciado por t\u00e9cnicas como DeepSpeed \u200b\u200bZeRO 3 y Flash Attention 2, optimiz\u00f3 la eficiencia. \u00a1Solo tres horas para el ajuste fino en 32 GPU A100 con una longitud de secuencia de 4096 tokens!<\/p>\n\n\n\n
Estos resultados revelan que el tama\u00f1o del modelo y la potencia computacional son clave, pero el verdadero h\u00e9roe es el enfoque de entrenamiento. Anthropic ha liberado todo el potencial de CodeLlama, superando con creces su enfoque de preentrenamiento original.<\/p>\n\n\n\n
Los avances demuestran que, con datos y poder de procesamiento adecuados, la IA podr\u00eda pronto rivalizar con habilidades humanas en diversas \u00e1reas, no solo en programaci\u00f3n.<\/p>\n\n\n\n
A medida que las IAs se acercan al rendimiento humano, surge la necesidad de transparencia y \u00e9tica en los datos y m\u00e9todos de entrenamiento. Anthropic destaca en seguridad y descontaminaci\u00f3n, garantizando una evaluaci\u00f3n comparativa v\u00e1lida.<\/p>\n\n\n\n
Pero, \u00bfes el rendimiento bruto en HumanEval una medida real de inteligencia? Expertos plantean preocupaciones sobre sesgos en los conjuntos de datos, record\u00e1ndonos que queda un largo camino por recorrer para la comprensi\u00f3n completa del lenguaje.<\/p>\n\n\n\n
La comunidad de procesamiento del lenguaje natural aguarda ansiosa el pr\u00f3ximo paso de Anthropic y otros pioneros. Con modelos de m\u00e1s de 175 mil millones de par\u00e1metros disponibles, podemos anticipar r\u00e1pidas iteraciones en t\u00e9cnicas y procedimientos de capacitaci\u00f3n.<\/p>\n\n\n\n
M\u00e1s all\u00e1 de HumanEval, nuevos desaf\u00edos emergen en \u00e1reas como inteligencia social y razonamiento de causa y efecto. La b\u00fasqueda de inteligencia general nos lleva a explorar capacidades multimodales, sentido com\u00fan y pr\u00e1cticas de seguridad.<\/p>\n\n\n\n
\u00a1Estamos en el camino hacia la inteligencia artificial general, pero la traves\u00eda apenas comienza!<\/p>\n\n\n