![\"-\"](\"https:\/\/www.alvarezjoseph.com\/blog\/wp-content\/uploads\/2023\/03\/image-11.png\" "\\"Imagen")
<\/figure>\n\n\n\nLimitaciones de GPT-4<\/h2>\n\n\n\n
A pesar de sus impresionantes capacidades, GPT-4 todav\u00eda tiene algunas limitaciones. En particular, el modelo todav\u00eda no es completamente confiable y puede \u00abalucinar\u00bb hechos y cometer errores de razonamiento. Por lo tanto, es crucial tener precauci\u00f3n al utilizar los resultados de GPT-4, especialmente en contextos de alto riesgo.<\/p>\n\n\n\n
Aunque esto sigue siendo un problema real, Chat gpt est\u00e1n haciendo progresos significativos en reducir las alucinaciones en relaci\u00f3n con modelos anteriores. De hecho, GPT-4 obtiene un puntaje un 40% m\u00e1s alto que su \u00faltimo modelo, GPT-3.5, en nuestras evaluaciones internas de factualidad contradictoria.<\/p>\n\n\n\n
Superando los Desaf\u00edos<\/h2>\n\n\n\n
Para abordar estas limitaciones, Chat gpt estan trabajando duro en varios frentes. Primero, Chat gpt estan avanzando en puntos de referencia externos como TruthfulQA, que prueba la capacidad del modelo para separar los hechos de las declaraciones incorrectas.<\/p>\n\n\n\n
Tambi\u00e9n Chat gpt estan haciendo mejoras en los sesgos del modelo, aunque queda m\u00e1s por hacer. su objetivo es crear sistemas de IA que reflejen una amplia franja de valores de los usuarios y permitan la personalizaci\u00f3n dentro de l\u00edmites amplios.<\/p>\n\n\n\n
Por \u00faltimo, Chat gpt est\u00e1n trabajando para mejorar la calibraci\u00f3n del modelo, especialmente en su proceso posterior al entrenamiento. Esto nos ayudar\u00e1 a reducir la confianza excesiva en las predicciones del modelo y minimizar los errores.<\/p>\n\n\n\n
\u00a1Protegiendo la seguridad en GPT-4!<\/h2>\n\n\n\n
GPT-4 es el nuevo modelo de lenguaje de OpenAI y su seguridad es nuestra m\u00e1xima prioridad. estan tomando medidas para asegurarnos de que GPT-4 est\u00e9 m\u00e1s seguro y m\u00e1s alineado con los valores humanos. Pero, como sabemos que la seguridad es un desaf\u00edo continuo, seguimos mejorando y trabajando en mitigaciones.<\/p>\n\n\n\n
\u00bfCu\u00e1les son los riesgos de GPT-4 y c\u00f3mo los mitigamos? <\/h3>\n\n\n\n
Est\u00e1n contratando a m\u00e1s de 50 expertos para probar el modelo de manera adversaria y nos han permitido probar el comportamiento del modelo en \u00e1reas de alto riesgo que requieren experiencia para evaluar. Los comentarios y datos de estos expertos se incorporaron a nuestras mitigaciones y mejoras para el modelo. Tambi\u00e9n est\u00e1 recopilando datos adicionales para mejorar la capacidad de GPT-4 para rechazar solicitudes sobre c\u00f3mo sintetizar sustancias qu\u00edmicas peligrosas.<\/p>\n\n\n\n Est\u00e1n reduciendo la tendencia del modelo a responder a solicitudes de contenido no permitido en un 82 % y GPT-4 responde a solicitudes confidenciales de acuerdo con nuestras pol\u00edticas con un 29 % m\u00e1s de frecuencia.<\/p>\n\n\n\n Sin embargo, todav\u00eda existen \u00abjailbreaks\u00bb para generar contenido que viola nuestras pautas de uso. Para asegurar niveles extremadamente altos de confiabilidad, es importante complementar estas limitaciones con t\u00e9cnicas de seguridad en tiempo de implementaci\u00f3n, como la supervisi\u00f3n de abusos.<\/p>\n\n\n\n GPT-4 tiene un gran potencial para influir en la sociedad de manera beneficiosa y perjudicial. Chat gpt est\u00e1n trabajando con investigadores externos para entender y evaluar los impactos potenciales y crear evaluaciones de capacidades peligrosas que pueden surgir en sistemas futuros. Est\u00e9n atentos a m\u00e1s informaci\u00f3n sobre los posibles impactos sociales y econ\u00f3micos de GPT-4 y otros sistemas de IA.<\/p>\n\n\n\n \u00bfAlguna vez te has preguntado c\u00f3mo funciona el proceso de entrenamiento de los modelos de lenguaje como GPT-4? \u00a1Aqu\u00ed te lo explicamos!<\/p>\n\n\n\n El modelo base de GPT-4 se entrena para predecir la siguiente palabra en un documento, utilizando una gran cantidad de datos disponibles p\u00fablicamente y datos bajo licencia. Estos datos incluyen todo tipo de informaci\u00f3n, desde soluciones matem\u00e1ticas hasta diferentes ideolog\u00edas y puntos de vista. \u00a1As\u00ed es como el modelo aprende a hablar como un verdadero humano!<\/p>\n\n\n\n Sin embargo, cuando se trata de responder preguntas, el modelo puede ofrecer respuestas que no est\u00e1n en l\u00ednea con lo que el usuario est\u00e1 buscando. \u00a1Aqu\u00ed es donde entra en juego el aprendizaje de refuerzo con retroalimentaci\u00f3n humana (RLHF)!<\/p>\n\n\n\n Con RLHF, ajustamos el comportamiento del modelo para asegurarnos de que sus respuestas est\u00e9n en l\u00ednea con lo que el usuario est\u00e1 buscando. \u00a1Es como entrenar a un perro para que haga trucos!<\/p>\n\n\n\n \u00a1Pero eso no es todo! El \u00e9xito del modelo tambi\u00e9n depende de la ingenier\u00eda r\u00e1pida posterior al entrenamiento. Despu\u00e9s del entrenamiento, el modelo requiere una r\u00e1pida ingenier\u00eda para asegurarse de que pueda responder a las preguntas que se le hacen. \u00a1Es como armar un rompecabezas en tiempo r\u00e9cord!<\/p>\n\n\n\n Es importante destacar que las capacidades del modelo provienen en gran medida del proceso de entrenamiento previo, mientras que RLHF solo ayuda a alinear el comportamiento del modelo con las necesidades del usuario. \u00a1As\u00ed es c\u00f3mo GPT-4 se convierte en el modelo de lenguaje m\u00e1s impresionante del mundo!<\/p>\n\n\n\n GPT-4 es un proyecto ambicioso que busca alcanzar nuevos niveles de escalabilidad y previsibilidad en el aprendizaje autom\u00e1tico. Para lograr esto, est\u00e1n enfocado sus esfuerzos en desarrollar una pila de aprendizaje profundo que sea altamente escalable y predecible en m\u00faltiples escalas. En este sentido, est\u00e1n desarrollando infraestructura y optimizaciones que tienen un comportamiento muy predecible, lo que nos permite ejecutar entrenamientos de gran envergadura sin la necesidad de realizar ajustes extensos espec\u00edficos del modelo.<\/p>\n\n\n\n Han logrado predecir con precisi\u00f3n la p\u00e9rdida final de GPT-4 mediante la extrapolaci\u00f3n de modelos entrenados con la misma metodolog\u00eda, pero utilizando 10,000 veces menos c\u00f3mputo. Esto nos permite desarrollar una metodolog\u00eda para predecir m\u00e9tricas m\u00e1s interpretables, como la tasa de aprobaci\u00f3n en un subconjunto del conjunto de datos de HumanEval, de la cual tambi\u00e9n Est\u00e1n logrando predecir con \u00e9xito.<\/p>\n\n\n\n Aunque est\u00e1n logrando predecir con precisi\u00f3n muchas m\u00e9tricas importantes, todav\u00eda hay algunas capacidades que son dif\u00edciles de predecir. Por ejemplo, el Premio de Escalamiento Inverso fue una competencia para encontrar una m\u00e9trica que empeora a medida que aumenta el c\u00e1lculo del modelo, y la Negligencia Retrospectiva fue uno de los ganadores. A pesar de esto, Chat gpt est\u00e1n comprometidos en ampliar sus esfuerzos para desarrollar m\u00e9todos que brinden a la sociedad una mejor orientaci\u00f3n sobre qu\u00e9 esperar de los sistemas futuros de aprendizaje autom\u00e1tico, y esperamos que esto se convierta en un objetivo com\u00fan en el campo.<\/p>\n\n\n\n En OpenAI, Chat gpt est\u00e1n emocionados de anunciar el lanzamiento de OpenAI Evals, su marco de software dise\u00f1ado para crear y ejecutar puntos de referencia que eval\u00faan modelos como GPT-4. Este marco permite la inspecci\u00f3n del rendimiento muestra por muestra, lo que nos ayuda a guiar el desarrollo de sus modelos y tambi\u00e9n puede ser utilizado por sus usuarios para realizar un seguimiento del rendimiento en todas las versiones del modelo.<\/p>\n\n\n\n Lo mejor de todo es que el c\u00f3digo es todo de c\u00f3digo abierto, lo que significa que Evals admite la escritura de nuevas clases para implementar una l\u00f3gica de evaluaci\u00f3n personalizada. Para ayudar a los usuarios a comenzar, est\u00e1n incluido plantillas que han sido \u00fatiles para nosotros, incluyendo una plantilla para \u00abevaluaciones calificadas por modelos\u00bb, lo que significa que GPT-4 es sorprendentemente capaz de verificar su propio trabajo.<\/p>\n\n\n\n Tambi\u00e9n est\u00e1n creando una evaluaci\u00f3n de acertijos l\u00f3gicos que contiene diez indicaciones en las que falla GPT-4. Adem\u00e1s, Evals es compatible con la implementaci\u00f3n de los puntos de referencia existentes y estna incluido varios cuadernos que implementan puntos de referencia acad\u00e9micos y algunas variaciones de integraci\u00f3n CoQA.<\/p>\n\n\n\n Esperamos que Evals se convierta en un veh\u00edculo para compartir puntos de referencia de crowdsourcing y represente un conjunto m\u00e1ximo de modos de falla y tareas dif\u00edciles. Por lo tanto, invitamos a todos a usar Evals para probar sus modelos y enviar los ejemplos m\u00e1s interesantes. Creemos que Evals ser\u00e1 una parte integral del proceso para usar y construir sobre sus modelos, y esperamos con ansias las contribuciones directas, preguntas y comentarios. \u00a1\u00danete a la emoci\u00f3n y haz que tu evaluaci\u00f3n sea la pr\u00f3xima en la lista!<\/p>\n\n\n\n Obt\u00e9n acceso limitado al poderoso GPT-4 en chat.openai.com con tu suscripci\u00f3n a ChatGPT Plus. Ajustaremos el l\u00edmite de uso seg\u00fan la demanda y el rendimiento del sistema para garantizar una experiencia de alta calidad. Aunque la capacidad ser\u00e1 limitada en un principio, Chat gpt est\u00e1n trabajando arduamente para optimizar y expandir la oferta en los pr\u00f3ximos meses.<\/p>\n\n\n\n No te preocupes, Chat gpt est\u00e1n considerando introducir un nuevo nivel de suscripci\u00f3n para satisfacer tus necesidades. Y si a\u00fan no est\u00e1s listo para suscribirte, tambi\u00e9n ofreceremos una cierta cantidad de consultas gratuitas para que puedas probar GPT-4.<\/p>\n\n\n\n Si eres desarrollador, puedes obtener acceso a la API de GPT-4 a trav\u00e9s de nuestra lista de espera. Chat gpt est\u00e1n escalando gradualmente para equilibrar la capacidad con la demanda, as\u00ed que reg\u00edstrate ahora para obtener tu invitaci\u00f3n.<\/p>\n\n\n\n Los investigadores que estudian el impacto social de la IA o los problemas de alineaci\u00f3n de la IA tambi\u00e9n pueden solicitar acceso subsidiado a trav\u00e9s de su Programa de Acceso para Investigadores.<\/p>\n\n\n\n Con GPT-4, puedes realizar solicitudes de solo texto al modelo y esperar resultados precisos y confiables. Aunque las entradas de imagen a\u00fan est\u00e1n en alfa limitado, Chat gpt est\u00e1n trabajando arduamente para mejorar la funcionalidad.<\/p>\n\n\n\n GPT-4 tiene una longitud de contexto de 8192 tokens, pero tambi\u00e9n ofrecemos acceso limitado a nuestra versi\u00f3n de contexto 32,768 (alrededor de 50 p\u00e1ginas de texto) con gpt-4-32k. El precio es asequible a $0.06 por 1K tokens de solicitud y $0.12 por 1K tokens de finalizaci\u00f3n.<\/p>\n\n\n\n Chat gpt est\u00e1n comprometidos a mejorar continuamente la calidad del modelo para contextos largos y Chat gpt est\u00e1n ansiosos por recibir tus comentarios sobre c\u00f3mo funciona para tu caso de uso. Chat gpt estan procesando solicitudes para los motores 8K y 32K a diferentes tarifas seg\u00fan la capacidad, por lo que puedes recibir acceso a ellos en diferentes momentos.<\/p>\n\n\n\n En resumen, Chat gpt est\u00e1n emocionados de ofrecer GPT-4 como una herramienta valiosa para mejorar la vida de las personas al potenciar muchas aplicaciones. \u00a1\u00danete a nosotros para construir, explorar y contribuir al modelo colectivamente!<\/p>\n\n\n\n \u00bfEst\u00e1s buscando mejorar tu chatbot y no sabes c\u00f3mo hacerlo? Entonces, est\u00e1s en el lugar correcto. En este art\u00edculo, te proporcionaremos m\u00e1s de 150 prompts gratis para chatbots que te ayudar\u00e1n a mejorar la experiencia de usuario de tus clientes.<\/a> \u00a1Sigue leyendo para descubrir c\u00f3mo puedes llevar tu chatbot al siguiente nivel!<\/p>\n\n\n![\"-\"](\"https:\/\/www.alvarezjoseph.com\/blog\/wp-content\/uploads\/2023\/03\/image-12.png\" "\\"Imagen")
<\/figure>\n\n\n\n\u00bfC\u00f3mo est\u00e1n mejorado la seguridad de GPT-4 en comparaci\u00f3n con GPT-3.5? <\/h3>\n\n\n\n
\u00a1Entrenando a GPT-4 para ser el mejor modelo de lenguaje del mundo!<\/h2>\n\n\n\n
Construyendo una pila de aprendizaje profundo, escalable y predecible para GPT-4<\/h2>\n\n\n\n
Predicci\u00f3n de la p\u00e9rdida final con precisi\u00f3n y desarrollo de metodolog\u00edas interpretables<\/h3>\n\n\n\n
Desaf\u00edos en la predicci\u00f3n de futuras capacidades de aprendizaje autom\u00e1tico<\/h3>\n\n\n\n
\u00a1Evaluaciones OpenAI para evaluar modelos de manera efectiva y personalizada!<\/h2>\n\n\n\n
\u00a1Bienvenidos a ChatGPT Plus, la nueva y emocionante oferta de ChatGPT!<\/h2>\n\n\n\n
\u00bfNecesitas un mayor volumen de uso de GPT-4? <\/h3>\n\n\n\n