{"id":68877,"date":"2024-09-19T17:20:00","date_gmt":"2024-09-19T22:20:00","guid":{"rendered":"https:\/\/www.alvarezjoseph.com\/blog\/?p=68877"},"modified":"2024-09-19T15:03:23","modified_gmt":"2024-09-19T20:03:23","slug":"google-ia-beneficios-desempleo-nevada","status":"publish","type":"post","link":"https:\/\/www.alvarezjoseph.com\/blog\/google-ia-beneficios-desempleo-nevada\/","title":{"rendered":"C\u00f3mo Google Est\u00e1 Usando IA para Decidir Qui\u00e9n Recibe Beneficios de Desempleo en Nevada"},"content":{"rendered":"\n

Vamos a lo que interesa: Nevada est\u00e1 a punto de lanzar un sistema de inteligencia artificial<\/strong> para manejar los casos de apelaciones de beneficios de desempleo. S\u00ed, leyeron bien, la IA de Google ser\u00e1 quien ayude a decidir si alguien merece o no esos pagos de desempleo. \u00bfQu\u00e9 puede salir mal, no?<\/p>\n\n\n\n

Esta movida marca el primer intento serio en Estados Unidos de meter la IA en algo tan delicado como esto, y honestamente, tiene todo para ser una buena idea o un desastre total<\/strong>. Depende de c\u00f3mo lo mires.<\/p>\n\n\n\n

\n\n\n\n

\u00bfC\u00f3mo va a funcionar esto?<\/h3>\n\n\n\n

En teor\u00eda, el sistema de IA va a analizar las transcripciones de las audiencias de apelaci\u00f3n de beneficios de desempleo y otros documentos importantes. Luego, va a generar una recomendaci\u00f3n sobre si la reclamaci\u00f3n debe ser aprobada, rechazada o modificada. Suena eficiente, \u00bfverdad? Pues claro, el gran truco aqu\u00ed es que, supuestamente, las decisiones finales<\/strong> no las har\u00e1 solo la IA, sino que siempre habr\u00e1 un humano revisando el asunto.<\/p>\n\n\n\n

Christopher Sewell<\/strong>, el director de la agencia encargada (DETR), ya sali\u00f3 a decir que no se tomar\u00e1n decisiones sin una revisi\u00f3n humana. O sea, la IA propone, pero el humano decide. Y claro, si el humano no est\u00e1 de acuerdo con lo que sugiere la IA, se supone que puede hacer ajustes.<\/p>\n\n\n\n

Pero seamos realistas. Cuando algo est\u00e1 apurado, ya sabemos c\u00f3mo funciona: es muy f\u00e1cil que esa \u00abrevisi\u00f3n humana\u00bb se convierta en un simple clic para aprobar lo que la IA escupi\u00f3.<\/p>\n\n\n\n

\n\n\n\n

Necesidad de velocidad: \u00bfa qu\u00e9 precio?<\/h3>\n\n\n\n

Todo este experimento con IA viene por el tremendo cuello de botella<\/strong> que Nevada lleva arrastrando con los casos de apelaciones desde la pandemia. En abril de 2020, Nevada ten\u00eda un asombroso 30% de desempleo, el m\u00e1s alto jam\u00e1s registrado en cualquier estado. \u00bfEl resultado? Un retraso monumental en el manejo de casos<\/strong> de apelaci\u00f3n de beneficios de desempleo.<\/p>\n\n\n\n

Cuando Sewell tom\u00f3 las riendas en 2023, todav\u00eda quedaban m\u00e1s de 40.000 casos por resolver<\/strong>. S\u00ed, le\u00edste bien, cuarenta mil. Y aunque ya lograron bajar esa monta\u00f1a a menos de 5.000 casos, el estado sigue buscando formas de hacer que las cosas se muevan m\u00e1s r\u00e1pido. De ah\u00ed que hayan decidido lanzar la IA al ruedo.<\/strong><\/p>\n\n\n\n

Ahora, est\u00e1 claro que la IA puede acelerar las cosas. Se dice que este sistema podr\u00eda reducir el tiempo de tomar una decisi\u00f3n de varias horas a apenas cinco minutos. Cinco minutos<\/strong>. \u00a1Eso es incre\u00edblemente r\u00e1pido! Pero no nos enga\u00f1emos. La velocidad no siempre va de la mano con la calidad<\/strong>, y ah\u00ed est\u00e1 la preocupaci\u00f3n de muchos.<\/p>\n\n\n\n

\n\n\n\n

\u00bfY los riesgos? Porque siempre hay riesgos<\/h3>\n\n\n\n

Aqu\u00ed es donde se pone interesante. No todo el mundo est\u00e1 emocionado con esto<\/strong>, y es f\u00e1cil entender por qu\u00e9. Por ejemplo, Morgan Shah<\/strong>, de Servicios Legales de Nevada, ya sali\u00f3 a decir que est\u00e1 preocupado de que en la carrera por hacer todo m\u00e1s r\u00e1pido, se sacrifiquen decisiones de calidad<\/strong>. Y tiene un buen punto.<\/p>\n\n\n\n

Lo que pasa es que, claro, con un sistema as\u00ed de r\u00e1pido, puede que la gente encargada simplemente conf\u00ede ciegamente en lo que dice la IA. \u00abAh, si la m\u00e1quina dice que no, pues no. Siguiente caso.\u00bb<\/strong> El miedo es que todo se convierta en un tr\u00e1mite superficial y se termine perjudicando a quienes realmente necesitan ese apoyo.<\/p>\n\n\n\n

Y Shah no est\u00e1 solo en esto. Michele Evermore<\/strong>, que trabaj\u00f3 para el Departamento de Trabajo de Estados Unidos, tiene exactamente el mismo temor. \u00bfQu\u00e9 pasa si por querer despejar r\u00e1pido los casos, terminan aprobando lo que la IA dice sin pensar demasiado?<\/strong><\/p>\n\n\n\n

\n\n\n\n

Privacidad y precisi\u00f3n: dos palabras clave que te van a hacer levantar una ceja<\/h3>\n\n\n\n

Vamos al tema de privacidad<\/strong>. No es poca cosa cuando hablamos de procesos legales que involucran informaci\u00f3n sensible como n\u00fameros de seguridad social, detalles de impuestos, datos personales y hasta informaci\u00f3n de salud. Obviamente, nadie quiere que Google tenga acceso a ese tipo de cosas<\/strong>. Y aqu\u00ed es donde se hace una aclaraci\u00f3n importante: Google no va a tener acceso a esa informaci\u00f3n<\/strong>. Solo la IA. Bueno, eso dicen ellos.<\/p>\n\n\n\n

El DETR asegura que Google no podr\u00e1 usar los datos personales para otros fines<\/strong>, lo cual es un alivio, pero… \u00bfrealmente podemos confiar en que todo est\u00e9 100% bajo control? La duda siempre est\u00e1 ah\u00ed.<\/p>\n\n\n\n

Y ahora, hablemos de precisi\u00f3n<\/strong>. La IA que est\u00e1n usando es un modelo llamado retrieval-augmented generation<\/strong> (RAG). Suena sofisticado, \u00bfverdad? B\u00e1sicamente, esta IA va a tomar datos de una base que contiene leyes de desempleo de Nevada y casos de apelaciones anteriores para generar decisiones m\u00e1s ajustadas a la realidad.<\/p>\n\n\n\n

Pero aqu\u00ed viene el problema: los sistemas de IA no siempre son perfectos<\/strong>. Un estudio de Yale y Stanford encontr\u00f3 que estos sistemas de IA similares cometieron errores entre el 17% y el 33% del tiempo, y dieron respuestas incompletas entre el 18% y el 63% de las veces. Eso no inspira mucha confianza<\/strong>, \u00bfverdad?<\/p>\n\n\n\n

\n\n\n\n
\n

\u00abLa IA se equivoca m\u00e1s de lo que nos gustar\u00eda admitir. Y cuando se trata de decisiones legales, un error no es poca cosa.\u00bb<\/p>\n<\/blockquote>\n\n\n\n

\n\n\n\n

Aspectos legales: El verdadero dolor de cabeza<\/h2>\n\n\n\n

Ahora s\u00ed, met\u00e1monos en lo legal, porque esto tiene tela para cortar. Los abogados de Servicios Legales de Nevada<\/strong> ya est\u00e1n poniendo el grito en el cielo. Y no los culpo. Piensa en esto: si la IA se equivoca y un \u00e1rbitro humano aprueba la recomendaci\u00f3n sin darse cuenta del error, \u00bfqui\u00e9n asume la responsabilidad?<\/strong> Eso es un terreno pantanoso.<\/p>\n\n\n\n

Elizabeth Carmona<\/strong>, una abogada senior de Servicios Legales de Nevada, lo explic\u00f3 claramente. Cuando un \u00e1rbitro comete un error basado en informaci\u00f3n incorrecta generada por la IA<\/strong>, puede ser casi imposible para una corte revertir esa decisi\u00f3n. En los casos que involucran cuestiones de hecho, los tribunales no pueden simplemente ignorar lo que dijo el \u00e1rbitro. Es decir, si el \u00e1rbitro confi\u00f3 ciegamente en lo que dijo la IA, \u00bfc\u00f3mo diablos puedes apelar eso de manera justa?<\/strong> \u00a1Es un l\u00edo tremendo!<\/p>\n\n\n\n

Y no solo eso. Matthew Dahl<\/strong>, un estudiante de doctorado en Yale que ha investigado sistemas de IA en investigaci\u00f3n legal, dice algo que me dej\u00f3 pensando: puede ser dif\u00edcil identificar d\u00f3nde y por qu\u00e9<\/strong> se cometi\u00f3 un error en un sistema donde las recomendaciones de la IA son revisadas y editadas por humanos. O sea, la IA puede sugerir algo mal, el humano no darse cuenta, y de repente tienes una decisi\u00f3n basada en un error que nadie vio. Y buena suerte tratando de deshacerlo despu\u00e9s.<\/p>\n\n\n\n

\n\n\n\n

El panorama m\u00e1s amplio: \u00bfEs este el futuro de la toma de decisiones del gobierno?<\/h3>\n\n\n\n

Vamos a ver, Nevada est\u00e1 apostando fuerte<\/strong> con este sistema de IA para las apelaciones de desempleo, y seamos sinceros, esto podr\u00eda marcar un antes y un despu\u00e9s<\/strong> en la manera en que los gobiernos toman decisiones. Si esto funciona (y es un gran \u00absi\u00bb), otros estados seguramente van a seguir el mismo camino, y la IA se va a convertir en una parte central de c\u00f3mo se manejan muchas decisiones gubernamentales.<\/p>\n\n\n\n

Pero claro, todo esto depende de c\u00f3mo se implemente. Amy Perez<\/strong>, quien ha trabajado en la modernizaci\u00f3n del desempleo en Colorado y en el Departamento de Trabajo de EE. UU., lo ve con buenos ojos, siempre y cuando se haga bien. Dice que la automatizaci\u00f3n puede ser una buena cosa, pero solo si se demuestra que es igual o mejor que la toma de decisiones humana. Y aqu\u00ed est\u00e1 el truco:<\/strong> hasta que no veamos resultados claros, todo esto sigue siendo una gran inc\u00f3gnita<\/strong>.<\/p>\n\n\n\n

Y por si fuera poco, los que est\u00e1n detr\u00e1s de este sistema ya dijeron que va a haber un comit\u00e9 de gobernanza que se reunir\u00e1 regularmente para monitorear los errores y sesgos<\/strong> en el sistema de IA. Lo cual suena bien, pero vamos a ver cu\u00e1nta transparencia habr\u00e1 realmente y si se toman en serio esos problemas. Porque, al final del d\u00eda, la tecnolog\u00eda por s\u00ed sola no es la soluci\u00f3n m\u00e1gica<\/strong>.<\/p>\n\n\n\n

\n\n\n\n

\u00bfLa IA va a ser buena o un desastre total?<\/h3>\n\n\n\n

Al final del d\u00eda, esto de la IA suena incre\u00edble en papel<\/strong>. Menos retrasos, decisiones m\u00e1s r\u00e1pidas, menos burocracia. Pero tambi\u00e9n est\u00e1 lleno de riesgos que no se pueden ignorar<\/strong>. El mayor miedo aqu\u00ed es que, en el apuro por resolver los casos m\u00e1s r\u00e1pido, terminemos sacrificando algo mucho m\u00e1s importante: la calidad y la justicia de las decisiones.<\/p>\n\n\n\n

Yo soy el primero en decir que la tecnolog\u00eda puede ayudarnos un mont\u00f3n<\/strong>. Pero no nos enga\u00f1emos, no es infalible. Y en algo tan delicado como decidir qui\u00e9n recibe beneficios de desempleo, un error no es simplemente un n\u00famero en una tabla. Es la vida de alguien que est\u00e1 en juego.<\/strong><\/p>\n\n\n\n

Nevada est\u00e1 experimentando<\/strong>, y todo el mundo va a estar mirando. Si la cosa va bien, genial. Otros estados lo copiar\u00e1n y empezaremos a ver m\u00e1s IA en decisiones de gobierno. Pero si sale mal, bueno… ya puedes imaginar la clase de l\u00edo legal que se va a armar.<\/p>\n\n\n\n

\n\n\n\n

Lo que tienes que saber en resumen<\/h3>\n\n\n\n

Voy a ponerlo simple:<\/p>\n\n\n\n

    \n
  • Nevada quiere usar IA para manejar las apelaciones de beneficios de desempleo.<\/strong><\/li>\n\n\n\n
  • La IA va a analizar audiencias y documentos y sugerir si una apelaci\u00f3n debe ser aprobada o no.<\/li>\n\n\n\n
  • Siempre habr\u00e1 un humano revisando<\/strong> las decisiones, al menos en teor\u00eda.<\/li>\n\n\n\n
  • El objetivo es reducir los tiempos de espera<\/strong>. La IA puede hacerlo en cinco minutos, algo que a un humano le tomar\u00eda horas.<\/li>\n\n\n\n
  • La privacidad est\u00e1 protegida<\/strong>, dicen que Google no va a tener acceso a los datos personales.<\/li>\n\n\n\n
  • Pero la IA no es infalible<\/strong>. Un estudio mostr\u00f3 que sistemas similares se equivocan bastante seguido.<\/li>\n\n\n\n
  • Si la IA se equivoca y un \u00e1rbitro humano aprueba la decisi\u00f3n, puede ser dif\u00edcil apelar despu\u00e9s<\/strong>.<\/li>\n<\/ul>\n\n\n\n

    En resumen: esto puede ser una revoluci\u00f3n o un desastre<\/strong>, dependiendo de c\u00f3mo lo veas. No hay garant\u00edas. Y como siempre, depende de lo que busques.<\/p>\n\n\n\n

    El gran experimento de Nevada: \u00bfuna soluci\u00f3n o un experimento arriesgado?<\/h2>\n\n\n\n

    Entonces, \u00bfqu\u00e9 tenemos aqu\u00ed? Nevada est\u00e1 en medio de un gran experimento<\/strong>. Usar IA para tomar decisiones importantes en algo tan delicado como los beneficios de desempleo no es poca cosa. Y s\u00ed, claro que puede ser una soluci\u00f3n a la lentitud del sistema<\/strong>, especialmente despu\u00e9s de lo que pas\u00f3 con la pandemia. Pero, no nos enga\u00f1emos: esto puede salir mal de tantas formas<\/strong> que da un poco de miedo.<\/p>\n\n\n\n

    \u00bfLa IA es la soluci\u00f3n m\u00e1gica que necesitamos?<\/strong> A ver, la tecnolog\u00eda es incre\u00edble cuando se usa bien, pero lo hemos visto mil veces: la automatizaci\u00f3n puede llevar a errores masivos si no se controla como es debido<\/strong>. Y cuando hablas de algo que afecta directamente las vidas de las personas, como si reciben o no esos beneficios que pueden hacer la diferencia entre pagar la renta o no, la cosa se pone seria.<\/p>\n\n\n\n

    \n\n\n\n

    \u00bfQu\u00e9 pasa si la IA se equivoca?<\/h3>\n\n\n\n

    Esta es la gran pregunta. Porque mira, todos los sistemas de IA tienen margen de error. Y como mencion\u00e9 antes, los estudios muestran que este tipo de IA puede equivocarse en hasta un tercio de los casos<\/strong>. Eso es una cifra que no podemos pasar por alto.<\/p>\n\n\n\n

    Ahora, si la IA toma una decisi\u00f3n equivocada, el humano que revisa puede corregirlo, pero la verdad es que sabemos c\u00f3mo funcionan estas cosas en la vida real. Cuando tienes prisa y una monta\u00f1a de casos acumulados<\/strong>, es muy tentador simplemente aceptar lo que diga la IA sin mirar mucho m\u00e1s all\u00e1. Y ah\u00ed es donde entran los problemas.<\/p>\n\n\n\n

    Adem\u00e1s, \u00bfc\u00f3mo sabes d\u00f3nde se equivoc\u00f3 la IA?<\/strong>. Imag\u00ednate que la IA da una recomendaci\u00f3n equivocada, el humano lo pasa por alto, y la decisi\u00f3n es incorrecta. \u00bfC\u00f3mo rastreas ese error?<\/strong> Todo se vuelve un ciclo de \u00abla m\u00e1quina dijo esto\u00bb, y buena suerte intentando desentra\u00f1ar d\u00f3nde estuvo la falla. Y en ese punto, apelar la decisi\u00f3n se vuelve un dolor de cabeza gigante para el afectado. Es como intentar arreglar un error burocr\u00e1tico gigante.<\/strong><\/p>\n\n\n\n

    \n\n\n\n

    \u00bfEstamos listos para que la IA decida por nosotros?<\/h3>\n\n\n\n

    Este es el tema de fondo. No es solo Nevada. Si este sistema funciona, puedes apostar a que otros estados lo van a copiar<\/strong>. La IA se va a meter de lleno en m\u00e1s procesos gubernamentales, y vamos a ver c\u00f3mo cada vez m\u00e1s decisiones, que antes eran humanas, ser\u00e1n tomadas o influenciadas por una m\u00e1quina.<\/p>\n\n\n\n

    Y, claro, todo tiene su lado bueno<\/strong>. Menos tiempo de espera, menos trabajo para las personas detr\u00e1s del sistema, m\u00e1s eficiencia. Pero, por otro lado, tenemos que pensar en c\u00f3mo balancear eso con la necesidad de decisiones justas y humanas<\/strong>. Porque al final, la tecnolog\u00eda es una herramienta, pero si la usamos mal, nos estamos disparando en el pie<\/strong>.<\/p>\n\n\n\n

    \n\n\n\n

    Para terminar (pero no del todo)<\/h3>\n\n\n\n

    As\u00ed que ah\u00ed lo tienes. Nevada est\u00e1 jugando una carta arriesgada al meter IA en el proceso de decisiones de beneficios de desempleo. Y la verdad, no me sorprende que haya opiniones encontradas<\/strong>. Algunos dicen que es el futuro y que puede arreglar un mont\u00f3n de problemas. Otros temen que termine siendo m\u00e1s un dolor de cabeza que una soluci\u00f3n real.<\/p>\n\n\n\n

    En fin, \u00bfesto va a ser un avance incre\u00edble o un desastre en potencia? Solo el tiempo lo dir\u00e1<\/strong>. Al final, todo depende de c\u00f3mo se implemente y, sobre todo, de que no se pierda el control humano<\/strong> en decisiones tan importantes. Porque una cosa es cierta: si todo queda en manos de la IA, nos arriesgamos a meternos en un buen l\u00edo<\/strong>.<\/p>\n\n\n\n

    Y bueno, eso es lo que hay por ahora. Lo que pase despu\u00e9s, ya veremos…<\/p>\n\n\n

    \n \n
    \n \n
    \n
    \n \n\n
    <\/div>\n <\/div>\n
    \n \n\n
    <\/div>\n <\/div>\n
    \n \n\n
    <\/div>\n <\/div>\n
    \n \n\n
    <\/div>\n <\/div>\n
    \n \n\n
    <\/div>\n <\/div>\n <\/div>\n \n
    \n
    \n \n\n
    <\/div>\n <\/div>\n
    \n \n\n
    <\/div>\n <\/div>\n
    \n \n\n
    <\/div>\n <\/div>\n
    \n \n\n
    <\/div>\n <\/div>\n
    \n \n\n
    <\/div>\n <\/div>\n <\/div>\n<\/div>\n \n\n
    \n 4.5\/5 - (24 votos) <\/div>\n <\/div>\n","protected":false},"excerpt":{"rendered":"

    Vamos a lo que interesa: Nevada est\u00e1 a punto de lanzar un sistema de inteligencia artificial para manejar los casos de apelaciones de beneficios de desempleo. S\u00ed, leyeron bien, la IA de Google ser\u00e1 quien ayude a decidir si alguien merece o no esos pagos de desempleo. \u00bfQu\u00e9 puede salir mal, no? Esta movida marca […]<\/p>\n","protected":false},"author":2,"featured_media":68878,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[72],"tags":[],"class_list":["post-68877","post","type-post","status-publish","format-standard","has-post-thumbnail","category-noticias-de-tecnologia"],"_links":{"self":[{"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/posts\/68877","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/comments?post=68877"}],"version-history":[{"count":1,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/posts\/68877\/revisions"}],"predecessor-version":[{"id":68879,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/posts\/68877\/revisions\/68879"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/media\/68878"}],"wp:attachment":[{"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/media?parent=68877"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/categories?post=68877"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.alvarezjoseph.com\/blog\/wp-json\/wp\/v2\/tags?post=68877"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}