El programa de inteligencia artificial más importante del mundo en este momento es de una empresa que, a diferencia de muchas de sus pares, no publica su código fuente. ¿Qué implicaciones éticas podría tener esto? El pionero de la IA, Yoshua Bengio, director científico del Instituto MILA de Canadá para la IA, advierte que la falta de transparencia de ChatGPT y GPT-4 podría provocar un cambio dañino hacia el secreto en la IA.
La presión del mercado y la falta de divulgación
Bengio advierte que la presión del mercado podría empujar a la industria hacia una menor divulgación, lo que podría obstaculizar el progreso científico y causar otros daños. El programa de lenguaje natural ChatGPT, creado por OpenAI, no es de código abierto como muchos otros programas de lenguaje natural anteriores. Además, la compañía se negó a revelar los detalles técnicos de la última versión, GPT-4. La naturaleza cerrada de ChatGPT podría volverse mucho más la norma en la IA.
La ruptura con la práctica común en la IA de aprendizaje profundo
La falta de transparencia de ChatGPT y GPT-4 es una ruptura con la práctica común en la IA de aprendizaje profundo, donde los académicos tanto académicos como empresariales han tendido a publicar agresivamente, siguiendo la tradición del software de código abierto, donde el código se hace fácilmente disponible para quien lo desee.
Implicaciones éticas
Bengio, quien es profesor titular en la Universidad de Montreal y también codirige el Programa CIFAR de Aprendizaje en Máquinas y Cerebros, fue un orador invitado para una charla de una hora y media organizada por Collective[i] Forecast. En respuesta a la pregunta de la audiencia sobre si todavía es posible tener un marco ético en la investigación de IA, Bengio dijo que los académicos «van a seguir haciendo ciencia abierta y compartiendo su trabajo, porque eso es parte de su modelo». Está menos claro que la investigación de la industria seguirá el camino abierto.
El impacto en el progreso tecnológico
Bengio advierte que las prácticas secretas no solo podrían retrasar la investigación de la industria, sino que también pueden ofuscar los daños al público. Si la gente se mueve demasiado rápido y rompe cosas, podría ser malo, incluso podría ser una reacción violenta para toda la industria. Las patentes no son suficientes, ya que la carne real de la investigación está en los documentos científicos. Las pequeñas empresas también podrían verse afectadas por la falta de transparencia en la IA.
