Un informe de las Naciones Unidas sobre la IA advierte que la tecnología avanza más rápido de lo que los gobiernos pueden seguirle el ritmo, y que la oportunidad para establecer una gobernanza global eficaz no estará abierta para siempre.
El informe preliminar del Panel Científico Internacional Independiente de la ONU sobre Inteligencia Artificial presenta la IA como un arma de doble filo.
Se afirma que los beneficios potenciales de la IA son enormes. Si se implementa y aplica de forma reflexiva, esta tecnología podría contribuir al progreso hacia los objetivos de desarrollo sostenible, entre otros beneficios.
Por otro lado, un despliegue rápido y sin control de la tecnología a gran escala presenta riesgos como daños a la salud mental de los usuarios, su posible uso como herramienta destructiva y un impacto adverso en los sistemas sociales, económicos y ambientales.
Según el informe, para aprovechar los beneficios de la IA y minimizar sus riesgos se requiere una gobernanza eficaz. Con inversiones complementarias en capacitación y regulación del mercado laboral, es probable que la IA cree nuevos empleos. Sin ellas, la IA conlleva el riesgo de aumentar la desigualdad, desplazar a los trabajadores y transferir la riqueza del trabajo al capital, es decir, a quienes poseen y controlan la IA.
La IA es, por supuesto, un término muy amplio que abarca desde algoritmos que intentan predecir la palabra que se está escribiendo hasta grandes modelos lingüísticos (MLL). El informe de la ONU parece centrarse principalmente en la IA con capacidad de agencia, que se refiere a sistemas que pueden tomar sus propias decisiones y actuar en consecuencia.
No hay garantía de que estos agentes de IA no infrinjan sus instrucciones, y el informe de la ONU afirma que existen pruebas claras de casos en los que ya las han desobedecido. Este comportamiento puede plantear dificultades para los métodos de evaluación y supervisión, ya que se ha demostrado que algunos sistemas de IA avanzados reconocen los entornos de prueba y producen resultados de evaluación engañosos.
Según el informe, los sistemas basados en agentes dificultan la medición y la gobernanza de la IA, ya que los riesgos emergentes de los sistemas multiagente no pueden detectarse mediante la evaluación de un solo agente, y los métodos fiables para mantener el control sobre sistemas altamente autónomos siguen estando poco desarrollados.
El informe también señala que los responsables políticos que pretenden elaborar una gobernanza eficaz se enfrentan a un dilema: necesitan pruebas para tomar decisiones informadas, pero para cuando existan pruebas suficientes, es posible que los sistemas perjudiciales ya estén ampliamente implementados.
Las capacidades de la IA también están distribuidas de forma desigual. La mayoría de las naciones, incluidas muchas economías avanzadas, carecen de la experiencia técnica necesaria para evaluar los modelos de «frontera» más capaces o para participar de manera significativa en su gobernanza, según afirma la ONU.
Estados Unidos y China concentran el 90% de la capacidad de procesamiento de los principales modelos de IA, lo que deja a los países en desarrollo a merced de tecnologías que no pueden construir ni adaptar a sus propias sociedades. Esto podría reforzar la desigualdad global existente en lugar de reducirla.
Sin embargo, el informe reconoce la falta de visibilidad del propio Panel Científico en ciertas áreas. Afirma que la evidencia es limitada en cuanto a si las mejoras en la productividad de la IA a nivel de tareas se traducirán en beneficios para toda la economía.
Como ya informó The Register , muchas empresas no están logrando aumentar sus ingresos ni reducir los costos operativos a través de sus proyectos de IA, y eso fue antes de que los proveedores de IA elevaran los costos al pasar a precios basados en el consumo , lo que significa que no hay pruebas de que la IA vaya a ser rentable alguna vez.
Según la ONU, las previsiones difieren significativamente debido a las diferentes suposiciones sobre la adopción y la creación de nuevas tareas.
El panel concluye que la IA no es intrínsecamente buena ni mala, sino que su impacto dependerá de las decisiones que tomen hoy los gobiernos, las empresas y las sociedades.
Dado que el gobierno estadounidense ya se muestra hostil a cualquier intento de regular a las empresas de IA, y que la industria ya está copiando técnicas utilizadas por las tabacaleras, las grandes farmacéuticas y las petroleras para eludir la regulación , el panorama no es alentador.