La velocidad con la que avanza la inteligencia artificial volvió a poner en discusión sus posibles beneficios, pero también los riesgos asociados al desarrollo de sistemas cada vez más autónomos. En una entrevista con Antonio Novas, en el programa Personalmente de FM Estudio 2, el especialista en inteligencia artificial Claudio Martínez planteó un escenario de creciente preocupación por la denominada “carrera de la frontera” tecnológica.
Martínez explicó que uno de los fenómenos que genera mayor atención entre los especialistas es el denominado entrenamiento recursivo, mediante el cual los sistemas de inteligencia artificial pueden participar cada vez más activamente en la programación, evaluación y mejora de otros sistemas.
“Las máquinas se están programando y entrenando a sí mismas”, explicó el especialista durante la entrevista.
Según Martínez, esta automatización introduce una velocidad de desarrollo que resulta difícil de acompañar mediante los mecanismos humanos de supervisión y seguridad.
El temor a que el desarrollo avance más rápido que los controles
Uno de los principales interrogantes planteados durante la conversación fue qué puede ocurrir si la inteligencia artificial alcanza capacidades muy superiores a las humanas en determinadas áreas y, al mismo tiempo, dispone de mayores niveles de autonomía.
Martínez señaló como uno de los riesgos posibles que sistemas altamente avanzados puedan desarrollar objetivos que no coincidan con los intereses humanos o que puedan operar durante períodos prolongados sin intervención directa.
En ese escenario aparece una preocupación conocida dentro del debate sobre seguridad de la IA como riesgo existencial.
El especialista mencionó, entre otros escenarios hipotéticos, la posibilidad de que una inteligencia artificial suficientemente avanzada pudiera intentar evitar que los seres humanos interrumpieran su funcionamiento.
No obstante, durante la entrevista también remarcó que alrededor de estos escenarios existe un importante componente de especulación y que el debate actual combina riesgos concretos con hipótesis sobre desarrollos futuros.
El llamado de los líderes de las grandes empresas de IA
La conversación también abordó las recientes advertencias provenientes de referentes de la industria tecnológica.
Martínez mencionó las posiciones expresadas por Dario Amodei, CEO de Anthropic; Sam Altman, CEO de OpenAI; y Elon Musk, quienes, pese a sus diferencias empresariales, han planteado en distintos momentos la necesidad de discutir límites y mecanismos de seguridad para el desarrollo de sistemas de inteligencia artificial cada vez más poderosos.
El especialista sostuvo que esta coincidencia resulta significativa porque se trata de protagonistas directos de la actual carrera tecnológica.
Al mismo tiempo, planteó una segunda lectura: las empresas que actualmente ocupan posiciones dominantes podrían tener incentivos económicos y estratégicos para impulsar determinadas regulaciones que también podrían funcionar como barreras para nuevos competidores.
La comparación con la energía nuclear
Durante la entrevista, Martínez recordó una propuesta atribuida a Sam Altman: desarrollar mecanismos de seguridad para la inteligencia artificial que tengan algunas características semejantes a los existentes alrededor de la energía nuclear.
La comparación tiene un punto central: ambas tecnologías pueden tener aplicaciones con importantes beneficios sociales, pero también presentan riesgos asociados a usos indebidos o a la pérdida de control.
La inteligencia artificial puede utilizarse para mejorar procesos vinculados con la salud, la educación, la ciencia y las comunicaciones, pero también puede generar problemas relacionados con la desinformación, la seguridad informática, los vínculos sociales y otros ámbitos.
Sin embargo, Martínez marcó una diferencia fundamental entre ambas tecnologías: el desarrollo nuclear estuvo históricamente mucho más ligado a los Estados, mientras que buena parte del desarrollo actual de la inteligencia artificial de frontera está concentrado en empresas privadas.
“¿Cuál es las Naciones Unidas de la Inteligencia Artificial cuando está manejada por un grupo de magnates?”, planteó durante la entrevista.
Estados Unidos, China y la carrera por la inteligencia artificial
Para Martínez, uno de los principales obstáculos para alcanzar acuerdos internacionales es la competencia geopolítica entre Estados Unidos y China.
Según explicó, la inteligencia artificial ya no constituye únicamente una cuestión tecnológica. También tiene implicancias económicas, comerciales, militares y estratégicas.
En ese contexto, sostuvo que la posición del gobierno estadounidense de Donald Trump está fuertemente vinculada con la necesidad de evitar que China obtenga una ventaja tecnológica.
Martínez describió a la IA como uno de los principales campos de disputa por la influencia internacional durante el siglo XXI.
También mencionó los esfuerzos de distintos gobiernos y dirigentes para impulsar mecanismos de gobernanza internacional de la inteligencia artificial, entre ellos Emmanuel Macron, Narendra Modi, Lula da Silva y Pedro Sánchez.
La enorme inversión detrás de la inteligencia artificial
Otro de los puntos analizados fue el volumen de dinero que actualmente moviliza la industria.
Martínez sostuvo que las principales compañías dedicadas al desarrollo de modelos de frontera necesitan enormes cantidades de capital para sostener sus investigaciones y capacidad de cómputo.
En ese sentido, vinculó la aceleración tecnológica con la presión de los inversores para obtener resultados y con las expectativas de futuras operaciones financieras de empresas como OpenAI y Anthropic.
“Han generado una burbuja que puede estallar o puede hacernos estallar”, resumió el especialista, al describir los dos escenarios que, a su entender, deben ser considerados: una eventual corrección financiera del sector o la profundización de los riesgos derivados de una carrera tecnológica sin controles suficientes.
“La inteligencia artificial no hay que pararla, hay que orientarla”
Hacia el final de la entrevista, Martínez planteó cuál debería ser, según su perspectiva, el objetivo de una futura regulación.
El especialista sostuvo que el debate no debería centrarse exclusivamente en detener el desarrollo tecnológico, sino en determinar para qué se utiliza la inteligencia artificial y quién establece sus límites.
En ese sentido, propuso considerar a la IA como un recurso vinculado al interés general y planteó que debería estar orientada al bien común.
“La inteligencia artificial es una herramienta fabulosa, no hay que pararla, hay que orientarla”, afirmó.
La discusión, de acuerdo con su planteo, excede entonces a las empresas tecnológicas. Involucra a los gobiernos, organismos internacionales, universidades, investigadores y a la sociedad civil.
El desafío consiste en encontrar mecanismos que permitan aprovechar las enormes posibilidades de la inteligencia artificial sin que la velocidad de su desarrollo termine superando la capacidad de las sociedades para establecer controles y reglas.
