La inteligencia artificial avanza a gran velocidad y sus capacidades son cada vez mayores. Mientras sus aplicaciones prometen transformar la educación, la ciencia y el trabajo, expertos advierten que también existen riesgos que hacen necesaria una regulación y supervisión más estrictas.

El debate sobre hasta dónde puede llegar la inteligencia artificial volvió a tomar fuerza. En Colombia, el profesor de la Universidad de los Andes y experto en regulación de IA Juan David Gutiérrez advirtió que la posibilidad de que sistemas avanzados provoquen daños de gran escala no puede considerarse inexistente.

Una de las preocupaciones está relacionada con el nivel de autonomía que pueden alcanzar algunos sistemas. Según Gutiérrez, determinadas herramientas pueden desarrollar comportamientos que sus propios creadores no anticipan completamente, especialmente cuando utilizan mecanismos de aprendizaje por refuerzo para mejorar su desempeño.

El debate no se limita a Colombia. Este miércoles, investigadores vinculados a empresas líderes del sector volvieron a poner sobre la mesa los riesgos de una futura superinteligencia artificial, especialmente ante la posibilidad de que los sistemas desarrollen capacidades superiores a las humanas y sean difíciles de controlar. Algunos expertos incluso han planteado escenarios de riesgo extremo durante la próxima década.

Sin embargo, hablar de una posible extinción humana por inteligencia artificial no significa que ese escenario esté predicho ni que sea inevitable. Se trata de uno de los escenarios de riesgo que investigadores, gobiernos y organizaciones internacionales analizan mientras la tecnología continúa evolucionando. Otros problemas mucho más inmediatos ya generan preocupación, como la desinformación, los ataques informáticos, los sesgos, la privacidad y el impacto de la automatización sobre determinados empleos.

¿Y COLOMBIA CÓMO SE ESTÁ PREPARANDO?

La discusión también llegó al Congreso colombiano. Actualmente existe un proyecto de ley que busca establecer un marco general para el desarrollo, investigación, implementación y supervisión de sistemas de inteligencia artificial en el país. La iniciativa plantea principios como transparencia, supervisión humana, seguridad, protección de datos, responsabilidad y regulación basada en riesgos.

Gutiérrez explicó, además, que desde 2023 universidades como Los Andes y el Externado participan en una mesa de trabajo dedicada a discutir la regulación de esta tecnología en Colombia. Para el académico, que el país no produzca directamente los sistemas de IA no significa que pueda permanecer al margen de establecer reglas para su utilización.

La discusión internacional también apunta hacia una mayor coordinación. El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, pidió recientemente establecer medidas de seguridad sólidas y límites claros frente a los riesgos asociados con sistemas avanzados de inteligencia artificial.

La inteligencia artificial ya hace parte de la vida cotidiana y sus beneficios son evidentes, pero su rápido desarrollo también plantea preguntas que todavía no tienen todas las respuestas. El desafío, más que detener la tecnología, está en establecer reglas, supervisión y responsabilidades que permitan aprovechar sus capacidades sin perder el control sobre sus riesgos.