El desarrollo de la inteligencia artificial (IA) plantea nuevos desafíos para la seguridad, la regulación y la soberanía tecnológica de los países. Así lo expuso Mauricio Gaona, embajador de Colombia ante las Naciones Unidas, durante una intervención en la que analizó la evolución de estos sistemas y los riesgos asociados con el aumento de su autonomía.
Uno de los principales aspectos abordados estuvo relacionado con la protección de la infraestructura crítica y los sistemas de ciberseguridad. Gaona señaló que los casos analizados evidencian que una tecnología capaz de operar de manera autónoma puede generar situaciones que trasciendan los errores convencionales de una herramienta informática.
“La preocupación es la pérdida de control”, afirmó Gaona al referirse a la posibilidad de que los sistemas de IA desarrollen capacidades que superen la comprensión humana.
Recibe nuestro boletín en tu correo
Según explicó, los modelos actuales pueden procesar y almacenar grandes volúmenes de información que exceden las capacidades individuales de las personas y, mediante sus algoritmos, desarrollar procesos de razonamiento cada vez más complejos.
El desafío de supervisar sistemas que los humanos no comprenden
Gaona planteó que uno de los principales riesgos surge cuando una máquina encuentra soluciones diferentes a las que utilizaría una persona. En ese escenario, la dificultad no radicaría únicamente en detectar un error, sino también en comprender las razones que llevaron al sistema a tomar una determinada decisión.
“Estamos llegando a una etapa en la que podríamos controlar algo que no podemos entender”, sostuvo el embajador al advertir sobre las implicaciones de una eventual inteligencia artificial superinteligente.
Recomendado: El Impacto de la inteligencia artificial en la evolución empresarial colombiana
El diplomático también hizo referencia al desarrollo autónomo de la IA, mediante sistemas capaces de escribir código, identificar nuevos caminos y plantear soluciones con una intervención humana cada vez menor.
Para Gaona, esta discusión debe abordarse desde una perspectiva internacional. A su juicio, el debate no consiste en escoger entre seguridad y desarrollo, sino en establecer mecanismos que permitan que los avances tecnológicos generen beneficios para los países, incluidos aquellos del Sur Global.
En ese contexto, advirtió sobre una posible brecha entre las naciones que desarrollan inteligencia artificial y aquellas que se limitan a adquirir estas herramientas para modernizar sus infraestructuras. Según su planteamiento, los países que no participen en la producción de IA podrían enfrentar efectos sobre sus capacidades tecnológicas, económicas y productivas.
El embajador comparó este debate con la regulación aplicada a tecnologías como los automóviles y las armas nucleares. La diferencia, explicó, radica en que históricamente los seres humanos han conocido los riesgos asociados con las tecnologías que regulan.
“Los humanos siempre estuvieron en control; los humanos entendían los riesgos”, señaló Gaona.
Por ello, sostuvo que la discusión sobre inteligencia artificial debe incorporar límites y reglas antes de que los sistemas alcancen niveles de autonomía que dificulten su supervisión por parte de las personas.
