Uno de los debates más relevantes alrededor de la implementación de la inteligencia artificial tiene que ver son la seguridad de los datos y su capacidad de ser monetizable tras la inversión de recursos.
En esta línea, Sam Altman, CEO de OpenAI, recomendó a las empresas priorizar la seguridad en sus estrategias de inteligencia artificial, incluso por encima de las ganancias de productividad que pueden obtener con esta tecnología en el corto plazo.
Durante una conversación con Clay Magouyrk, co-CEO de Oracle Corporation, el ejecutivo sostuvo que las compañías deben comprender el panorama de amenazas asociado con la IA y tomar medidas para reducir los riesgos.
Su recomendación parte de la capacidad que están demostrando estos sistemas para encontrar vulnerabilidades en la infraestructura tecnológica.
“Si pudiera recomendarle una sola cosa a una empresa para hacer con inteligencia artificial en el muy corto plazo, incluso por encima de volverse súper productiva con estos productos, sería comprender realmente el panorama de amenazas de seguridad de la IA y mitigarlas”, afirmó durante el Oracle AI World, evento al que asiste Valora Analitik en Las Vegas (Estados Unidos).
Altman también cuestionó la idea de que la inteligencia artificial esté creando los problemas de seguridad que hoy enfrentan las organizaciones. En cambio, explicó que esta tecnología está ayudando a identificar fallas que se han acumulado durante décadas y que, hasta ahora, podían permanecer sin detectar.
Relacionado: Entrevista | Oracle apunta a duplicar clientes en su data center en Colombia; consolidará operación con Centroamérica
La IA está descubriendo vulnerabilidades acumuladas durante décadas
“AI no está creando el problema. La IA no está creando estos errores. La IA nos está ayudando a descubrir todos los problemas de seguridad que hemos desarrollado durante los últimos 50 años”, señaló Altman durante el encuentro.
En ese sentido, el ejecutivo consideró que la capacidad de identificar estas vulnerabilidades representa una oportunidad para anticiparse a posibles ataques.
Según explicó, es preferible que las organizaciones descubran las fallas mediante herramientas de inteligencia artificial antes de que un atacante las encuentre y las aproveche.
“Me alegra que ahora podamos descubrirlas con IA, en lugar de esperar a que algún hacker desconocido nos lo haga saber”, afirmó.
La advertencia pone el foco en una dimensión de la adopción empresarial de la inteligencia artificial que va más allá de la automatización de tareas o la mejora de los resultados operativos.
Para Altman, las compañías también deben prepararse para identificar los riesgos de seguridad que la propia tecnología está haciendo visibles y actuar para mitigarlos.
Oracle y OpenAI amplían colaboración para integrar IA en empresas
Oracle y OpenAI anunciaron una ampliación de su colaboración para incorporar herramientas de inteligencia artificial a las operaciones empresariales, el desarrollo de aplicaciones y la gestión de la seguridad informática. El acuerdo integra los modelos de OpenAI, ChatGPT y Codex con las aplicaciones, los datos y la infraestructura de nube de Oracle.
La colaboración contempla cuatro soluciones. Una de ellas es Oracle AI Workspace, que permitirá a los empleados consultar información empresarial y ejecutar tareas autorizadas desde una interfaz integrada con ChatGPT y los sistemas de Oracle, incluidas sus aplicaciones Fusion y NetSuite.
En materia de seguridad, Oracle AI Security Mesh utilizará modelos de OpenAI para detectar y validar vulnerabilidades en aplicaciones e infraestructura tecnológica. El servicio también busca facilitar la corrección de esas fallas en entornos de nube y sistemas locales, bajo controles definidos por cada organización.
La alianza incluye, además, Oracle App Composer, una herramienta para desarrollar aplicaciones empresariales con Codex sin exigir conocimientos de programación. Oracle administrará su implementación y operación en su infraestructura de nube, mientras que las áreas de tecnología de las empresas conservarán controles sobre el acceso, los datos y los costos.
El cuarto componente está dirigido a pequeñas empresas. Oracle AI SMB Bundle reúne ChatGPT Business, herramientas para desarrollar aplicaciones y servicios de nube, además de NetSuite QuickStart, para apoyar la gestión de operaciones financieras. La oferta contempla US$12.000 en créditos anuales de Oracle Cloud Infrastructure (OCI), sujetos a condiciones de elegibilidad y uso.
