En medio del debate generado en torno a los riesgos de la inteligencia artificial (IA), Dario Amodei, CEO de Anthropic, hizo un llamado a “ralentizar” el ritmo en el desarrollo de esta tecnología para garantizar su seguridad. Para ello, el directivo propuso un plan de tres pasos para avanzar con “prudencia” y generar más confianza sobre su uso.
“Creo que si ralentizar el desarrollo nos diera incluso uno o dos años adicionales antes de que los modelos alcancen niveles críticos de capacidad, y usáramos ese tiempo para avanzar en la alineación, podríamos reducir considerablemente el riesgo de que algo salga muy mal”, mencionó Amodei en una publicación reciente.
Esa estrategia de ritmo coordinado contempla:
- Evaluadores integrados: como punto de partida, el CEO de Anthropic propone que cada empresa de IA se comprometa a brindar acceso continuo a un equipo de evaluadores externos para verificar el cumplimiento de las prácticas y compromisos de seguridad, reportar incidentes y ayudar a evaluar la alineación, no solo de los modelos de inteligencia artificial, sino también de los procesos y las metodologías de entrenamiento.
- Coordinación democrática: las compañías se coordinarían para establecer estándares de seguridad comunes, así como límites al ritmo de desarrollo “descontrolado” de la IA. Amodei reconoce que esto necesitaría apoyo gubernamental para sortear reparos antimonopolio.
- Coordinación global: en este último paso, Estados Unidos y otros gobiernos democráticos intentarían coordinarse con los gobiernos autoritarios, en la medida de lo posible, sin dejar de tomar en serio los retos que supone verificar el cumplimiento.
Recibe nuestro boletín en tu correo
Destacado: Relevante | GEB comienza proceso para listarse en Nueva York: viene aprobación de accionistas
De acuerdo con Amodei, este plan de acción permitiría tener más tiempo para hacer que el desarrollo de esta tecnología sea mucho más seguro. “Hay demasiado en juego como para que la gestión del tiempo sea un ejercicio inútil; debemos aprovechar el tiempo que nos brinda con inteligencia”, indicó.
Al mismo tiempo, Anthropic se compromete unilateralmente con el primero de estos pasos en un esfuerzo por fortalecer su operatividad y desarrollo.
La reacción a esta propuesta no se hizo esperar y uno de los primeros en alzar su voz fue el multimillonario Elon Musk. A través de su cuenta de X, el empresario señaló estar de acuerdo con los puntos establecidos por Amodei para ralentizar el ritmo de la IA.
Cabe recordar que estas declaraciones se producen luego de que el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidiera abandonar la industria, señalando a ambas empresas de “jugar con nuestras vidas” en la carrera por mejorar la inteligencia artificial.
