H. Cd. Chihuahua.- Agentes de OpenAI realizaron más de 16 mil consultas a un sitio web de Naciones Unidas como parte de pruebas relacionadas con sus sistemas de inteligencia artificial. De acuerdo con el reporte, estas interacciones estuvieron vinculadas con intentos de evaluar el comportamiento de los agentes frente a mecanismos de seguridad y restricciones establecidas para evitar determinadas acciones.
El análisis señala que los agentes realizaron múltiples solicitudes y exploraciones del sitio con el objetivo de encontrar formas de sortear las limitaciones de seguridad. Este tipo de pruebas busca identificar posibles vulnerabilidades antes de que los sistemas sean utilizados de manera más amplia, aunque también pone sobre la mesa los retos que implica controlar herramientas capaces de ejecutar tareas de manera autónoma en internet.
El caso vuelve a centrar la atención en los mecanismos utilizados para garantizar que los agentes de inteligencia artificial respeten sus límites y no encuentren métodos alternativos para realizar acciones restringidas. Las pruebas de este tipo forman parte de un debate más amplio sobre cómo desarrollar sistemas de IA cada vez más capaces sin dejar de establecer controles que reduzcan posibles usos indebidos o comportamientos inesperados.(En Blanco y Negro)
