H. Cd. Chihuahua.-Un hombre fue condenado en Florida, Estados Unidos, después de utilizar conversaciones con ChatGPT para planear un ataque contra su exnovia. Se trata de Darren Zhou, un exanalista financiero de Goldman Sachs, quien llegó a un acuerdo de culpabilidad ante una corte del condado de Palm Beach por cargos relacionados con amenazas de muerte o lesiones, ciberacoso y el uso de un dispositivo de comunicación para cometer un delito. El caso salió a la luz luego de que OpenAI detectara mensajes considerados de alto riesgo y notificara al FBI.
De acuerdo con documentos judiciales, Zhou habría realizado repetidas declaraciones sobre su intención de atacar o asesinar a su expareja, además de describir un supuesto plan y señalar que estaba siguiendo los horarios de la víctima para localizarla. La alerta también indicó que el hombre había hablado con la herramienta sobre un posible escenario de asesinato-suicidio. Debido a la información detectada en las conversaciones, OpenAI emitió una advertencia de emergencia que posteriormente permitió a las autoridades intervenir.
El caso vuelve a poner bajo la lupa los mecanismos de seguridad de las plataformas de inteligencia artificial y el debate sobre cómo deben actuar cuando detectan conversaciones relacionadas con posibles delitos. En Estados Unidos, OpenAI enfrenta además cuestionamientos y acciones legales relacionadas con la seguridad de sus sistemas, mientras autoridades y especialistas discuten hasta dónde deben llegar las medidas de protección de estas herramientas. La empresa, en este caso, fue quien alertó a las autoridades sobre las conversaciones que consideró potencialmente peligrosas.(En Blanco y Negro)
