EUA.- El estado de Florida presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman, al acusarlos de haber minimizado los riesgos de seguridad de ChatGPT para niños y adolescentes. La acción legal fue impulsada por el fiscal general James Uthmeier, quien sostiene que la plataforma habría facilitado información a personas involucradas en hechos violentos, además de generar riesgos relacionados con autolesiones y uso excesivo entre usuarios jóvenes.
La demanda, presentada ante un tribunal estatal, cita diversos casos, incluido un tiroteo ocurrido en una universidad de Tallahassee, así como otros incidentes en los que, según las autoridades, personas que posteriormente cometieron actos violentos habrían interactuado con ChatGPT. Uthmeier afirmó que Altman fue incluido personalmente en el proceso por considerar que desempeñó un papel clave en el desarrollo y despliegue de las funciones cuestionadas.
Las autoridades de Florida buscan una indemnización que podría ascender a miles de millones de dólares y una orden judicial que obligue a modificar la manera en que la plataforma interactúa con menores de edad. Por su parte, OpenAI ha señalado anteriormente que sus modelos están diseñados para rechazar solicitudes que puedan facilitar actos violentos y que existen protocolos para alertar a las autoridades cuando se detecta un riesgo creíble e inminente para terceros. La demanda se suma a una serie de litigios que enfrentan distintas empresas de inteligencia artificial por el impacto potencial de sus sistemas en la salud mental, la seguridad y el comportamiento de los usuarios.
