Los fiscales generales de ocho estados de Estados Unidos, incluidos dos gobernados por el Partido Republicano, presentaron este miércoles una demanda contra la empresa de inteligencia artificial OpenAI. Acusan a la compañía, desarrolladora de ChatGPT, de “causar daño a niños, engañar a padres” y de violar leyes de protección al consumidor.
La fiscal general de Iowa, Brenna Bird, anunció en una rueda de prensa que su oficina demandará a OpenAI por causar daño a menores, engañar a progenitores e infringir la Ley contra el Fraude al Consumidor de Iowa. Comunicados similares fueron emitidos por las fiscalías de Arizona, Idaho, Nebraska y Virginia Occidental. Las demandas se presentan además junto a las de Arkansas, Kansas y Montana.
El grupo, que incluye fiscales nombrados por ambos partidos, sostiene que OpenAI continuó desarrollando sus productos de IA pese a conocer la necesidad de medidas de seguridad. Alegan que la empresa ha incumplido las leyes de protección al consumidor de sus estados y que comercializa un producto que puede poner en riesgo a usuarios vulnerables, como los menores.
Varias fiscalías advierten específicamente sobre el uso de ChatGPT para obtener instrucciones para autolesionarse e incluso para el suicidio, según se recoge en las comunicaciones sobre la demanda.
El fiscal general de Arkansas, el republicano Tim Griffin, señaló que en múltiples casos algunos usuarios “lograron eludir las medidas de seguridad de OpenAI y generar respuestas que, según la propia empresa, sus mecanismos de protección estaban diseñados para evitar”.
Por su parte, la fiscal general de Arizona, Kris Mayes, afirmó que “OpenAI puso en riesgo la seguridad de los habitantes de Arizona al no implementar protecciones adecuadas para los usuarios ni medidas de transparencia, pese a indicios claros de que los menores interactuaban habitualmente con su chatbot”. Añadió que su oficina buscará con la demanda “proteger a los niños de Arizona y exigir responsabilidades a la empresa por sus reiteradas infracciones”.
Estas demandas se suman a otros desafíos legales contra OpenAI mientras los tribunales valoran si los desarrolladores de IA pueden ser responsables de episodios vinculados a la salud mental. En Canadá, por ejemplo, la familia de una joven herida en un tiroteo escolar demandó a la empresa alegando que esta conocía el plan del sospechoso pero no alertó a las autoridades.
En la actualidad, ChatGPT está disponible para personas mayores de 13 años; los menores de 18 necesitan el permiso de un padre o tutor. OpenAI afirma que trata de verificar la edad de los usuarios combinando la edad declarada, señales de comportamiento y, cuando es necesario, una verificación adicional.
Drew Pusateri, portavoz de OpenAI, dijo en un comunicado que la compañía ha incorporado “protecciones específicas por edad líderes en el sector”, que a su juicio no están presentes en otras empresas.
Pusateri añadió que, aunque ningún sistema es perfecto, OpenAI seguirá colaborando con expertos para orientar su trabajo y desarrollar salvaguardias adicionales, incluidas funciones de control parental, recordatorios para tomar descansos y protecciones del modelo adaptadas por edad.
El representante de la empresa aseguró, además, que los responsables de OpenAI están “comprometidos a trabajar con los estados para promover políticas pragmáticas sobre IA que se apliquen a toda la industria y no solo a una empresa”.
