Los fiscales generales de ocho estados de Estados Unidos, incluidos dos gobernados por el Partido Republicano, han presentado este miércoles una demanda contra la empresa de inteligencia artificial OpenAI, acusándola de «causar daño a niños, engañar a padres» y de incumplir leyes de protección al consumidor.
La fiscal general de Iowa, Brenna Bird, anunció en una rueda de prensa que demandará a OpenAI por causar daño a los niños de ese estado, engañar a los padres e infringir la Ley contra el Fraude al Consumidor de Iowa, según un comunicado de su oficina. Comunicados con una redacción similar fueron emitidos por las fiscalías de Arizona, Idaho, Nebraska y Virginia Occidental; las demandas se presentaron conjuntamente con los estados de Arkansas, Kansas y Montana.
El grupo, que incluye fiscales nombrados por ambos partidos, afirma que OpenAI continuó desarrollando sus productos de IA a pesar de conocer la necesidad de medidas de seguridad. Sostienen además que la empresa ha violado las leyes de protección al consumidor de sus estados y que su producto pone en riesgo a usuarios vulnerables, como los menores.
Varias fiscalías alertan en sus comunicados sobre el uso de ChatGPT para solicitar instrucciones relacionadas con la autolesión y el suicidio.
El fiscal general de Arkansas, el republicano Tim Griffin, señaló que en múltiples casos algunos usuarios «lograron eludir las medidas de seguridad de OpenAI y generar respuestas que, según la propia empresa, sus mecanismos de protección estaban diseñados para evitar».
La fiscal general de Arizona, Kris Mayes —demócrata, aunque hasta 2019 fue republicana— declaró que «OpenAI puso en riesgo la seguridad de los habitantes de Arizona al no implementar protecciones adecuadas para los usuarios ni medidas de transparencia, a pesar de existir indicios claros de que los menores interactuaban habitualmente con su chatbot». Añadió que su oficina busca, a través de la demanda, «proteger a los niños de Arizona y exigir responsabilidades a la empresa por sus reiteradas infracciones».
Estas demandas se suman a otros desafíos legales que enfrenta OpenAI, mientras los tribunales analizan si los desarrolladores de IA pueden ser considerados responsables por ciertos incidentes relacionados con la salud mental. En Canadá, por ejemplo, la familia de una joven gravemente herida en un tiroteo escolar demandó a la empresa, alegando que OpenAI habría tenido conocimiento del ataque planeado por el sospechoso pero no alertó a las autoridades.
Actualmente, ChatGPT permite el uso a personas mayores de 13 años; los menores de 18 necesitan el permiso de un padre o tutor. Según OpenAI, la empresa intenta verificar la edad mediante una combinación de la edad declarada por el usuario, señales de comportamiento y, cuando es necesario, una comprobación adicional de la edad.
El portavoz de OpenAI, Drew Pusateri, afirmó en un comunicado difundido a medios estadounidenses que la compañía ha incorporado en sus productos «protecciones específicas por edad líderes en el sector», que, según él, no están presentes en otras empresas.
Pusateri agregó que, aunque ningún sistema es perfecto, OpenAI seguirá colaborando con expertos para orientar su trabajo y desarrollar salvaguardias adicionales, como controles parentales, recordatorios de descanso y protecciones del modelo adaptadas a la edad. También aseguró que la empresa está comprometida a trabajar con los estados para promover políticas pragmáticas sobre IA que se apliquen a toda la industria y no solo a una compañía.
