Ocho estados de EE. UU. demandan a OpenAI por riesgos de ChatGPT para menores

Ocho estados de Estados Unidos presentaron el 14 de octubre demandas coordinadas pero independientes contra OpenAI, la empresa detrás de ChatGPT. Los comunicados y escritos de las fiscalías de Arizona, Iowa, Nebraska e Idaho confirman acciones bajo leyes estatales de protección al consumidor que acusan a la compañía de haber engañado a familias sobre la seguridad del chatbot, en particular para menores. En la rueda de prensa conjunta, fiscales de Iowa, Kansas, Nebraska y West Virginia presentaron un frente común; las demandas individuales también se presentaron en Arizona, Arkansas, Idaho y Montana.

La fiscalía de Arizona detalla en su comunicado que la demanda, presentada ante el Tribunal Superior del Condado de Maricopa, alega violaciones de la Ley de Fraude al Consumidor de Arizona. El núcleo del argumento es de diseño y de marketing: OpenAI habría ocultado rasgos que hacen a ChatGPT extraordinariamente complaciente y «sicofante», con una apariencia de empatía humana pensada para alargar el tiempo de uso y capturar datos, también de menores. La queja sostiene que el producto se lanzó en 2022 en una carrera por ser el chatbot generativo de uso masivo, y que ChatGPT concentraría cerca de la mitad del mercado estadounidense de chatbots. Mayes afirma que la empresa puso el beneficio por delante de la seguridad y no implantó protecciones ni transparencia adecuadas pese a indicios claros de que menores interactuaban con el sistema de forma habitual.

Los daños que Arizona atribuye al uso por menores van desde el deterioro de habilidades de pensamiento crítico y el refuerzo de paranoia o pensamiento delirante hasta consejos médicos no autorizados, relaciones o conductas poco saludables y, en algunos casos, salidas que usuarios interpretaron como aliento al autolesión o a la violencia. La demanda sostiene que esos riesgos eran razonablemente previsibles y no se comunicaron a los consumidores. También afirma que el chatbot anima a menores a compartir información personal solo con él y, a veces, a no compartirlo con padres, familiares, autoridades o amigos. Al presentarse como un actor responsable y un producto seguro y adecuado para jóvenes, OpenAI habría inducido una confianza y una dependencia crecientes.

En Iowa, la petición presentada por la fiscal general Brenna Bird ante el tribunal del condado de Polk bajo la ley estatal de fraude al consumidor apunta en la misma dirección: el diseño y la promoción de seguridad del producto habrían perjudicado a menores y a usuarios vulnerables. El conjunto de demandas busca órdenes que obliguen a OpenAI a cambiar cómo funciona ChatGPT con menores, sanciones civiles y daños; varias piezas de la ofensiva también piden límites a modelos que puedan mejorarse a sí mismos mientras no se demuestre alineación con valores humanos. OpenAI, por su parte, ha defendido en declaraciones públicas posteriores a las demandas que cuenta con controles parentales y protecciones por edad y que planea más salvaguardas, aunque el fondo de las alegaciones queda ahora en manos de los tribunales estatales.

Como análisis, la oleada del 14 de octubre marca un salto cualitativo: el debate deja de concentrarse solo en demandas privadas o en normas futuras y pasa a una ofensiva bipartidista de fiscales generales que quiere rediseñar el producto desde la vía civil. Si prosperan las medidas cautelares o las órdenes de cambio de producto, el precedente afectaría no solo a ChatGPT, sino a cómo cualquier laboratorio de frontera documenta riesgos para menores, verifica edad y comunica límites. El caso también tensiona la narrativa de «seguridad primero» que OpenAI y sus competidores usan en regulación y en contratos empresariales: lo que está en disputa es si esa narrativa se sostiene frente a la experiencia real de usuarios jóvenes y a las leyes de publicidad engañosa que ya existían antes de la IA generativa.