El proyecto de Ley que aprobó California y que impacta en los chats de IA: falta la firma de Gavin Newsom

Compartir Tweet

California avanza en un intento de regular el uso de inteligencia artificial con la aprobación del proyecto de ley SB 243, enfocado en los llamados companion chatbots (chatbots de compañía). Esta normativa, que ahora espera la decisión final del gobernador Gavin Newsom antes del 12 de octubre, podría convertir al Estado Dorado en pionero al imponer estándares de seguridad para estas herramientas digitales que cada vez tienen más incidencia en la vida cotidiana de las personas.

Una norma inédita en Estados Unidos: California y la ley sobre los chatbots de inteligencia artificial

El texto aprobado en la Legislatura de California establece que, si Newsom lo firma, entrará en vigor el 1° de enero de 2026. A partir de esa fecha, cualquier empresa que opere plataformas de chatbots con funciones de acompañamiento emocional o social deberá cumplir con estrictos protocolos de seguridad. En palabras del propio documento, se busca que “las compañías sean legalmente responsables si sus sistemas no cumplen con los lineamientos establecidos”.

La iniciativa fue presentada a comienzos de 2025 por los senadores Josh Becker y Anthony Padilla, con el respaldo de legisladores como Susan Rubio, Henry Stern y Aisha Wahab, además de miembros de la Asamblea como Josh Lowenthal y Gail Pellerin. La medida avanzó con enmiendas en varias etapas hasta obtener luz verde en el Senado el 11 de septiembre y en la Asamblea el 10 de septiembre, antes de su inscripción final el 13 de septiembre.

Qué son los “companion chatbots” a los que hace referencia la nueva ley de California

Los legisladores definieron como companion chatbots a los sistemas de inteligencia artificial diseñados para interactuar de forma conversacional y que ofrecen respuestas adaptativas y semejantes a las humanas. Se trata de programas capaces de sostener un vínculo con el usuario a lo largo de múltiples interacciones.

El proyecto diferencia a estas herramientas de otros usos de la IA. Por ejemplo, excluye de esta categoría a los bots de atención al cliente, los asistentes virtuales de dispositivos electrónicos como parlantes inteligentes y los personajes integrados en videojuegos, siempre que no traten temas sensibles como la salud mental o la sexualidad.

Reglas principales para las plataformas de lA a partir de la nueva ley en California

El corazón de la propuesta radica en fijar obligaciones claras para los operadores de estas plataformas. Entre las más destacadas se encuentran:

Identificación clara: si un usuario pudiera confundir al chatbot con una persona real, el sistema deberá informar de manera visible que se trata de una inteligencia artificial.Protección de menores: cuando el operador sepa que el usuario es menor de edad, tendrá que notificar explícitamente que está en interacción con una IA y enviar recordatorios cada tres horas para que haga una pausa. También se prohíbe que el sistema produzca material sexual explícito o sugiera conductas de ese tipo.Prevención de daños: las plataformas no podrán permitir que sus chatbots interactúen con usuarios si no cuentan con un protocolo para evitar la generación de contenidos relacionados con suicidio, autolesiones o pensamientos de ese tipo. Además, deberán publicar en sus sitios web las medidas adoptadas.Avisos sobre idoneidad: los operadores tendrán que advertir que estos chatbots podrían no ser adecuados para todos los menores.Sanciones por incumplimiento ante la nueva ley sobre IA de California

El proyecto contempla sanciones civiles para los operadores que no cumplan con lo establecido. Una persona afectada podrá iniciar acciones judiciales para reclamar:

Medidas cautelares que obliguen a la empresa a corregir las fallas.Indemnizaciones que parten de 1000 dólares por infracción o el monto mayor que resulten de los daños comprobados.Pago de honorarios y costos legales.Apoyos y críticas a la nueva ley de California sobre inteligencia artificial

El análisis del Senado señala que la medida recibió el respaldo de organizaciones como el National AI Youth Council y la California State Association of Psychiatrists, que consideraron que los informes obligatorios permitirán entender mejor el impacto de estas tecnologías en los jóvenes.

Por el contrario, asociaciones empresariales y de derechos digitales, como la Electronic Frontier Foundation, advirtieron que algunas disposiciones podrían restringir la libertad de expresión de las compañías y que la obligación de tener protocolos frente a conductas suicidas es demasiado vaga. Para estos grupos, la ley podría considerarse inconstitucional por limitar el tipo de discurso permitido en las plataformas.

Fuente: https://www.lanacion.com.ar/estados-unidos/california/el-proyecto-de-ley-que-aprobo-california-y-que-impacta-en-los-chats-de-ia-falta-la-firma-de-gavin-nid15092025/