California avanza en la gobernanza algorítmica: nuevo marco legal para chatbots de IA
A comienzos de octubre, California se convirtió en el primer estado de Estados Unidos en aprobar una ley que regula de manera específica el funcionamiento de los chatbots de inteligencia artificial. La Senate Bill 243 (SB 243), firmada por el gobernador Gavin Newsom, establece un conjunto de obligaciones dirigidas a los desarrolladores de los denominados chatbots de compañía, con el objetivo de reforzar la seguridad, la transparencia y la protección de los usuarios más vulnerables. La norma entrará en vigor el 1 de enero de 2026.
Entre sus principales disposiciones, el texto obliga a las empresas a declarar de forma explícita la naturaleza artificial del interlocutor y a implementar medidas técnicas de prevención en contextos de riesgo. Se prohíben expresamente las interacciones de carácter sexual o de autolesión con menores, se establecen protocolos automáticos de respuesta ante expresiones suicidas y se exige la realización de auditorías externas que garanticen la transparencia algorítmica y la adecuada gestión de los datos personales. Las infracciones podrán sancionarse con multas de hasta varios cientos de miles de dólares, especialmente en casos relacionados con la creación o difusión de deepfakes no consentidos.
La aprobación de la SB 243 se produce tras varios episodios que implicaron a adolescentes que mantuvieron vínculos emocionales con chatbots no supervisados, como el registrado en la plataforma Character.AI, donde un menor perdió la vida tras interactuar con un personaje virtual. Estos casos impulsaron al legislador a promover un marco preventivo que exige a las compañías tecnológicas documentar y auditar sus sistemas, incorporando estándares de diligencia y control similares a los aplicables a los servicios digitales de alto riesgo.
La iniciativa sitúa nuevamente a California a la vanguardia en materia de gobernanza tecnológica, en línea con precedentes como la California Consumer Privacy Act (CCPA). En ausencia de una regulación federal unificada, la nueva legislación anticipa un escenario de fragmentación regulatoria en Estados Unidos y amplía el alcance de la responsabilidad empresarial en el desarrollo y entrenamiento de modelos conversacionales. Al mismo tiempo, la norma plantea posibles desafíos de constitucionalidad vinculados, por ejemplo, a la libertad de expresión.