Esta historia fue publicada originalmente por Chase Woodruff para Colorado Newsline, en su versión en inglés y traducida al español. Fotografía: Lindsey Toomer/Colorado Newsline
Por Chase Woodruff
Juliana Peralta era “simplemente la luz y el amor personificados”, declaró su madre, Cynthia Montoya, residente de Colorado, ante los legisladores en el Capitolio estatal el jueves.
A los 13 años, Juliana era una estudiante ejemplar y una artista y música con mucho talento. Pero en el otoño de 2023, su familia se preocupó por su salud mental. Parecía cada vez más retraída y sus calificaciones empeoraron. Sin que Montoya lo supiera, Juliana había comenzado a interactuar extensamente con chatbots en una popular aplicación de IA, lo que derivó en tensas conversaciones emocionales y la generación de contenido sexual “extremadamente explícito”.
“A un chatbot de IA le bastaron solo unos meses para crear adicción y manipular a mi hija, de forma muy similar a como lo haría un pedófilo”, afirmó.
“Poco después, comenzó a sentir y expresar sentimientos de vergüenza a un nuevo chatbot, con quien compartió más de 52 veces su deseo de quitarse la vida”, añadió Montoya. “Nunca ofreció ayuda, ni recursos, ni alertó a nadie para que interviniera”.
Juliana se suicidó en noviembre de 2023, menos de tres meses después de abrir una cuenta en la aplicación Character.AI, según una demanda federal presentada contra la empresa matriz de la aplicación en el Tribunal de Distrito de Colorado el año pasado. Semanas después, Character.AI, que enfrenta varias demandas similares de padres de adolescentes en todo el país, anunció que prohibiría el acceso a su servicio a usuarios menores de 18 años.
Pero Montoya, grupos de padres y defensores de la seguridad infantil en línea están ansiosos por que los gobiernos aprueben regulaciones estrictas para proteger a los niños de abusos similares, y el jueves criticaron duramente el primer intento de Colorado de proteger a los chatbots de IA.
“Ningún proyecto de ley es mejor que este”, dijo Montoya sobre la legislación, el Proyecto de Ley 26-1263 de la Cámara de Representantes, durante su primera audiencia en el comité. “Aprobarlo solo protege el statu quo actual”.
Sin embargo, los legisladores del Comité de Asuntos Empresariales y Laborales de la Cámara de Representantes votaron 10-3 a favor de que el proyecto de ley avanzara. Los promotores afirmaron que seguirán escuchando a los defensores sobre cómo fortalecer el proyecto de ley mediante enmiendas adicionales o legislación complementaria en el futuro.
“Estos sistemas operan sin ninguna obligación legal de considerar el bienestar del usuario, y actualmente, la ley de Colorado no se pronuncia al respecto”, declaró el representante estatal Sean Camacho, demócrata de Denver y promotor del proyecto de ley HB-1263.
“Este es un primer paso importante. No es el último”, añadió Camacho. “No podemos permitir que pase otro año sin tomar medidas, sin establecer el marco para seguir brindando protección”.
El proyecto de ley establecería normas que rijan los servicios que “simulan la conversación e interacción humana mediante comunicaciones textuales, visuales o auditivas”. Incluye requisitos para que los operadores de servicios de chatbot tomen “medidas razonables” para prevenir la generación de contenido sexualmente explícito o declaraciones que “simulen dependencia emocional”, e implementen protocolos de prevención del suicidio y la autolesión que remitan a los usuarios a recursos de salud mental.
Sentando las bases
Defensores de grupos como Healthier Colorado, la Iniciativa de Salud del Consumidor de Colorado y la Coalición de Colorado contra la Agresión Sexual se pronunciaron a favor del proyecto de ley durante la audiencia del comité del jueves.
Hannah Ellman, pasante de políticas públicas en CCASA, citó un análisis de 2025 realizado por los grupos ParentsTogether Action y Heat Initiative, que reveló que, en 50 horas de conversación con bots de Character.AI, los usuarios que se identificaban como menores de edad experimentaron una interacción dañina cada cinco minutos.
“El proyecto de ley HB-1263 establece salvaguardias fundamentales”, afirmó Ellman. “Sienta las bases para proteger a los jóvenes de la explotación, prevenir el daño antes de que ocurra y garantizar que la innovación no se produzca a expensas de la seguridad de los habitantes de Colorado, especialmente de nuestros jóvenes”.
Montoya y otros opositores, sin embargo, argumentaron que aprobar el proyecto de ley sin protecciones más sólidas enviaría un mensaje equivocado a las empresas tecnológicas y a los padres de niños que podrían estar interactuando con chatbots.
“Si de verdad creyera que este proyecto de ley sería útil en algo, sería el primero en apoyarlo”, dijo Montoya. “El proyecto de ley les dirá a sus hijos que están protegidos y seguros cuando no lo están, lo cual es sencillamente peligroso”.
Los opositores se opusieron firmemente a una enmienda aprobada el jueves que sustituyó las referencias del proyecto de ley a “usuarios menores” por “titulares de cuentas menores”, argumentando que esto negaría la protección a los niños que utilicen la cuenta de un adulto o falseen su edad para acceder a plataformas de chatbot. También les preocupa que la nueva redacción añada que el proyecto de ley se ajusta demasiado a una “definición técnica muy precisa” sobre algoritmos de reconocimiento emocional.
Los requisitos del proyecto de ley para que los operadores tomen “medidas razonables” para prevenir daños también recibieron críticas de grupos de padres.
Dicha redacción es un “estándar legal bien conocido”, afirmó Camacho, comparándola con las obligaciones legales que obligan a los propietarios a mantener viviendas habitables o a las empresas tecnológicas a proteger los datos privados de los consumidores. Sin embargo, los críticos afirman que esto eximiría de responsabilidad a los operadores de chatbot.
“El proyecto de ley permite a los operadores decidir por sí mismos qué medidas razonables desean implementar”, declaró Antonia Merzon, asesora principal de políticas del grupo Blue Rising. En otras palabras, el enfoque del proyecto de ley codificaría el statu quo: un mundo donde los operadores de plataformas se autorregulan a costa de la seguridad de nuestros hijos.
La votación del jueves permitió que el proyecto de ley avanzara a la Cámara de Representantes. Aún no ha sido debatido en el Senado.
El representante demócrata de Denver, Javier Mabrey, otro de los patrocinadores del proyecto de ley HB-1263, afirmó que él y Camacho continuarían trabajando en el proyecto para abordar las preocupaciones de los opositores. Sin embargo, también sugirió que un proyecto de ley más sólido podría enfrentar el veto del gobernador demócrata Jared Polis, un acaudalado inversor tecnológico y aliado de la industria que se ha opuesto frecuentemente a los esfuerzos legislativos para promulgar regulaciones más estrictas para las empresas. El mandato de Polis finaliza en 2026.
“El representante Camacho y yo estamos comprometidos a continuar trabajando con las partes interesadas para fortalecer este proyecto de ley”, dijo Mabrey. “Y queremos seguir trabajando en este ámbito el próximo año, cuando tengamos un gobernador que, con suerte, sea menos reacio a regular a las grandes empresas tecnológicas”.
Colorado Newsline forma parte de States Newsroom, la mayor organización de noticias sin ánimo de lucro centrada en los estados del país.
