Campus América 2026 ha arrancado su profusa programación científica en la Facultad de Derecho de la Universidad de La Laguna, con el seminario de investigación “Los derechos de las nuevas generaciones ante el avance de la tecnología: luces y sombras”, coordinado por María Aránzazu Calzadilla Medina, profesora titular del Departamento de Disciplinas Jurídicas Básicas. En él, tres prestigiosas civilistas espadas y chilenas han abordado los peligros que entrañan las redes sociales y la inteligencia articula para niños y adolescentes. Las ponentes han sido, concretamente, Rommy Álvarez Escudero, de la Universidad de Valparaíso (Chile); y Pilar Benavente Moreda y Alma María Rodríguez Guitián, ambas de la Universidad Autónoma de Madrid.
Esta última abordó la posibilidad de que las empresas responsables de chatbots de inteligencia artificial pudieran tener responsabilidades civiles por daños causados a usuarios de ese servicio o a sus familias. Para ello desarrollo los ejemplos de dos casos judicializamos surgidos en Estados Unidos, en los cuales sendas familias responsabilizaron del suicido de sus descendientes a determinados chats aduciendo que se trata de productos defectuosos que no ofrecen garantías de seguridad a usuarios vulnerables.
El palero de los casos finalizó este mismo año con un acuerdo extrajudicial: García vs. Character Technologies, la empresa responsable del chat, y Google como empresa que le daba soporte tecnológico. Sewell Seltzer era un adolescente que entraba frecuentemente a esa plataforma de chats IA y mantenía conversaciones románticas y sexuales en las que el tema del suicido era constante. La demanda por muerte negligente sostenía que la empresa es responsable del contenido de sus propios algoritmos y la acusaba, además, de operar y comercializar una “aplicación peligrosa y depredadoras”.
La empresa, por contra, trató de zafarse de la acusación alegando que lo comercializado es un servicio, no un producto y, que, además las plataformas IA no son creadoras de contenidos, sino que alojan el creado por terceros. Sin embargo, la jueza Anne Conway rechazó estas alegaciones y permitió que la causa siguiera adelante, si bien no llegó a haber juicio porque el 2026 hubo un acuerdo de conciliación entre las partes. No ha trascendido ni la cuantía de la indemnización ni los detalles, pero se sabe que del acuerdo se deriva que la empresa debe incorporar una serie de obligaciones de seguridad-
El segundo caso es el de Matt y Maria Raine contra Open AI y su propietario, Sam Altman, que todavía está abierto y, pro tanto, se desconoces su resolución. En esta ocasión, un adolescente escolarizado en casa utilizaba ChatGPT para desenvolverse en sus estudios, pero pronto comenzó a tener conversaciones sobre política, familia y romances. El muchacho se ahorcó y, al comprobar el contenido de los chats, en uno de ello la plataforma respondió a la solicitud del usuario de información sobre qué cuerdas eran las idóneas para cometer un suicidio.
En este caso, Open AI alega que la plataforma dispone de filtros contra contenidos suicidas, pero reconoce que, en este caso en particular, el sistema falló. La demanda ha crecido al incorpores otros sucesos similares y como consecuencia, California ha aprobado una ley pionera que responsabiliza a las compañía por los daños que pedí originar un chat de IA.
Pilar Benavente se cuestionó si caso similares podrían prosperar en España, y cree que es posible pase a ciertas limitaciones legales, pues la normativa existente solo consideraba “producto” a objetos materiales, si buen normas europeas posteriores yaincluyen el software bajo esa denominación. Además, la ley de protección del menor de 2021 señala que los niños y adolescentes tienen derecho a protección contra contenidos digitales que puedan perjudicar su desarrollo y su salud frica y mental, y ademas, señala que el diseño de estas tecnologías debe tener en cuenta el interné superior del menor. Adicionalmente, el proyecto de ley española para la protección de menores de edad en entornos digitales, que estaba en trámite y ha quedado paralizado dada la inminente cita electoral, recoge la obligación de la tecnologías de facilitar controles parentales.
La ponente abrió para el debate si en esos casos descritos también podría ampliarse las responsabilidades a los progenitores por no haber tutelado adecuadamente la actividad digital de sus hijos. Lo cierto es que la legislación actual solamente recomienda, no obliga, a las personas adultas a realizar esa labor. Y, ademas, está la problemática de que al hacerlo podrían violar el derecho a la intimidad de los menores. Sobre ese aspecto, hay sentencias que señalan que esa intromisión puede darse si hay consentimiento expreso del hijo o hija cuando tengan la madurez suficiente; y también cuando esta en riesgo la integridad física de un menor o de un tercero.
Rommy Álvarez.
El caso chileno
Rommy Álvarez Escudero, de la Universidad de Valparaíso (Chile), disertó sobre el entorno digital y el derecho a la protección de datos personales de niños, niñas y adolescentes en su país, deteniéndose especialmente el los conceptos de consentimiento, autonomía progresiva y tutela. La ponencia señaló que en su paños existe mucha sintonía con España puesto que para abordar estos casos, el legislador americano ha tomado como base el modelo europeo y, en cuestiones muy concretas, el español.
Tras repasar varios presentes internacionales, explicó que Chile aprobó hace dos años la Ley 21.719, que reforma de manera integral la antigua Ley 19.628 y moderniza la protección de datos personales alineándola con estándares internacionales como el Reglamento General de Protección de Datos (RGPD) europeo. La norma recoge entre otras cosas, la creación de un órgano encargado de la tutela de eso derechos, similar a la Agencia Española de Protección de Datos, y está previsto que entre en Vigo el 1 d diciembre de 2026.
Esa demora era necesaria porque era preciso que el país realizara una serie de adaptaciones para poder aplicar la nueva norma correctamente -como, por ejemplo, la propia creación de la agencia mencionada-. Sin embargo, a mes y medio para su puesta en marcha, lo cierto es que todavía queda mucho por hacer y, por ello, ya se ha solicitado una demora adicional da un años para su puesta en marcha.
Hasta ese momento, el texto que se ha venid utilizado enseñando la Ley 21.430 de 2022 de protección integral de derechos y niños y adolescencia, que en su artículo 33 recoge conceptos como la responsabilidad, información y confidencialidad que si bien no están específicamente referido s lao digital, pueden aplicarse.
La potente ha alabado la existencia dela ley de próxima implantación porque mejora la protección del menores, la cual está en franca desventaja ante lo digital porque se trata de un sistema “creado desde la adultez”. Por ello es preciso trazar una “arquitectura del consentimiento” de derechos específica para menores, que pasaría por el concepto de autonomía progresiva: un principio jurídico que reconoce que los niños, niñas y adolescentes (NNA) adquieren de forma gradual la capacidad de ejercer sus derechos, tomar decisiones y formarse un juicio propio a medida que crecen. No se basa solo en la edad, sino también el entorno familiar, social, cultural, educativo y las habilidades cognitivas.
De este mod, la nueva ley chilena establece un “consentimiento escalonado”que combina ese principio de autonomía progresiva con unos límites de edad estrictos. Por ejemplo, para dar consentimiento sobre datos personales, hasta los 14 años estará otorgado por padres o representantes legales, mientras que si son datos sensibles, esa protestad de los padres aumenta hasta los 16, momento en el cual pasar a ser decisión del menor pero con consentimiento parental
La puente desgranó las diferentes medidas de protección legal de estos derechos en Chile y finalizó señalado proyectos de leyes de Chile, España y la Unión Europea, como la Kids Act de la UE, que prohibiría el uso de redes sales a menores de 13 años y, hasta ls 15, solamente el uso de minicuentas administradas por los progenitores, a la vez que aumenta la responsabilidad de las plataformas.
Publicidad y redes sociales
Finalmente, Pilar Benavente Moreda, de la Universidad Autónoma de Madrid, abordó la situación de los NNA como consumidores especialmente vulnerables en el contexto de la publicidad y los entornos digitales, atendiendo a su doble condición de sujetos receptores y de objetos de la comunicación comercial. Analizó, las formas contemporáneas de publicidad dirigidas a menores —alimentación, bebidas, juguetes, moda— y los riesgos asociados al uso intensivo de las tecnologías y redes sociales, como el “vamping tecnológico”.
Asimismo, examinó la creciente exposición pública de los NNA a través de fenómenos como los niños influencers, su participación en formatos audiovisuales de consumo y la práctica del sharenting, que contribuyen a la mercantilización de su imagen y a la difusión indiscriminada de su vida privada por sus propios progenitores.
Desde esta realidad, planteó los retos actuales de protección jurídica este colectivo en un entorno digital que amplifica las situaciones de riesgo y desprotección, situándolos simultáneamente como potenciales víctimas y agentes de impacto social. Para analizar estas cuestiones se partió del marco normativo vigente, integrado por la Constitución Española, la legislación específica de protección de la infancia y la adolescencia y la normativa de defensa de consumidores y usuarios, así como del análisis del Proyecto de Ley Orgánica de 2025 para la protección de las personas menores de edad en los entornos digitales ya mencionada.
