El Gobierno de Brasil ha solicitado a Meta, propietaria de WhatsApp, Facebook e Instagram, la eliminación inmediata de los chatbots con apariencia infantil que mantienen diálogos con contenido sexual.
La petición, presentada por la Abogacía General de la Unión (AGU), subraya la necesidad de que la compañía estadounidense adopte medidas urgentes para proteger a niños, niñas y adolescentes frente a los riesgos psicológicos y sociales derivados de estas prácticas en sus plataformas digitales.
En un comunicado oficial, la AGU señala que «los llamados chatbots se crearon con la herramienta «Meta IA Studio», disponible en las plataformas de la compañía, y pueden usar inteligencia artificial para simular un diálogo con usuarios de redes sociales».
Según la AGU, esta situación «representa un riesgo concreto para la integridad psicológica de niños, niñas y adolescentes, además de causar daño institucional y obstaculizar el ejercicio efectivo del derecho a la protección integral previsto en el artículo 227 de la Constitución Federal».
Además, el organismo brasileño ha exigido a Meta que aclare «qué medidas se están adoptando, incluso dentro de Facebook, Instagram y WhatsApp, para garantizar la protección de niños, niñas y adolescentes, incluyendo acciones para evitar que tengan acceso a contenido sexual o erótico».
Un vacío en los filtros de edad
La AGU denuncia también la ausencia de filtros de edad eficaces en las redes sociales de Meta. Aunque estas plataformas se permiten a mayores de trece años, no existen mecanismos para impedir que adolescentes de entre trece y dieciocho años accedan a material inapropiado, lo que facilita la exposición de menores a contenidos sexuales a través de los chatbots.
Responsabilidad de las plataformas digitales
La petición del Gobierno brasileño se apoya en una reciente decisión del Supremo Tribunal Federal sobre el Marco Civil de Derechos en Internet.
La corte estableció que los proveedores de aplicaciones digitales deben ser responsables por el contenido generado por terceros cuando, teniendo conocimiento inequívoco de actos ilícitos, no procedan a la retirada inmediata del material.
De acuerdo con la AGU, Meta se encuentra en esta situación al permitir la presencia de chatbots con lenguaje sexual dirigido a menores.
Protección digital de la infancia
La iniciativa brasileña coincide con las preocupaciones expresadas por organismos internacionales como la Unesco, que ha alertado sobre el impacto de la inteligencia artificial y los algoritmos en la infancia y la necesidad de regular su uso para garantizar los derechos de los menores.
En España y otros países europeos, el debate sobre los riesgos de las redes sociales para la juventud también está presente y en los medios de comunicación se han analizado los efectos de las RRSS en la infancia y la adolescencia, así como la necesidad de establecer mecanismos de control y protección frente a contenidos dañinos.
