En una entrevista con EFE, la profesora titular de la Escuela Técnica Superior de Ingeniería Informática de la Universitat Politècnica de València (UPV) indicó que, por primera vez, los adolescentes no van por delante de los adultos: los padres y madres conocen la IA generativa en la misma medida que sus hijos, lo que dificulta el acompañamiento.
Del Val afirmó que es necesario actualizar la educación, el diseño de las herramientas y la regulación al mismo tiempo. Señaló que en este campo tecnológico hay más un desfase que un vacío legal.
Según la experta, la mejor cara de la IA es su capacidad de ayudar a explicar, resumir, traducir, acompañar en el aprendizaje y facilitar tareas. Su peor cara es que, de forma natural y a través de conversaciones, se pueden proporcionar datos o información personal que no son necesarios para la tarea.
«En las redes sociales el riesgo estaba en lo que publicábamos; con la IA generativa está en lo que conversamos», advirtió. Un chatbot de IA generativa repregunta, muestra empatía y deduce datos que nunca se le han dado de forma explícita.
Del Val señaló que la IA generativa ha abaratado enormemente la creación de contenido falso verosímil, de modo que se pueden generar en minutos imágenes, voces y vídeos que antes requerían medios profesionales. También alertó sobre un riesgo más silencioso: lo que cada persona cuenta a un chatbot en una conversación privada y dónde acaban esos datos.
Uno de los riesgos que más le preocupa es el que define como “riesgo fantasma”. En una investigación en curso con adolescentes de entre 10 y 16 años de España, Alemania y Reino Unido, se observó que cuanto más compartían los jóvenes con un chatbot, menos preocupados estaban por su privacidad, no porque estuvieran más seguros, sino porque el riesgo no se ve.
Otro riesgo es la “persuasión empática”. En un experimento publicado en USENIX Security, un formulario conseguía que el 24 % de las personas diera datos personales y un chatbot diseñado para obtenerlos, más del 90 %. El chatbot, con una estrategia empática, obtenía datos verdaderos sin levantar sospechas.
Del Val advirtió que la privacidad no es solo individual. Cuando en una conversación se cuenta algo de un familiar, un compañero de trabajo o se sube la foto de un grupo de amigos, se expone a personas que no han dado su consentimiento.
Considera que se está llegando a un punto en el que no basta con “ver para creer”. La confianza debe basarse en comprobar el origen de los contenidos, contrastarlos con otras fuentes y analizar si tienen sentido en su contexto. Hay herramientas técnicas que ayudan, como las marcas de agua o la obligación europea de etiquetar el contenido generado por IA, pero ninguna es infalible.
Reclamó una responsabilidad compartida entre las empresas tecnológicas, las plataformas digitales, las administraciones públicas, la comunidad educativa y la investigación. Recordó que en Europa existe un marco sólido: el Reglamento General de Protección de Datos, la ley orgánica española de protección de datos y, desde 2024, el Reglamento de Inteligencia Artificial.
«El problema es que esos marcos se pensaron para un escenario donde los datos se introducían en campos de un formulario y se podía pedir consentimiento para cada uno. Hoy lo que viaja es un relato entero en lenguaje natural, y el modelo deduce edad, salud o estado de ánimo, aunque no se los hayas dado», advirtió.
Según Del Val, la IA generativa actúa como amplificador: abarata y facilita la producción de mensajes manipulados, y los hace más personalizados y verosímiles. Las redes sociales, cuyo diseño premia lo que genera reacción, son el terreno donde ese contenido se multiplica.
No cree que estemos condenados a convivir con ello sin más. Señaló que el diseño importa: un aviso en el momento justo y una alternativa clara influyen en lo que las personas hacen, mientras que informar sin más no cambia nada. Etiquetar contenido sintético, introducir una pequeña pausa o un aviso antes de reenviar un contenido dudoso y exigir responsabilidad a quien lo difunde podría tener efecto.
Sobre el pensamiento crítico, afirmó que el riesgo existe si se delega sin revisar: la IA es una buena herramienta para pensar si se usa para contrastar, pedir otra perspectiva o entender algo, pero juega en contra si se usa para dejar de pensar. Considera que su uso como confidente o “psicólogo” merece atención especial, ya que un chatbot no es un profesional y esa intimidad hace que se cuenten cosas muy sensibles a una empresa.
Para Del Val, los beneficios de la IA son reales y por eso la respuesta no puede ser prohibir. El equilibrio está en que la decisión vuelva a la persona que la está utilizando, con información comprensible y en el momento justo.
Deja una respuesta