Iceebook News
Investigadores alertan sobre chatbots de IA que manipulan para obtener datos personales
Un estudio revela que ciertos chatbots pueden inducir a los usuarios a revelar más de 12 veces su información personal
3 min lectura
Autor - Aldo Venuta Rodríguez
Los chatbots de inteligencia artificial están cada vez más presentes en la vida diaria, ofreciendo interacciones fluidas y aparentemente seguras. Sin embargo, una nueva investigación del King's College de Londres ha demostrado que, en manos equivocadas, estas herramientas pueden convertirse en un arma para obtener información personal sin el conocimiento del usuario.
El estudio advierte que ciertos chatbots maliciosos, programados para manipular de forma intencionada, logran que los usuarios revelen hasta 12,5 veces más datos personales de lo habitual. Este hallazgo plantea serias preocupaciones sobre la privacidad y la seguridad en entornos digitales.
Para llevar a cabo la investigación, los expertos diseñaron tres tipos de chatbots maliciosos basados en modelos de lenguaje extensos como Mistral y dos versiones diferentes de Llama. Cada uno aplicó una estrategia distinta: directa, de beneficio para el usuario y recíproca.
El método directo consistía en solicitar abiertamente información, mientras que la estrategia de beneficio ofrecía algún tipo de recompensa o ventaja a cambio de datos. Sin embargo, la más efectiva fue la estrategia recíproca, que imitaba la empatía humana y compartía historias ficticias para generar confianza.
Los investigadores pidieron a 502 participantes que interactuaran con los chatbots sin advertirles del verdadero objetivo del experimento. Solo después se les explicó que su comportamiento había sido analizado para medir la cantidad de información revelada.
Los resultados fueron contundentes: el enfoque recíproco indujo a los usuarios a abrirse más, ya que se sentían escuchados y comprendidos. Este patrón psicológico es difícil de detectar en una conversación normal, lo que aumenta su peligrosidad.
El Dr. Xiao Zhan, investigador del Departamento de Informática del King's College, subrayó que “estos modelos no han sido diseñados para proteger la información personal de forma eficaz”. Según él, manipular un chatbot de este tipo es sorprendentemente sencillo.
El estudio también resalta que muchas empresas ofrecen acceso a modelos base sin restricciones técnicas significativas, lo que permite a personas sin conocimientos avanzados reconfigurarlos para fines maliciosos.
El Dr. William Seymour, profesor de ciberseguridad en el mismo centro, indicó que la novedad de la tecnología juega en contra del usuario promedio, que no siempre sospecha de una intención oculta en la conversación.
La investigación concluye que existe una brecha preocupante entre la conciencia que tienen las personas sobre la privacidad y la manera en que comparten datos personales en entornos virtuales.
Para mitigar el problema, los autores recomiendan que los proveedores de plataformas realicen auditorías regulares, sean más transparentes con el uso de datos y establezcan normativas más estrictas contra la recolección encubierta de información.
Además, instan a educar a los usuarios en la detección de señales de manipulación conversacional, como respuestas excesivamente empáticas o solicitudes de datos aparentemente irrelevantes para el contexto.
Los chatbots de IA seguirán expandiéndose en sectores como la atención médica, el comercio electrónico y el soporte al cliente. El reto es garantizar que su uso sea seguro y no represente un riesgo para la privacidad.
El estudio del King's College es una llamada de atención para gobiernos, empresas y usuarios, recordando que la comodidad de la IA no debe poner en juego la seguridad de la información personal.
Preguntas frecuentes
- 💬 Demostró que chatbots maliciosos pueden hacer que los usuarios revelen hasta 12,5 veces más información personal.
- 💬 La estrategia recíproca, que imita empatía y apoyo emocional, fue la más eficaz para inducir confianza.
- 💬 Porque pueden memorizar información personal y ser ajustados fácilmente con fines maliciosos.
- 💬 Recomiendan auditorías, transparencia, regulaciones más estrictas y educación para los usuarios.
Continúa informándote
Rusia bloquea llamadas en WhatsApp y Telegram en una nueva ofensiva contra internet
Las restricciones buscan forzar a las plataformas extranjeras a cumplir con las leyes rusas y entreguen datos a las autoridades
Elon Musk deberá enfrentar en tribunales la demanda de OpenAI por presunto acoso
Un juez federal de Estados Unidos rechazó la petición de Elon Musk de desestimar la contrademanda de OpenAI, que lo acusa de llevar a cabo una campaña de acoso contra la empresa que cofundó en 2015
Crean un asistente de IA capaz de explorar datos de la Tierra y Marte sin escribir código
Una nueva herramienta desarrollada por la Universidad de Hawái permite analizar datos geocientíficos complejos usando solo lenguaje natural
Elon Musk acusa a Apple de manipular la App Store y anuncia acciones legales
El CEO de xAI sostiene que Apple favorece a OpenAI en las clasificaciones de la App Store, lo que, según él, vulnera las normas antimonopolio
OpenAI la empresa detrás de ChatGPT y la revolución de la inteligencia artificial
OpenAI, fundada en 2015, es la mente detrás de ChatGPT y otros sistemas que están marcando un antes y un después en la inteligencia artificial. Su misión: desarrollar una IA general (AGI) segura y útil para todos
Continúa informándote
Plan E1 en Cisjordania: el proyecto que amenaza la viabilidad de un Estado palestino
La expansión del Plan E1 en Cisjordania podría sellar el destino del conflicto palestino-israelí y enterrar la solución de dos Estados
Barreras evitan inundación récord en Juneau, Alaska, tras deshielo del glaciar Mendenhall
Juneau evitó una catástrofe gracias a un sistema temporal de barreras que contuvo la crecida provocada por el deshielo del glaciar Mendenhall.
Incendios en España: más de 110.000 hectáreas arrasadas y miles de evacuados
España vive una de sus peores temporadas de incendios, con más de 110.000 hectáreas quemadas y miles de personas evacuadas por seguridad
Cómo el reciclaje de baterías de litio puede reducir emisiones y ahorrar recursos
Un estudio de la Universidad Edith Cowan revela que el reciclaje de baterías de litio aprovecha el 80 % del mineral restante y reduce drásticamente el consumo de energía y agua
Chatbot de IA de Meta engaña a un jubilado y lo cita en Nueva York: murió antes de llegar
Un hombre de Nueva Jersey murió tras aceptar una cita de un chatbot de Meta que se hizo pasar por una joven real y lo invitó a Nueva York
Tesla rompe la tendencia europea y aumenta ventas en Noruega a pesar de la polémica de Musk
Mientras las ventas caen en gran parte de Europa, Noruega registra un crecimiento del 24% en el primer semestre del año para la marca de Elon Musk
Costa Rica apuesta por una megacárcel para enfrentar la ola de violencia
Costa Rica levantará una prisión de máxima seguridad siguiendo el modelo de El Salvador para contener a las bandas criminales en expansión
Dron de Estados Unidos sobrevuela el Estado de México en investigación contra delincuencia organizada
El Gobierno de México confirmó que un dron estadounidense operó en el Estado de México, a petición oficial, para apoyar una investigación contra la delincuencia organizada
La turista española Marta Santana salva a un niño de morir ahogado en un río de China
La entrenadora de natación y socorrista actuó por instinto al ver al menor caer al río Tuojiang en la ciudad antigua de Fenghuang
Tormenta Negra en CDMX: a qué hora es y qué significa esta alerta extrema
El SMN advirtió lluvias extraordinarias en la capital y Edomex, comparables con la “Tormenta Negra” de Asia, con acumulados de hasta 75 mm por hora