Una de las aplicaciones más perturbadoras de la inteligencia artificial generativa es la creación de clones digitales de personas fallecidas, una práctica que algunas empresas están promoviendo.
Estas compañías ofrecen un servicio que permite «comunicarse» con los difuntos a través de la generación de chatbots inteligentes (Deadbots), los cuales imitan la apariencia, el tono de voz y el estilo de expresión de la persona fallecida. De esta manera, las personas pueden pagar por la oportunidad de tener un contacto virtual con sus seres queridos que ya no están entre nosotros.
Aunque algunos defienden este servicio como una forma de cerrar capítulos pendientes con los fallecidos, otros expertos señalan que el uso de la inteligencia artificial para crear clones digitales de personas muertas plantea serios riesgos para los usuarios.
En medio de este debate, académicos han advertido sobre el peligro de ofrecer un servicio destinado a mantener una presencia continua de los difuntos, lo que podría causar daños psicológicos a las personas.
Por otra parte, los especialistas en ética de la inteligencia artificial del Centro Leverhulme para el Futuro de la Inteligencia de Cambridge alertan sobre el posible uso manipulativo de estos clones digitales por parte de las empresas. Podrían emplear los avatares digitales de personas fallecidas para promocionar productos o servicios, e incluso utilizar la voz o la imagen de los difuntos en anuncios publicitarios dirigidos a los usuarios.
Este tipo de interacción estrecha entre el usuario y el deadbot de su ser querido podría proporcionar a las empresas información valiosa sobre los intereses de los usuarios, lo que podría ser explotado para manipular sus decisiones de consumo.
Además, los expertos en ciberseguridad advierten que la creación de clones digitales de personas fallecidas podría ser aprovechada por cibercriminales para llevar a cabo estafas altamente creíbles, utilizando la inteligencia artificial para potenciar sus técnicas de ingeniería social.
El proceso para generar estos clones digitales implica el suministro de varios audios con la voz del difunto, que la inteligencia artificial analiza para reproducir su voz, tono y estilo de lenguaje, creando así un avatar digital convincente.
