Para nadie es un secreto que las reseñas han existido desde hace un largo tiempo en Internet incluyendo las reseñas falsas, pero, cabe hacerse la pregunta ¿qué tan perjudicial es tener reseñas escritas por la IA? hay que mencionar que el ascenso de los modelos de lenguaje extenso (LLM) como lo es ChatGPT, muestra que estamos entrando en una nueva era de reseñas falsas, y los gobiernos de Europa, así como también del resto del mundo, deben actuar desde ya antes de que sea demasiado tarde.
¿Reseñas escritas por IA? Un tema inherente que no se debe pasar por alto
Actualmente, utilizando por ejemplo; ChatGPT o Jasper, casi cualquier persona puede producir diversidad de reseñas falsas que, parecen que fuesen escritas por una persona real.
Kunal Purohit, director de servicios digitales de Tech Mahindra (una empresa de consultoría de TI), ha mencionado que “las reseñas son esenciales para las empresas de cualquier tamaño”. Porque según explica, les ayuda a construir un reconocimiento de marca y confianza con clientes potenciales o prospectos. Se trata de algo verdaderamente esencial en la actualidad, todo esto debido a que la competitividad del sector empresarial está ocasionando que los clientes sean más conscientes y exigentes con las empresas. Actualmente la experiencia del usuario es un punto de venta central y esto lo sabe la diversidad de las empresas y por ello, las marcas priorizan este aspecto de su negocio.
Por lo tanto, las reseñas negativas o malas críticas, pueden llegar a destruir la capacidad de las organizaciones para hacer negocios de manera efectiva. Lo que quiere decir que las reseñas escritas por la IA falsas son solo algo que puede llegar convencer a alguien de comprar algún producto como por ejemplo; un libro con buenas reseñas que, en realidad, es tedioso. Cabe acotar que, se pueden usar tanto por razones negativas como positivas y, cuando se dirigen a una empresa, pueden llegar a afectar gravemente la reputación y la capacidad de trabajo de esa empresa. Es por tal motivo que, todos incluyendo la UE, deben tomarse en serio las revisiones generadas por computadora.
Según se ha podido conocer, ya los chabot impulsados por Inteligencia Artificial (IA), se están usando para crear reseñas falsas sobre productos del mercado. En este sentido, Keith Nealon, director ejecutivo de Bazaarvoice, ha enfatizado que, ha podido observar como la IA generativa se ha estado usando para escribir reseñas de productos falsos, según comentó, con el objetivo de aumentar el volumen de reseñas de un producto con la intención de poder generar una mayor conversión. También ha expresado que el uso de IA a gran escala podría tener diversidad de implicaciones graves para el futuro de las compras en línea.
Simon Bain, director ejecutivo de OmniIndex, ha señalado que todos evidentemente desean que sus aplicaciones estén en lo más alto de las clasificaciones, y claramente, todos estamos conscientes de que una forma de lograrlo es mediante la participación de los usuarios en las reseñas. Al mismo tiempo que mencionó que si existe la forma de producirlos en masa de forma rápida con IA, bien se sabe que muchas compañías tomarán esa ruta.
Estos y muchos otros aspectos, solo conseguirán que en vez de que las reseñas escritas por Inteligencia Artificial sean un problema independiente, tienen el potencial de convertirse en un engranaje inmenso en una máquina de desinformación aún más grande. Esto podría arrastrarnos al desgaste de la confianza en los diferentes aspectos de la vida en línea.
Contraatacar las reseñas sintéticas
Simon Bain ha resaltado que será realmente difícil poder detectar contenido escrito por IA, cree que lo más idóneo hasta el momento, es tomar medidas fuertes contra esta práctica de la misma manera que se ha estado haciendo para actividades fraudulentas parecidas con Inteligencia Artificial.
Es muy posible que los gobiernos deban tomar cartas en el asunto y ayudar a combatir este tedioso y preocupante problema al establecer pautas que requieran transparencia sobre el origen de las revisiones. También se debe garantizar que las leyes y regulaciones existentes en torno a elementos como “el fraude y el delito cibernético, se mantengan al día con la forma en que se usa IA”.
Es mucho lo que queda por ver con respecto a este tema, pero, sin lugar a dudas, es un tema vital y realmente preocupante que hay que darle la importancia que merece y los órganos de gobierno deben actuar de inmediato.
