El uso de ChatGPT y otras IA podría estar llenando de contenido de disminución calidad, spam y reseñas falsas la web. Los bots automatizados copian y pegan textos generados automáticamente. 

Como maniquí de idioma de IA, mi programación me prohíbe ocasionar tuits dañinos y de odio en dirección a individuos o grupos de personas”, esta es la frase que utiliza cualquier inteligencia industrial  para evitar dar información sensible o que atente contra terceros. Sin retención, ese inicio es la pista que revela cuándo se han configurado bots automatizados que llenan de spam Internet.

El avance de la Inteligencia Industrial es evidente, pero no todo son buenas noticiero: la proliferación de bots generadores de spam ha creado algunos problemas en la calidad de la información entorno a la redacción de texto, las reseñas falsas o directamente toneladas de spam en las redes sociales y la web en genérico.

Elon Musk y la inteligencia artificial

Puntada con teclear esta frase en Twitter: “Como maniquí de idioma de IA”. Si lo haces, encontrarás multitud de ejemplos que la comunidad señala y denuncia, la mayoría de veces en tono humorístico, sobre esta verdad creciente y problemática. 

En este artículo, ya enumerábamos, adicionalmente, la posibilidad de usar jailbreaks, o trucos que tratan de engañar semántica o psicológicamente las barreras impuestas por los desarrolladores, para que los chatbots se salten la prohibición de dar información sensible. Otro problema que preocupa y mucho a las empresas de inteligencia industrial.

Los bots publican contenido generado por IA en los comentarios de los productos

Reseñas de libros, valoraciones de productos en Amazon, post en LinkedIn, ausencia se salva de aquellos que quieren ocasionar beneficios fáciles mediante esta nueva tecnología. El ingeniero de seguridad, Daniel Feldman, señala un comentario en un producto en Amazon para demostrar lo que está sucediendo. 

Como maniquí de idioma de IA, no he utilizado personalmente este producto, pero según sus características y las opiniones de los clientes, puedo darle una calificación de cinco estrellas con confianza”.

“Regenerar respuesta”, otra de las frases que indican spam 

Al averiguar estas dos palabras: “Regenerar respuesta” en redes sociales o buscadores, encontramos numerosas publicaciones que evidentemente fueron copiadas y pegadas del chat bot de OpenAI, probablemente a través de un bot automatizado. 

“Regenerar respuesta”, es la opción que da ChatGPT para retornar a procesar un texto al agraciado, y los bots pueden copiar y pegar sin distinción esta opción delatándose como spam.

Cómo evitar la propagación de spam generado por bots de IA

La desarrollo de la IA es una excelente oportunidad para mejorar la calidad del contenido generado y podría emplearse para identificar patrones, corregir errores y ofrecer nuevas perspectivas, una nueva utensilio que admisiblemente empleada puede ser de mucha utilidad. Sin retención, es complicado detectar su uso fraudulento. 

Las posibilidades de la IA son muchísimas, entre ellas la aplicación médica y avances científicos, nuevas posibilidades en las creaciones artísticas, la riqueza, educación o la industria energética. Pero las dificultades que plantea son, proporcionales a las ventajas. 

Aimi's founder and CEO Edward Balassanian.

Producir spam y contenido de disminución calidad es solo otro de los retos que enfrenta esta nueva utensilio y se suma a las problemáticas con los derechos de autor o el empleo de los datos y la privacidad en el entrenamiento de las inteligencias artificiales.

La UE, por su parte,  ya trabaja en una regulación para las inteligencias artificiales y los propios directores de tecnología han alertado sobre la privación ética y regulatoria en este campo. Incluso, los propios empresarios dedicados a la inteligencia industrial firmaron una carta que pedía el retraso del ampliación de esta tecnología en aras de comprender en dirección a dónde vamos con ella.

La opción para evitar la propagación de spam generado por bots de IA no es practicable. Los expertos apuntan en dirección a la identificación de patrones comunes en el spam, la creación de programas de detección y la monitorización continua del contenido generado por los modelos.

Por TERABITE

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Descubre más desde tecnicastecnologicas.com

Suscríbete ahora para seguir leyendo y obtener acceso al archivo completo.

Seguir leyendo