/ viernes 21 de abril de 2023

Vendrá un spam personalizado y más persuasivo

Los mensajes no solicitados que genera la Inteligencia Artificial pronto saturarán nuestras bandejas de entrada, y serán más persuasivos que los que conocemos

Todos los días, los mensajes de príncipes nigerianos, vendedores ambulantes de drogas maravillosas y promotores de inversiones imperdibles obstruyen las bandejas de entrada de los correos electrónicos.

Pero ahora, la carrera armamentista entre los bloqueadores de spam y los remitentes está a punto de intensificarse con la aparición de una nueva arma: La inteligencia artificial generativa.

Puede interesarte: ¿Recibes notificaciones de Shein en Instagram? Te explicamos cómo bloquearlas

Con los recientes avances en IA que ChatGPT hizo famosos, los spammers podrían tener nuevas herramientas para evadir los filtros, captar la atención de las personas y convencerlas de que hagan clic, compren o den información personal.

Como director del laboratorio de Razonamiento Humano y de Máquinas Avanzados en la Universidad del Sur de Florida, investigo la intersección de la inteligencia artificial, el procesamiento del lenguaje natural y el razonamiento humano.

He estudiado cómo la IA puede aprender las preferencias individuales, las creencias y las peculiaridades de la personalidad de las personas.

Esto se puede usar para comprender mejor cómo interactuar con las personas, ayudarlos a aprender o brindarles sugerencias útiles. Pero esto también significa que debe prepararse para un spam más inteligente que conoce sus puntos débiles y puede usarlos en su contra.

La unión de estas dos empresas busca acelerar su progreso rumbo a un mundo en donde la IA ayude a resolver “los mayores desafíos que enfrenta la humanidad”. Foto: Ilustrativa Pixabay

¿Pero qué es exactamente el spam?

Sólo por si alguien aún no lo sabe, el spam se define como correos electrónicos comerciales no solicitados enviados por una entidad desconocida. El término a veces se extiende a mensajes de texto, mensajes directos en las redes sociales y reseñas falsas sobre productos. Los spammers quieren empujarlo hacia la acción: comprar algo, hacer clic en enlaces de phishing, instalar malware o cambiar vistas.

El spam es rentable. Una explosión de correo electrónico puede generar US$1,000 en solo unas pocas horas, lo que le cuesta a los spammers solo unos pocos dólares, sin incluir la configuración inicial. Una campaña de spam farmacéutico en línea podría generar alrededor de $ 7,000 por día.

Los anunciantes legítimos también quieren empujarlo a la acción: comprar sus productos, realizar sus encuestas, suscribirse a boletines informativos, pero mientras que un correo electrónico de un vendedor puede tener un enlace al sitio web de una empresa establecida y contener una opción para darse de baja de acuerdo con las regulaciones federales, un correo electrónico no deseado puede no.

Los spammers tampoco tienen acceso a las listas de correo a las que se suscribieron los usuarios. En su lugar, los spammers utilizan estrategias contrarias a la intuición, como la estafa del "príncipe nigeriano", en la que un príncipe nigeriano afirma que necesita su ayuda para desbloquear una cantidad absurda de dinero y promete recompensarlo muy bien.

El temor por la disminución de vacantes laborales por la inteligencia artificial, así como en la demanda y el número de matrículas en las instituciones de nivel superior son los retos que enfrentan las universidades. Foto: EFE

Los nativos digitales inteligentes descartan de inmediato tales súplicas, pero lo absurdo de la solicitud en realidad puede seleccionar por ingenuidad o edad avanzada, filtrando a los que tienen más probabilidades de caer en las estafas.

Sin embargo, los avances en IA significan que los spammers podrían no tener que depender de tales enfoques impredecibles. La IA podría permitirles dirigirse a individuos y hacer que sus mensajes sean más persuasivos en función de información de fácil acceso, como publicaciones en redes sociales.

El futuro del correo no deseado

Es probable que haya oído hablar de los avances en modelos generativos de lenguajes grandes como ChatGPT. La tarea que realizan estos LLM generativos es engañosamente simple: dada una secuencia de texto, predecir qué token viene a continuación. Luego, prediga qué token viene después de eso. Y así sucesivamente, una y otra vez.

De alguna manera, el entrenamiento sólo en esa tarea, cuando se realiza con suficiente texto en un LLM lo suficientemente grande, parece ser suficiente para dotar a estos modelos de la capacidad de desempeñarse sorprendentemente bien en muchas otras tareas.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

Ya han surgido múltiples formas de usar la tecnología, lo que demuestra la capacidad de la tecnología para adaptarse rápidamente y aprender sobre las personas. Por ejemplo, los LLM pueden escribir correos electrónicos completos en su estilo de escritura, con solo algunos ejemplos de cómo escribe. Y está el ejemplo clásico, que ya tiene más de una década, en el que Target se da cuenta de que una clienta estaba embarazada antes que ella.

Todas las nuevas tecnologías pueden resultar tanto en asombro como en peligro. La diferencia radica en quién crea y controla las herramientas y cómo se utilizan.

* Profesor Asistente de Ciencias de la Computación y Director de AMHR Lab, Universidad del Sur de Florida.


Todos los días, los mensajes de príncipes nigerianos, vendedores ambulantes de drogas maravillosas y promotores de inversiones imperdibles obstruyen las bandejas de entrada de los correos electrónicos.

Pero ahora, la carrera armamentista entre los bloqueadores de spam y los remitentes está a punto de intensificarse con la aparición de una nueva arma: La inteligencia artificial generativa.

Puede interesarte: ¿Recibes notificaciones de Shein en Instagram? Te explicamos cómo bloquearlas

Con los recientes avances en IA que ChatGPT hizo famosos, los spammers podrían tener nuevas herramientas para evadir los filtros, captar la atención de las personas y convencerlas de que hagan clic, compren o den información personal.

Como director del laboratorio de Razonamiento Humano y de Máquinas Avanzados en la Universidad del Sur de Florida, investigo la intersección de la inteligencia artificial, el procesamiento del lenguaje natural y el razonamiento humano.

He estudiado cómo la IA puede aprender las preferencias individuales, las creencias y las peculiaridades de la personalidad de las personas.

Esto se puede usar para comprender mejor cómo interactuar con las personas, ayudarlos a aprender o brindarles sugerencias útiles. Pero esto también significa que debe prepararse para un spam más inteligente que conoce sus puntos débiles y puede usarlos en su contra.

La unión de estas dos empresas busca acelerar su progreso rumbo a un mundo en donde la IA ayude a resolver “los mayores desafíos que enfrenta la humanidad”. Foto: Ilustrativa Pixabay

¿Pero qué es exactamente el spam?

Sólo por si alguien aún no lo sabe, el spam se define como correos electrónicos comerciales no solicitados enviados por una entidad desconocida. El término a veces se extiende a mensajes de texto, mensajes directos en las redes sociales y reseñas falsas sobre productos. Los spammers quieren empujarlo hacia la acción: comprar algo, hacer clic en enlaces de phishing, instalar malware o cambiar vistas.

El spam es rentable. Una explosión de correo electrónico puede generar US$1,000 en solo unas pocas horas, lo que le cuesta a los spammers solo unos pocos dólares, sin incluir la configuración inicial. Una campaña de spam farmacéutico en línea podría generar alrededor de $ 7,000 por día.

Los anunciantes legítimos también quieren empujarlo a la acción: comprar sus productos, realizar sus encuestas, suscribirse a boletines informativos, pero mientras que un correo electrónico de un vendedor puede tener un enlace al sitio web de una empresa establecida y contener una opción para darse de baja de acuerdo con las regulaciones federales, un correo electrónico no deseado puede no.

Los spammers tampoco tienen acceso a las listas de correo a las que se suscribieron los usuarios. En su lugar, los spammers utilizan estrategias contrarias a la intuición, como la estafa del "príncipe nigeriano", en la que un príncipe nigeriano afirma que necesita su ayuda para desbloquear una cantidad absurda de dinero y promete recompensarlo muy bien.

El temor por la disminución de vacantes laborales por la inteligencia artificial, así como en la demanda y el número de matrículas en las instituciones de nivel superior son los retos que enfrentan las universidades. Foto: EFE

Los nativos digitales inteligentes descartan de inmediato tales súplicas, pero lo absurdo de la solicitud en realidad puede seleccionar por ingenuidad o edad avanzada, filtrando a los que tienen más probabilidades de caer en las estafas.

Sin embargo, los avances en IA significan que los spammers podrían no tener que depender de tales enfoques impredecibles. La IA podría permitirles dirigirse a individuos y hacer que sus mensajes sean más persuasivos en función de información de fácil acceso, como publicaciones en redes sociales.

El futuro del correo no deseado

Es probable que haya oído hablar de los avances en modelos generativos de lenguajes grandes como ChatGPT. La tarea que realizan estos LLM generativos es engañosamente simple: dada una secuencia de texto, predecir qué token viene a continuación. Luego, prediga qué token viene después de eso. Y así sucesivamente, una y otra vez.

De alguna manera, el entrenamiento sólo en esa tarea, cuando se realiza con suficiente texto en un LLM lo suficientemente grande, parece ser suficiente para dotar a estos modelos de la capacidad de desempeñarse sorprendentemente bien en muchas otras tareas.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

Ya han surgido múltiples formas de usar la tecnología, lo que demuestra la capacidad de la tecnología para adaptarse rápidamente y aprender sobre las personas. Por ejemplo, los LLM pueden escribir correos electrónicos completos en su estilo de escritura, con solo algunos ejemplos de cómo escribe. Y está el ejemplo clásico, que ya tiene más de una década, en el que Target se da cuenta de que una clienta estaba embarazada antes que ella.

Todas las nuevas tecnologías pueden resultar tanto en asombro como en peligro. La diferencia radica en quién crea y controla las herramientas y cómo se utilizan.

* Profesor Asistente de Ciencias de la Computación y Director de AMHR Lab, Universidad del Sur de Florida.


Local

Muestra gobernador los primeros vagones de la Línea 4 que ya están en Jalisco

Alfaro Ramírez hizo un recorrido por el interior de un vagón

Policiaca

Detenidos por triple homicidio en 'El Peaje' son investigados por otros asesinatos

Los dos sujetos detenidos se dedicaban a privar de la libertad y asesinar a integrantes de grupos rivales

Policiaca

Ejecutan a conductor de camioneta en Jocotepec

Metros adelante de la camioneta, que estaba estacionada en dirección hacia Guadalajara, encontraron una motocicleta en la que aparentemente llegaron los causantes y posiblemente la dejaron abandonada

Local

Congreso de Jalisco vota en forma unánime presupuesto constitucional a la UdeG

La Máxima Casa de Estudios crecerá su matrícula de un 38 al 50% y 40 mil butacas más a nivel superior

Local

Diputados aprueban presupuesto constitucional para la UdeG

"A partir de ahora, nuestra universidad podrá dedicarse y fortalecerse en su función básica", indicó el Gobernador Enrique Alfaro