Las nuevas máscaras del fraude en la era del Chat GPT

Por Matías Nahón, autor de “El fraude en la era digital”. Consultor en investigación y prevención de fraude corporativo.

¿Por qué es importante hablar de fraude hoy? porque existen múltiples formas de delitos económicos con distintos grados de magnitud en esta nueva era digital, que pueden detectarse y prevenirse. A la vez, cualquiera puede publicar rumores y falsas opiniones, incluso nuestros competidores, a lo que se suma la difamación a la que estamos expuestos con la IA o el Chat GPT.

Puede haber diferentes métodos o formas, pero el fraude continúa siendo un flagelo con el cual debemos convivir y sobre el que hay que poner atención permanente para poder contenerlo y mitigarlo. Las nuevas tecnologías como la IA o el Chat GPT solo brindan oportunidades para modificar y mejorar los medios para cometer los fraudes ya conocidos, sin llegar a crear formas totalmente novedosas.  Los escenarios futuros nos preparan para nuevos desafíos en los negocios sobre los que tenemos que pisar firme para afrontarlos.

En los Estados Unidos, las empresas pierden alrededor del 5% de sus ingresos anuales debido al fraude.  A simple vista, no parece un número preocupante porcentualmente, aunque si lo consideramos de manera absoluta, y aún más si pensamos en que ese porcentaje es producto del promedio de fraudes reales, muchos de los cuales no son ni siquiera denunciados.

Existen graves deficiencias como el daño devastador que infligen a las personas reales. En su blog público sobre la herramienta, OpenAI dice que «a veces escribe respuestas que suenan plausibles pero incorrectas o sin sentido». Desde un punto de vista legal, la cuestión clave es si el propietario de un Chatbot GPT puede ser demandado por difamación.

Resulta claro que uno de los mayores desafíos con los sistemas de IA generativa, es el concepto de alucinaciones, que es la capacidad de la IA generativa para inventar información que parece cierta pero no lo es. Inclusive cuando se ingresa al Chat GPT, se muestra un descargo de responsabilidad que advierte que el contenido que genera puede contener «información inexacta sobre personas, lugares o hechos»., por eso es clave contar con un blindaje reputacional profesional para el control de la información propia disponible. No sólo saber qué se dice de nosotros en las redes sociales, foros, blogs y otras formas de intercambio de información

A la vez, existen falsas extensiones del Chat GPT o sitios falsos que llevan a malware maliciosos. Los ciberdelincuentes se aprovechan de la actual notoriedad de esta tecnología para usar esa información y robar cuentas de Facebook y de otros servicios de internet, como Instagram o Twitter. Esas cuentas robadas luego son utilizadas para crear bots y desplegar sobre la red social anuncios maliciosos que distribuyen malware y roban identidades

Desde que se intenta medir el volumen de riqueza que el fraude le resta a la economía privada, se ha hecho evidente su importancia y el significado que la continuidad y el agravamiento del problema podría tener para el conjunto de las economías. El fraude distorsiona el verdadero nivel de acumulación y resta riqueza a este proceso.