La aplicación de inteligencia artificial china Haotian ha generado millones de dólares vendiendo su tecnología de reemplazo facial en Telegram. La plataforma es fácilmente integrable con plataformas de mensajería como WhatsApp y WeChat, y permite a los usuarios ajustar hasta 50 parámetros para ayudar a mimetizar el rostro que están imitando. Sin embargo, mientras Haotian es un plataforma robusta y versátil, los investigadores y el análisis de WIRED han encontrado que la empresa ha estado marketing a los llamados "pata falsa" escamos y aquellos que realizan operaciones fraudulentias en el sudeste asiático.

Los escamos han utilizado Haotian y otras herramientas de deepfake para facilitar sus estafas, permitiendo a las víctimas creer que están hablando con la persona que creen haber conocido. El análisis de la empresa Elliptic de cuatro wallets criptomonedas vinculadas a Haotian muestra que la empresa ha recibido al menos 3,9 millones de dólares en pagos en los últimos años, incluyendo dinero procedente de wallets criptomonedas vinculados a actividades fraudulentias.

El analista de seguridad Hieu Minh Ngo afirma que Haotian es "uno de los primeros y muy populares" en el mercado y que su tecnología es "muy efectiva". Los investigadores han encontrado que la empresa ha recibido pagos de al menos 52 casos de fraude conocidos, con más de $1.2 millones de dólares provenientes de Huione Guarantee, una plataforma online que facilitó la venta de herramientas para estafas y datos de víctimas.

Análisis:

La situación es alarmante. La empresa Haotian ha demostrado ser efectiva en su capacidad para marketing a escamos y fraudes en el sudeste asiático, lo que sugiere un problema más amplio en la región. La disponibilidad de herramientas como Haotian puede facilitar la perpetración de estafas y fraudes, y es fundamental que las autoridades y los investigadores trabajen juntos para combatir este tipo de actividades.

Además, la facilidad con la que Haotian puede ser utilizada para crear contenido falso y engañar a las víctimas hace que sea especialmente peligroso. La necesidad de tomar medidas efectivas para detectar y prevenir esta clase de estafas es crucial. Es importante que los usuarios sean conscientes de la existencia de estas herramientas y tomen medidas para protegerse, como requerir a las personas con las que se comunican que muevan sus manos delante de su rostro mientras están en video.

En general, la situación es alarmante y requiere una respuesta urgente. Es necesario que las autoridades y los investigadores trabajen juntos para combatir este tipo de actividades y proteger a las víctimas.