¿Qué tipo de engaño es la IA?

Engaño contemporáneo de la inteligencia artificial

01Llamada de robot AI Todos deben haber experimentado este escenario: cuando se conecta la llamada oficial, el otro extremo de la voz lo saludará de forma natural. Después de una pausa, si responde cortésmente a "quién", el robot del otro lado comenzará a saludarlo y lo alentará a ocuparse del negocio. Es más, los robots de IA utilizarán pretextos falsos para pedir dinero o información personal.

Robophone es una aplicación relativamente extendida de la tecnología de síntesis de voz mediante IA. En los últimos años, las agencias de seguridad pública también han descubierto estafas similares con teléfonos móviles con robots de IA. Sin embargo, no hay otra forma de detener eficazmente las llamadas automáticas ilegales excepto que los usuarios marquen de forma proactiva "números fraudulentos".

Según el informe del "Wall Street Journal", el director general de una empresa energética británica recibió una llamada de la empresa matriz. Una persona que se hacía llamar "CEO" llamaba tres veces al día y pedía dinero. Le pidieron que enviara dinero a un proveedor húngaro, alegando que, para estabilizar la relación de cooperación entre las dos partes, finalmente logró defraudar 220.000 euros.

Cabe señalar que el inglés de la persona que llama tiene un ligero acento alemán, la misma melodía que el jefe y exactamente la misma que la del jefe de la empresa matriz. Al menos a juzgar por la voz, debe ser así. el propio jefe.

Se trata de una tecnología de clonación de voz con inteligencia artificial. Además de utilizar redes neuronales para modelar e imitar el audio original, la IA también puede analizar mi red social y captar rápidamente estilos de habla personalizados, relaciones con las personas que me rodean, intereses y pasatiempos, etc. , imitando así sus interacciones naturales con quienes lo rodean. Incluso es posible la síntesis de voz con acentos especiales o dialectos puros.

03El efecto de cambio de rostro de la IA hace que sea más fácil ganarse la confianza de la otra parte. Los estafadores pueden usar tecnología de inteligencia artificial para cambiar de cara y hacerse pasar por cualquier persona, y luego confirmar la información a través de un video. La popular aplicación de intercambio de rostros "ZAO" de hace algún tiempo puede reemplazar el rostro de una persona con el cuerpo de otra. Siempre que busque suficientes materiales, podrá "cambiar de cara" por completo y todos podrán empezar.

En la plataforma de transmisión en vivo, alguien se hizo pasar por Roy, pero aún así pudo engañar a los fanáticos. Esta es una aplicación que combina cambio de rostro y cambio de voz.

Engañadores de pantalla mediante tecnología de IA. Los estafadores no lanzan sus redes sin rumbo, sino que apuntan a objetivos específicos con motivos ocultos. Seleccionan sus objetivos examinando entre la multitud en función del engaño que quieren perpetrar.

Por ejemplo: al cometer fraude financiero, los amigos que a menudo recopilan información sobre inversiones se convertirán en sus objetivos potenciales.

Utilizando la tecnología de inteligencia artificial, junto con la interpretación de rutinas y guiones, ¿pueden los amigos utilizar este método de fraude?

¿Cómo prevenir eficazmente el fraude por IA?

Cómo protegerse y evitar eficazmente que más personas sean engañadas puede requerir esfuerzos conjuntos de políticas, tecnología e individuos.

1. Tecnología A medida que se intensifica el fraude por IA, se han comenzado a aplicar muchos métodos técnicos nuevos para prevenir el fraude por IA. La empresa de seguridad Symantec, por ejemplo, propuso recientemente utilizar la tecnología blockchain y las llamadas de voz sobre IP (VoIP) para identificar a las personas que llaman, reduciendo así las llamadas fraudulentas de los superiores.

Sin conocer las consecuencias de la proliferación tecnológica, la publicación racional de los logros tecnológicos también se ha convertido en una opción para algunas empresas de tecnología. Por ejemplo, el modelo de lenguaje no supervisado de mayor rendimiento GPT-2 lanzado por OpenAI hace algún tiempo solo lanzó una versión simplificada sin publicar el conjunto de datos, el código de entrenamiento ni los pesos del modelo.

2. Política Además de la batalla de ingenio entre técnicos y hackers, la industria también ha comenzado a establecer áreas restringidas para el abuso de la IA desde la perspectiva de la construcción de reglas.

En los últimos años, tanto la FTC como la FCC han intensificado las acciones regulatorias contra las llamadas automáticas ilegales y han emitido avisos a ocho pequeños operadores de telecomunicaciones y empresas de comunicaciones por Internet, instándolos a rastrear y cerrar la fuente de sospechas de fraude. llamadas.

En el informe "Inteligencia artificial y seguridad nacional" publicado por el Centro para la Seguridad Estadounidense, la tecnología de falsificación de inteligencia artificial también figura claramente como una tecnología clave que amenaza la seguridad nacional.

China también ha comenzado a responder a los posibles riesgos de seguridad de la inteligencia artificial mediante la gestión de políticas y restricciones técnicas.

3. Protección personal de los datos personales.

Para evitar que los estafadores utilicen tecnología de inteligencia artificial para procesar información personal y cometer fraude, los amigos deben protegerse contra diversas filtraciones de información, ya sea en Internet o en software social, y tratar de evitar exponer demasiada información.

Certificación. Cuando se trata de transacciones como transferencias, si no se puede confirmar la identidad de la otra parte, puede establecer la hora de llegada en "24 horas" y reservar el tiempo de procesamiento. Incluso si la otra parte utiliza tecnología de inteligencia artificial para hacer trampa, puede confirmar aún más su identidad haciendo preguntas. Se recomienda transferir dinero a la cuenta bancaria de la otra parte y evitar transferir dinero a través de software social como WeChat. Por un lado, ayuda a verificar la identidad de la otra parte y, por otro lado, también ayuda a realizar un seguimiento de la información de la transferencia.

Recuérdense unos a otros que deben estar en guardia * * *. Recuerde y aconseje a sus familiares y amigos a su alrededor que mejoren la conciencia de seguridad y la capacidad de lidiar con el fraude de alta tecnología para evitar ser engañados, especialmente los ancianos en el hogar. ¡Al enfrentar varias estafas en línea, debe tener cuidado con tres cosas!