Vea a través de la "tecnología de cambio de rostro de IA" en un segundo, las estafas de cambio de rostro y de cambio de rostro de las celebridades no tienen dónde esconderse
TK Star Rewards Editor
Todo el mundo ha estado más o menos expuesto a la tecnología de cambio de rostro de IA. La aplicación de cambio de rostro "ZAO" se hizo popular de la noche a la mañana porque cargar una foto puede cambiar tu rostro. Como actor de drama, actuó en el mismo escenario que Tony Leung, Andy Lau, Yang Mi y otras estrellas, pero fue derrotado de la noche a la mañana por el riesgo de filtrar información facial. No hace mucho, el efecto especial "Ant Yeah Hey" que hace que las fotos estáticas se muevan se hizo popular en las plataformas de vídeos cortos.
Estas aplicaciones de celebridades de Internet se basan en tecnología deepfake. Aunque también se utiliza en postproducción de cine y televisión, ídolos virtuales y otros escenarios, las amenazas negativas de esta tecnología se han amplificado.
¿Cómo saber si el rostro del vídeo es real o falso? En la Conferencia Mundial de Inteligencia Artificial de 2021, se presentó un artefacto que puede identificar la "tecnología de cambio de rostro de IA" en un segundo: la plataforma de detección de contenido falso profundo DeepReal.
La única arte marcial del mundo que no se puede derrotar es la velocidad. Se necesitan 30 milisegundos para detectar un fotograma. En un segundo, podrás reconocer la cara falsa.
Esta es la némesis de la "tecnología de cambio de cara de IA", la plataforma de detección de contenido deep fake DeepReal desarrollada por Beijing Realai Intelligent Technology Co., Ltd. (en adelante, RealAI), una incubadora de Instituto de Investigación de Inteligencia Artificial de la Universidad de Tsinghua.
¿Qué precisión tiene su detección? Los resultados de las pruebas muestran que la precisión de DeepReal ha alcanzado el 99% en los datos de red generados por métodos convencionales como conjuntos de datos académicos y ZAO, superando con creces los mejores resultados anunciados por el anterior DeepfakeDetection Challenge de Facebook.
La cantidad de datos "consumidos" por DeepReal ha alcanzado decenas de millones, y los conjuntos de datos han cubierto tres categorías principales, incluidos conjuntos de datos académicos deep fake, conjuntos de datos de red deep fake y deep fake de investigación propia. conjuntos de datos. Marco de aprendizaje bayesiano y redes neuronales profundas para estimar la incertidumbre del modelo al predecir nuevas muestras.
Tang Jiayu, vicepresidente de RealAI, cree que en el futuro, DeepReal se podrá aplicar rápidamente en escenarios como la detección de contenido falso en línea, la revisión de datos faciales y las pruebas de autenticidad de evidencia de imágenes.
A nivel legal, en 2020, la prohibición de utilizar medios tecnológicos de la información para falsificar los derechos de retrato y de voz de otros se incorporó al Código Civil, imponiendo una "maldición cada vez más severa" a Tecnología de falsificación Desde una perspectiva técnica, ¿cómo desarrollar continuamente herramientas de detección y craqueo de alta calidad?
Establecer estándares es el primer paso.
RealAI y el Centro Nacional de Industria y Seguridad de la Información desarrollaron conjuntamente el primer estándar de mi país relacionado con la seguridad del algoritmo del modelo facial, "Especificación técnica de seguridad del modelo de comparación facial de tecnología de seguridad de la información", como segunda unidad de redacción. y la seguridad de la información Bajo la dirección de la Oficina de Seguridad Cibernética del Ministerio de Industria y Tecnología de la Información, la Academia de Ciencia y Tecnología de Tongtong compiló conjuntamente el libro azul "Marco de seguridad de inteligencia artificial (2020)". RealAI también participa actualmente en la formulación de muchos estándares, incluidos estándares nacionales relacionados con la seguridad de los algoritmos de aprendizaje automático, así como estándares de la industria relacionados con audio y video sintetizados por inteligencia artificial y identificación biométrica por inteligencia artificial.
Cada vez más instituciones participan en las pruebas y la formulación de estándares de IA. "Estamos formulando varios estándares para la inteligencia artificial. Este año, Shanghai ha aprobado la 'Clasificación de grados de reconocimiento facial en lugares públicos'". Especificaciones de aplicación y establecimiento de estándares locales". Chen Mingang, director ejecutivo del Instituto de Investigación de Gobernanza de Inteligencia Artificial del Centro de Desarrollo de Tecnología de Software Informático de Shanghai, dijo al reportero de "IT Times" que el reconocimiento facial se convertirá en el punto culminante de los estándares y herramientas de detección de IA. .