Conversación con Sun Maosong de la Universidad de Tsinghua: La tercera generación de inteligencia artificial debe abordar la cuestión de la "interpretabilidad"
2065438 El 1 de julio de 2009, el octavo centro de investigación del Instituto de Inteligencia Artificial de la Universidad de Tsinghua: Centro de Investigación de Procesamiento del Lenguaje Natural y Computación Social y Humanitaria (en adelante, el centro) celebró una ceremonia de inauguración. en el Edificio FIT de la sede del colegio. El director del centro es el profesor Sun Maosong, vicepresidente ejecutivo del Instituto de Inteligencia Artificial de la Universidad de Tsinghua y científico jefe del Programa Nacional Clave de Investigación y Desarrollo Básico (Programa 973).
El 3 de julio, nuestro reportero (www.thepaper.cn) entró en el campus de Tsinghua y conversó con el profesor Sun Maosong sobre los antecedentes y la misión del establecimiento de este centro extraordinariamente largo, así como el desarrollo. de la inteligencia artificial Situación actual, dilemas y soluciones.
Poeta de IA, juez asistente de inteligencia artificial, futuro ganador del Premio Nobel de Economía
El lenguaje es un símbolo importante de la sabiduría humana, y su estatus y papel en la civilización humana es incuestionable. El procesamiento del lenguaje natural, en términos sencillos, significa "dejar que las computadoras aprendan el lenguaje humano". El centro recientemente establecido en la Universidad de Tsinghua tiene como objetivo construir una base de conocimiento más poderosa para las máquinas fortaleciendo la investigación básica sobre inteligencia artificial y su intersección con las humanidades y las ciencias sociales para mejorar las capacidades de la inteligencia artificial en el aprendizaje y procesamiento de idiomas.
Sun Maosong cree que existen dos puentes principales entre la inteligencia artificial y las ciencias sociales y las humanidades. Un tipo son los datos en un sentido estricto, como los datos de los mercados financieros, que pueden predecir el comportamiento del mercado basándose en datos. El otro tipo es el texto formado por el idioma, como noticias, mensajes y varios "mensajes de texto" en los que los usuarios reflexionan; sus opiniones y emociones en las redes sociales, etc.
Basado en el puente entre el lenguaje humano y el texto, a partir de finales de 2015, guió a un grupo de investigación formado por dos estudiantes universitarios para utilizar métodos de redes neuronales profundas para permitir que las máquinas "lean" y " " Entiende" todos los poemas antiguos. Sobre esta base, lanzó "Nine Songs", una IA que puede escribir poesía, permitiendo que la inteligencia artificial "cruce fronteras" en el campo de la creación literaria. Gracias a la atención y participación del público, "Nine Songs" ha producido casi 4 millones de poemas hasta el momento. "El número total de poemas que se han transmitido desde la antigüedad hasta el presente se estima en menos de 4 millones. Si lo piensas de esta manera, el efecto no es malo. Actualmente, el grupo está estudiando la producción de". poesía moderna para satisfacer las cada vez más diversas "necesidades poéticas" del público.
Las humanidades sociales es un concepto muy amplio. Además de la literatura, este año el Instituto de Inteligencia Artificial está cooperando con la Facultad de Derecho de la Universidad de Tsinghua para agregar más elementos informáticos e inteligencia artificial a la ley original. Las facultades de derecho son cada vez más conscientes de que el “derecho computacional” es una tendencia de desarrollo en la investigación jurídica futura. Sun Maosong también mencionó que la digitalización y divulgación de archivos liderada por el Tribunal Popular Supremo en los últimos años es una base importante para el desarrollo del derecho computacional.
Cuando un periodista de este periódico (www.thepaper.cn) preguntó si habría “jueces de inteligencia artificial” en el futuro, Sun Maosong dijo: “Debería haber “jueces asistentes de inteligencia artificial”. las capacidades de la máquina son En esencia, definitivamente es mejor que un buen juez, pero la máquina tiene sus ventajas. Por ejemplo, puede leer rápidamente una gran cantidad de documentos. Las personas a veces hacen juicios unilaterales y sus emociones fluctúan. , y sus niveles de juicio son desiguales, pero las máquinas no. ”
Sun Maosong señaló que el método de red neuronal profunda de inteligencia artificial (también llamado método de aprendizaje profundo, ver más abajo) basado en big data puede traer consigo. sobre cambios en algunos paradigmas de investigación en el campo social y de las humanidades. Aunque el Instituto de Investigación de Inteligencia Artificial de Tsinghua acaba de comenzar una investigación sobre la previsión del tipo de cambio, cree que se espera que la profunda integración de la inteligencia artificial con las finanzas y la economía produzca resultados extremadamente poderosos. Una vez que los métodos de aprendizaje profundo se apliquen de manera creativa y sistemática a este campo, incluso podría "ganar un Premio Nobel de Economía a nivel internacional".
En vista de la alta complejidad del sistema financiero y económico, Sun Maosong cree que cuando se cubra diversa información relevante y existan excelentes medios para procesar esta información de manera efectiva, la previsibilidad de este complejo sistema será significativa. aumentar.
Dio un ejemplo: "El reino de las hormigas tiene su propio conjunto de reglas operativas, pero estas reglas a veces se vuelven muy frágiles porque de repente alguien puede venir y patear, causando un desastre en el reino. Es solo que Desde la perspectiva del mundo de las hormigas , tales emergencias son impredecibles. Sin embargo, si incluimos factores humanos y comprendemos cuidadosamente la naturaleza de esta persona, por ejemplo, si es una persona solidaria y si es budista, la previsibilidad de su comportamiento mejorará enormemente. la imprevisibilidad del reino de las hormigas se reducirá considerablemente”.
En opinión de Sun Maosong, el paradigma de investigación de las finanzas o la economía clásicas se basa principalmente en el pensamiento racional de las personas y en la resolución de ecuaciones (ya sean lineales o no lineales). . Sin embargo, los sistemas financieros y económicos complejos y enormes están llenos de incertidumbres y muchos fenómenos son difíciles de describir claramente mediante ecuaciones. Sin embargo, los métodos de aprendizaje profundo son altamente no lineales. Impulsada por big data, cualquier ecuación compleja puede teóricamente simularse implícitamente para manejar la incertidumbre del sistema de manera más efectiva. Esto hace posible crear un paradigma de investigación completamente nuevo en finanzas o economía.
Convertir la “caja negra” en una “caja gris”
Yoshua Bengio, el “padrino de la inteligencia artificial contemporánea” y ganador del Premio Turing 2018, cree que los tremendos cambios Los avances en el campo de la inteligencia artificial en los últimos años se deben a la aparición del “aprendizaje profundo”. En un artículo firmado titulado "Aprendizaje profundo: el resurgimiento de la inteligencia artificial", dijo: "En los últimos años, el aprendizaje profundo se ha convertido en la fuerza más importante para promover el desarrollo de la inteligencia artificial, y las principales empresas de tecnología de la información han invertido decenas de dólares en Esta área es de mil millones”.
En una entrevista exclusiva con el periódico (www.thepaper.cn), Bengio dijo que el sistema de procesamiento del lenguaje natural existente ha dominado una gran cantidad de vocabulario y habilidades de conversión de lenguaje, pero No comprende el verdadero significado de las oraciones. Las máquinas "comenten errores tan estúpidos que ni siquiera tienen la comprensión de un niño de dos años". Al mismo tiempo, cree que simular la red neuronal del cerebro humano para implementar tecnología de aprendizaje automático similar a la inteligencia artificial es de gran importancia para la nueva era.
A pesar de su importancia, los sistemas actuales de redes neuronales profundas tienen una deficiencia importante: dada una entrada, las razones profundas por las que el sistema da un resultado correspondiente son opacas para los humanos. En este sentido, es básicamente una "caja negra". ". Esto reducirá en gran medida la solidez del sistema y limitará el ámbito de aplicación del sistema. Cuando investigamos por qué las máquinas cometen errores (por ejemplo, por qué un sistema de traducción automática traduce una oración como ésta en lugar de aquella), la máquina no puede dar una explicación. "De todos modos, lo traduzco así, para que puedas usarlo".
Además, el aprendizaje profundo es mejor para manejar correlaciones: al ingresar la palabra "canto del gallo" se pensará automáticamente en la oración "el ha salido el sol". Esto refleja una correlación, pero claramente lo primero no es la causa de lo segundo. Actualmente, el aprendizaje profundo básicamente no tiene capacidad de razonamiento causal. Sun Maosong dijo que el aprendizaje profundo sólo "siente" que dos cosas están relacionadas estadísticamente y no sabe si existe una relación lógica entre ellas.
Sun Maosong explicó además que la investigación sobre el procesamiento del lenguaje natural también enfrenta el mismo problema. De hecho, la "explicabilidad" es un dilema al que se enfrenta todo el campo de la inteligencia artificial y también está a la vanguardia de la investigación académica internacional. Los investigadores están intentando convertir esta "caja negra" de inteligencia artificial en al menos una "caja gris". Sun Maosong cree que la construcción de una base de conocimientos puede ser una solución en el procesamiento del lenguaje natural. Tomemos como ejemplo la escritura de poesía antigua: "Baqiao", seguida de "Liu Zhe". El aprendizaje profundo debería poder capturar esta asociación de conocimientos de la base de datos de poesía, pero es difícil decir si se pueden aprender muchas otras asociaciones de conocimientos. Sin embargo, si enumeramos conscientemente de antemano todas las cosas relacionadas con Baqiao, como "Bashui, Yizhan, Ecstasy, Broken Heart, Chang'an, Eight Scenes of Guanzhong, Li Bai, Li Shangyin, Meng Haoran, etc." un mapa de conocimiento, luego la máquina puede componer poesía conscientemente basada en este gráfico de conocimiento, que es más específico y específico.
Según el académico Zhang Yue, director del Instituto de Inteligencia Artificial, la inteligencia artificial ha experimentado el racionalismo y el empirismo en su historia de desarrollo. La tercera generación de inteligencia artificial debería ser una combinación perfecta de ambas. Resolver el problema de la interpretabilidad es una de sus principales tareas de investigación.
Debido a que el conocimiento es naturalmente interpretable, las bases de conocimiento son interpretables.
“Aunque se deben considerar tanto cursos generales como cursos profesionales, la atención debe centrarse en los cursos generales más que en los cursos profesionales”.
En la tercera era marcada por la inteligencia artificial y el big data Con el advenimiento de la Cuarta Revolución Industrial, muchas universidades nacionales han comenzado a implementar educación en inteligencia artificial. 2065438 En mayo de 2007, la Universidad de la Academia de Ciencias de China estableció la Escuela de Tecnología de Inteligencia Artificial, convirtiéndose en la primera universidad nueva en el campo de la tecnología de inteligencia artificial en China en llevar a cabo enseñanza e investigación integrales en 2018, la Universidad Jiao Tong de Shanghai y; La Universidad de Nanjing estableció sucesivamente la Escuela de Inteligencia Artificial y la Facultad de Inteligencia Artificial. La Universidad de Nanjing también inscribió al primer grupo de estudiantes universitarios con especialización en inteligencia artificial.
Como principal institución de educación superior de China, la Universidad de Tsinghua siempre ha otorgado gran importancia al cultivo de los mejores talentos. La clase experimental de informática fundada en 2005 (llamada "Clase Yao" porque su fundador Yao Qizhi es el único chino ganador del Premio Turing) es la cuna del cultivo de los mejores talentos informáticos en China e incluso en el mundo. La educación superior de primer nivel tiene la responsabilidad de ayudar a la informática y la inteligencia artificial a alcanzar nuevas alturas apasionantes y debería poder generar un impacto disruptivo en esta era.
Entonces, ¿es necesario crear una carrera de pregrado en inteligencia artificial? ¿Debería la inteligencia artificial convertirse en un departamento independiente a nivel universitario?
"Lo más importante en Tsinghua es la estabilidad. Si no hay necesidades especiales, no cambiará. Si cambia, se volverá caótico. Los dos grupos pueden competir desordenadamente. Estabilidad general, activa". La exploración es la política de la Universidad de Tsinghua para la educación universitaria en inteligencia artificial.
Este año, la Universidad de Tsinghua ha establecido una nueva “clase inteligente” además de la “Clase Yao”, llamada “Clase de Inteligencia Artificial de la Academia Tsinghua”. Bajo la premisa de que la estructura de la educación informática permanece básicamente sin cambios, esta clase experimental a pequeña escala llevará a cabo una exploración en profundidad del cultivo de talentos de inteligencia artificial, especialmente los mejores talentos. La labor del Instituto de Investigación en Inteligencia Artificial se posiciona principalmente a nivel de posgrado, especialmente en la formación de estudiantes de doctorado.
Antes de este centro, la Universidad de Tsinghua ha establecido sucesivamente 7 instituciones de investigación, incluido el Centro de Investigación de Teoría Básica del Instituto de Investigación de Inteligencia Artificial y el Centro de Investigación de Robots Inteligentes.
Sun Maosong dijo que las fortalezas centrales de estos ocho centros corresponden principalmente a la "intención original" de la investigación de la inteligencia artificial, es decir, el estudio de la percepción y la cognición humanas. Los canales de percepción más importantes son la visión y el oído, por lo que se han establecido los centros de inteligencia visual y de inteligencia auditiva. La cognición refleja el lenguaje humano, el razonamiento, la lógica y las habilidades de aprendizaje, por lo que se tienen el centro de teoría básica, el centro de inteligencia del conocimiento y el procesamiento del lenguaje natural; ha sido establecido. Una mayor exploración está relacionada con la investigación sobre la interacción inteligente entre humanos y computadoras, la interacción inteligente de información multimodal e incluso los robots. Estos centros están estrechamente relacionados y cooperan entre sí.
El Instituto de Investigación de Inteligencia Artificial de Tsinghua, que acaba de cumplir un año, básicamente ha logrado el objetivo de "integrar fuerzas y hacer arreglos generales". Sun Maosong dijo que en el futuro, los dos centros utilizarán "big data de redes sociales" y "chip de inteligencia artificial" como palabras clave, respectivamente.