Mutual Information and Perplexity Based Clustering of Dialogue Information for Dynamic Adaptation of Language Models

Lucas-Cuesta, Juan Manuel; Fernández-Martínez, Fernando; Moreno, Tirso; Ferreiros, Javier

doi:10.1007/978-3-642-35292-8_16

Cited by 2 publications

(2 citation statements)

References 8 publications

Supporting

Mentioning

Contrasting

Order By: Relevance

“…Different metrics such as potential (sum of squared distances of samples to their closest cluster center) [12], log-likelihood score [12], perplexity score (information measure of generative probabilistic models) [18], AIC [12], and BIC [12], are used to assess clustering quality based on model assumption or information theory. However, they are not able to assess the stability of a clustering.…”

Section: A Lemma For Swapping Lines For Nmfmentioning

confidence: 99%

Station-to-User Transfer Learning

Zhang

Pfoser

Züfle

2020

Proceedings of the 28th International Conference on Advances in Geographic Information Systems

View full text Add to dashboard Cite

Urban areas provide us with a treasure trove of available data capturing almost every aspect of a population's life. This work focuses on mobility data and how it will help improve our understanding of urban mobility patterns. Readily available and sizable farecard data captures trips in a public transportation network. However, such data typically lacks temporal signatures and as such the task of inferring trip semantics, station function, and user clustering is quite challenging. While existing approaches either focus on stationlevel or user-level signals only, we propose a Station-to-User (S2U) transfer learning framework, which augments user-level learning with shared temporal patterns learned from station-level signals. Our framework is based on a novel, so-called "Tidal-Regularized Non-negative Matrix Factorization" method, which incorporates a-priori tidal traffic patterns in generic Non-negative Matrix Factorization. To evaluate our model performance, a user clustering stability test based on the classical Rand Index is introduced as a metric to benchmark different unsupervised learning models. Using this metric, quantitative evaluations on three real-world datasets show that S2U outperforms two baselines methods by 7 − 21%. We also provide a qualitative analysis of the user clustering and station functions for the Washington D.C. metro and show how S2U can support spatiotemporal urban analytics.

show abstract

Section: A Lemma For Swapping Lines For Nmfmentioning

confidence: 99%

Station-to-User Transfer Learning

Zhang

Pfoser

Züfle

2020

Proceedings of the 28th International Conference on Advances in Geographic Information Systems

View full text Add to dashboard Cite

show abstract

“…As regards the performance of the system, Table 8.16 shows the improvements on the recognition, understanding and dialogue management metrics for the NMI-based and the minimum global perplexity based clustering strategies (Lucas-Cuesta et al, 2012).…”

Section: Experimental Frameworkmentioning

confidence: 99%

Contributions to the contextualization of human-machine spoken interaction systems

Cuesta¹

View full text Add to dashboard Cite

como maestro, mostrarme las puertas para que yo las atravesase; en el ajedrez, en el Taijiquan, en el Qigong y, en definitiva, en la vida. Chi'en! Un agradecimiento muy especial a las tres princesitas que tuvieron a bien entablar amistad y dejarse querer por un bufón con el alma oxidada. Gracias, Vero, por haber hecho tan maravillosos los últimos años de esta Tesis. Por ese viajecito a Valencia, por tantas veces (aunque siempre con cariño) como te he acabado "agobiando" (¡jo! lo siento), por tu dulzura, por tu timidez (que en ocasiones creo que vence a la mía), y por tantos momentos que hemos disfrutado. Gracias, Bea, por haber soportado tantas pullas y tantos "conquensismos" como me has tenido que escuchar (¡y gracias por responder a cada uno de ellos!), por tantas buenas cervezas compartidas, por animarnos a sacarnos el bendito carnet, por todo lo bien que me lo paso contigo, y porque nos sigamos riendo. Gracias, Raquel, simplemente por ser tú. Por tantas conversaciones en las que nos quedábamos en silencio, por tantos "cinco minutillos" de varias horas, por haber querido ver en mí muchísimo más de lo que hay. Por tantas veces como me has dado las gracias, la mayor parte de ellas sin merecerlo. Gracias, en fin, por tu sonrisa. Vero, Bea, Raquel, mis ángeles: un abrazo y un beso muy, muy fuertes.Quién iba a decirnos, Idoia, que pasaríamos de conocernos en un autobús, de camino a una cena de gala de un congreso (a la postre inolvidable, con chino famélico, griegas y valencianos varios, caballeros con escasez de armas, y princesas con bolsitos de marca incluidos), a acabar callejeando por Roma, Burgos y Donosti, compartiendo, en la distancia y en la cercanía, nuestras aventuras y desventuras, nuestras alegrías y nuestras lágrimas, profesionales y personales. Y alguna que otra clase de euskera en la que me demostraste tu paciencia y tu buen hacer docente. Hacia ti guardo una gratitud inmensa, una amistad inmarcesible y todo el cariño de mi corazón. Mila esker, Idoiatxo! Muxu handi-handi bat eta besarkada asko! Prima, amiga, confidente, crítica... Pero, por encima de todo, simplemente, tú. Gracias, Maite, por todo. Por tantas y tan divertidas quedadas, por tantas charlas, por tantas broncas como me has tenido que echar (nunca sin razón), por todo lo que nos queremos, por las emociones que nos hemos provocado. Por nuestros caminos de Santiago. Por nuestras escapadas. Por estar ahí. Porque no se podría pensar en nadie que me comprendiese y me animase como tú. Gracias.Muchas gracias a mi familia, porque habéis hecho de mí lo que soy. Gracias a mis hermanos, Elvira y Paco, porque os debo más de lo que me atrevería a recordar, porque nunca habéis dejado de estar junto a mí, pendientes de cualquiera de mis historias, y porque no se podría soñar con unos hermanos mejores que vosotros. Gracias a mis padres, Francisco y Elvira, porque nadie podría tener tal confianza en mí, y tanta paciencia, como vosotros habéis tenido, y porque si tuviera que decir cualquier otra cosa, no podría caber en esta Tesis.Por último, gracias a do...

show abstract

Mutual Information and Perplexity Based Clustering of Dialogue Information for Dynamic Adaptation of Language Models

Cited by 2 publications

References 8 publications

Station-to-User Transfer Learning

Station-to-User Transfer Learning

Contributions to the contextualization of human-machine spoken interaction systems

Contact Info

Product

Resources

About