El análisis de sentimiento basado en aspectos específicos permite la identificación precisa de entidades portadoras de emociones y atributos en el contenido textual, entregando así información de sentimiento granular para aplicaciones posteriores.
por Xuejian Gao, Fangai Liu, Xuqiang Zhuang, Yujuan Zhang, Xiaohui Tian, Yuyu Dong, Hongda Yang
Investigaciones recientes se han centrado en mejorar las dependencias sentimental-sintácticas a través de conocimientos externos y redes neuronales. Sin embargo, el aumento efectivo de la secuencia semántica a través del conocimiento externo sigue siendo subexplorado, y los métodos existentes inadecuadamente capturan la relación complementaria entre la semántica sentimental y la sintaxis.
Para abordar estas limitaciones, proponemos el Dual-view Knowledge Guided Sentiment Interaction Network (Dual-KGIN).
La contribución básica de Dual-KGIN radica en la construcción de un marco unificado para mejorar tanto la semántica sentimental como las representaciones sintácticas mediante la integración del conocimiento externo y la implementación de interacciones jerárquicas. Específicamente, Dual-KGIN diseña un módulo GCN sintetizado que utiliza conocimientos externos para refinar las dependencias de adyacencia y mejorar el aprendizaje de características sintácticas.
En segundo lugar, utilizamos conocimientos externos basados en el mecanismo de atención original para aumentar la semántica de secuencia. Finalmente, se propone un novedoso módulo de interacción de múltiples niveles, que realza eficazmente la interacción de diferentes perspectivas en múltiples niveles de conocimiento de sentimientos para mejorar la representación sentimental.
Extensos experimentos sobre conjuntos de datos ABSA de referencia demuestran la capacidad de identificación de sentimientos de aspecto superior específico de Dual-KGIN. Los estudios de ablación validan la eficacia de cada componente, destacando la capacidad de Dual-KGIN para aprovechar eficazmente las interacciones de conocimiento y características del modelo para el rendimiento ABSA de última generación.
El Informe
El rápido desarrollo de las redes sociales crea un montón de datos de revisión de sentimientos, y la diferenciación de grano fino del sentimiento en estos datos puede ser útil para la optimización de productos, apoyo a la decisión, etc. Birjali et al. (2021). Como punto de investigación y frontera tecnológica del análisis de sentimientos de texto, Aspect-Based Sentiment Analysis (ABSA) tiene como objetivo asignar los atributos de sentimiento correspondientes a diferentes entidades en una muestra de sentimiento Zhang et al. (2022b). La figura 1 presenta un ejemplo de ABSA en detalle, donde la muestra de sentimiento contiene tanto entidades de “precio” como de servicios. El “priicio” corresponde al sentimiento positivo, y el servicio es el sentimiento negativo. Se puede ver que debido a las diferentes entidades, una oración puede producir atributos de sentimientos diversos, incluso opuestos. Cómo analizar los diversos sentimientos en la misma oración desde la perspectiva de las entidades se ha convertido en una importante dirección de investigación en la actualidad Liu et al. (2023).
El núcleo de la tarea de la ABSA es buscar señales de sentimiento entre las palabras de aspecto y el contexto Liu et al. (2020). El mecanismo de atención captura las partes que son más relevantes para un aspecto particular asignando diferentes pesos al contexto y ha mostrado resultados prometedores en ABSA Yadav et al. (2021). Por ejemplo, el modelo MAN Xu et al. (2020) utiliza mecanismos de atención intracaparate y entre capas para capturar señales de sentimientos en diferentes niveles.
Actualmente, los mecanismos de atención se han convertido en un método común y herramienta para la representación semántica del sentimiento Ramasamy y Elangovan (2024). Mientras que los mecanismos de atención muestran ciertas ventajas en la captura de aspectos y señalamientos contextuales, el proceso es propenso a efectos semánticos indeseables. Cuando el mecanismo de atención busca señales de sentimiento entre el aspecto de “precio” y el contexto, los contextos irrelevantes (por ejemplo, “pobre”, servicio, etc.) pueden afectar negativamente la asignación de peso. Por lo tanto, existe una necesidad urgente de una estrategia o método para ajustar la relación sentimental entre aspecto semántico y contexto para reducir el impacto de la semántica pobre.
Por otro lado, analizar las dependencias sintácticas estructuradas en las muestras de sentimiento se ha convertido en una estrategia popular para lograr la predicción de sentimiento basada en aspectos hoy en día, que generalmente se combina con las Redes Neurales Grafales (GNN) a la información sintáctica relacionada con el aspecto agregado Wu et al. (2023); Zhao et al. (2022a). Por ejemplo, Wang et al. Wang et al. (2020) diseñaron la Red de Atención de Gráficos de Relacional (R-GAT) para capturar dependencias estructuradas entre aspectos y contextos. Sin embargo, para los textos informales con dependencias sintácticas débiles, la capacidad de caracterizar las dependencias sintácticas es limitada.
Para mejorar esa situación, la investigación reciente se refiere a estrategias que utilizan el conocimiento externo para mejorar las dependencias sintácgicas Jin et al. (2023). Sentic-GCN Liang et al. (2022) utiliza SenticNet para mejorar las dependencias sintácticas entre aspectos y contextos, y los modela a través de Graph Convolutional Network (GCN). Se puede ver que el conocimiento externo permite que el modelo se centre en estructuras sintácticas clave y aprenda excelentes aspectos del conocimiento sinteccion y de conocimiento sinteccionista.
Además, los textos sentimentales implican una profunda fusión e interacción de semántica y sintaxis, que contienen información ricamente jerárquica. Integrar características semánticas y sintácicas puede mejorar la capacidad de comprensión sentimental del modelo, y las diferentes interacciones sentimentales afectan directamente la calidad de la representación sentimental final Nazir et al. (2020). Sin embargo, las formas de interacción existentes como Cascade y BiAffine no consideran la naturaleza complementaria y jerárquica del conocimiento del sentimiento desde diferentes perspectivas, obstaculizando así la capacidad de comprensión sentimental del modelo. Por lo tanto, se necesita una excelente estrategia jerárquica de interacción que pueda lograr efectivamente una predicción de sentimiento de alta calidad.
En resumen, las limitaciones de ABSA se muestran de la siguiente manera: (1) El mecanismo de atención es susceptible a la semántica indeseable en el aprendizaje de las señales contextuales de sentimientos. Falta un mecanismo sinérgico y unificado que pueda utilizar el conocimiento externo para mejorar la relación de distribución de peso de la semántica contextual del sentimiento contextual, y así mejorar la secuencia representación semántica. (2) El débil modelado de la interacción entre la representación semántica y la dependencia sintáctica. Tanto la información semántica como la sintáctica son cruciales para juzgar con precisión el sentimiento de los aspectos, y son fuertemente complementarios. Sin embargo, la mayoría de los modelos existentes se ocupan de estas dos fuentes de información de forma independiente o sólo se fusionan en una etapa posterior por empalme y suma simples. Faltan mecanismos de interacción jerárquica explícitos para modelar la compleja dinámica global y local entre ellos. Esto lleva a la dificultad de que los modelos utilicen plenamente el efecto sinérgico entre las señales semánticas y sintácticas, limitando el poder discriminativo de las representaciones sentimentales.
Para lograr estos objetivos, proponemos un Dual -View K nowledge G uided Sentiment I nteraction N etwork (Dual-KGIN) para la tarea ABSA, que mejora tanto el sentimiento semántica como las representaciones sintácticas integrando el conocimiento externo e implementa interacciones jerárquicas.
Específicamente, después de utilizar BiLSTM o BERT para inicializar frases y aspectos en codificaciones vectoriales reconocibles a redes neuronales, Dual-KGIN diseña tres submódulos para implementar diferentes perspectivas de representación sentimental e interacción.
- (1) Módulo de GCN sintácticos externos-Guided Syntactic GCN (KS-GCN): Construimos dependencias sintácticas mejoradas incorporando el conocimiento del sentimiento externo después de analizar las dependencias sintácticas de una oración. Introducimos tales dependencias y nodos sintácticas mejorados en el GCN para actualizar las características sintácticas para que cada nodo pueda beneficiarse de las dependencias sintácticas mejoradas.
- (2) Conocimiento-Mecanismo de Atención Semántica (KS-Attention): Las puntuaciones de sentimientos externos en la base de conocimiento de sentimiento expresan las propiedades sentimentales de las propias palabras. Por lo tanto, combinamos las puntuaciones de atención del mecanismo de atención y las puntuaciones de sentimiento externo en la base de conocimiento de sentimiento para optimizar la relación semántica secuencial entre el aspecto y el contexto.
- (3) Módulo de interacción de conocimiento de varios niveles (MKIM): Introducimos representaciones semánticas y sintácticas del sentimiento en el módulo MKIM para realizar la interacción jerárquica del sentimiento. El módulo MKIM lleva a cabo interacciones localizadas y globalizadas para diferentes perspectivas de representaciones sentimentales, ayudando así al modelo a obtener excelentes representaciones sentimentales.
Realizamos una amplia validación experimental en cinco conjuntos de datos de sentimiento basados en aspectos comúnmente usados. Los resultados muestran que Dual-KGIN puede aprender representaciones sintácticas y semánticas de frases guiadas por el conocimiento del sentimiento externo. Además, nuestra propuesta de MKIM tiene una puntuación de impacto del 0,57%
4.12% para la predicción del sentimiento, lo que demuestra la viabilidad de MKIM.
Resumimos las principales contribuciones de la siguiente manera:
- Se propone un nuevo enfoque ABSA, Dual-KGIN, que lleva a cabo una interacción de conocimiento multinivel entre semántica serializada serial y dependencias sintácticas estructuradas para mejorar el rendimiento de la predicción de sentimientos de aspecto.
- Se propone un nuevo mecanismo de atención semántica guiado por el conocimiento externo, KS-Attention, para ajustar las relaciones semánticas entre aspectos y contextos para aprender excelentes representaciones semánticas del sentimiento.
- Evaluación del rendimiento de Dual-KGIN a través de amplios experimentos. Los resultados muestran que Dual-KGIN puede sintetizar eficazmente características semánticas y sintácticas de alta calidad para lograr excelentes resultados de predicción de sentimientos.
El documento está estructurado de la siguiente manera. La sección 2 describe la investigación relacionada con el trabajo, incluyendo estudios de ABSA basados en mecanismos de atención, GNNs y conocimientos externos. La Sección 3 describe nuestra propuesta Dual-KGIN en detalle, incluyendo la codificación de sentimientos, KS-Attention, KS-GCN y MKIM. La sección 4 se centra en describir el conjunto de datos, los parámetros y la referencia utilizada para los experimentos. La sección 5 es la parte experimental de evaluación, que consiste en la comparación de la evaluación experimental, la evaluación experimental de la ablación, la evaluación de la capa GCN, la evaluación de la interacción del sentimiento, la visualización del mecanismo de atención, el estudio de caso y el análisis de limitación. La sección 6 resume el documento.
Fuente: https://www.sciencedirect.com/science/article/abs/pii/S0893608025010391