关于NLP理论的基础介绍

在第二章中，提供了一些关于自然语言处理和机器学习应用于语言问题的基础知识。然后，简短地描述词法语义中常用的部分。第3章讨论了单词表示，首先简要概述了传统的基于计数的模型，接着介绍了最近的预测和基于字符的嵌入。在同一章中，还描述了一些专门的嵌入技术，如知识增强和跨语言单词嵌入，以及常用的单词表示评估方法。第四章介绍了结构知识资源嵌入的各种技术，并综述了几种常用的嵌入图的节点和边的方法，总结了它们的应用和评价。在第五章中，重点讨论了词的个体意义的表现，即词的意义。讨论了两类意义表示（无监督和基于知识）以及对这类表示的评价技术。第六章是语境化嵌入的最新分支。在这一章中，首先解释了这种嵌入的必要性，然后描述了突出的模型以及它们与语言模型的联系。还介绍了一些解释和分析情境化模型有效性的工作。第7章超越了单词的层次，描述了如何将句子和文档编码成矢量表示。我们将介绍一些著名的有监督和无监督技术，并讨论这些表示的应用和评估方法。第八章阐述了近年来一直被讨论的词嵌入中的一些伦理问题和固有偏见。本章还介绍了一些对单词嵌入进行减法的建议。最后，在第9章中，介绍了包含里程碑和开放研究挑战的内容