自然语言处理:人工智能的核心技术

作者自然语言处理人工智能科技

9 月 23, 2022

自然语言处理(英文Natural Language Processing,简称NLP)是当今科技领域最热门的词语之一。NLP既是人工智能的核心技术,又是计算机科学和语言科学的分支学科;它推动着语言智能的持续发展和突破,并越来越多地应用于各个行业。正如中国著名学者周海中先生曾经所言:“自然语言处理是极有吸引力的研究领域,它具有重大的理论意义和实用价值。”

■ 文/潘蓉(作者单位:福州大学至诚学院)

NLP的主要内容包括如下分支领域:文本分类、文本生成、文本分析、信息抽取、自动摘要、智能问答、话题推荐、机器翻译、主题词识别、知识库构建、深度文本表示、深度学习算法、命名实体识别、语音识别与合成等。NLP主要研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法;而用自然语言与计算机进行通信,有着十分重要的实际应用意义,也有着革命性的理论意义。

实现人机间自然语言通信意味着要使计算机既能理解自然语言文本的意义,也能以自然语言文本来表达给定的意图、思想等;前者称为自然语言理解,后者称为自然语言生成。因此,NLP大体包括了自然语言理解和自然语言生成两个部分。因为处理自然语言的关键是要让计算机“理解”自然语言,所以通常把自然语言理解视为NLP, 也称为计算语言学。它的终极目标是用自然语言与计算机进行通信,使人们可以用自己最习惯的语言来使用计算机,而无需再花大量的时间和精力去学习不很自然和习惯的各种计算机语言。

NLP的主要方法目前可以分为两大类:基于规则的方法和统计方法。基于规则的方法是由人类定义的规则组成,如一个关于情感分类的基于规则的方法可能会被评为总体上具有积极情绪。不过,基于规则的方法也有不足之处:不能灵活变通,可能无法扩展到不同的数据集。统计方法涉及到用于开发NLP技术的统计算法;而深度学习即是NLP统计方法的主要示例。与基于规则的方法相比,统计方法更加灵活和可扩展;但其主要缺点是缺乏可解释性,并且需要大量的数据集来训练NLP算法。

NLP是人工智能领域最为困难的问题之一。美国微软公司创始人比尔·盖茨先生曾经表示,“语言理解是人工智能领域皇冠上的明珠”。前微软公司全球执行副总裁沈向洋先生也在公开演讲时说:“懂语言者得天下……下一个十年,人工智能的突破在自然语言的理解……人工智能对人类影响最为深刻的就是自然语言处理方面”。由于理解自然语言需要关于外在世界的广泛知识以及运用操作这些知识的能力,所以NLP也被视为解决人工智能完备(AI-complete)的核心问题之一。

NLP的基本任务包括正则表达式、词性标注、句法分析、语音识别、文本分类、文字蕴涵、自动摘要、问答系统、信息检索、机器翻译等;常用的模型则有马科夫模型、朴素贝叶斯、循环神经网络等。NLP要使用语言知识,如UNIX的wc程序可以用来计算文本文件中的字节数、词数或行数;当用它来计算字节数和行数时,wc只用于进行一般的数据处理,但当用它来计算一个文件中词的数目时,就需要关于“什么是一个词”的语言知识,这样,这个wc也就成为了一个NLP系统。

无论实现自然语言理解,还是自然语言生成,都远不如人们原来想象的那么简单,而是十分困难的。从现有的理论和技术现状看,通用的、高质量的NLP系统,仍然是较长期的努力目标,但是针对一定应用,具有相当NLP能力的实用系统已经出现,有些已商品化,甚至开始产业化。典型的例子有:多语种数据库和专家系统的自然语言接口、各种机器翻译系统、全文信息检索系统、自动文摘系统等。NLP系统的算法是基于机器学习,特别是统计机器学习;许多不同类的机器学习算法已应用于NLP任务。

深度学习在NLP中的应用非常广泛,可以说横扫NLP的各个方面,从底层的分词、语言模型、句法分析等到高层的语义理解、对话管理、知识问答等方面几乎都有深度学习的模型,并且取得了不错的效果。有关研究已从传统的机器学习算法转变成更有表现力的深度学习模型,如卷积神经网络和回归神经网络。不过,目前的深度学习技术还不具备理解和使用自然语言所必需的概念抽象和逻辑推理能力,还有待今后进一步的研究。

总之,随着互联网的普及和海量信息的涌现,作为人工智能的核心技术,NLP正在人们的工作和生活中扮演着越来越重要的角色,并将在社会发展和科技进步的过程中发挥越来越重要的作用。

来源:https://www.sino-manager.com/229086.html

作者自然语言处理人工智能科技

作者头像由AI生成, 您值得拥有的优质域名 -- NLPAI.Tech

促销域名

HumRobotics.cn

¥15,000
优惠期到: 2024年12月31日

Humroid.cn

¥15,000
优惠期到: 2024年12月31日

ZhiKeCorp.com

¥680,000
优惠期到: 2024年12月31日

WeHave.Top

¥34,500
优惠期到: 2024年12月31日